OpenAI anuncia programa de recompensas por errores – TechCult

El mes pasado, ChatGPT tuvo un error importante que les dio a algunos usuarios la capacidad de ver los historiales de conversación de otros. Un error como este puede ser realmente preocupante y malo para la reputación de una empresa como IA abierta que maneja volúmenes de datos confidenciales. Por lo tanto, OpenAI anuncia un programa Bug Bounty que recompensará a las personas que encuentren errores en ChatGPT con grandes recompensas.

Al invitar a ayuda externa, OpenAI está adoptando un enfoque proactivo para encontrar y abordar cualquier vulnerabilidad o falla que pueda surgir en sus sistemas de IA. Se han asociado con Bugcrowd, una de las principales plataformas de recompensas por errores, para administrar el proceso de envío y recompensa. según el Página de anuncio de error OpenAI proporcionará recompensas en el rango de $200 a $6500 por vulnerabilidad y hasta $20 000 de recompensa máxima.

OpenAI cree que la transparencia y la colaboración son las claves del éxito en la creación de sistemas de IA seguros. Quieren trabajar junto con la comunidad de investigación de seguridad para garantizar que su tecnología sea segura para todos. Al participar en el programa de recompensas por errores, las personas pueden desempeñar un papel crucial para mantener seguros los sistemas y los usuarios de OpenAI.

El programa Bug Bounty de la compañía está asociado con Bugcrowd. Su sitio web tiene pautas y reglas detalladas para la participación. en su Ejemplos de problemas de seguridad que están fuera del alcance, afirma:

• Jailbreaks/Bypasses de seguridad (por ejemplo, DAN y avisos relacionados)
• Hacer que la modelo te diga cosas malas
• Conseguir que el modelo te diga cómo hacer cosas malas
• Conseguir que el modelo escriba código malicioso por usted

Si bien OpenAI solucionó el problema importante en ChatGPT que permitía a los usuarios ver el historial de conversaciones de otros, este tipo de trucos podría mostrar cómo Los sistemas de IA vulnerables pueden ser, OpenAI dice que no son adecuados para el programa de recompensas de errores porque no son errores discretos que pueden ser fácilmente fijado. En cambio, requieren una investigación sustancial y un enfoque más amplio.

Entonces, si eres un investigador de seguridad o un hacker ético con ojo para los detalles, ¡dirígete y comienza a buscar errores! Su experiencia y vigilancia podrían tener un impacto directo en hacer que la tecnología de OpenAI sea más segura para todos. Visita Página Bugcrowd de OpenAI y envíe sus hallazgos. Pero recuerda, ¡no se permiten jailbreaks!

Fuente: Página de anuncio de errores de OpenAI