OpenAI Anuncia Programa de Recompensas de Bugs – TechCult

No mês passado, o ChatGPT teve um grande bug que deu a alguns usuários a capacidade de ver os históricos de conversas de outras pessoas. Um bug como esse pode ser realmente preocupante e ruim para a reputação de uma empresa como OpenAI que lida com volumes de dados confidenciais. Assim, a OpenAI anuncia um Programa de Recompensas de Bugs que recompensará as pessoas que encontrarem bugs no ChatGPT com grandes recompensas.

Ao convidar ajuda externa, a OpenAI está adotando uma abordagem proativa para encontrar e solucionar quaisquer vulnerabilidades ou falhas que possam surgir em seus sistemas de IA. Eles fizeram parceria com a Bugcrowd, uma das principais plataformas de recompensas por bugs, para gerenciar o processo de envio e recompensa. Conforme Página de anúncio de bug A OpenAI fornecerá recompensas na faixa de US$ 200 a US$ 6.500 por vulnerabilidade e até US$ 20.000 em recompensa máxima.

A OpenAI acredita que a transparência e a colaboração são as chaves para o sucesso na criação de sistemas de IA seguros. Eles querem trabalhar em conjunto com a comunidade de pesquisa de segurança para garantir que sua tecnologia seja segura para todos. Ao participar do programa de recompensas por bugs, os indivíduos podem desempenhar um papel crucial em manter os sistemas e usuários da OpenAI seguros.

O Programa Bug Bounty da empresa está em parceria com a Bugcrowd. Seu site tem orientações detalhadas e regras de participação. Em seus Exemplos de questões de segurança que estão fora do escopo, afirma:

• Jailbreaks/Desvios de segurança (por exemplo, DAN e prompts relacionados)
• Fazer com que a modelo diga coisas ruins para você
• Conseguir que o modelo lhe diga como fazer coisas ruins
• Fazendo com que o modelo escreva código malicioso para você

Enquanto o OpenAI corrigiu o problema significativo no ChatGPT que permitia aos usuários ver o histórico de conversas de outras pessoas, esses tipos de hacks podem mostrar como sistemas de IA vulneráveis ​​podem ser, a OpenAI diz que eles não são adequados para o programa de recompensas de bugs porque não são bugs discretos que podem ser facilmente fixo. Em vez disso, eles exigem uma pesquisa substancial e uma abordagem mais ampla.

Portanto, se você é um pesquisador de segurança ou um hacker ético atento aos detalhes, vá até lá e comece a procurar por bugs! Sua experiência e vigilância podem ter um impacto direto em tornar a tecnologia da OpenAI mais segura para todos. Visita Página Bugcrowd da OpenAI e envie suas descobertas. Mas lembre-se, nenhum jailbreak é permitido!

Fonte: Página de anúncio de bug do OpenAI