OpenAI anunță programul Bug Bounty – TechCult

Chiar luna trecută, ChatGPT a avut o eroare majoră care a dat posibilitatea unor utilizatori vezi istoricul conversațiilor altora. O eroare ca aceasta poate fi cu adevărat îngrijorătoare și dăunătoare pentru reputația unei astfel de companii OpenAI care gestionează volume de date sensibile. Astfel, OpenAI anunță un Program Bug Bounty care va recompensa oamenii care găsesc erori în ChatGPT cu recompense importante.

Invitând ajutor din exterior, OpenAI adoptă o abordare proactivă pentru a găsi și aborda orice vulnerabilități sau defecte care pot apărea în sistemele lor AI. Au colaborat cu Bugcrowd, o platformă de top pentru recompense pentru erori, pentru a gestiona procesul de trimitere și recompensă. Conform Pagina de anunțuri de eroare OpenAI va oferi recompense în intervalul 200 USD – 6.500 USD per vulnerabilitate și recompensă maximă de până la 20.000 USD.

OpenAI consideră că transparența și colaborarea sunt cheile succesului în crearea de sisteme AI securizate. Vor să colaboreze cu comunitatea de cercetare în domeniul securității pentru a se asigura că tehnologia lor este sigură pentru toată lumea. Prin participarea la programul de recompensare a erorilor, indivizii pot juca un rol crucial în menținerea în siguranță a sistemelor și utilizatorilor OpenAI.

Programul Bug Bounty al companiei este în parteneriat cu Bugcrowd. Site-ul lor web are orientări detaliate și reguli de participare. În lor Exemple de probleme de siguranță care sunt în afara domeniului de aplicare, se afirmă:

• Jailbreak-uri/Ocoliri de siguranță (de exemplu, DAN și instrucțiuni aferente)
• A face modelul să-ți spună lucruri rele
• Obține modelul să-ți spună cum să faci lucruri rele
• Obținerea modelului să scrie cod rău intenționat pentru tine

În timp ce OpenAI a remediat problema semnificativă în ChatGPT, care permitea utilizatorilor să vadă istoricul conversațiilor altora, aceste tipuri de hack-uri ar putea arăta cum Sistemele AI vulnerabile pot fi, OpenAI spune că nu sunt potrivite pentru programul de recompensă pentru erori, deoarece nu sunt erori discrete care pot fi ușor fix. În schimb, ele necesită cercetări substanțiale și o abordare mai largă.

Așadar, dacă sunteți un cercetător în domeniul securității sau un hacker etic cu ochi pentru detalii, mergeți mai departe și începeți să căutați erori! Expertiza și vigilența dvs. ar putea avea un impact direct asupra facerii tehnologiei OpenAI mai sigure pentru toată lumea. Vizita Pagina Bugcrowd a OpenAI și trimiteți constatările dvs. Dar amintiți-vă, nu este permisă jailbreaking!

Sursă: Pagina de anunțuri despre erori OpenAI