OpenAI kuulutab välja veaprogrammi – TechCult

Just eelmisel kuul oli ChatGPT-l suur viga, mis andis mõnele kasutajale võimaluse näha teiste vestluste ajalugu. Selline viga võib olla tõeliselt murettekitav ja kahjustada sarnase ettevõtte mainet OpenAI mis käsitleb tundlikke andmeid. Seega kuulutab OpenAI välja veaprogrammi, mis premeerib inimesi, kes avastavad ChatGPT-s vigu, kopsakate preemiatega.

Kutsudes abi väljastpoolt, kasutab OpenAI ennetavat lähenemisviisi, et leida ja kõrvaldada nende tehisintellektisüsteemides ilmneda võivad haavatavused või vead. Esitamis- ja premeerimisprotsessi haldamiseks on nad teinud koostööd Bugcrowdiga, tipptasemel vigade haldamise platvormiga. Vastavalt Veateadete leht OpenAI pakub preemiaid vahemikus 200–6500 dollarit haavatava kohta ja kuni 20 000 dollarit.

OpenAI usub, et läbipaistvus ja koostöö on turvaliste AI-süsteemide loomise edu võti. Nad tahavad teha koostööd julgeolekuuuringute kogukonnaga, et tagada nende tehnoloogia ohutus kõigile. Osaledes veaprogrammis, saavad üksikisikud mängida olulist rolli OpenAI süsteemide ja kasutajate turvalisuse tagamisel.

Ettevõtte Bug Bounty programm on koostöös Bugcrowdiga. Nende veebisaidil on üksikasjalikud juhised ja osalemisreeglid. Nendes Näited ohutusprobleemidest, mis ei kuulu reguleerimisalasse, selles on kirjas:

• Jailbreak/turvalisuse ümbersõidud (nt DAN ja sellega seotud juhised)
• Pange modell teile halvasti ütlema
• Laske modellil öelda, kuidas halbu asju teha
• Mudeli panemine teie eest pahatahtlikku koodi kirjutama

Kuigi OpenAI lahendas ChatGPT olulise probleemi, mis võimaldas kasutajatel näha teiste vestluste ajalugu, võivad seda tüüpi häkkimised näidata, kuidas haavatavad tehisintellektisüsteemid võivad olla, OpenAI ütleb, et need ei sobi bug bounty programmi jaoks, kuna need ei ole diskreetsed vead, mida saaks kergesti fikseeritud. Selle asemel nõuavad need põhjalikku uurimistööd ja laiemat lähenemist.

Seega, kui olete turvateadlane või eetiline häkker, kes jälgib detaile, asuge otsima vigu! Teie teadmised ja valvsus võivad OpenAI tehnoloogia kõigi jaoks turvalisemaks muutmisel otseselt mõjutada. Külastage OpenAI Bugcrowdi leht ja esitage oma leiud. Kuid pidage meeles, et jailbreak on keelatud!

Allikas: OpenAI veateate leht