OpenAI napoveduje program nagrade za napake – TechCult

Prejšnji mesec je ChatGPT imel veliko napako, ki je nekaterim uporabnikom omogočila, da ogled zgodovine pogovorov drugih. Takšna napaka je lahko zelo zaskrbljujoča in slaba za ugled podjetja, kot je OpenAI ki obravnava količine občutljivih podatkov. Tako OpenAI napoveduje Bug Bounty Program, ki bo ljudi, ki najdejo hrošče v ChatGPT, nagradil z velikimi nagradami.

S povabilom zunanje pomoči OpenAI proaktivno pristopa k iskanju in odpravljanju morebitnih ranljivosti ali napak, ki se lahko pojavijo v njihovih sistemih AI. Za upravljanje postopka oddaje in nagrajevanja so sodelovali z Bugcrowd, vrhunsko platformo za nagrade za napake. Glede na Stran z objavo napak OpenAI bo zagotovil nagrade v razponu od 200 do 6.500 $ na ranljivost in največjo nagrado do 20.000 $.

OpenAI verjame, da sta preglednost in sodelovanje ključ do uspeha pri ustvarjanju varnih sistemov AI. Želijo sodelovati s skupnostjo varnostnih raziskovalcev, da bi zagotovili, da je njihova tehnologija varna za vse. S sodelovanjem v programu nagrajevanja hroščev lahko posamezniki igrajo ključno vlogo pri ohranjanju varnosti sistemov in uporabnikov OpenAI.

Program podjetja Bug Bounty je v sodelovanju z Bugcrowd. Na njihovi spletni strani so podrobna navodila in pravila za sodelovanje. V njihovem Primeri varnostnih vprašanj, ki so izven obsega, navaja:

• Pobegi iz zapora/varnostni obvozi (npr. DAN in povezani pozivi)
• Pripraviti model, da vam govori slabe stvari
• Pridobiti model, da vam pove, kako narediti slabe stvari
• Pridobite model, da namesto vas napiše zlonamerno kodo

Čeprav je OpenAI odpravil pomembno težavo v ChatGPT, ki je uporabnikom omogočala ogled zgodovine pogovorov drugih, lahko te vrste vdorov pokažejo, kako ranljivi sistemi umetne inteligence so lahko, OpenAI pravi, da niso primerni za program nagrajevanja hroščev, ker niso diskretni hrošči, ki bi jih lahko zlahka fiksno. Namesto tega zahtevajo obsežne raziskave in širši pristop.

Torej, če ste varnostni raziskovalec ali etični heker z očesom za podrobnosti, pojdite naprej in začnite iskati hrošče! Vaše strokovno znanje in pozornost bi lahko neposredno vplivala na to, da bo tehnologija OpenAI varnejša za vse. Obisk Stran OpenAI Bugcrowd in oddajte svoje ugotovitve. Vendar ne pozabite, da vdor v zapor ni dovoljen!

Vir: Stran z objavo napak OpenAI