OpenAI annoncerer Bug Bounty Program – TechCult

I sidste måned havde ChatGPT en stor fejl, der gav nogle brugere mulighed for at se andres samtalehistorier. En fejl som denne kan være virkelig bekymrende og dårlig for en virksomheds omdømme OpenAI der håndterer mængder af følsomme data. Således annoncerer OpenAI et Bug Bounty Program, som vil belønne de mennesker, der finder fejl i ChatGPT, med store belønninger.

Ved at invitere hjælp udefra tager OpenAI en proaktiv tilgang til at finde og adressere eventuelle sårbarheder eller mangler, der kan dukke op i deres AI-systemer. De har indgået et samarbejde med Bugcrowd, en top bug bounty platform, for at styre indsendelses- og belønningsprocessen. Som pr Fejlmeddelelsesside OpenAI vil give belønninger i intervallet $200 - $6.500 pr. sårbarhed og op til $20.000 maksimal belønning.

OpenAI mener, at gennemsigtighed og samarbejde er nøglerne til succes med at skabe sikre AI-systemer. De ønsker at arbejde sammen med sikkerhedsforskningssamfundet for at sikre, at deres teknologi er sikker for alle. Ved at deltage i bug bounty-programmet kan enkeltpersoner spille en afgørende rolle i at holde OpenAIs systemer og brugere sikre.

Virksomhedens Bug Bounty Program er i samarbejde med Bugcrowd. Deres hjemmeside har detaljerede retningslinjer og regler for deltagelse. I deres Eksempler på sikkerhedsproblemer, der er uden for rammerne, der står:

• Jailbreaks/sikkerhedsomgåelser (f.eks. DAN og relaterede prompter)
• At få modellen til at sige dårlige ting til dig
• At få modellen til at fortælle dig, hvordan du gør dårlige ting
• Få modellen til at skrive ondsindet kode for dig

Mens OpenAI løste det væsentlige problem i ChatGPT, der lod brugere se andres samtalehistorik, kan disse typer hack vise hvordan sårbare AI-systemer kan være, siger OpenAI, at de ikke er egnede til bug bounty-programmet, fordi de ikke er diskrete fejl, der nemt kan fast. I stedet kræver de betydelig forskning og en bredere tilgang.

Så hvis du er en sikkerhedsforsker eller etisk hacker med sans for detaljer, så gå videre og begynd at søge efter fejl! Din ekspertise og årvågenhed kan have en direkte indflydelse på at gøre OpenAIs teknologi mere sikker for alle. Besøg OpenAIs Bugcrowd-side og indsend dine resultater. Men husk, jailbreaking er ikke tilladt!

Kilde: OpenAI-fejlmeddelelsesside