OpenAI tillkännager Bug Bounty Program – TechCult

Bara förra månaden hade ChatGPT en stor bugg som gav vissa användare möjlighet att se andras konversationshistorik. En sådan bugg kan vara riktigt oroande och dåligt för ett företags rykte OpenAI som hanterar mängder av känsliga uppgifter. Således tillkännager OpenAI ett Bug Bounty Program som kommer att belöna de människor som hittar buggar i ChatGPT med rejäla belöningar.

Genom att bjuda in extern hjälp tar OpenAI ett proaktivt tillvägagångssätt för att hitta och åtgärda eventuella sårbarheter eller brister som kan dyka upp i deras AI-system. De har samarbetat med Bugcrowd, en av de bästa bugg-bounty-plattformarna, för att hantera inlämnings- och belöningsprocessen. Enligt Buggmeddelandesida OpenAI kommer att ge belöningar i intervallet $200 - $6 500 per sårbarhet och upp till $20 000 maximal belöning.

OpenAI tror att transparens och samarbete är nycklarna till framgång för att skapa säkra AI-system. De vill arbeta tillsammans med säkerhetsforskningsgemenskapen för att säkerställa att deras teknik är säker för alla. Genom att delta i bug bounty-programmet kan individer spela en avgörande roll för att hålla OpenAI: s system och användare säkra.

Företagets Bug Bounty Program är i samarbete med Bugcrowd. Deras hemsida har detaljerade riktlinjer och regler för deltagande. I deras Exempel på säkerhetsfrågor som ligger utanför räckvidden, det står:

• Jailbreaks/säkerhetsbypass (t.ex. DAN och relaterade meddelanden)
• Att få modellen att säga dåliga saker till dig
• Att få modellen att berätta hur man gör dåliga saker
• Få modellen att skriva skadlig kod åt dig

Även om OpenAI fixade det betydande problemet i ChatGPT som lät användare se andras konversationshistorik kan dessa typer av hack visa hur sårbara AI-system kan vara, säger OpenAI att de inte är lämpliga för bug bounty-programmet eftersom de inte är diskreta buggar som lätt kan fast. Istället kräver de omfattande forskning och ett bredare angreppssätt.

Så om du är en säkerhetsforskare eller etisk hackare med ett öga för detaljer, gå vidare och börja söka efter buggar! Din expertis och vaksamhet kan ha en direkt inverkan på att göra OpenAI: s teknik säkrare för alla. Besök OpenAI: s Bugcrowd-sida och skicka in dina resultat. Men kom ihåg, ingen jailbreaking tillåten!

Källa: OpenAI buggmeddelandesida