OpenAI najavljuje Bug Bounty program – TechCult

Samo prošlog mjeseca ChatGPT je imao veliki bug koji je nekim korisnicima dao mogućnost da vidjeti povijest razgovora drugih. Bug poput ovog može biti jako zabrinjavajući i loš za reputaciju tvrtke poput OpenAI koja obrađuje količine osjetljivih podataka. Stoga OpenAI najavljuje Bug Bounty program koji će nagraditi ljude koji pronađu bugove u ChatGPT-u pozamašnim nagradama.

Pozivanjem vanjske pomoći, OpenAI ima proaktivan pristup pronalaženju i rješavanju svih ranjivosti ili nedostataka koji se mogu pojaviti u njihovim AI sustavima. Udružili su se s Bugcrowdom, vrhunskom platformom za dodjelu grešaka, kako bi upravljali postupkom podnošenja i nagrađivanja. Prema Stranica s najavom bugova OpenAI će osigurati nagrade u rasponu od $200 do $6,500 po ranjivosti, i do $20,000 maksimalne nagrade.

OpenAI vjeruje da su transparentnost i suradnja ključ uspjeha u stvaranju sigurnih AI sustava. Žele surađivati ​​sa zajednicom koja se bavi istraživanjem sigurnosti kako bi osigurali da je njihova tehnologija sigurna za sve. Sudjelovanjem u bug bounty programu, pojedinci mogu odigrati ključnu ulogu u očuvanju sigurnosti OpenAI sustava i korisnika.

Tvrtkin Bug Bounty program je u partnerstvu s Bugcrowdom. Njihova web stranica ima detaljne smjernice i pravila za sudjelovanje. U njihovom Primjeri sigurnosnih problema koji su izvan opsega, kaže:

• Jailbreaks/Safety Bypasss (npr. DAN i povezani upiti)
• Natjerati modela da vam govori loše stvari
• Natjerati model da vam govori kako činiti loše stvari
• Natjerati model da umjesto vas napiše zlonamjerni kod

Iako je OpenAI popravio značajan problem u ChatGPT-u koji je korisnicima omogućio da vide povijest razgovora drugih, ove vrste hakiranja mogu pokazati kako ranjivi AI sustavi mogu biti, OpenAI kaže da nisu prikladni za bug bounty program jer nisu diskretni bugovi koji se mogu lako fiksni. Umjesto toga, zahtijevaju značajno istraživanje i širi pristup.

Dakle, ako ste sigurnosni istraživač ili etički haker s okom za detalje, krenite i počnite tražiti bugove! Vaša stručnost i budnost mogli bi imati izravan utjecaj na to da OpenAI tehnologija bude sigurnija za sve. Posjetiti OpenAI-jeva Bugcrowd stranica i dostavite svoje nalaze. Ali zapamtite, bijeg iz zatvora nije dopušten!

Izvor: Stranica s najavom greške OpenAI