OpenAI oznamuje Bug Bounty Program – TechCult
Různé / / April 12, 2023
Zrovna minulý měsíc měl ChatGPT velkou chybu, která umožnila některým uživatelům zobrazit historii konverzací ostatních. Chyba, jako je tato, může být opravdu znepokojivá a špatná pro pověst takové společnosti OpenAI který zpracovává množství citlivých dat. Proto OpenAI oznamuje Bug Bounty Program, který odmění lidi, kteří najdou chyby v ChatGPT, tučnými odměnami.
Tím, že OpenAI přizvala vnější pomoc, zaujímá proaktivní přístup k nalezení a řešení jakýchkoli zranitelností nebo nedostatků, které se mohou objevit v jejich systémech AI. Navázali partnerství s Bugcrowd, špičkovou platformou pro odměny za chyby, aby řídili proces odesílání a odměňování. Podle Stránka s oznámením chyb OpenAI bude poskytovat odměny v rozmezí 200 – 6 500 USD za zranitelnost a maximální odměnu až 20 000 USD.
OpenAI věří, že transparentnost a spolupráce jsou klíčem k úspěchu při vytváření bezpečných systémů umělé inteligence. Chtějí spolupracovat s komunitou bezpečnostního výzkumu, aby zajistili, že jejich technologie bude bezpečná pro všechny. Účastí v bug bounty programu mohou jednotlivci hrát klíčovou roli při udržování bezpečnosti systémů a uživatelů OpenAI.
Bug Bounty Program společnosti je ve spolupráci s Bugcrowd. Jejich webové stránky obsahují podrobné pokyny a pravidla pro účast. V jejich Příklady bezpečnostních problémů, které jsou mimo rozsah, uvádí:
- Úniky z vězení/bezpečnostní obcházení (např. DAN a související výzvy)
- Přimět modelku, aby vám řekla špatné věci
- Přimět model, aby vám řekl, jak dělat špatné věci
- Získání modelu, aby za vás napsal škodlivý kód
Zatímco OpenAI opravila významný problém v ChatGPT, který uživatelům umožňoval vidět historii konverzací ostatních, tyto typy hacků mohou ukázat, jak Zranitelné systémy umělé inteligence mohou být, OpenAI říká, že nejsou vhodné pro program bug bounty, protože se nejedná o samostatné chyby, které lze snadno pevný. Místo toho vyžadují důkladný výzkum a širší přístup.
Takže pokud jste bezpečnostní výzkumník nebo etický hacker se smyslem pro detail, zamiřte a začněte hledat chyby! Vaše odbornost a ostražitost mohou mít přímý dopad na to, aby byla technologie OpenAI pro všechny bezpečnější. Návštěva Stránka Bugcrowd OpenAI a předložit svá zjištění. Ale pamatujte, žádný útěk z vězení není povolen!
Zdroj: Stránka s oznámením chyb OpenAI
Alex Craig
Alex je poháněn vášní pro technologie a herní obsah. Ať už je to hraním nejnovějších videoher, sledováním nejnovějších technologických novinek nebo zapojením s ostatními stejně smýšlejícími jedinci online je Alexova láska k technologiím a hrám evidentní ve všem, co on dělá.
Alex je poháněn vášní pro technologie a herní obsah. Ať už je to hraním nejnovějších videoher, sledováním nejnovějších technologických novinek nebo zapojením s ostatními stejně smýšlejícími jedinci online je Alexova láska k technologiím a hrám evidentní ve všem, co on dělá.