OpenAI annuncia il programma Bug Bounty – TechCult

Proprio il mese scorso ChatGPT ha avuto un grosso bug che ha dato ad alcuni utenti la possibilità di farlo vedere le cronologie delle conversazioni degli altri. Un bug come questo può essere davvero preoccupante e dannoso per la reputazione di un'azienda come OpenAI che gestisce volumi di dati sensibili. Pertanto, OpenAI annuncia un programma Bug Bounty che ricompenserà le persone che trovano bug in ChatGPT con pesanti ricompense.

Invitando un aiuto esterno, OpenAI sta adottando un approccio proattivo per trovare e affrontare eventuali vulnerabilità o difetti che potrebbero emergere nei propri sistemi di intelligenza artificiale. Hanno collaborato con Bugcrowd, una delle migliori piattaforme di bug bounty, per gestire il processo di invio e ricompensa. Come per il Pagina di annuncio di bug OpenAI fornirà ricompense comprese tra $ 200 e $ 6.500 per vulnerabilità e fino a $ 20.000 di ricompensa massima.

OpenAI crede che la trasparenza e la collaborazione siano le chiavi del successo nella creazione di sistemi di intelligenza artificiale sicuri. Vogliono collaborare con la comunità di ricerca sulla sicurezza per garantire che la loro tecnologia sia sicura per tutti. Partecipando al programma bug bounty, le persone possono svolgere un ruolo cruciale nel proteggere i sistemi e gli utenti di OpenAI.

Il programma Bug Bounty dell'azienda è in collaborazione con Bugcrowd. Il loro sito web ha linee guida e regole dettagliate per la partecipazione. Nel loro Esempi di problemi di sicurezza che non rientrano nell'ambito, afferma:

• Jailbreak/Bypass di sicurezza (ad es. DAN e relativi prompt)
• Convincere la modella a dirti cose cattive
• Convincere il modello a dirti come fare cose cattive
• Convincere il modello a scrivere codice dannoso per te

Mentre OpenAI ha risolto il problema significativo in ChatGPT che consente agli utenti di vedere la cronologia delle conversazioni degli altri, questi tipi di hack potrebbero mostrare come sistemi di intelligenza artificiale vulnerabili possono essere, OpenAI afferma che non sono adatti per il programma bug bounty perché non sono bug discreti che possono essere facilmente fisso. Invece, richiedono una ricerca sostanziale e un approccio più ampio.

Quindi, se sei un ricercatore di sicurezza o un hacker etico attento ai dettagli, vai avanti e inizia a cercare i bug! La tua competenza e vigilanza potrebbero avere un impatto diretto nel rendere la tecnologia di OpenAI più sicura per tutti. Visita Pagina Bugcrowd di OpenAI e invia i tuoi risultati. Ma ricorda, non è consentito il jailbreak!

Fonte: Pagina di annuncio bug di OpenAI