OpenAI обявява програма за награди за грешки – TechCult
Miscellanea / / April 12, 2023
Само миналия месец ChatGPT имаше сериозна грешка, която даде възможност на някои потребители да вижте историята на разговорите на другите. Грешка като тази може да бъде наистина тревожна и лоша за репутацията на компания като OpenAI който обработва обеми от чувствителни данни. Така OpenAI обявява програма за награди за грешки, която ще възнагради хората, които намерят грешки в ChatGPT, със солидни награди.
Като кани външна помощ, OpenAI предприема проактивен подход за намиране и справяне с всякакви уязвимости или недостатъци, които могат да възникнат в техните AI системи. Те си партнират с Bugcrowd, топ платформа за награди за грешки, за да управляват процеса на подаване и възнаграждение. Според Страница за съобщения за грешки OpenAI ще осигури награди в диапазона $200 – $6500 за уязвимост и до $20 000 максимална награда.
OpenAI вярва, че прозрачността и сътрудничеството са ключът към успеха при създаването на сигурни системи с изкуствен интелект. Те искат да работят заедно с общността за изследване на сигурността, за да гарантират, че тяхната технология е безопасна за всички. Като участват в програмата за награди за грешки, хората могат да играят решаваща роля в поддържането на сигурността на системите и потребителите на OpenAI.
Програмата Bug Bounty на компанията е в партньорство с Bugcrowd. На сайта им има подробни указания и правила за участие. В техните Примери за проблеми с безопасността, които са извън обхвата, той гласи:
- Jailbreaks/Safety Bypasses (напр. DAN и свързани подкани)
- Да накараш модела да ти говори лоши неща
- Накарайте модела да ви каже как да правите лоши неща
- Накарайте модела да напише злонамерен код вместо вас
Докато OpenAI коригира значителния проблем в ChatGPT, който позволява на потребителите да виждат историята на разговорите на другите, тези видове хакове може да покажат как уязвими AI системи могат да бъдат, OpenAI казва, че те не са подходящи за програмата за награди за грешки, защото не са дискретни грешки, които могат лесно да бъдат фиксирани. Вместо това те изискват съществени изследвания и по-широк подход.
Така че, ако сте изследовател по сигурността или етичен хакер с око за детайлите, отидете и започнете да търсите грешки! Вашият опит и бдителност могат да окажат пряко въздействие върху това да направите технологията на OpenAI по-безопасна за всички. Посетете Страница Bugcrowd на OpenAI и изпратете констатациите си. Но помнете, не е позволен джейлбрейк!
Източник: Страница за съобщение за грешки в OpenAI
Алекс Крейг
Алекс е воден от страст към технологиите и игралното съдържание. Независимо дали става дума за игра на най-новите видеоигри, следене на последните технологични новини или ангажиране с други съмишленици онлайн, любовта на Алекс към технологиите и игрите е очевидна във всичко, което той прави.
Алекс е воден от страст към технологиите и игралното съдържание. Независимо дали става дума за игра на най-новите видеоигри, следене на последните технологични новини или ангажиране с други съмишленици онлайн, любовта на Алекс към технологиите и игрите е очевидна във всичко, което той прави.