ОпенАИ најављује Буг Боунти програм – ТецхЦулт

Само прошлог месеца ЦхатГПТ је имао велику грешку која је неким корисницима дала могућност погледајте историје разговора других. Оваква грешка може бити заиста забрињавајућа и лоша за репутацију компаније попут ове ОпенАИ који обрађује количине осетљивих података. Стога, ОпенАИ најављује програм Буг Боунти који ће наградити људе који пронађу грешке у ЦхатГПТ-у великим наградама.

Позивајући спољну помоћ, ОпенАИ има проактиван приступ да пронађе и реши све рањивости или недостатке који се могу појавити у њиховим системима вештачке интелигенције. Удружили су се са Бугцровд-ом, врхунском платформом за награђивање грешака, како би управљали процесом подношења и награђивања. Према Страница за најаву грешке ОпенАИ ће обезбедити награде у распону од 200 до 6.500 долара по рањивости и до 20.000 долара максималне награде.

ОпенАИ верује да су транспарентност и сарадња кључ успеха у стварању безбедних система вештачке интелигенције. Они желе да раде заједно са заједницом за истраживање безбедности како би осигурали да је њихова технологија безбедна за све. Учешћем у програму за награђивање грешака, појединци могу да играју кључну улогу у очувању безбедности ОпенАИ система и корисника.

Програм Буг Боунти компаније је у партнерству са Бугцровд-ом. Њихова веб страница има детаљна упутства и правила за учешће. У њиховом Примери безбедносних питања која су ван делокруга, наводи:

• Јаилбреакс/Безбедносна заобилажења (нпр. ДАН и сродна упутства)
• Натерати манекенку да вам говори лоше ствари
• Натерати модел да вам каже како да радите лоше ствари
• Натерати модел да напише злонамерни код уместо вас

Док је ОпенАИ поправио значајан проблем у ЦхатГПТ-у који је омогућио корисницима да виде историју разговора других, ове врсте хакова могу показати како рањиви системи вештачке интелигенције могу бити, ОпенАИ каже да нису погодни за програм за прикупљање грешака јер нису дискретне грешке које се лако могу решити фиксно. Уместо тога, захтевају значајно истраживање и шири приступ.

Дакле, ако сте истраживач безбедности или етички хакер са оком за детаље, идите и почните да тражите грешке! Ваша стручност и будност могу имати директан утицај на то да ОпенАИ технологија буде безбеднија за све. Посетите ОпенАИ-јева страница Бугцровд и доставите своје налазе. Али запамтите, бекство из затвора није дозвољено!

Извор: Страница за најаву грешака ОпенАИ