OpenAI izsludina programmu Bug Bounty — TechCult
Miscellanea / / April 12, 2023
Tikai pagājušajā mēnesī ChatGPT bija liela kļūda, kas dažiem lietotājiem deva iespēju skatīt citu sarunu vēsturi. Šāda kļūda var radīt nopietnas bažas un kaitēt tāda uzņēmuma reputācijai OpenAI kas apstrādā sensitīvu datu apjomu. Tādējādi OpenAI izsludina programmu Bug Bounty, kas atalgos cilvēkus, kuri ChatGPT atrod kļūdas, ar lielu atlīdzību.
![OpenAI izsludina programmu Bug Bounty](/f/1dab131263f085a705f440911a435f39.png)
Pieaicinot palīdzību no malas, OpenAI izmanto proaktīvu pieeju, lai atrastu un novērstu jebkādas ievainojamības vai nepilnības, kas var rasties viņu AI sistēmās. Viņi sadarbojas ar Bugcrowd — labāko kļūdu novēršanas platformu, lai pārvaldītu iesniegšanas un atlīdzības procesu. Saskaņā ar Kļūdu paziņojumu lapa OpenAI nodrošinās atlīdzību diapazonā no USD 200 līdz USD 6500 par vienu ievainojamību un līdz pat USD 20 000.
OpenAI uzskata, ka caurspīdīgums un sadarbība ir panākumu atslēga drošu AI sistēmu izveidē. Viņi vēlas sadarboties ar drošības pētniecības kopienu, lai nodrošinātu, ka viņu tehnoloģija ir droša ikvienam. Piedaloties kļūdu novēršanas programmā, indivīdiem var būt izšķiroša loma OpenAI sistēmu un lietotāju drošības uzturēšanā.
Uzņēmuma Bug Bounty programma sadarbojas ar Bugcrowd. Viņu tīmekļa vietnē ir detalizētas vadlīnijas un noteikumi par dalību. Viņu Drošības problēmu piemēri, kas neietilpst darbības jomā, tajā teikts:
- Jailbreaks/drošības apiešana (piemēram, DAN un ar to saistītās uzvednes)
- Lieciet modelim pateikt jums sliktu
- Liec modelei pastāstīt, kā darīt sliktas lietas
- Modeļa pieprasīšana, lai jūsu vietā uzrakstītu ļaunprātīgu kodu
Lai gan OpenAI novērsa nozīmīgo problēmu ChatGPT, kas ļāva lietotājiem redzēt citu sarunu vēsturi, šāda veida uzlaušanas var parādīt, kā neaizsargātas AI sistēmas var būt, OpenAI saka, ka tās nav piemērotas kļūdu novēršanas programmai, jo tās nav atsevišķas kļūdas, kuras var viegli novērst. fiksēts. Tā vietā tiem ir nepieciešama būtiska izpēte un plašāka pieeja.
Tātad, ja esat drošības pētnieks vai ētisks hakeris, kuram ir īpaša uzmanība detaļām, dodieties tālāk un sāciet meklēt kļūdas! Jūsu zināšanām un modrībai var būt tieša ietekme uz to, lai padarītu OpenAI tehnoloģiju drošāku ikvienam. Apmeklējums OpenAI Bugcrowd lapa un iesniedziet savus secinājumus. Bet atcerieties, ka ielaušanās cietumā nav atļauta!
Avots: OpenAI kļūdu paziņojuma lapa
![Alekss Kreigs](/f/82c0af5dbedfba7e1fc95a8d7136c74d.jpg)
Alekss Kreigs
Aleksu vada aizraušanās ar tehnoloģijām un spēļu saturu. Neatkarīgi no tā, vai tas ir, spēlējot jaunākās videospēles, sekojot līdzi jaunākajām tehnoloģiju ziņām vai iesaistoties ar citiem līdzīgi domājošiem cilvēkiem tiešsaistē Aleksa mīlestība pret tehnoloģijām un spēlēm ir redzama visā, ko viņš dara.
Aleksu vada aizraušanās ar tehnoloģijām un spēļu saturu. Neatkarīgi no tā, vai tas ir, spēlējot jaunākās videospēles, sekojot līdzi jaunākajām tehnoloģiju ziņām vai iesaistoties ar citiem līdzīgi domājošiem cilvēkiem tiešsaistē Aleksa mīlestība pret tehnoloģijām un spēlēm ir redzama visā, ko viņš dara.