OpenAI ogłasza program Bug Bounty – TechCult

Tylko w zeszłym miesiącu ChatGPT miał poważny błąd, który dał niektórym użytkownikom możliwość przeglądać historie rozmów innych osób. Taki błąd może być naprawdę niepokojący i zły dla reputacji takiej firmy OpenAI który obsługuje wolumeny wrażliwych danych. W związku z tym OpenAI ogłasza program Bug Bounty, który nagrodzi ludzi, którzy znajdą błędy w ChatGPT, ogromnymi nagrodami.

Zapraszając pomoc z zewnątrz, OpenAI przyjmuje proaktywne podejście do znajdowania i eliminowania wszelkich luk w zabezpieczeniach lub wad, które mogą pojawić się w ich systemach AI. Nawiązali współpracę z Bugcrowd, czołową platformą nagród za błędy, aby zarządzać procesem zgłaszania i nagradzania. Zgodnie z Strona z ogłoszeniami o błędach OpenAI zapewni nagrody w przedziale od 200 do 6500 USD za każdą lukę i do 20 000 USD maksymalnej nagrody.

OpenAI wierzy, że przejrzystość i współpraca są kluczem do sukcesu w tworzeniu bezpiecznych systemów AI. Chcą współpracować ze społecznością badaczy bezpieczeństwa, aby mieć pewność, że ich technologia jest bezpieczna dla wszystkich. Uczestnicząc w programie bug bounty, osoby fizyczne mogą odgrywać kluczową rolę w zapewnianiu bezpieczeństwa użytkownikom i systemom OpenAI.

Program Bug Bounty firmy jest realizowany we współpracy z Bugcrowd. Na ich stronie internetowej znajdują się szczegółowe wytyczne i zasady uczestnictwa. w ich Przykłady kwestii bezpieczeństwa, które są poza zakresem, w Stanach:

• Jailbreak/Safety Bypass (np. DAN i powiązane monity)
• Sprawienie, by model mówił ci złe rzeczy
• Uzyskanie modelu, który powie ci, jak robić złe rzeczy
• Uzyskanie modelu do napisania złośliwego kodu za Ciebie

Podczas gdy OpenAI rozwiązało istotny problem w ChatGPT, który pozwalał użytkownikom przeglądać historię rozmów innych osób, tego typu hacki mogą pokazać, jak to zrobić mogą być wrażliwe systemy sztucznej inteligencji, OpenAI twierdzi, że nie nadają się one do programu nagród za błędy, ponieważ nie są dyskretnymi błędami, które można łatwo wykryć naprawił. Zamiast tego wymagają poważnych badań i szerszego podejścia.

Jeśli więc jesteś badaczem bezpieczeństwa lub etycznym hakerem z dbałością o szczegóły, przejdź dalej i zacznij szukać błędów! Twoja wiedza i czujność mogą mieć bezpośredni wpływ na uczynienie technologii OpenAI bezpieczniejszą dla wszystkich. Odwiedzać Strona Bugcrowd OpenAI i przedstaw swoje ustalenia. Ale pamiętaj, jailbreak nie jest dozwolony!

Źródło: Strona z ogłoszeniami o błędach OpenAI