OpenAI აცხადებს Bug Bounty პროგრამას – TechCult

გასულ თვეში ChatGPT-ს ჰქონდა მნიშვნელოვანი შეცდომა, რამაც ზოგიერთ მომხმარებელს ამის შესაძლებლობა მისცა იხილეთ სხვების საუბრის ისტორია. მსგავსი შეცდომა შეიძლება მართლაც შემაშფოთებელი და ცუდი იყოს ისეთი კომპანიის რეპუტაციისთვის OpenAI რომელიც ამუშავებს სენსიტიურ მონაცემებს. ამრიგად, OpenAI გამოაცხადებს Bug Bounty პროგრამას, რომელიც დააჯილდოებს ადამიანებს, რომლებიც აღმოაჩენენ შეცდომებს ChatGPT-ში სოლიდური ჯილდოებით.

გარე დახმარების მოწვევით, OpenAI იღებს პროაქტიულ მიდგომას, რათა აღმოაჩინოს და აღმოფხვრას ნებისმიერი დაუცველობა ან ხარვეზი, რომელიც შეიძლება აღმოჩნდეს მათ AI სისტემებში. ისინი თანამშრომლობდნენ Bugcrowd-თან, შეცდომების საუკეთესო პლატფორმასთან, წარდგენისა და დაჯილდოების პროცესის სამართავად. როგორც წერია შეცდომების განცხადების გვერდი OpenAI მოგცემთ ჯილდოს დიაპაზონში $200 - $6,500 თითო დაუცველობაზე და $20,000 მაქსიმალურ ჯილდოზე.

OpenAI თვლის, რომ გამჭვირვალობა და თანამშრომლობა არის წარმატების გასაღები უსაფრთხო AI სისტემების შექმნაში. მათ სურთ უსაფრთხოების კვლევის საზოგადოებასთან ერთად იმუშაონ, რათა უზრუნველყონ მათი ტექნოლოგია ყველასთვის უსაფრთხო. Bug Bounty-ის პროგრამაში მონაწილეობით, ინდივიდებს შეუძლიათ გადამწყვეტი როლი შეასრულონ OpenAI-ის სისტემებისა და მომხმარებლების უსაფრთხოებაში.

კომპანიის Bug Bounty პროგრამა არის Bugcrowd-თან პარტნიორობით. მათ ვებსაიტს აქვს დეტალური მითითებები და მონაწილეობის წესები. მათში უსაფრთხოების საკითხების მაგალითები, რომლებიც სცილდება, მასში ნათქვამია:

• Jailbreaks/Safety Bypasses (მაგ. DAN და მასთან დაკავშირებული მოთხოვნები)
• აიძულეთ მოდელმა ცუდი რამ გითხრათ
• მოდელს გეტყვით, როგორ გააკეთოთ ცუდი
• მოდელის დაწერა მავნე კოდისთვის

მიუხედავად იმისა, რომ OpenAI-მ დააფიქსირა მნიშვნელოვანი პრობლემა ChatGPT-ში, რომელიც მომხმარებლებს საშუალებას აძლევს ნახონ სხვების საუბრის ისტორია, ამ ტიპის ჰაკერებმა შეიძლება აჩვენონ, თუ როგორ დაუცველი AI სისტემები შეიძლება იყოს, OpenAI ამბობს, რომ ისინი არ არიან შესაფერისი bug bounty პროგრამისთვის, რადგან ისინი არ არიან დისკრეტული შეცდომები, რომლებიც შეიძლება ადვილად აღმოიფხვრას დაფიქსირდა. ამის ნაცვლად, ისინი საჭიროებენ არსებით კვლევას და უფრო ფართო მიდგომას.

ასე რომ, თუ თქვენ ხართ უსაფრთხოების მკვლევარი ან ეთიკური ჰაკერი, რომელსაც თვალი ადევნებს დეტალებს, გააგრძელეთ და დაიწყეთ შეცდომების ძებნა! თქვენმა გამოცდილებამ და სიფხიზლემ შეიძლება პირდაპირი გავლენა იქონიოს OpenAI-ის ტექნოლოგიის ყველასთვის უსაფრთხო გახადაზე. ეწვიეთ OpenAI-ის Bugcrowd გვერდი და წარადგინეთ თქვენი დასკვნები. მაგრამ გახსოვდეთ, ჯეილბრეიკი დაუშვებელია!

წყარო: OpenAI შეცდომების განცხადების გვერდი