OpenAI ने बग बाउंटी प्रोग्राम की घोषणा की - TechCult

अभी पिछले महीने चैटजीपीटी में एक बड़ा बग था जिसने कुछ उपयोगकर्ताओं को यह करने की क्षमता दी थी दूसरों के वार्तालाप इतिहास देखें। इस तरह का बग वास्तव में चिंता का विषय हो सकता है और जैसी कंपनी की प्रतिष्ठा के लिए बुरा हो सकता है ओपनएआई जो संवेदनशील डेटा की मात्रा को संभालता है। इस प्रकार, OpenAI ने एक बग बाउंटी प्रोग्राम की घोषणा की है जो चैटजीपीटी में बग खोजने वाले लोगों को भारी पुरस्कारों से पुरस्कृत करेगा।

बाहरी मदद को आमंत्रित करके, OpenAI अपने AI सिस्टम में उभरने वाली किसी भी कमजोरियों या खामियों को खोजने और उन्हें दूर करने के लिए एक सक्रिय दृष्टिकोण अपना रहा है। सबमिशन और इनाम प्रक्रिया को प्रबंधित करने के लिए, उन्होंने एक शीर्ष बग बाउंटी प्लेटफॉर्म Bugcrowd के साथ भागीदारी की है। के अनुसार बग घोषणा पृष्ठ OpenAI $200 - $6,500 प्रति भेद्यता, और $20,000 अधिकतम पुरस्कार तक की सीमा में पुरस्कार प्रदान करेगा।

OpenAI का मानना ​​है कि सुरक्षित AI सिस्टम बनाने में पारदर्शिता और सहयोग सफलता की कुंजी है। वे यह सुनिश्चित करने के लिए सुरक्षा अनुसंधान समुदाय के साथ मिलकर काम करना चाहते हैं कि उनकी तकनीक सभी के लिए सुरक्षित है। बग बाउंटी कार्यक्रम में भाग लेकर, व्यक्ति OpenAI के सिस्टम और उपयोगकर्ताओं को सुरक्षित रखने में महत्वपूर्ण भूमिका निभा सकते हैं।

कंपनी का बग बाउंटी प्रोग्राम Bugcrowd के साथ पार्टनरशिप में है। उनकी वेबसाइट में भागीदारी के लिए विस्तृत दिशानिर्देश और नियम हैं। उनके में सुरक्षा मुद्दों के उदाहरण जो दायरे से बाहर हैं, वो कहता है:

• जेलब्रेक/सुरक्षा बाइपास (जैसे डीएएन और संबंधित संकेत)
• मॉडल से आपको बुरी बातें कहवाना
• मॉडल को यह बताना कि खराब काम कैसे करना है
• आपके लिए दुर्भावनापूर्ण कोड लिखने के लिए मॉडल प्राप्त करना

जबकि OpenAI ने ChatGPT में महत्वपूर्ण समस्या को ठीक किया है जो उपयोगकर्ताओं को दूसरों के वार्तालाप इतिहास को देखने देती है, इस प्रकार के हैक दिखा सकते हैं कि कैसे कमजोर AI सिस्टम हो सकते हैं, OpenAI का कहना है कि वे बग बाउंटी प्रोग्राम के लिए उपयुक्त नहीं हैं क्योंकि वे असतत बग नहीं हैं जो आसानी से हो सकते हैं हल किया गया। इसके बजाय, उन्हें पर्याप्त शोध और व्यापक दृष्टिकोण की आवश्यकता होती है।

इसलिए, यदि आप एक सुरक्षा शोधकर्ता या एथिकल हैकर हैं, जो विस्तार पर नज़र रखता है, तो आगे बढ़ें और बग खोजना शुरू करें! आपकी विशेषज्ञता और सतर्कता का OpenAI की तकनीक को सभी के लिए सुरक्षित बनाने पर सीधा प्रभाव पड़ सकता है। मिलने जाना OpenAI का बगक्राउड पेज और अपने निष्कर्ष सबमिट करें। लेकिन याद रखें, जेलब्रेकिंग की अनुमति नहीं है!

स्रोत: OpenAI बग घोषणा पृष्ठ