تعلن شركة OpenAI عن برنامج Bug Bounty - TechCult

في الشهر الماضي فقط ، كان لدى ChatGPT خطأ كبير أعطى بعض المستخدمين القدرة على ذلك رؤية تاريخ محادثات الآخرين. يمكن أن يكون خطأ مثل هذا مقلقًا حقًا وسيئًا لسمعة شركة مثل أوبن إيه آي التي تتعامل مع كميات من البيانات الحساسة. وهكذا ، تعلن OpenAI عن برنامج Bug Bounty الذي سيكافئ الأشخاص الذين يجدون أخطاء في ChatGPT بمكافآت ضخمة.

من خلال دعوة المساعدة الخارجية ، تتخذ OpenAI نهجًا استباقيًا للعثور على أي ثغرات أو عيوب قد تظهر في أنظمة الذكاء الاصطناعي ومعالجتها. لقد دخلوا في شراكة مع Bugcrowd ، وهو نظام أساسي لمكافأة الأخطاء ، لإدارة عملية التقديم والمكافأة. وفقا ل صفحة إعلان الخطأ ستوفر OpenAI مكافآت في حدود 200 دولار - 6500 دولار لكل ثغرة أمنية ، وما يصل إلى 20000 دولار كحد أقصى للمكافأة.

تؤمن شركة OpenAI بأن الشفافية والتعاون هما مفتاح النجاح في إنشاء أنظمة ذكاء اصطناعي آمنة. إنهم يريدون العمل مع مجتمع البحث الأمني ​​للتأكد من أن التكنولوجيا الخاصة بهم آمنة للجميع. من خلال المشاركة في برنامج bug bounty ، يمكن للأفراد لعب دور حاسم في الحفاظ على أمان أنظمة OpenAI ومستخدميها.

برنامج Bug Bounty التابع للشركة بالشراكة مع Bugcrowd. يحتوي موقع الويب الخاص بهم على إرشادات وقواعد مفصلة للمشاركة. في بهم

أمثلة على قضايا السلامة الخارجة عن النطاق ، فإنه ينص:

• عمليات كسر الحماية / تجاوزات الأمان (مثل DAN والمطالبات ذات الصلة)
• الحصول على النموذج ليقول لك أشياء سيئة
• الحصول على النموذج ليخبرك بكيفية القيام بالأشياء السيئة
• الحصول على النموذج لكتابة تعليمات برمجية ضارة

بينما قامت OpenAI بإصلاح المشكلة المهمة في ChatGPT والتي تتيح للمستخدمين رؤية سجل محادثات الآخرين ، فإن هذه الأنواع من الاختراقات قد توضح كيفية القيام بذلك يمكن أن تكون أنظمة الذكاء الاصطناعي ضعيفة ، كما تقول أوبن إيه آي أنها غير مناسبة لبرنامج مكافأة الأخطاء لأنها ليست أخطاء منفصلة يمكن أن تكون بسهولة مُثَبَّت. بدلاً من ذلك ، فإنها تتطلب بحثًا كبيرًا ونهجًا أوسع.

لذا ، إذا كنت باحثًا أمنيًا أو مخترقًا أخلاقيًا وتسعى للحصول على التفاصيل ، فابدأ في البحث وابدأ في البحث عن الأخطاء! يمكن أن يكون لخبرتك ويقظتك تأثير مباشر على جعل تكنولوجيا OpenAI أكثر أمانًا للجميع. يزور صفحة Bugcrowd من OpenAI وتقديم النتائج الخاصة بك. لكن تذكر ، لا يسمح بكسر الحماية!

مصدر: صفحة إعلان خطأ OpenAI