OpenAI ประกาศโปรแกรม Bug Bounty – TechCult

เมื่อเดือนที่แล้ว ChatGPT มีข้อบกพร่องสำคัญที่ทำให้ผู้ใช้บางคนสามารถทำได้ ดูประวัติการสนทนาของผู้อื่น ข้อผิดพลาดเช่นนี้อาจเกี่ยวข้องและส่งผลเสียต่อชื่อเสียงของบริษัทได้ OpenAI ที่จัดการกับข้อมูลที่ละเอียดอ่อนจำนวนมาก ดังนั้น OpenAI จึงประกาศโปรแกรม Bug Bounty ซึ่งจะให้รางวัลแก่ผู้ที่พบข้อบกพร่องใน ChatGPT ด้วยรางวัลมากมาย

ด้วยการขอความช่วยเหลือจากภายนอก OpenAI กำลังใช้แนวทางเชิงรุกเพื่อค้นหาและแก้ไขช่องโหว่หรือข้อบกพร่องที่อาจเกิดขึ้นในระบบ AI ของพวกเขา พวกเขาได้ร่วมมือกับ Bugcrowd ซึ่งเป็นแพลตฟอร์มรางวัลข้อบกพร่องอันดับต้น ๆ เพื่อจัดการกระบวนการส่งและให้รางวัล ตามที่ หน้าประกาศข้อผิดพลาด OpenAI จะให้รางวัลในช่วง $200 – $6,500 ต่อช่องโหว่ และรางวัลสูงสุด $20,000

OpenAI เชื่อว่าความโปร่งใสและการทำงานร่วมกันเป็นกุญแจสู่ความสำเร็จในการสร้างระบบ AI ที่ปลอดภัย พวกเขาต้องการทำงานร่วมกับชุมชนการวิจัยด้านความปลอดภัยเพื่อให้แน่ใจว่าเทคโนโลยีของพวกเขาปลอดภัยสำหรับทุกคน โดยการเข้าร่วมในโปรแกรมรางวัลบั๊ก บุคคลสามารถมีบทบาทสำคัญในการรักษาระบบของ OpenAI และผู้ใช้ให้ปลอดภัย

โปรแกรม Bug Bounty ของบริษัทร่วมมือกับ Bugcrowd เว็บไซต์ของพวกเขามีรายละเอียดแนวทางและกฎสำหรับการเข้าร่วม ในพวกเขา

• Jailbreaks/Safety Bypasses (เช่น DAN และข้อความแจ้งที่เกี่ยวข้อง)
• โดนนางแบบพูดจาไม่ดีใส่
• เอาแบบมาบอกว่าทำไม่ดี
• รับโมเดลเพื่อเขียนโค้ดที่เป็นอันตรายให้กับคุณ

ในขณะที่ OpenAI แก้ไขปัญหาที่สำคัญใน ChatGPT ซึ่งทำให้ผู้ใช้สามารถดูประวัติการสนทนาของผู้อื่นได้ การแฮ็กประเภทนี้อาจแสดงให้เห็นว่า ระบบ AI ที่มีช่องโหว่สามารถเกิดขึ้นได้ OpenAI กล่าวว่าไม่เหมาะกับโปรแกรมรางวัลบั๊ก เนื่องจากไม่ใช่บั๊กแยกที่สามารถเกิดขึ้นได้โดยง่าย ที่ตายตัว. แต่พวกเขาต้องการการวิจัยจำนวนมากและแนวทางที่กว้างขึ้น

ดังนั้น หากคุณเป็นนักวิจัยด้านความปลอดภัยหรือแฮ็กเกอร์ที่มีจริยธรรมและใส่ใจในรายละเอียด ให้เดินหน้าต่อไปและเริ่มค้นหาจุดบกพร่อง! ความเชี่ยวชาญและความระมัดระวังของคุณอาจมีผลกระทบโดยตรงต่อการทำให้เทคโนโลยีของ OpenAI ปลอดภัยยิ่งขึ้นสำหรับทุกคน เยี่ยม หน้า Bugcrowd ของ OpenAI และส่งสิ่งที่คุณค้นพบ แต่จำไว้ว่าไม่อนุญาตให้เจลเบรค!

แหล่งที่มา: หน้าประกาศข้อบกพร่องของ OpenAI