OpenAI kündigt Bug-Bounty-Programm an – TechCult

Erst letzten Monat hatte ChatGPT einen großen Fehler, der einigen Benutzern die Möglichkeit dazu gab den Gesprächsverlauf anderer sehen. Ein Fehler wie dieser kann wirklich besorgniserregend sein und den Ruf eines Unternehmens beeinträchtigen OpenAI die große Mengen an sensiblen Daten verarbeitet. Daher kündigt OpenAI ein Bug-Bounty-Programm an, das die Leute, die Fehler in ChatGPT finden, mit saftigen Belohnungen belohnt.

Durch die Einladung von externer Hilfe verfolgt OpenAI einen proaktiven Ansatz, um alle Schwachstellen oder Fehler, die in ihren KI-Systemen auftreten können, zu finden und zu beheben. Sie haben sich mit Bugcrowd, einer Top-Bug-Bounty-Plattform, zusammengetan, um den Einreichungs- und Belohnungsprozess zu verwalten. Gemäß der Fehlerankündigungsseite OpenAI bietet Belohnungen in Höhe von 200 bis 6.500 US-Dollar pro Schwachstelle und eine maximale Belohnung von bis zu 20.000 US-Dollar.

OpenAI glaubt, dass Transparenz und Zusammenarbeit die Schlüssel zum Erfolg bei der Entwicklung sicherer KI-Systeme sind. Sie wollen mit der Sicherheitsforschungsgemeinschaft zusammenarbeiten, um sicherzustellen, dass ihre Technologie für alle sicher ist. Durch die Teilnahme am Bug-Bounty-Programm können Einzelpersonen eine entscheidende Rolle dabei spielen, die Systeme und Benutzer von OpenAI sicher zu halten.

Das Bug-Bounty-Programm des Unternehmens ist eine Partnerschaft mit Bugcrowd. Ihre Website enthält detaillierte Richtlinien und Regeln für die Teilnahme. In ihrem Beispiele für Sicherheitsprobleme, die außerhalb des Geltungsbereichs liegen, Es sagt aus:

• Jailbreaks/Sicherheitsumgehungen (z. B. DAN und verwandte Eingabeaufforderungen)
• Das Model dazu bringen, dir schlechte Dinge zu sagen
• Das Modell dazu bringen, Ihnen zu sagen, wie man schlechte Dinge tut
• Das Modell dazu bringen, bösartigen Code für Sie zu schreiben

Während OpenAI das erhebliche Problem in ChatGPT behoben hat, durch das Benutzer den Gesprächsverlauf anderer sehen konnten, könnten diese Arten von Hacks zeigen, wie Anfällige KI-Systeme können laut OpenAI nicht für das Bug-Bounty-Programm geeignet sein, da es sich nicht um diskrete Fehler handelt, die leicht gefunden werden können Fest. Stattdessen erfordern sie umfangreiche Forschung und einen breiteren Ansatz.

Wenn Sie also ein Sicherheitsforscher oder ethischer Hacker mit einem Auge für Details sind, machen Sie sich auf den Weg und beginnen Sie mit der Suche nach Fehlern! Ihr Fachwissen und Ihre Wachsamkeit könnten sich direkt darauf auswirken, die Technologie von OpenAI für alle sicherer zu machen. Besuchen Die Bugcrowd-Seite von OpenAI und reiche deine Erkenntnisse ein. Aber denken Sie daran, kein Jailbreak erlaubt!

Quelle: OpenAI-Fehlerankündigungsseite