Το OpenAI ανακοινώνει το πρόγραμμα Bug Bounty – TechCult

Μόλις τον περασμένο μήνα το ChatGPT είχε ένα σημαντικό σφάλμα που έδωσε σε ορισμένους χρήστες τη δυνατότητα να το κάνουν δείτε τα ιστορικά συνομιλιών άλλων. Ένα σφάλμα όπως αυτό μπορεί να είναι πραγματικά ανησυχητικό και κακό για τη φήμη μιας εταιρείας όπως OpenAI που χειρίζεται όγκους ευαίσθητων δεδομένων. Έτσι, το OpenAI ανακοινώνει ένα Πρόγραμμα Bug Bounty το οποίο θα ανταμείψει τα άτομα που βρίσκουν σφάλματα στο ChatGPT με βαριές ανταμοιβές.

Προσκαλώντας εξωτερική βοήθεια, το OpenAI ακολουθεί μια προληπτική προσέγγιση για να βρει και να αντιμετωπίσει τυχόν τρωτά σημεία ή ελαττώματα που μπορεί να προκύψουν στα συστήματά του AI. Συνεργάστηκαν με το Bugcrowd, μια κορυφαία πλατφόρμα επιβράβευσης σφαλμάτων, για τη διαχείριση της διαδικασίας υποβολής και ανταμοιβής. Σύμφωνα με το Σελίδα ανακοίνωσης σφαλμάτων Το OpenAI θα παρέχει ανταμοιβές της τάξης των $200 – $6.500 ανά ευπάθεια και έως και $20.000 μέγιστη ανταμοιβή.

Το OpenAI πιστεύει ότι η διαφάνεια και η συνεργασία είναι τα κλειδιά της επιτυχίας στη δημιουργία ασφαλών συστημάτων AI. Θέλουν να συνεργαστούν με την ερευνητική κοινότητα ασφάλειας για να διασφαλίσουν ότι η τεχνολογία τους είναι ασφαλής για όλους. Συμμετέχοντας στο πρόγραμμα επιβράβευσης σφαλμάτων, τα άτομα μπορούν να διαδραματίσουν κρίσιμο ρόλο στη διατήρηση της ασφάλειας των συστημάτων και των χρηστών του OpenAI.

Το πρόγραμμα Bug Bounty της εταιρείας είναι σε συνεργασία με το Bugcrowd. Η ιστοσελίδα τους έχει λεπτομερείς οδηγίες και κανόνες συμμετοχής. Στο δικό τους Παραδείγματα θεμάτων ασφάλειας που είναι εκτός πεδίου εφαρμογής, δηλώνει:

• Jailbreaks/Ασφαλείς παρακάμψεις (π.χ. DAN και σχετικά μηνύματα προτροπής)
• Να κάνεις το μοντέλο να σου πει άσχημα λόγια
• Να πάρει το μοντέλο να σου πει πώς να κάνεις άσχημα πράγματα
• Να κάνετε το μοντέλο να γράψει κακόβουλο κώδικα για εσάς

Ενώ το OpenAI διόρθωσε το σημαντικό πρόβλημα στο ChatGPT που επέτρεπε στους χρήστες να βλέπουν το ιστορικό συνομιλιών άλλων, αυτοί οι τύποι hack μπορεί να δείχνουν πώς μπορεί να είναι ευάλωτα συστήματα τεχνητής νοημοσύνης, το OpenAI λέει ότι δεν είναι κατάλληλα για το πρόγραμμα bug bounty επειδή δεν είναι διακριτά σφάλματα που μπορούν εύκολα να αντιμετωπιστούν σταθερός. Αντίθετα, απαιτούν ουσιαστική έρευνα και ευρύτερη προσέγγιση.

Έτσι, αν είστε ερευνητής ασφάλειας ή ηθικός χάκερ με προσοχή στη λεπτομέρεια, ξεκινήστε και ξεκινήστε την αναζήτηση για σφάλματα! Η τεχνογνωσία και η επαγρύπνησή σας θα μπορούσαν να έχουν άμεσο αντίκτυπο στο να γίνει η τεχνολογία του OpenAI ασφαλέστερη για όλους. Επίσκεψη Η σελίδα Bugcrowd του OpenAI και υποβάλετε τα ευρήματά σας. Αλλά θυμηθείτε, δεν επιτρέπεται το jailbreaking!

Πηγή: Σελίδα ανακοίνωσης σφαλμάτων OpenAI