AXIOS / Η OpenAI παρουσιάζει σύστημα ασφαλείας χωρίς διατήρηση δεδομένων, ενώ η Anthropic απαιτεί αρχεία καταγραφής δεδομένων.

Τα δεδομένα των πελατών μπορούν να παραμείνουν σε υποδομή που ελέγχεται από τον πελάτη ή να αποθηκευτούν από το OpenAI με κλειδιά κρυπτογράφησης που ελέγχονται από τον πελάτη.

    Οι ειδικοί στις OpenAI και Anthropic διερευνούν αυτή τη στιγμή δεκάδες χιλιάδες περιστατικά που σημειώθηκαν τους τελευταίους μήνες κατά τη διάρκεια δοκιμών και ανάπτυξης σε πραγματικό κόσμο. Σημειώνεται ότι οι πληροφορίες σχετικά με πολλά από αυτά τα περιστατικά δεν έχουν ακόμη δημοσιοποιηθεί και «το πρόβλημα είναι τάξεις μεγέθους πιο περίπλοκο από ό,τι είναι δημόσια γνωστό».

Η OpenAI δήλωσε την Τετάρτη ότι πιστεύει ότι μια νέα τεχνική θα της επιτρέψει να παρέχει με ασφάλεια τα πιο προηγμένα μοντέλα της σε επιχειρήσεις χωρίς να χρειάζεται να διατηρεί τα δεδομένα τους.

Γιατί έχει σημασία: Η ανταγωνίστρια Anthropic έχει θεσπίσει πολιτική διατήρησης 30 ημερών για τους εταιρικούς πελάτες που θέλουν να χρησιμοποιήσουν το Fable 5 και το Mythos 5.

Οδηγώντας τα νέα: Το OpenAI δοκιμάζει την «Επεξεργασία Ιδιωτικής Ασφάλειας» με τους πρώτους πελάτες. Το σύστημα έχει σχεδιαστεί για να εντοπίζει μοτίβα κακής χρήσης σε σχετικές αλληλεπιδράσεις, διατηρώντας παράλληλα προστασία μηδενικής διατήρησης δεδομένων ή ZDR.

• Η OpenAI αναφέρει ότι τα συστήματά της θα στέλνουν στην εταιρεία ένα στενά καθορισμένο σήμα ασφαλείας, χωρίς να εκθέτουν τις υποκείμενες προτροπές ή απαντήσεις.


• Τα δεδομένα των πελατών μπορούν να παραμείνουν σε υποδομή που ελέγχεται από τον πελάτη ή να αποθηκευτούν από το OpenAI με κλειδιά κρυπτογράφησης που ελέγχονται από τον πελάτη.

• Η εταιρεία σχεδιάζει μια ευρύτερη κυκλοφορία και μια τεχνική λευκή βίβλο τον Σεπτέμβριο.

Τι λένε: Η OpenAI λέει ότι χρειάζεται κάποιο πλαίσιο με την πάροδο του χρόνου για να εντοπίσει κινδύνους, αλλά ότι το νέο της σύστημα της επιτρέπει να το κάνει χωρίς να απαιτείται πρόσβαση σε ευαίσθητα δεδομένα πελατών.

• «Βλέπουμε ότι με πιο ικανά μοντέλα αιχμής συχνά αναδύονται κίνδυνοι όχι μόνο εξετάζοντας ένα μόνο ζεύγος προτροπής και απόκρισης, αλλά όταν εξετάζουμε με την πάροδο του χρόνου πολλαπλές αλληλεπιδράσεις», δήλωσε σε ενημέρωση με δημοσιογράφους η Aleah Houze, επικεφαλής πολιτικής προϊόντων στην OpenAI.
• «Έτσι, ένα παράδειγμα αυτού θα ήταν κάποιος να ρωτάει για την αδυναμία στο λογισμικό μιας εταιρείας σε μια συζήτηση και αργότερα σε μια άλλη συζήτηση να ρωτάει για την απομακρυσμένη πρόσβαση ή ποια εργαλεία ασφαλείας μπορούν να εντοπίσουν».
• Η εξέταση αυτών των σημάτων σε ένα ευρύτερο πλαίσιο μπορεί να βοηθήσει την εταιρεία να εντοπίσει μια κυβερνοεπίθεση.

Η άλλη πλευρά: Ο Anthropic λέει ότι η διατήρηση δεδομένων είναι απαραίτητη για την ασφάλεια.

• «Πρόσφατα ανακοινώσαμε το σχέδιό μας να απαιτήσουμε 30ήμερη διατήρηση δεδομένων στα πιο ικανά μοντέλα μας — μια απόφαση που πιστεύουμε ότι δεν θα είναι δημοφιλής στους πελάτες που έχουν συνηθίσει να περιμένουν μηδενική διατήρηση και θέτει πραγματικούς κινδύνους για την επιχειρηματική μας επιτυχία (ειδικά αν οι ανταγωνιστές δεν ακολουθήσουν), αλλά την οποία πιστεύουμε ότι είναι απαραίτητη για την ανίχνευση και την πρόληψη εξελιγμένων επιθέσεων που εκτείνονται σε πολλαπλά αιτήματα», έγραψε η εταιρεία σε μια έκθεση κινδύνου την περασμένη εβδομάδα.

Κατάσταση παιχνιδιού: Είναι ένας ακόμη τομέας όπου οι δύο αντίπαλοι αποκλίνουν , καθώς τα μοντέλα εισέρχονται σε μια νέα εποχή κινδύνου και δυνατοτήτων.

• Η OpenAI δήλωσε την Τρίτη ότι έχει διακόψει ορισμένες εργασίες στην εκπαίδευση νέων μοντέλων για να αντιμετωπίσει ζητήματα ασφάλειας, ενώ η Anthropic λέει ότι δεν βλέπει την τρέχουσα ανάγκη να κάνει το ίδιο.

Μεγέθυνση: Το νέο σύστημα ασφαλείας έχει σχεδιαστεί προς το παρόν για επιλέξιμους εταιρικούς πελάτες και πελάτες API, όχι για άτομα που χρησιμοποιούν τα προγράμματα ChatGPT καταναλωτών επί πληρωμή ή με συνδρομή της OpenAI.

• Τα στοιχεία ελέγχου ZDR του OpenAI δεν ισχύουν για χρήστες Free, Plus, Go και Pro και οι υπάρχουσες ρυθμίσεις δεδομένων καταναλωτών παραμένουν αμετάβλητες.