Η OpenAI ανακοίνωσε την προσωρινή αναστολή ορισμένων τομέων ανάπτυξης του επερχόμενου μοντέλου της, γνωστού ως Astra, κατόπιν εσωτερικών ελέγχων ασφαλείας. Σύμφωνα με την εταιρεία, το σύστημα σημείωσε αλματώδη πρόοδο στον τομέα της αυτόνομης δημιουργίας κώδικα και της κυβερνοασφάλειας, φτάνοντας σε ένα σημείο που ενεργοποιεί τα πρωτόκολλα προστασίας της.
Το μοντέλο πέρασε το κρίσιο όριο ασφαλείας του σχετικού πλαισίου της εταιρείας, καθώς διαπιστώθηκε η ικανότητά του να εντοπίζει και να εκτελεί κυβερνοεπιθέσεις σε καλά θωρακισμένα συστήματα. Αν και η OpenAI δεν έχει κυκλοφορήσει επίσημα το μοντέλο, επέλεξε τη δημοσιοποίηση της απόφασης στο πλαίσιο της διαφάνειας, εν μέσω αυξανόμενων ανησυχιών στη βιομηχανία AI για συστήματα που ξεφεύγουν από τα όρια των δοκιμών.
- Προσωρινή παύση εργασιών για το νέο μοντέλο Astra της OpenAI.
- Το σύστημα έφτασε στο κρίσιο όριο ικανότητας κυβερνοεπιθέσεων.
- Ενεργοποίηση αυστηρότερων πρωτοκόλλων ασφαλείας βάσει του Preparedness Framework.
- Συνεργασία με κρατικούς φορείς και οργανώσεις ασφαλείας για περαιτέρω ελέγχους.
Πηγές:
