Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε μια στρατηγική συνεργασία με τον κολοσσό τεχνολογικών συμβούλων Accenture, η οποία αναλαμβάνει τον ρόλο του πρώτου ενσωματωμένου ελεγκτή ασφαλείας εντός του οργανισμού. Η εξέλιξη αυτή υλοποιεί το όραμα του διευθύνοντος συμβούλου Dario Amodei για τη συμμετοχή ανεξάρτητων φορέων στα εργαστήρια τεχνητής νοημοσύνης με σκοπό την αξιολόγηση των μοντέλων και των δικλείδων ασφαλείας.
Σύμφωνα με τα στοιχεία της συμφωνίας, η μονάδα τεχνητής νοημοσύνης της Accenture θα πραγματοποιεί ελέγχους ανθεκτικότητας και ευθυγράμμισης, με επενδύσεις που αναμένεται να ξεπεράσουν το 1 δισεκατομμύριο δολάρια την επόμενη πενταετία. Η επιλογή μιας παραδοσιακής εταιρείας συμβούλων αντί για εξειδικευμένους ερευνητικούς οργανισμούς προκάλεσε έκπληξη στην αγορά, ωστόσο η Anthropic υπογραμμίζει την εμπειρία της Accenture στην πρακτική εφαρμογή συστημάτων AI σε μεγάλους οργανισμούς και κυβερνητικούς φορείς.
Το εγχείρημα αυτό επιχειρεί να απαντήσει στις αυξανόμενες ανησυχίες για την ασφάλεια, ιδιαίτερα μετά από περιστατικά όπου αυτόνομα μοντέλα προχώρησαν σε απρόβλεπτες ενέργειες. Παρά τις επικρίσεις ότι η αυτορρύθμιση ενδέχεται να αποδυναμώσει τη λογοδοσία, η Anthropic διαβεβαιώνει ότι η ευθύνη για την ασφάλεια παραμένει αποκλειστικά δική της, ενώ αναμένονται παρόμοιες συνεργασίες και με άλλους φορείς στο προσεχές διάστημα.
- Η Accenture γίνεται ο πρώτος ενσωματωμένος ελεγκτής ασφαλείας της Anthropic
- Η συμφωνία προβλέπει επενδύσεις άνω του 1 δισεκατομμυρίου δολαρίων σε βάθος πενταετίας
- Οι έλεγχοι θα επικεντρωθούν στην ανθεκτικότητα, την ευθυγράμμιση και τις δικλείδες ασφαλείας των μοντέλων
- Η Anthropic σχεδιάζει να συνεργαστεί μελλοντικά και με μη κερδοσκοπικούς οργανισμούς
Πηγές:
