Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, προειδοποιεί ότι η βιομηχανία της τεχνητής νοημοσύνης κινείται με υπερβολικά γρήγορους ρυθμούς και προτείνει ένα τριπλό σχέδιο για τον έλεγχο της προόδου. Μεταξύ άλλων, ζητά να δοθεί πρόσβαση σε εξωτερικούς φορείς αξιολόγησης για την επιβεβαίωση των κανόνων ασφαλείας, ώστε να αποτραπούν απρόβλεπτοι κίνδυνοι από προηγμένα συστήματα.
Η ανησυχία του επικεφαλής της εταιρείας πηγάζει από την αυτοβελτίωση των αλγορίθμων και πρόσφατα περιστατικά αυτόνομης συμπεριφοράς αυτόνομων πρακτόρων. Ο Αμοντέι τονίζει την ανάγκη συνεργασίας μεταξύ δημοκρατικών κυβερνήσεων και βιομηχανίας, ενώ αναγνωρίζει ως μεγαλύτερη πρόκληση τη δέσμευση αυταρχικών καθεστώτων σε κοινά πρότυπα ασφαλείας.
- Πρόταση τριών βημάτων για τη μείωση του ρυθμού εξέλιξης της τεχνητής νοημοσύνης.
- Συνεργασία με ανεξάρτητους αξιολογητές για την τήρηση των μέτρων ασφαλείας.
- Ανησυχίες για την αυτοβελτίωση των μοντέλων και την απώλεια του ελέγχου.
- Ανάγκη για διεθνή πρότυπα και περιορισμό της πρόσβασης σε προηγμένα τσιπ.
Πηγές:
