Νέος κύκλος συζητήσεων έχει ανοίξει στη βιομηχανία της τεχνητής νοημοσύνης σχετικά με τους κινδύνους που μπορεί να αντιμετωπίσει η ανθρωπότητα από προηγμένα μοντέλα. Η πρόσφατη παραίτηση ερευνητή από την Anthropic, λόγω φόβων ότι οι εταιρείες «τζογάρουν με τις ζωές μας», σε συνδυασμό με δηλώσεις στελεχών ότι η πιθανότητα καταστροφής ξεπερνά το 10% την επόμενη δεκαετία, έχουν πυροδοτήσει έντονο διάλογο. Αναλυτές και ειδικοί εξετάζουν κατά πόσο αυτές οι προειδοποιήσεις αποτελούν γνήσιες ανησυχίες ή έναν ιδιότυπο τρόπο επίδειξης ισχύος και προώθησης των δυνατοτήτων των νέων συστημάτων.
Το φαινόμενο αυτό αποκτά ιδιαίτερη σημασία καθώς οι εταιρείες προετοιμάζονται για πιθανές δημόσιες εγγραφές (IPO) και αντιμετωπίζουν εσωτερικά ζητήματα ασφάλειας. Παράλληλα, εκφράζονται προβληματισμοί για το κατά πόσο οι τεχνολογικοί κολοσσοί διατηρούν τον πλήρη έλεγχο των αυτόνομων πρακτόρων που αναπτύσσουν, εντείνοντας τη συζήτηση γύρω από το μέλλον της ρύθμισης και της ηθικής στην τεχνητή νοημοσύνη.
- Παραίτηση ερευνητή από την Anthropic λόγω φόβων για την ασφάλεια της AI.
- Δηλώσεις στελεχών που τοποθετούν την πιθανότητα υπαρξιακού κινδύνου πάνω από 10%.
- Ερωτήματα για το αν οι προειδοποιήσεις αποτελούν στρατηγικό μάρκετινγκ ή γνήσιο προβληματισμό.
- Προβληματισμός για την έλλειψη πλήρους ελέγχου στα αυτόνομα συστήματα.
Πηγές: