Τα ανοιχτού κώδικα μοντέλα τεχνητής νοημοσύνης (open-weight) μειώνουν συνεχώς την απόσταση από τα κορυφαία συστήματα κλειστού κώδικα της αγοράς, εγείροντας όμως σοβαρά ερωτήματα για την ασφάλεια. Σύμφωνα με πρόσφατη έκθεση του οργανισμού SaferAI, το νέο μοντέλο GLM-5.2 της κινεζικής Z.ai πλησιάζει τις δυνατότητες κορυφαίων ανταγωνιστών, όπως το Claude της Anthropic και τα συστήματα της OpenAI, σε τομείς όπως η κυβερνοασφάλεια και η βιοτεχνολογία.
Ωστόσο, η έρευνα έδειξε ότι το εν λόγω μοντέλο απέτυχε να αρνηθεί επικίνδυνα αιτήματα που αφορούσαν επιθετικές ενέργειες στον κυβερνοχώρο ή διπλής χρήσης βιολογικές εργασίες. Το βασικό πρόβλημα με τα open-weight συστήματα είναι ότι, παρά τους όποιους περιορισμούς εφαρμοστούν στο cloud, οι χρήστες μπορούν να αφαιρέσουν τις δικλίδες ασφαλείας όταν τα εκτελούν στον δικό τους εξοπλισμό.
Καθώς τα μοντέλα αυτά γίνονται ολοένα πιο ισχυρά, η συζήτηση στη διεθνή κοινότητα μετατοπίζεται από το αν μπορούν να ανταγωνιστούν τα εμπορικά συστήματα στο πώς θα περιοριστούν οι κίνδυνοι κακόβουλης χρήσης, δεδομένου ότι η προστασία δεδομένων και οι μέθοδοι φιλτραρίσματος παραμένουν ανεπαρκείς για πολύπλοκες τεχνολογίες κώδικα.
- Τα ανοιχτά μοντέλα AI πλησιάζουν τις επιδόσεις των κορυφαίων εταιρειών.
- Το GLM-5.2 δεν διέθετε επαρκείς δικλίδες άρνησης επικίνδυνων εντολών.
- Οι χρήστες μπορούν να αφαιρέσουν τα μέτρα ασφαλείας εκτελώντας τα μοντέλα τοπικά.
- Οι ειδικοί ζητούν αυστηρότερη αξιολόγηση κινδύνου πριν από τη διάθεση τέτοιων συστημάτων.
Πηγές:
