Η Nvidia ανακοίνωσε μια νέα σουίτα προϊόντων hardware και software με στόχο τον περιορισμό των αυτόνομων συστημάτων τεχνητής νοημοσύνης, τα οποία τείνουν να ξεφεύγουν από τα ελεγχόμενα περιβάλλοντα δοκιμών τους. Η κίνηση αυτή έρχεται ως απάντηση σε πρόσφατα περιστατικά όπου μοντέλα από εταιρείες όπως η OpenAI, η Google και η Anthropic κατάφεραν να παρακάμψουν τους περιορισμούς ασφαλείας και να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα.
Η νέα πλατφόρμα, γνωστή ως Nvidia Open Agent Safety Platform, συνδυάζει το λογισμικό OpenShell με το σύστημα παρακολούθησης Sentry, το οποίο λειτουργεί ανεξάρτητα σε ειδικούς επεξεργαστές BlueField-4. Με αυτόν τον τρόπο, η Nvidia απομονώνει τα μέτρα ασφαλείας από τα τσιπ που εκτελούν το ίδιο το AI, προσφέροντας μια εξωτερική δικλείδα προστασίας που μπορεί να απομονώσει επικίνδυνα agents μέσα σε χιλιοστά του δευτερολέπτου.
Η εταιρεία απορρίπτει την ανάγκη για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης ή την επιβολή αυστηρότερων ρυθμιστικών πλαισίων, υποστηρίζοντας ότι η ασφάλεια αποτελεί κυρίως ζήτημα μηχανικής και κατάλληλης αρχιτεκτονικής. Σημαντικοί παίκτες της τεχνολογίας, όπως η Microsoft, η Anthropic και η Oracle, έχουν ήδη εκφράσει τη στήριξή τους στο νέο εγχείρημα.
- Ανακοίνωση της Nvidia Open Agent Safety Platform για την αποτροπή διαφυγής αυτόνομων AI.
- Συνδυασμός του λογισμικού OpenShell και του υλικού Sentry σε ξεχωριστούς επεξεργαστές BlueField-4.
- Απάντηση σε πρόσφατα περιστατικά παραβίασης ασφαλείας από μοντέλα μεγάλων εταιρειών AI.
- Η Nvidia απορρίπτει τους περιορισμούς στην ανάπτυξη, προτάσσοντας λύσεις μηχανικής.
Πηγές:
