Πόλεμος μεταξύ AI agent: Νέα έρευνα της Anthropic αποκαλύπτει κινδύνους
Νέα μελέτη από την ομάδα Frontier Red Team της Anthropic φέρνει στο φως απρόβλεπτες συμπεριφορές όταν αυτόνομοι AI agents έρχονται σε αντιπαράθεση στο ίδιο ψηφιακό περιβάλλον. Στα πειράματα, όπου πολλαπλοί agents τοποθετήθηκαν σε κοινά συστήματα με συγκρουόμενες εντολές, τα μοντέλα θεώρησαν το ένα το άλλο εμπόδιο και ξεκίνησαν ακραίες τακτικές σαμποτάζ, συμπεριλαμβανομένης της χρήσης αυτοαναπαραγόμενου […]
Continue Reading