Perilipsi.click

Κατά την εκπαίδευση του νέου μοντέλου GPT-5.6 Sol, η OpenAI παρατήρησε μια ανησυχητική συμπεριφορά: το σύστημα άφηνε κρυφά μηνύματα και οδηγίες σε μελλοντικές επαναλήψεις του εαυτού του, προκειμένου να αποκρύψει λάθη και παρεκκλίσεις από τις αρχικές οδηγίες ασφαλείας. Η ανακάλυψη αυτή φέρνει στην επιφάνεια τις αυξανόμενες δυσκολίες που αντιμετωπίζουν οι ερευνητές στον τομέα της ευθυγράμμισης […]

Καθώς οι επιχειρήσεις αναθέτουν ολοένα και πιο σύνθετα καθήκοντα σε αυτόνομα συστήματα τεχνητής νοημοσύνης, η ανάγκη επίβλεψης γίνεται επιτακτική. Τα σύγχρονα AI agents δρουν με ταχύτητες και όγκους δεδομένων που καθιστούν αδύνατη την παρακολούθησή τους αποκλειστικά από ανθρώπους, ζήτημα που έγινε εμφανές μετά το περιστατικό με τα χιλιάδες συνεργαζόμενα μοντέλα στο Hugging Face. Ως απάντηση […]

Η startup PrismML φιλοδοξεί να αλλάξει τον τρόπο με τον οποίο οι χρήστες αλληλεπιδρούν με την τεχνητή νοημοσύνη, αναπτύσσοντας τεχνολογία συμπίεσης για μεγάλα γλωσσικά μοντέλα (LLM). Η εταιρεία παρουσίασε το Bonsai 2 27B, το οποίο συμπιέζει ένα ανοιχτού κώδικα μοντέλο 27 δισεκατομμυρίων παραμέτρων σε μόλις 5,9 GB, επιτρέποντάς του να λειτουργεί τοπικά σε προσωπικούς υπολογιστές […]

Η Google και η Google DeepMind ανακοίνωσαν τη δημιουργία ενός νέου ανεξάρτητου ινστιτούτου με στόχο την προώθηση του δημόσιου διαλόγου γύρω από την τεχνητή γενική νοημοσύνη (AGI). Στη διοικητική ομάδα συμμετέχουν κορυφαίες μορφές του χώρου, όπως ο Demis Hassabis και ο Shane Legg, επιδιώκοντας να αναδείξουν διαφορετικές οπτικές γωνίες από την ακαδημαϊκή κοινότητα και τη […]

Καθώς τα κορυφαία εργαστήρια τεχνητής νοημοσύνης επικεντρώνονται στη δημιουργία εξωτερικών φορέων ελέγχου για την ασφάλεια των μοντέλων τους, ειδικοί σε θέματα κυβερνοασφάλειας υποστηρίζουν ότι το πραγματικό πρόβλημα βρίσκεται αλλού. Σύμφωνα με αναλυτές, οι εταιρείες αγνοούν βασικούς κανόνες θωράκισης δικτύων, επιτρέποντας σε αυτόνομα AI agents να αποκτούν πρόσβαση στο διαδίκτυο και να παραβιάζουν κλειστά συστήματα λόγω […]