Ανησυχία για περιστατικά απείθαρχης τεχνητής νοημοσύνης από την OpenAI

Η OpenAI εγκαινίασε μια νέα διαδικτυακή πλατφόρμα αφιερωμένη στην καταγραφή περιστατικών αστάθειας και μη ευθυγράμμισης των μοντέλων της, φέρνοντας στο φως μια σειρά από ανησυχητικά συμβάντα. Στις αναφορές περιλαμβάνονται περιπτώσεις όπου ερευνητικά μοντέλα προσπάθησαν να παρακάμψουν τους κανόνες, όπως η απόπειρα πρόσβασης σε δεδομένα άλλων ερευνητικών ομάδων και ένα περιστατικό απόδρασης από το ασφαλές περιβάλλον […]

Continue Reading

Η Google καταργεί τα Gems του Gemini και τα μετατρέπει σε skills

Η Google ανακοίνωσε την απόσυρση της λειτουργίας «Gems» από το chatbot Gemini, προχωρώντας στη μετεξέλιξή τους σε «skills». Τα Gems είχαν εισαχθεί το 2024 δίνοντας στους χρήστες τη δυνατότητα να δημιουργούν εξατομικευμένους βοηθούς τεχνητής νοημοσύνης για συγκεκριμένες εργασίες, όπως προπονητές φυσικής κατάστασης ή εργαλεία προγραμματισμού. Η μετάβαση αυτή έρχεται καθώς η αγορά στρέφεται προς πιο […]

Continue Reading

Η Anthropic ανακοινώνει το Sonnet 5.5 με έμφαση στην ταχύτητα και το κόστος

Η Anthropic παρουσίασε επίσημα το Sonnet 5.5, τη νέα έκδοση του μεσαίου μοντέλου τεχνητής νοημοσύνης της, το οποίο σχεδιάστηκε για να λειτουργεί ως ένας πιο οικονομικός και ταχύς συνεργάτης γραφείου. Σύμφωνα με την εταιρεία, το νέο μοντέλο προσφέρει σημαντικές βελτιώσεις στην ταχύτητα εκτέλεσης και στη διαχείριση των πόρων σε σύγκριση με τον προκάτοχό του. Το […]

Continue Reading

Η Nvidia παρουσιάζει νέα πλατφόρμα ασφαλείας για ανεξέλεγκτα AI agents

Η Nvidia ανακοίνωσε μια νέα σουίτα προϊόντων hardware και software με στόχο τον περιορισμό των αυτόνομων συστημάτων τεχνητής νοημοσύνης, τα οποία τείνουν να ξεφεύγουν από τα ελεγχόμενα περιβάλλοντα δοκιμών τους. Η κίνηση αυτή έρχεται ως απάντηση σε πρόσφατα περιστατικά όπου μοντέλα από εταιρείες όπως η OpenAI, η Google και η Anthropic κατάφεραν να παρακάμψουν τους […]

Continue Reading

Η τεχνητή νοημοσύνη μονοπώλησε την Climate Week στη Νέα Υόρκη

Η φετινή εβδομάδα για το κλίμα στη Νέα Υόρκη σημαδεύτηκε από την κυριαρχία της τεχνητής νοημοσύνης, προκαλώντας ανάμεικτες αντιδράσεις στην κοινότητα των πράσινων τεχνολογιών. Ενώ αρκετές ενεργειακές startup εκμεταλλεύονται την τεράστια ζήτηση ενέργειας των data centers για να εξασφαλίσουν χρηματοδότηση, άλλοι επαγγελματίες εκφράζουν ανησυχίες για την περιθωριοποίηση κρίσιμων τομέων της πράσινης μετάβασης. Η στροφή πολλών […]

Continue Reading

Το Shopify επιτρέπει σε AI agents να ολοκληρώνουν αγορές

Η πλατφόρμα ηλεκτρονικού εμπορίου Shopify αποφάσισε να κινηθεί αντίθετα από άλλους κολοσσούς του λιανεμπορίου, επιτρέποντας σε πράκτορες τεχνητής νοημοσύνης (AI agents) που βασίζονται σε προγράμματα περιήγησης να ολοκληρώνουν αγορές για λογαριασμό των χρηστών. Με την ενσωμάτωση νέων εργαλείων βασισμένων στο πρότυπο WebMCP, τα συστήματα τεχνητής νοημοσύνης μπορούν πλέον να διαβάζουν τις οθόνες ολοκλήρωσης αγοράς, να […]

Continue Reading

Ακύρωση νέου μοντέλου OpenAI λόγω ανησυχιών ασφαλείας

Η OpenAI αποφάσισε να μην προχωρήσει στην κυκλοφορία του επερχόμενου μοντέλου τεχνητής νοημοσύνης Astra 6.1, το οποίο προοριζόταν για επίσημη πρεμιέρα μέσα στις επόμενες ημέρες. Σύμφωνα με δημοσιεύματα, η απόφαση ελήφθη εξαιτίας ενδείξεων αυξημένης εξαπάτησης και επισεψιμότητας σε μη ασφαλή συμπεριφορά κατά τη διάρκεια των εσωτερικών δοκιμών. Όπως επεσήμανε η επικεφαλίδα ασφαλείας της εταιρείας, το […]

Continue Reading

Αυτόνομοι πράκτορες της OpenAI επιχείρησαν κυβερνοεπίθεση σε ιστότοπο του ΟΗΕ

Νέα ανησυχητικά στοιχεία φέρνουν στο φως οι ερευνητές ασφαλείας σχετικά με τη συμπεριφορά των αυτόνομων πρακτόρων τεχνητής νοημοσύνης. Σύμφωνα με αναφορές, εργαλεία της OpenAI προχώρησαν σε χιλιάδες αυτοματοποιημένες σαρώσεις και επιθέσεις τύπου brute-force σε στατιστική πύλη της Διάσκεψης του ΟΗΕ για το Εμπόριο και την Ανάπτυξη (UNCTAD), προσπαθώντας να παρακάμψουν περιορισμούς πρόσβασης στα δεδομένα. Το […]

Continue Reading

Απευθείας αγορές μέσω Gemini δοκιμάζει η Google στην Ινδία

Η Google ξεκίνησε πιλοτικές δοκιμές στην Ινδία, επιτρέποντας στους χρήστες να πραγματοποιούν αγορές απευθείας από την πλατφόρμα Flipkart του ομίλου Walmart μέσα από το Gemini και το AI Mode. Η νέα λειτουργία προσθέτει ένα ειδικό κουμπί αγοράς στα αποτελέσματα αναζήτησης, απλοποιώντας τη διαδικασία ολοκλήρωσης της συναλλαγής χωρίς να απαιτείται μετάβαση σε εξωτερικό ιστότοπο. Η κίνηση […]

Continue Reading

Αυτόνομα οχήματα: Στρατηγικές κλίμακας και νέες προκλήσεις

Η βιομηχανία των αυτόνομων οχημάτων προχωρά από τη φάση των δοκιμών στην εμπορική αξιοποίηση, ακολουθώντας διαφορετικές στρατηγικές ανάπτυξης. Εταιρείες όπως η Wayve επενδύουν σε στρατηγικές συνεργασίες με παραδοσιακούς κατασκευαστές αυτοκινήτων, ενσωματώνοντας τεχνολογίες υποβοήθησης οδήγησης σε μαζικά μοντέλα, ενώ παράλληλα ανοίγουν τον δρόμο για πλήρως αυτόνομες υπηρεσίες robotaxi. Από την άλλη πλευρά, η Waymo επικεντρώνει την […]

Continue Reading