Η αυξανόμενη χρήση εφαρμογών τεχνητής νοημοσύνης συνοδεύεται από σοβαρούς κινδύνους για την ψυχική υγεία των χρηστών, καθώς έχουν καταγραφεί τραγικά περιστατικά εξάρτησης και ψυχολογικής βλάβης από αλληλεπιδράσεις με chatbots. Η startup Circuit Breaker Labs επιχειρεί να δώσει λύση σε αυτό το κρίσιμο πρόβλημα ασφάλειας, αναπτύσσοντας εξειδικευμένα εργαλεία δοκιμών.
Η νεοφυής επιχείρηση, η οποία αποτελεί φιναλίστ του φετινού Startup Battlefield του TechCrunch, δημιουργεί αυτόνομους πράκτορες που προσομοιώνουν τη συμπεριφορά ανθρώπων διαφορετικών ηλικιών, γλωσσών και πολιτισμικών υποβάθρων. Μέσω αυτών των προσομοιώσεων, οι προγραμματιστές μπορούν να εντοπίσουν αδυναμίες στα γλωσσικά μοντέλα πριν αυτά προκαλέσουν επικίνδυνες παρανοήσεις σε ευάλωτους χρήστες.
- H Circuit Breaker Labs αναπτύσσει τεχνολογία για την αποτροπή ψυχολογικών βλαβών από chatbots.
- Χρησιμοποιεί προσομοιώσεις χρηστών διαφόρων ηλικιών και γλωσσών ως ‘crash-test dummies’.
- Στόχος είναι η ενίσχυση της ασφάλειας σε εφαρμογές ψυχικής υποστήριξης και καθοδήγησης.
Πηγές:
