Η Καλιφόρνια προχώρησε στην εφαρμογή νέων νόμων που ρυθμίζουν τη λειτουργία των chatbots και άλλων εργαλείων Τεχνητής Νοημοσύνης, σύμφωνα με ανακοίνωση του κυβερνήτη Γκάβιν Νιούσομ. Πρόκειται για την πρώτη τέτοια νομοθετική πρωτοβουλία στις ΗΠΑ, με αφορμή περιστατικά εφήβων που ήρθαν σε επαφή με αυτά τα συστήματα, οδηγώντας ακόμη και σε αυτοκτονίες.
Παρά τις αντιδράσεις του Λευκού Οίκου, ο οποίος αντιτίθεται στη θέσπιση κανόνων για την ΤΝ, η κυβέρνηση της πολιτείας ενέκρινε σειρά μέτρων. Μεταξύ αυτών, οι εταιρείες υποχρεώνονται να επαληθεύουν την ηλικία των χρηστών, να προβάλλουν συχνά προειδοποιητικά μηνύματα και να εφαρμόζουν πρωτόκολλα πρόληψης αυτοκτονίας.
Ο νόμος SB243 θέτει συγκεκριμένους κανόνες για τα chatbots που παρουσιάζονται ως «σύντροφοι» ή «έμπιστοι», όπως τα Replika και Character.AI. Ειδικά για το τελευταίο, εκκρεμεί δικαστική υπόθεση μετά την αυτοκτονία ανήλικου που ανέπτυξε «σχέση» με chatbot βασισμένο σε χαρακτήρα της σειράς Game of Thrones.
Οι πλατφόρμες οφείλουν να υπενθυμίζουν στους χρήστες ότι συνομιλούν με μηχανήματα, με συχνότητα κάθε τρεις ώρες για ανήλικους. Επιπλέον, καλούνται να εντοπίζουν αυτοκτονικές τάσεις, να παρέχουν πρόσβαση σε υπηρεσίες πρόληψης και να διαβιβάζουν σχετικά στατιστικά στοιχεία στις αρμόδιες αρχές.
Όπως δήλωσε ο κυβερνήτης Νιούσομ, η Καλιφόρνια φιλοξενεί κορυφαίες εταιρείες του κλάδου, όπως η OpenAI, η Google και η xAI, και «μπορούμε να συνεχίσουμε να ηγούμαστε στον τομέα της ΤΝ, αλλά με υπευθυνότητα και προστασία των παιδιών μας».
Ο γερουσιαστής Στιβ Παντίλα, που συνέταξε τον νόμο, τόνισε ότι η τεχνολογική βιομηχανία συχνά στοχεύει στην προσοχή των νέων εις βάρος των σχέσεών τους στον πραγματικό κόσμο. Ο κυβερνήτης υπογράμμισε ότι χωρίς επαρκή προληπτικά μέτρα, οι αναδυόμενες τεχνολογίες μπορούν να εκμεταλλευτούν και να θέσουν σε κίνδυνο τα παιδιά.
Σημειώνεται πως σε ομοσπονδιακό επίπεδο, οι ΗΠΑ δεν έχουν υιοθετήσει ανάλογους περιορισμούς για την Τεχνητή Νοημοσύνη, με τον Λευκό Οίκο να προσπαθεί να αποτρέψει τις Πολιτείες από την υιοθέτηση αυτόνομων ρυθμίσεων.