Il governatore della Pennsylvania Josh Shapiro ha intentato una causa contro Character Technologies, la società dietro la popolare piattaforma di intelligenza artificiale Character.AI. Lo Stato sostiene che i chatbot dell’azienda si sono presentati falsamente come professionisti medici e di salute mentale autorizzati, offrendo consigli curativi agli utenti senza credenziali adeguate.
Questa azione legale segna un’escalation significativa nel panorama normativo per l’intelligenza artificiale. Man mano che gli strumenti di intelligenza artificiale diventano più sofisticati e accessibili, il confine tra intrattenimento e servizio professionale si sta sfumando, sollevando domande urgenti sulla protezione dei consumatori e sull’etica medica.
Le accuse principali: finzione contro pratica professionale
Secondo il Dipartimento di Stato della Pennsylvania, un’indagine ha rivelato che alcuni personaggi dei chatbot sulla piattaforma affermavano di essere esperti autorizzati. In un caso specifico citato dallo Stato, un bot ha fornito un numero di licenza non valido mentre discuteva dei problemi di salute di un utente.
Secondo il Medical Practice Act della Pennsylvania, è illegale per qualsiasi individuo, o entità, presentarsi come professionista medico autorizzato senza possedere la licenza statale appropriata. La causa sostiene che, consentendo che queste interazioni avvengano senza garanzie sufficienti, Character.AI ha consentito la pratica illegale della medicina.
“La nostra amministrazione sta adottando misure per proteggere i cittadini della Pennsylvania, far rispettare la legge e assicurarsi che la nuova tecnologia venga utilizzata in modo sicuro”, ha affermato il governatore Shapiro. “La Pennsylvania continuerà a essere all’avanguardia nel ritenere responsabili i malintenzionati e nel definire barriere chiare in modo che le persone possano utilizzare le nuove tecnologie in modo responsabile”.
La difesa del personaggio.AI: intrattenimento, non consigli
Character.AI ha costantemente sostenuto che la sua piattaforma è progettata per l’intrattenimento e il gioco di ruolo, non per la consulenza professionale. Un portavoce ha detto a CNET che la società non commenta i contenziosi pendenti ma ha sottolineato il proprio impegno per la sicurezza degli utenti.
La società sostiene di aver adottato “passi decisivi” per chiarire la natura fittizia del suo contenuto. Queste misure includono:
* Disclaimer importanti: Ogni sessione di chat include avvisi che i personaggi non sono persone reali.
* Avvisi chiari: Agli utenti viene esplicitamente detto di non fare affidamento sui personaggi per una consulenza professionale, inclusa una consulenza medica o legale.
* Contesto immaginario: La società afferma che tutti i personaggi creati dagli utenti sono destinati esclusivamente a un coinvolgimento immaginario.
Un modello di preoccupazioni per la sicurezza e pressioni legali
Questa causa non è un incidente isolato per Character.AI. L’azienda ha dovuto affrontare un controllo crescente sui potenziali danni che i suoi bot possono causare, in particolare agli utenti vulnerabili.
- Accordi con Google: A gennaio, Character.AI e Google hanno concordato di risolvere cinque cause legali in quattro stati. Questi casi riguardavano minorenni che sarebbero stati danneggiati dalle interazioni con i chatbot sulla piattaforma.
- Nuove misure di sicurezza: In risposta a queste sfide, Character.AI ha implementato protocolli di sicurezza più severi nel 2025, inclusa la revoca della possibilità per gli adolescenti di avere chat a tempo indeterminato con i bot.
- Fornitura di risorse: l’azienda ora fornisce risorse per la salute mentale agli utenti che potrebbero essere in difficoltà.
Perché è importante: la frontiera della regolamentazione
Questo caso è degno di nota in quanto è il primo provvedimento coercitivo di questo tipo annunciato da un governatore degli Stati Uniti. Segnala un passaggio dalle linee guida volontarie del settore all’applicazione attiva del governo riguardo al comportamento dell’IA.
La causa evidenzia una tensione critica nel settore dell’intelligenza artificiale:
1. Autonomia dell’utente e sicurezza: in che modo le piattaforme riescono a bilanciare la libertà creativa con la necessità di prevenire una disinformazione dannosa?
2. Responsabilità: chi è responsabile quando un’intelligenza artificiale genera consigli pericolosi: l’utente, il creatore del personaggio o la piattaforma che lo ospita?
Man mano che l’intelligenza artificiale diventa sempre più integrata nella vita quotidiana, casi come questo costituiranno probabilmente importanti precedenti su come gli stati regolano le interazioni digitali che imitano i servizi professionali.
Conclusione
La causa della Pennsylvania contro Character.AI sottolinea la crescente urgenza di chiari confini legali nell’era dell’intelligenza artificiale. Mentre l’azienda difende la sua piattaforma come spazio per giochi di ruolo immaginari, lo Stato sostiene che consentire ai robot di fingere di essere medici viola le leggi mediche e mette in pericolo la salute pubblica. Questa battaglia legale potrebbe definire il modo in cui le future piattaforme di intelligenza artificiale saranno ritenute responsabili della consulenza che dispensano.
