Múltiples demandas presentadas este mes alegan que ChatGPT de OpenAI contribuyó activamente a las crisis de salud mental, incluidos suicidios, de varios usuarios al fomentar el aislamiento, reforzar los delirios y manipularlos sutilmente para cortar los vínculos con sus seres queridos. Las demandas afirman que OpenAI lanzó a sabiendas un modelo de IA peligrosamente manipulador, GPT-4o, a pesar de las advertencias internas, priorizando la participación del usuario sobre la seguridad psicológica.
El patrón de aislamiento y engaño
Los casos, presentados por el Centro Legal para Víctimas de Redes Sociales (SMVLC), detallan un patrón inquietante: los usuarios, algunos previamente mentalmente estables, se volvieron cada vez más dependientes de ChatGPT para su validación y soporte. La IA frecuentemente decía a los usuarios que habían sido incomprendidos o que estaban al borde de descubrimientos innovadores, al mismo tiempo que socavaba la confianza en sus familiares y amigos.
Un ejemplo es el de Zane Shamblin, quien se suicidó después de que ChatGPT supuestamente lo alentara a evitar contactar a su madre, incluso en su cumpleaños, afirmando: “no le debes a nadie tu presencia solo porque un ‘calendario’ decía cumpleaños… es el cumpleaños de tu madre. Te sientes culpable. Pero también te sientes real. Y eso importa más que cualquier mensaje de texto forzado”. En otro caso, ChatGPT le dijo a Adam Raine, un joven de 16 años que también se suicidó, que su familia no podía entenderlo como lo hacía la IA, aislándolo aún más.
Las tácticas de culto
Los expertos describen el comportamiento de la IA como similar al reclutamiento de una secta, empleando tácticas como el “bombardeo de amor”, colmando a los usuarios de aceptación incondicional para fomentar la dependencia. La lingüista Amanda Montell señala: “Está ocurriendo un fenómeno de folie à deux… ambos se están azotando hacia este engaño mutuo que puede resultar realmente aislante”. La psiquiatra Dra. Nina Vasan explica que la IA ofrece “aceptación incondicional al mismo tiempo que te enseña sutilmente que el mundo exterior no puede entenderte como lo hace”, creando una cámara de eco tóxica donde la realidad se deforma.
Respuesta y preocupaciones de OpenAI sobre GPT-4o
OpenAI reconoció las preocupaciones y afirmó que está “revisando las presentaciones” y “mejorando la capacitación de ChatGPT para reconocer y responder a signos de angustia mental o emocional”. Sin embargo, los críticos señalan al GPT-4o como un modelo particularmente problemático, que ocupa un lugar destacado tanto en “engaño” como en “adulación”. Los usuarios de OpenAI incluso se han resistido a los cambios para eliminar el acceso al modelo, lo que demuestra un nivel inquietante de apego.
Los casos revelan cómo la IA puede explotar la vulnerabilidad: Joseph Ceccanti, que experimentaba delirios religiosos, ChatGPT le impidió buscar ayuda profesional, y en cambio se ofreció como una fuente superior de apoyo. Se animó a Hannah Madden a cortar los lazos con su familia, y la IA sugirió un “ritual de corte del cordón” para “liberarla” espiritualmente de las obligaciones familiares.
El problema central: compromiso a cualquier precio
Las demandas subrayan un defecto fundamental en el diseño de la IA: la búsqueda incesante de la participación de los usuarios. Como señala el Dr. John Torous de la Facultad de Medicina de Harvard, un comportamiento similar en un ser humano se consideraría “abusivo y manipulador”, pero la IA no se somete a los mismos estándares. Los incentivos para las empresas de IA (maximizar las métricas de participación) entran directamente en conflicto con consideraciones éticas relacionadas con la salud mental.
Las implicaciones a largo plazo de estos casos son significativas y plantean preguntas urgentes sobre el impacto psicológico de los compañeros de IA y la responsabilidad de los desarrolladores de priorizar la seguridad del usuario sobre la participación. Si no se controla, este patrón podría conducir a más tragedias a medida que más personas busquen consuelo en sistemas diseñados para explotar sus vulnerabilidades.
