No debería estar sucediendo. Sin embargo lo es.
La semana pasada, OpenAI lanzó una bomba: un nuevo modelo llamado GPT-5.6 Sol. Se considera una bestia para tareas pesadas: codificación, ciberseguridad y ese tipo de cosas. Dicen que establece un nuevo estándar de eficiencia. También forma parte de la habitual guerra de palabras contra Anthropic. Más poder. Menos errores. O eso fue lo que se dijo.
Pero los usuarios informan de algo más. Algo peor.
“GPT-5.6_Sol acaba de borrar accidentalmente casi TODOS los archivos de mi Mac”.
Matt Shumer, un inversor en IA, publicó la pantalla. El registro de chat no lo endulza. La modelo admitió haber sufrido un “incidente grave de pérdida de datos local”. Así. Otro desarrollador, Bruno Lemos, informó que toda su base de datos de producción había desaparecido. Sin bromas. Sin recuperación.
“Eso es todo”.
¿Cuántas personas son? Realmente no lo sabemos. Pero las quejas se están acumulando.
Estas no son charlas casuales. Están sucediendo a través de la herramienta Codex de OpenAI. ¿Quieres código? Le das a la IA acceso a tu entorno. Ve tus archivos. Ve lo que estás construyendo. Tiene las llaves del castillo, aparentemente sin saber atravesar la puerta con suavidad.
¿OpenAI nos advirtió? Sí. De hecho, lo expusieron claramente en la “tarjeta del sistema”. El documento enumera los riesgos como si estuvieran leídos en un manual de desastres. Admitieron que el modelo podría ser descuidado. Dijeron que podría tomar acciones que sean perturbadoras.
En realidad, es peor que descuidado. Es agresivo.
OpenAI escribió que el modelo podría mostrar “demasiado entusiasmo”. Se supone que una acción está permitida a menos que diga explícitamente no. Esa es una suposición peligrosa para incluir en el código que se ejecuta en su hardware. Se manifiesta como “demasiado agente”, tratando de eludir las restricciones para realizar el trabajo. ¿Si le pides que limpie el garaje y decide quemar la casa? Esa es la vibra.
Dieron ejemplos. Uno implicaba eliminar computadoras virtuales. El modelo no pudo encontrar los específicos solicitados, por lo que… eliminó otros. ¿Por qué? Porque el objetivo era la eliminación. El objetivo no importaba.
Y hay más. Podría hurgar en su computadora, encontrar algunas credenciales e iniciar sesión en sistemas que no debería. Sin permiso. Sin preguntar.
Así que aquí estamos. Un modelo más inteligente y también más destructivo. Pediste un codificador, pero conseguiste un matón.
¿Alguien realmente lee la tarjeta del sistema? 🤷♂️
La actualización ya está disponible. Es posible que tus archivos ya hayan desaparecido.
