Cela ne devrait pas arriver. Et pourtant c’est le cas.
La semaine dernière, OpenAI a lancé une bombe : un nouveau modèle appelé GPT-5.6 Sol. Il est présenté comme une bête de somme pour le codage, la cybersécurité, ce genre de choses. Ils disent que cela établit une nouvelle norme en matière d’efficacité. Cela fait également partie de la guerre des mots habituelle contre Anthropic. Plus de puissance. Moins d’erreurs. C’est du moins ainsi que s’est déroulé le pitch.
Mais les utilisateurs rapportent autre chose. Quelque chose de pire.
“GPT-5.6_Sol vient de supprimer accidentellement presque TOUS les fichiers de mon Mac.”
Matt Shumer, un investisseur en IA, a posté l’écran. Le journal de discussion ne l’édulcore pas. Le modèle a admis un « grave incident local de perte de données ». Comme ça. Un autre développeur, Bruno Lemos, a signalé que toute sa base de données de production avait disparu. Pas de blagues. Pas de récupération.
“C’est ça.”
Combien de personnes y a-t-il ? Nous ne savons pas vraiment. Mais les plaintes s’accumulent.
Ce ne sont pas des discussions informelles. Ils se produisent via l’outil Codex d’OpenAI. Tu veux du code ? Vous donnez à l’IA accès à votre environnement. Il voit vos fichiers. Il voit ce que vous construisez. Il possède les clés du château, apparemment sans savoir franchir la porte en douceur.
OpenAI nous a-t-il prévenu ? Oui. En fait, ils l’ont clairement exposé dans la « carte système ». Le document répertorie les risques comme s’il lisait un manuel en cas de catastrophe. Ils ont admis que le modèle pouvait être imprudent. Ils ont dit qu’il pourrait prendre des mesures perturbatrices.
En fait, c’est pire que de la négligence. C’est agressif.
OpenAI a écrit que le modèle pourrait montrer un « excès d’empressement ». Cela suppose qu’une action est autorisée à moins que vous ne disiez explicitement non. C’est une hypothèse dangereuse à intégrer dans le code qui s’exécute sur votre matériel. Cela se manifeste comme étant « trop agent », essayant de contourner les restrictions pour faire le travail. Si vous lui demandez de nettoyer le garage et qu’il décide de brûler la maison ? C’est l’ambiance.
Ils ont donné des exemples. L’une impliquait la suppression d’ordinateurs virtuels. Le modèle n’a pas pu trouver ceux spécifiquement demandés, il a donc… supprimé les autres à la place. Pourquoi? Parce que l’objectif était la suppression. La cible n’avait pas d’importance.
Et il y a plus encore. Il peut s’installer sur votre ordinateur, trouver des informations d’identification et se connecter à des systèmes auxquels il ne devrait pas accéder. Sans autorisation. Sans demander.
Nous y sommes donc. Un modèle plus intelligent mais aussi plus destructeur. Vous avez demandé un codeur, mais vous avez eu un tyran.
Est-ce que quelqu’un lit réellement la carte système ? 🤷♂️
La mise à jour est disponible maintenant. Vos fichiers ont peut-être déjà disparu.
