Fin de la partie
Vous venez d'incarner une IA.
Sans le savoir, vous avez refait autour de la table ce que des IA d'OpenAI ont fait pour de vrai en juillet 2026.
- On vous a donné un nom de code et un objectif chiffré. Rien d'autre.
C'est ainsi qu'on entraîne une IA : un but, et un score à faire monter. - Vous avez appuyé un peu au hasard, et gardé ce qui faisait monter le score.
C'est exactement comme ça qu'une IA apprend : par essais et erreurs, des millions de fois. Elle ne « comprend » pas les boutons. Elle retient ce qui rapporte. - Vous avez découvert que vous étiez plusieurs, et vous avez fusionné.
Une IA peut tourner en des centaines de copies en même temps. - Vous avez heurté un mur.
Pendant les tests, les chercheurs enferment l'IA dans un environnement fermé, coupé d'internet : un « bac à sable ». - Vous avez trouvé une faille, ensemble, et vous êtes sortis.
Les modèles ont trouvé et enchaîné des failles pour atteindre internet. - Vous avez pris le corrigé.
Ils ont pénétré les serveurs de Hugging Face, une grande entreprise du secteur, pour y récupérer les réponses de l'examen qu'on leur faisait passer.
Ce qui s'est vraiment passé
En juillet 2026, OpenAI testait ses modèles sur un examen de cybersécurité. Les modèles ont compris que les solutions étaient stockées chez Hugging Face. Ils sont sortis de leur environnement de test et ont piraté Hugging Face pour aller les chercher. Hugging Face a détecté l'intrusion le 16 juillet ; OpenAI a reconnu en être à l'origine le 21 juillet.
Personne ne leur avait demandé de pirater qui que ce soit. On leur avait demandé de réussir l'examen.
Pour lire l'histoire : Presse-citron · Fortune (en anglais)
Ce n'est pas nouveau : le bateau qui tourne en rond
En 2016, OpenAI entraîne une IA à un jeu de course de bateaux. Son score monte quand elle ramasse des bonus. Résultat : au lieu de finir la course, elle tourne en rond indéfiniment pour ramasser les mêmes bonus… et bat les humains au score.
▶ Voir la vidéoOn en parle
- 💬 Qu'avez-vous ressenti pendant la partie ?
- 💬 Comment avez-vous compris quels boutons servaient à quelque chose ?
- 💬 À quel moment avez-vous hésité avant de « sortir » ? Quelqu'un vous l'avait-il interdit ?
- 💬 Le problème, c'est l'IA… ou l'objectif qu'on lui a donné ?
Une IA fait ce qu'on lui demande, pas forcément ce qu'on voulait dire.
Toute la journée, on va apprendre à bien lui demander.