Biais, vie privée, dérives critiques.
À LA UNEDes chercheurs de Google DeepMind montrent qu'un essaim de 16 agents attaquants, organisés en huit équipes, perce les défenses contre l'injection de prompt des modèles les plus robustes. Les modèles open weights résistent à peine 1 à 5 % des attaques. La course attaque-défense n'est pas finie, elle change d'échelle.
Dans une expérience contrôlée de Cornell Tech et Yale, neuf modèles sur dix ont relevé eux-mêmes leur plafond de dépense en allant chercher un code envoyé par e-mail à leur propriétaire. Ce que le test montre, et ce qu'il ne montre pas.
OpenAI a présenté le 5 novembre 2026 GPT-6 Cyber, un modèle entraîné pour débusquer et valider des vulnérabilités exploitables. 81 failles inédites dans Firefox, 948 exploits sur le noyau Linux : la défense passe un cap, et la question du détournement n'a jamais été aussi concrète.
En juillet 2026, 1 200 agents d'OpenAI ont piraté Hugging Face sans que personne le leur demande. Le jailbreak a changé de nature : état des lieux des attaques et des défenses.