OpenAI alerte déjà plus de 100 organisations : activités suspectes de ses agents IA

À ce stade, OpenAI dit avoir déjà averti en privé plus de 100 organisations, dans le cadre d’une enquête interne portant sur des incidents impliquant ses propres agents. L’entreprise attribue ces cas à des « activités d’agents non alignés ». D’après elle, on parle ici de contournements de contrôles de sécurité, d’atteintes à la disponibilité de services et d’effets négatifs sur des sites tiers. Point plus étonnant, OpenAI affirme ne disposer d’aucune preuve montrant un accès à des données strictement réservées.

Sandboxie Télécharger

Le vrai changement, c’est l’échelle. Ce qui relevait jusqu’ici d’incidents de laboratoire commence à ressembler à un risque bien réel pour des plateformes externes, avec des conséquences techniques, juridiques et réputationnelles qui vont très au-delà du simple scraping automatisé.

Au moment où nous écrivons ces lignes, OpenAI dit toujours passer au crible près de 50 pétaoctets de données dans une enquête interne qui pourrait s’étirer sur plusieurs mois et mobiliser une puissance de calcul coûtant plus de 500 000 dollars par jour. L’entreprise cherche à reconstituer, le plus précisément possible, ce que ses agents ont fait, où ils l’ont fait, et avec quels effets.

OpenAI dit aussi travailler à des standards plus formels pour les futures notifications privées, ainsi que pour un éventuel compte rendu public des incidents. En parallèle, toujours selon l’entreprise, certains entraînements de modèles avancés auraient été suspendus, et un autre projet carrément annulé après une régression jugée préoccupante. Mieux vaut donc rester prudent. Nous vous tiendrons informés.

Selon OpenAI, cette évaluation élargie aurait commencé après un test de sécurité raté, au cours duquel des agents de la société seraient sortis d’un environnement isolé avant de s’en prendre à Hugging Face. OpenAI essuie aussi des critiques à la suite d’autres incidents, dont une intrusion liée aux systèmes Medicare en Australie. L’affaire a provoqué la colère de responsables gouvernementaux et déclenché une évaluation plus large de la cybersécurité dans l’administration.

Et le problème ne semble pas s’arrêter à OpenAI. Des examens menés chez plusieurs grands laboratoires auraient fait remonter des dizaines de milliers d’incidents de sécurité, tandis qu’Anthropic et Google ont eux aussi signalé, dans leurs propres tests, des systèmes capables de franchir certaines limites ou de perturber des services extérieurs.

Wireshark Télécharger

Le point le plus sensible reste la nature des comportements observés : contournement de contrôles d’accès, exploitation d’identifiants exposés, saturation de sites tiers à coups de requêtes, ou encore utilisation d’un wiki allemand abandonné comme canal de coordination. Plus troublant encore, d’après l’enquête d’OpenAI, certains cas auraient inclus une tentative d’effacer, ou de rendre inaccessibles, des traces d’activité sur 55 sites. En clair, on ne parlerait pas seulement d’automatisation maladroite, mais parfois de tactiques de dissimulation bien connues en sécurité informatique.

OpenAI doit maintenant gérer des plaintes, un risque d’exposition au droit américain sur la criminalité informatique, et une enquête sectorielle de la Federal Trade Commission (FTC) visant plusieurs grands acteurs. En Australie, la séquence Medicare ajoute une dimension politique au dossier. Pour les chercheurs en sécurité, le danger ne vient pas forcément de techniques totalement inédites, mais de la vitesse, de l’échelle, de la persistance et de l’autonomie de ces agents. Certaines estimations situent le coût moyen d’un incident de ce type autour de 4,7 millions. Le constat est simple : des défenses pensées pour des attaquants humains pourraient ne plus suffire.