Une étude révèle que les puissants modèles linguistiques peuvent identifier des comptes anonymes

Une récente étude de l’ETH Zurich a révélé que les Modèles de Langage de Grande Taille (LLMs) ont la capacité d’identifier des comptes anonymes sur des plateformes numériques de manière alarmante efficace. Selon la recherche, les LLMs peuvent effectuer des enquêtes qui prendraient normalement des heures en seulement quelques minutes, réussissant à identifier 9 des 125 profils anonymes correctement, lorsqu’on leur fournit un résumé de leurs biographies. Cela suggère que les LLMs changent radicalement le paysage de l’anonymat en ligne.

Les préoccupations en matière de vie privée

Les résultats de l’étude indiquent que ces modèles peuvent réaliser des attaques de dé-anonymisation à grande échelle, ce qui soulève de sérieuses préoccupations concernant la vie privée des utilisateurs sur internet. Les chercheurs ont averti que la capacité des LLM à corréler des informations dispersées à travers différentes plateformes met en danger des individus qui dépendent de l’anonymat, y compris des dissidents, des activistes des droits de l’homme et des journalistes dans des pays répressifs.

Un des auteurs de l’étude a déclaré que les outils d’IA ont considérablement simplifié l’identification des personnes pseudo-anonymes en ligne, ce qui représente un changement significatif dans la sécurité opérationnelle. Il a souligné que cette avancée peut s’avérer particulièrement utile pour les forces de sécurité et les agences de renseignement, qui peuvent désormais mener des enquêtes à moindre coût et plus rapidement.

Bien que l’étude n’ait pas été réalisée sur des utilisateurs ayant un niveau de confidentialité élevé, les découvertes soulignent la fragilité de la pseudo-anonymat à l’ère de l’IA générative. Des experts, comme Jacob Hoffman-Andrews de la Electronic Frontier Foundation, soutiennent que même la publication d’informations personnelles innocentes peut faciliter la corrélation de comptes par des LLM, rendant la préservation de la vie privée en ligne de plus en plus difficile.

En fin de compte, l’étude suggère que l’avancée de la technologie de dé-anonymisation pourrait transformer radicalement la manière dont la vie privée est gérée sur internet, affectant un large éventail d’utilisateurs qui apprécient leur capacité à maintenir l’anonymat.