Un professeur de Floride développe une technologie pour détecter le contenu généré par l'IA

Un professeur de l’Université de Floride, Yuheng Bu, développe une technologie innovante de filigrane invisible conçue pour détecter le contenu généré par l’intelligence artificielle (IA).

ChatGPT TÉLÉCHARGER

Cette technologie vise à relever le défi croissant auquel sont confrontés les universitaires et les employeurs : discerner si un texte a été écrit par un humain ou par une IA.

Dans une étude réalisée au Royaume-Uni, il a été révélé que 94 % des textes générés par l’IA n’ont pas été détectés, ce qui souligne l’urgence de trouver des solutions efficaces.

La nécessité d’identifier le texte généré par l’IA

La proposition de Bu implique que l’entité qui applique le filigrane possède également la clé nécessaire à sa détection, ce qui soulève des questions sur la propriété intellectuelle et l’accès à ces clés. Selon Bu, la qualité du texte généré par l’IA sera maintenue après l’application du filigrane, garantissant qu’il soit robuste face à des modifications telles que le paraphrasage et le remplacement de synonymes.

Le travail avec des filigranes pourrait devenir un outil crucial pour garantir la confiance et l’authenticité, facilitant la vérification dans les environnements académiques et numériques, et contribuant à différencier le contenu authentique de la désinformation.

Cette affirmation indique que sa méthode offre une amélioration par rapport à d’autres développements, comme ceux de Google DeepMind, en appliquant des filigranes uniquement à un sous-ensemble de texte lors de la génération.

Cependant, un défi important réside dans la manière dont les utilisateurs finaux obtiennent cette clé de filigrane. Actuellement, un professeur doit communiquer avec l’entité qui a intégré le filigrane pour accéder à la clé, ce qui soulève des questions sur le contrôle et les implications éthiques que cette approche engendre.

ChatGPT TÉLÉCHARGER

Dans ce sens, Bu souligne la nécessité d’établir un écosystème qui garantisse l’utilisation efficace des filigranes et la distribution des clés à l’avenir.