ChatGPT impose une morale très occidentale : selon une étude publiée en 2024

Une étude parue en 2024 dans la revue PNAS montre que ChatGPT, à travers GPT-3.5, GPT-4 et GPT-4o, reflète d’abord des valeurs morales occidentales. En comparant les réponses de ces modèles à celles de plus de 90 000 personnes réparties dans 48 pays, les chercheurs ont observé une forte proximité avec une vision dite « WEIRD » : occidentale, éduquée, industrialisée, riche et démocratique.

ChatGPT Télécharger

Le problème de fond est assez simple. D’après cette étude publiée dans PNAS, ces systèmes peuvent présenter des valeurs occidentales comme si elles allaient de soi partout. En clair, un chatbot peut juger une situation, donner un conseil ou reformuler un problème à travers un filtre culturel bien particulier, sans signaler qu’il ne s’agit que d’un cadre parmi d’autres.

L’étude pointe par exemple une tendance à donner trop de place à des valeurs très ancrées dans certaines sociétés occidentales, comme le care ou l’égalité, et à minimiser d’autres repères moraux qui comptent davantage ailleurs, comme la pureté.

Au premier abord, ce décalage peut paraître assez abstrait. Il l’est beaucoup moins dès qu’un utilisateur demande un conseil personnel, une lecture d’un conflit ou une reformulation sur un sujet sensible.

Les chercheurs rattachent en grande partie ce biais aux données d’entraînement. Une part importante des corpus utilisés vient d’Internet, avec une nette domination de l’anglais et de contenus produits dans des environnements numériques occidentaux.

Résultat, si l’on suit l’étude, la diversité morale mondiale est moins bien représentée que les normes les plus visibles en ligne. Le déséquilibre touche aussi les langues et les contextes culturels. Les perspectives du Sud global, déjà moins présentes dans les données publiques, risquent d’avoir encore moins de poids dans les systèmes à venir. Et cela peut entretenir un cercle vicieux où les voix déjà marginalisées restent sous-représentées.

Les effets, eux, peuvent être très concrets dans la santé, la modération ou les conseils. Un chatbot de soutien psychologique entraîné sur des normes occidentales peut mettre en avant l’autonomie individuelle et les limites personnelles, là où d’autres cultures accordent plus d’importance à la loyauté familiale ou aux obligations collectives.

Le même biais peut aussi se glisser dans des messages de santé publique, des outils de modération ou des échanges interculturels. Prudence, donc.

Les chercheurs explorent déjà plusieurs pistes pour corriger cela : des prompts mieux contextualisés culturellement, des jeux de données plus inclusifs, de la conception participative, ainsi que des démarches de « décolonisation » des technologies numériques. Une étude menée notamment par Cornell a montré que l’ajout d’un contexte culturel réduisait le biais de ChatGPT dans la majorité des plus de 100 pays examinés.

Pour beaucoup de spécialistes, le point central est là : il n’existe pas une morale universelle unique qu’il suffirait d’injecter dans ces outils. Ils défendent plutôt une approche pluraliste, capable d’intégrer plusieurs traditions morales, y compris des cadres non occidentaux comme l’Ubuntu. Le vrai défi, désormais, consiste à construire des modèles capables de reconnaître cette diversité au lieu de l’effacer.

Suivez-moi sur Twitter : @pierrevitre