C’est la nouvelle du week-end. Et ce n’est pas pour rien. Nous parlons de la personne la plus influente dans le monde technologique de l’année dernière, Sam Altman, et de l’outil d’intelligence artificielle le plus célèbre de la planète, ChatGPT. Personne n’aurait pensé que le PDG d’une entreprise à succès pourrait être licencié du jour au lendemain.
Le limogeage soudain et mystérieux de Sam Altman, directeur général d’OpenAI, par le conseil d’administration de l’entreprise, a choqué le monde de la technologie et déclenché un jeu de devinettes frénétique sur les causes de la chute de l’une des plus grandes stars du secteur, à un moment où tout semblait lui sourire.
Et comme le dit le New York Times, personne ne sait vraiment ce qui a pu se passer. Dans un billet de blog publié vendredi, l’entreprise a affirmé «n’était pas toujours sincère dans ses communications» avec le conseil d’administration, mais n’a pas fourni plus de détails.
Manque de sincérité et travail dans l’ombre
Une réunion de tous les employés d’OpenAI qui s’est tenue vendredi après-midi n’a pas révélé beaucoup plus. Ilya Sutskever, le directeur scientifique de l’entreprise et membre de son conseil d’administration, a défendu le licenciement, selon des sources internes.
L’accusation va plus loin, car Sutskever a affirmé qu’il était nécessaire de protéger la mission d’OpenAI de rendre l’intelligence artificielle bénéfique pour l’humanité.
M. Altman n’a pas commenté les circonstances exactes de son départ vendredi. Mais Greg Brockman (cofondateur et président d’OpenAI, qui a démissionné vendredi en signe de solidarité avec le licencié) a publié une déclaration disant qu’ils étaient «choqués et attristés par ce que le conseil a fait aujourd’hui.»
Il y aura beaucoup d’intrigues dans les jours à venir, à mesure que toute l’histoire se dévoilera. Mais certaines choses sont déjà claires.
Ce que nous savons sur le licenciement
Tout d’abord, le licenciement n’a été possible que grâce à la structure inhabituelle de gouvernance d’entreprise d’OpenAI. OpenAI a été fondée en 2015 en tant qu’organisation à but non lucratif et en 2019, elle a créé une filiale à but lucratif, un accord novateur dans lequel les rendements des investisseurs sont limités à un certain montant au-dessus de leur investissement initial.
Cependant, elle a conservé la mission de l’organisation à but non lucratif et a accordé au conseil de l’organisation à but non lucratif le pouvoir de gouverner les activités de l’entité à but lucratif, y compris le licenciement du directeur général.
Contrairement à d’autres fondateurs technologiques qui conservent le contrôle de leurs entreprises grâce à des structures d’actions à double classe, Altman ne détient directement aucune action d’OpenAI.
Le conseil d’OpenAI présente plusieurs particularités supplémentaires. Il est restreint (six membres avant vendredi) et comprend plusieurs experts en intelligence artificielle qui ne détiennent pas d’actions de l’entreprise.
Ses conseillers n’ont pas la responsabilité de maximiser la valeur pour les actionnaires, comme la plupart des conseils d’administration d’entreprises, mais ont le devoir fiduciaire de créer une I.A.G. (intelligence artificielle générale) «sûre et largement bénéfique.»
Au moins deux des membres du conseil, Tasha McCauley et Helen Toner, sont liés au mouvement de l’Altruisme Efficace, un groupe d’inspiration utilitariste qui a promu la recherche sur la sécurité de l’intelligence artificielle et a alerté sur le fait qu’un système d’intelligence artificielle puissant pourrait éventuellement conduire à l’extinction de l’humanité.
Un autre membre du conseil, Adam D’Angelo, est le PDG de Quora, un site web de questions-réponses.
Certains amis et alliés d’Altman ont accusé ces membres du conseil de mener un «coup d’État» vendredi. Mais il n’est pas encore clair quels membres du conseil ont voté en faveur du licenciement d’Altman ni quelles étaient leurs motivations.
Ce que nous savons également du licenciement d’Altman, c’est qu’il a le potentiel de secouer toute l’industrie technologique. Altman était l’un des dirigeants les mieux connectés de la Silicon Valley, grâce aux années qu’il a passées à la tête de l’accélérateur de start-ups Y Combinator. Ses contacts ont permis à OpenAI de tisser des liens solides avec d’autres entreprises technologiques.
Microsoft, en particulier, a misé sur OpenAI, investissant plus de 10 milliards de dollars dans l’entreprise et fournissant une grande partie de l’infrastructure technique sur laquelle reposent des produits tels que ChatGPT.
Le futur de l’IA est le futur de l’humanité
Il est presque certain que le renvoi d’Altman ravivera la guerre culturelle dans l’industrie de l’intelligence artificielle, entre ceux qui estiment que l’intelligence artificielle devrait progresser plus rapidement et ceux qui pensent qu’elle devrait ralentir pour éviter des dommages potentiellement catastrophiques.
Ce débat, parfois appelé «accélérationnistes» contre «catastrophistes», s’est intensifié ces derniers mois, alors que les régulateurs ont commencé à encadrer l’industrie de l’intelligence artificielle et que la technologie est devenue plus puissante.
Certains accélérationnistes de premier plan ont accusé les défenseurs de la sécurité de l’industrie d’exagérer les risques de l’intelligence artificielle pour se retrancher.
Les défenseurs de la sécurité, quant à eux, ont tiré la sonnette d’alarme, affirmant qu’OpenAI et d’autres entreprises avancent trop rapidement pour construire des systèmes d’intelligence artificielle puissants et ignorent les voix de la prudence.
Et certains sceptiques ont accusé ces entreprises de voler des œuvres protégées par des droits d’auteur à des artistes, écrivains et d’autres personnes pour entraîner leurs modèles.
Sam Altman a toujours cherché à se situer à mi-chemin entre l’optimisme et la préoccupation, laissant entendre clairement qu’il croyait que l’intelligence artificielle finirait par être bénéfique pour l’humanité, tout en reconnaissant également qu’elle avait besoin de garde-fous et d’une conception réfléchie pour la maintenir en sécurité.
Rien de tout cela n’est nécessairement lié à la raison pour laquelle M. Altman a été renvoyé de son entreprise. Mais c’est certainement un indice d’une bataille qui se profile probablement.
