Sam Altman revient chez OpenAI : la startup renaît de ses cendres et a un défi de taille à relever !

Le pouvoir d’OpenAI : une lutte qui a captivé le monde de la tech

La lutte de pouvoir au sein d’OpenAI qui a captivé le monde de la technologie après le licenciement du co-fondateur Sam Altman a enfin pris fin – du moins pour le moment. Mais que doit-on en penser ?

On a presque l’impression qu’un éloge funèbre est de rigueur – comme si OpenAI était mort et qu’une nouvelle start-up, mais pas nécessairement améliorée, se tenait à sa place. Sam Altman, ancien président de Y Combinator, est de retour à la tête de l’entreprise, mais son retour est-il justifié ? Le nouveau conseil d’administration d’OpenAI commence sur une note moins diversifiée (c’est-à-dire qu’il est entièrement composé d’hommes blancs) et les objectifs philanthropiques fondateurs de l’entreprise sont en danger d’être récupérés par des intérêts plus capitalistes.

Cela ne veut pas dire que l’ancien OpenAI était parfait en tous points.

Le licenciement d’Altman rassemble Microsoft et les employés d’OpenAI

Après que le conseil d’administration ait brusquement licencié Altman vendredi sans en informer presque personne, y compris la grande majorité des 770 employés d’OpenAI, les soutiens de la start-up ont commencé à exprimer leur mécontentement en privé et en public.

Satya Nadella, le PDG de Microsoft, un collaborateur majeur d’OpenAI, aurait été « furieux » d’apprendre le départ d’Altman. Vinod Khosla, le fondateur de Khosla Ventures, un autre investisseur d’OpenAI, a déclaré sur X (anciennement Twitter) que le fonds souhaitait le retour d’Altman. Pendant ce temps, Thrive Capital, Khosla Ventures, Tiger Global Management et Sequoia Capital envisageraient d’engager des poursuites judiciaires contre le conseil d’administration si les négociations pour réintégrer Altman ne se passaient pas comme prévu pendant le week-end.

Maintenant, les employés d’OpenAI n’étaient pas en désaccord avec ces investisseurs de l’extérieur en apparence. Au contraire, presque tous, y compris Sutskever, dans un revirement apparent, ont signé une lettre menaçant le conseil d’administration de démission collective s’ils ne faisaient pas marche arrière. Mais il faut considérer que ces employés d’OpenAI avaient beaucoup à perdre si OpenAI s’effondrait – des offres d’emploi de Microsoft et de Salesforce, entre autres.

OpenAI était en discussion, dirigée par Thrive, pour vendre éventuellement des actions aux employés, ce qui aurait fait passer la valorisation de l’entreprise de 29 milliards de dollars à quelque part entre 80 et 90 milliards de dollars. La sortie soudaine d’Altman – et la liste changeante des PDG intérimaires d’OpenAI de qualité douteuse – a fait hésiter Thrive, mettant la vente en danger.

Altman a remporté la bataille de cinq jours, mais à quel prix ?

Mais maintenant, après plusieurs jours haletants et épuisants, une forme de résolution a été trouvée. Altman – ainsi que Brockman, qui a démissionné vendredi pour protester contre la décision du conseil d’administration – est de retour, bien qu’il soit soumis à une enquête de fond sur les préoccupations qui ont provoqué son licenciement. OpenAI a un nouveau conseil d’administration de transition, satisfaisant l’une des demandes d’Altman. Et OpenAI conservera apparemment sa structure, avec les profits des investisseurs plafonnés et le conseil d’administration libre de prendre des décisions qui ne sont pas axées sur les revenus.

Marc Benioff, PDG de Salesforce, a écrit sur X que « les gentils » ont gagné. Mais cela pourrait être prématuré de le dire.

Certes, Altman a « gagné », en battant un conseil d’administration qui l’accusait de « manquer de franchise » avec les membres du conseil et, selon certaines informations, de mettre la croissance avant la mission. Dans un exemple de cette prétendue désobéissance, Altman aurait critiqué Toner pour un article qu’elle a co-écrit et qui critiquait l’approche d’OpenAI en matière de sécurité – au point d’essayer de la pousser à quitter le conseil d’administration. Dans un autre exemple, Altman a « exaspéré » Sutskever en précipitant le lancement de fonctionnalités alimentées par l’IA lors de la première conférence des développeurs d’OpenAI.

Le conseil d’administration ne s’est pas expliqué même après plusieurs occasions, invoquant d’éventuels litiges. Et il est sûr de dire qu’ils ont renvoyé Altman de manière inutilement théâtrale. Mais on ne peut pas nier que les administrateurs avaient peut-être de bonnes raisons de licencier Altman, du moins en fonction de leur interprétation de leur directive humaniste.

Le nouveau conseil d’administration semble susceptible d’interpréter cette directive différemment.

Actuellement, le conseil d’administration d’OpenAI est composé de Bret Taylor, ancien co-PDG de Salesforce, de D’Angelo (le seul membre restant du conseil d’administration d’origine) et de Larry Summers, économiste et ancien président de Harvard. Taylor est un entrepreneur dans l’âme, ayant co-fondé de nombreuses entreprises, dont FriendFeed (rachetée par Facebook) et Quip (par le biais de laquelle il est arrivé chez Salesforce). Pendant ce temps, Summers a de profondes connexions commerciales et gouvernementales – un atout pour OpenAI, pense-t-on, à une époque où l’examen réglementaire de l’IA s’intensifie.

Cependant, les administrateurs ne semblent pas être une « victoire » totale pour ce journaliste, du moins si l’intention était d’avoir des points de vue diversifiés. Alors que six sièges doivent encore être pourvus, les quatre premiers donnent une tonalité plutôt homogène ; un tel conseil serait en fait illégal en Europe, qui exige que les entreprises réservent au moins 40 % des sièges de leur conseil d’administration à des femmes.

Pourquoi certains experts en IA s’inquiètent du nouveau conseil d’administration d’OpenAI

Je ne suis pas le seul à être déçu. Un certain nombre d’académiciens en IA ont exprimé leurs frustrations sur X plus tôt dans la journée.

Noah Giansiracusa, professeur de mathématiques à l’université Bentley et auteur d’un livre sur les algorithmes de recommandation des médias sociaux, critique à la fois la composition exclusivement masculine du conseil d’administration et la nomination de Summers, qui, selon lui, a un passé de remarques peu flatteuses sur les femmes.

« Quoi qu’on pense de ces incidents, les apparences ne sont pas bonnes, pour le moins que l’on puisse dire – en particulier pour une entreprise qui a été à la pointe du développement de l’IA et de la transformation du monde dans lequel nous vivons », a déclaré Giansiracusa par texto. « Ce qui me préoccupe particulièrement, c’est que l’objectif principal d’OpenAI est de développer une intelligence artificielle générale qui « bénéficie à toute l’humanité ». Comme la moitié de l’humanité est constituée de femmes, les événements récents ne me donnent pas beaucoup confiance à ce sujet. Toner représente le plus directement possible le côté sécurité de l’IA, et cela a si souvent été la position dans laquelle les femmes ont été placées, tout au long de l’histoire, mais surtout dans la technologie : protéger la société des grands dangers pendant que les hommes obtiennent le crédit pour l’innovation et gouvernent le monde. »

Christopher Manning, directeur du laboratoire d’IA de Stanford, est légèrement plus indulgent que – mais d’accord avec – Giansiracusa dans son évaluation :

« Le nouveau conseil d’administration d’OpenAI est probablement encore incomplet », a-t-il déclaré à nous. « Néanmoins, la composition actuelle du conseil, qui ne compte personne ayant une connaissance approfondie de l’utilisation responsable de l’IA dans la société humaine et qui est exclusivement composé d’hommes blancs, n’est pas un bon départ pour une entreprise aussi importante et influente dans le domaine de l’IA. »

L’inégalité sévit dans l’industrie de l’IA, des annotateurs qui étiquettent les données utilisées pour former les modèles d’IA générative aux biais nocifs qui se manifestent souvent dans ces modèles entraînés, y compris les modèles d’OpenAI. Summers, pour être juste, s’est inquiété des conséquences potentiellement nuisibles de l’IA, du moins en ce qui concerne les moyens de subsistance. Mais les critiques avec lesquelles j’ai parlé trouvent difficile de croire qu’un conseil comme celui d’OpenAI actuel donnera systématiquement la priorité à ces défis, du moins pas de la même manière qu’un conseil plus diversifié le ferait.

Cela soulève la question : pourquoi OpenAI n’a-t-il pas tenté de recruter un éthicien de l’IA bien connu comme Timnit Gebru ou Margaret Mitchell pour le conseil d’administration initial ? Étaient-elles « indisponibles » ? Ont-elles refusé ? Ou OpenAI n’a-t-il pas fait d’effort en premier lieu ? Nous ne le saurons peut-être jamais.

Apparemment, OpenAI avait envisagé de nommer Laurene Powell Jobs et Marissa Mayer au conseil d’administration, mais elles étaient considérées comme trop proches d’Altman. Le nom de Condoleezza Rice a également été évoqué, mais finalement écarté.

OpenAI a l’occasion de prouver qu’elle est plus sage et plus mondaine dans la sélection des cinq sièges restants du conseil d’administration – ou trois, si Altman et un cadre de Microsoft en prennent un chacun (comme cela a été annoncé). S’ils ne prennent pas une voie plus diversifiée, ce que Daniel Colson, directeur de l’institut de réflexion AI Policy Institute, a déclaré sur X pourrait bien être vrai : quelques personnes ou un seul laboratoire ne peuvent pas être chargés de s’assurer que l’IA est développée de manière responsable.

Mis à jour le 23/11 à 11h26. Intégration d’un article de Timnit Gebru et d’informations provenant d’un rapport sur les femmes membres potentielles du conseil d’administration d’OpenAI qui ont été écartées.