{"id":8205,"date":"2023-11-28T18:11:07","date_gmt":"2023-11-28T16:11:07","guid":{"rendered":"https:\/\/toukiela.com\/sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever\/"},"modified":"2023-11-28T18:11:08","modified_gmt":"2023-11-28T16:11:08","slug":"sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever","status":"publish","type":"post","link":"https:\/\/toukiela.com\/en\/sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever\/","title":{"rendered":"Sam Altman revient chez OpenAI : la startup rena\u00eet de ses cendres et a un d\u00e9fi de taille \u00e0 relever !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Contents<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1e1c64b1c3\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1e1c64b1c3\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/en\/sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever\/#Le_pouvoir_dOpenAI_une_lutte_qui_a_captive_le_monde_de_la_tech\" >Le pouvoir d\u2019OpenAI : une lutte qui a captiv\u00e9 le monde de la tech<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/en\/sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever\/#Le_licenciement_dAltman_rassemble_Microsoft_et_les_employes_dOpenAI\" >Le licenciement d\u2019Altman rassemble Microsoft et les employ\u00e9s d\u2019OpenAI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/en\/sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever\/#Altman_a_remporte_la_bataille_de_cinq_jours_mais_a_quel_prix\" >Altman a remport\u00e9 la bataille de cinq jours, mais \u00e0 quel prix ?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/en\/sam-altman-revient-chez-openai-la-startup-renait-de-ses-cendres-et-a-un-defi-de-taille-a-relever\/#Pourquoi_certains_experts_en_IA_sinquietent_du_nouveau_conseil_dadministration_dOpenAI\" >Pourquoi certains experts en IA s\u2019inqui\u00e8tent du nouveau conseil d\u2019administration d\u2019OpenAI<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Le_pouvoir_dOpenAI_une_lutte_qui_a_captive_le_monde_de_la_tech\"><\/span>Le pouvoir d\u2019OpenAI : une lutte qui a captiv\u00e9 le monde de la tech<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La lutte de pouvoir au sein d\u2019OpenAI qui a captiv\u00e9 le monde de la technologie apr\u00e8s le licenciement du co-fondateur Sam Altman a enfin pris fin \u2013 du moins pour le moment. Mais que doit-on en penser ?<\/p>\n<p>On a presque l\u2019impression qu\u2019un \u00e9loge fun\u00e8bre est de rigueur \u2013 comme si OpenAI \u00e9tait mort et qu\u2019une nouvelle start-up, mais pas n\u00e9cessairement am\u00e9lior\u00e9e, se tenait \u00e0 sa place. Sam Altman, ancien pr\u00e9sident de Y Combinator, est de retour \u00e0 la t\u00eate de l\u2019entreprise, mais son retour est-il justifi\u00e9 ? Le nouveau conseil d\u2019administration d\u2019OpenAI commence sur une note moins diversifi\u00e9e (c\u2019est-\u00e0-dire qu\u2019il est enti\u00e8rement compos\u00e9 d\u2019hommes blancs) et les objectifs philanthropiques fondateurs de l\u2019entreprise sont en danger d\u2019\u00eatre r\u00e9cup\u00e9r\u00e9s par des int\u00e9r\u00eats plus capitalistes.<\/p>\n<p>Cela ne veut pas dire que l\u2019ancien OpenAI \u00e9tait parfait en tous points.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_licenciement_dAltman_rassemble_Microsoft_et_les_employes_dOpenAI\"><\/span>Le licenciement d\u2019Altman rassemble Microsoft et les employ\u00e9s d\u2019OpenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Apr\u00e8s que le conseil d\u2019administration ait brusquement licenci\u00e9 Altman vendredi sans en informer presque personne, y compris la grande majorit\u00e9 des 770 employ\u00e9s d\u2019OpenAI, les soutiens de la start-up ont commenc\u00e9 \u00e0 exprimer leur m\u00e9contentement en priv\u00e9 et en public.<\/p>\n<p>Satya Nadella, le PDG de Microsoft, un collaborateur majeur d\u2019OpenAI, aurait \u00e9t\u00e9 \u00ab\u00a0furieux\u00a0\u00bb d\u2019apprendre le d\u00e9part d\u2019Altman. Vinod Khosla, le fondateur de Khosla Ventures, un autre investisseur d\u2019OpenAI, a d\u00e9clar\u00e9 sur X (anciennement Twitter) que le fonds souhaitait le retour d\u2019Altman. Pendant ce temps, Thrive Capital, Khosla Ventures, Tiger Global Management et Sequoia Capital envisageraient d\u2019engager des poursuites judiciaires contre le conseil d\u2019administration si les n\u00e9gociations pour r\u00e9int\u00e9grer Altman ne se passaient pas comme pr\u00e9vu pendant le week-end.<\/p>\n<p>Maintenant, les employ\u00e9s d\u2019OpenAI n\u2019\u00e9taient pas en d\u00e9saccord avec ces investisseurs de l\u2019ext\u00e9rieur en apparence. Au contraire, presque tous, y compris Sutskever, dans un revirement apparent, ont sign\u00e9 une lettre mena\u00e7ant le conseil d\u2019administration de d\u00e9mission collective s\u2019ils ne faisaient pas marche arri\u00e8re. Mais il faut consid\u00e9rer que ces employ\u00e9s d\u2019OpenAI avaient beaucoup \u00e0 perdre si OpenAI s\u2019effondrait \u2013 des offres d\u2019emploi de Microsoft et de Salesforce, entre autres.<\/p>\n<p>OpenAI \u00e9tait en discussion, dirig\u00e9e par Thrive, pour vendre \u00e9ventuellement des actions aux employ\u00e9s, ce qui aurait fait passer la valorisation de l\u2019entreprise de 29 milliards de dollars \u00e0 quelque part entre 80 et 90 milliards de dollars. La sortie soudaine d\u2019Altman \u2013 et la liste changeante des PDG int\u00e9rimaires d\u2019OpenAI de qualit\u00e9 douteuse \u2013 a fait h\u00e9siter Thrive, mettant la vente en danger.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Altman_a_remporte_la_bataille_de_cinq_jours_mais_a_quel_prix\"><\/span>Altman a remport\u00e9 la bataille de cinq jours, mais \u00e0 quel prix ?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Mais maintenant, apr\u00e8s plusieurs jours haletants et \u00e9puisants, une forme de r\u00e9solution a \u00e9t\u00e9 trouv\u00e9e. Altman \u2013 ainsi que Brockman, qui a d\u00e9missionn\u00e9 vendredi pour protester contre la d\u00e9cision du conseil d\u2019administration \u2013 est de retour, bien qu\u2019il soit soumis \u00e0 une enqu\u00eate de fond sur les pr\u00e9occupations qui ont provoqu\u00e9 son licenciement. OpenAI a un nouveau conseil d\u2019administration de transition, satisfaisant l\u2019une des demandes d\u2019Altman. Et OpenAI conservera apparemment sa structure, avec les profits des investisseurs plafonn\u00e9s et le conseil d\u2019administration libre de prendre des d\u00e9cisions qui ne sont pas ax\u00e9es sur les revenus.<\/p>\n<p>Marc Benioff, PDG de Salesforce, a \u00e9crit sur X que \u00ab\u00a0les gentils\u00a0\u00bb ont gagn\u00e9. Mais cela pourrait \u00eatre pr\u00e9matur\u00e9 de le dire.<\/p>\n<p>Certes, Altman a \u00ab\u00a0gagn\u00e9\u00a0\u00bb, en battant un conseil d\u2019administration qui l\u2019accusait de \u00ab\u00a0manquer de franchise\u00a0\u00bb avec les membres du conseil et, selon certaines informations, de mettre la croissance avant la mission. Dans un exemple de cette pr\u00e9tendue d\u00e9sob\u00e9issance, Altman aurait critiqu\u00e9 Toner pour un article qu\u2019elle a co-\u00e9crit et qui critiquait l\u2019approche d\u2019OpenAI en mati\u00e8re de s\u00e9curit\u00e9 \u2013 au point d\u2019essayer de la pousser \u00e0 quitter le conseil d\u2019administration. Dans un autre exemple, Altman a \u00ab\u00a0exasp\u00e9r\u00e9\u00a0\u00bb Sutskever en pr\u00e9cipitant le lancement de fonctionnalit\u00e9s aliment\u00e9es par l\u2019IA lors de la premi\u00e8re conf\u00e9rence des d\u00e9veloppeurs d\u2019OpenAI.<\/p>\n<p>Le conseil d\u2019administration ne s\u2019est pas expliqu\u00e9 m\u00eame apr\u00e8s plusieurs occasions, invoquant d\u2019\u00e9ventuels litiges. Et il est s\u00fbr de dire qu\u2019ils ont renvoy\u00e9 Altman de mani\u00e8re inutilement th\u00e9\u00e2trale. Mais on ne peut pas nier que les administrateurs avaient peut-\u00eatre de bonnes raisons de licencier Altman, du moins en fonction de leur interpr\u00e9tation de leur directive humaniste.<\/p>\n<p>Le nouveau conseil d\u2019administration semble susceptible d\u2019interpr\u00e9ter cette directive diff\u00e9remment.<\/p>\n<p>Actuellement, le conseil d\u2019administration d\u2019OpenAI est compos\u00e9 de Bret Taylor, ancien co-PDG de Salesforce, de D\u2019Angelo (le seul membre restant du conseil d\u2019administration d\u2019origine) et de Larry Summers, \u00e9conomiste et ancien pr\u00e9sident de Harvard. Taylor est un entrepreneur dans l\u2019\u00e2me, ayant co-fond\u00e9 de nombreuses entreprises, dont FriendFeed (rachet\u00e9e par Facebook) et Quip (par le biais de laquelle il est arriv\u00e9 chez Salesforce). Pendant ce temps, Summers a de profondes connexions commerciales et gouvernementales \u2013 un atout pour OpenAI, pense-t-on, \u00e0 une \u00e9poque o\u00f9 l\u2019examen r\u00e9glementaire de l\u2019IA s\u2019intensifie.<\/p>\n<p>Cependant, les administrateurs ne semblent pas \u00eatre une \u00ab\u00a0victoire\u00a0\u00bb totale pour ce journaliste, du moins si l\u2019intention \u00e9tait d\u2019avoir des points de vue diversifi\u00e9s. Alors que six si\u00e8ges doivent encore \u00eatre pourvus, les quatre premiers donnent une tonalit\u00e9 plut\u00f4t homog\u00e8ne ; un tel conseil serait en fait ill\u00e9gal en Europe, qui exige que les entreprises r\u00e9servent au moins 40 % des si\u00e8ges de leur conseil d\u2019administration \u00e0 des femmes.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Pourquoi_certains_experts_en_IA_sinquietent_du_nouveau_conseil_dadministration_dOpenAI\"><\/span>Pourquoi certains experts en IA s\u2019inqui\u00e8tent du nouveau conseil d\u2019administration d\u2019OpenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Je ne suis pas le seul \u00e0 \u00eatre d\u00e9\u00e7u. Un certain nombre d\u2019acad\u00e9miciens en IA ont exprim\u00e9 leurs frustrations sur X plus t\u00f4t dans la journ\u00e9e.<\/p>\n<p>Noah Giansiracusa, professeur de math\u00e9matiques \u00e0 l\u2019universit\u00e9 Bentley et auteur d\u2019un livre sur les algorithmes de recommandation des m\u00e9dias sociaux, critique \u00e0 la fois la composition exclusivement masculine du conseil d\u2019administration et la nomination de Summers, qui, selon lui, a un pass\u00e9 de remarques peu flatteuses sur les femmes.<\/p>\n<p>\u00ab\u00a0Quoi qu\u2019on pense de ces incidents, les apparences ne sont pas bonnes, pour le moins que l\u2019on puisse dire \u2013 en particulier pour une entreprise qui a \u00e9t\u00e9 \u00e0 la pointe du d\u00e9veloppement de l\u2019IA et de la transformation du monde dans lequel nous vivons\u00a0\u00bb, a d\u00e9clar\u00e9 Giansiracusa par texto. \u00ab\u00a0Ce qui me pr\u00e9occupe particuli\u00e8rement, c\u2019est que l\u2019objectif principal d\u2019OpenAI est de d\u00e9velopper une intelligence artificielle g\u00e9n\u00e9rale qui \u00ab\u00a0b\u00e9n\u00e9ficie \u00e0 toute l\u2019humanit\u00e9\u00a0\u00bb. Comme la moiti\u00e9 de l\u2019humanit\u00e9 est constitu\u00e9e de femmes, les \u00e9v\u00e9nements r\u00e9cents ne me donnent pas beaucoup confiance \u00e0 ce sujet. Toner repr\u00e9sente le plus directement possible le c\u00f4t\u00e9 s\u00e9curit\u00e9 de l\u2019IA, et cela a si souvent \u00e9t\u00e9 la position dans laquelle les femmes ont \u00e9t\u00e9 plac\u00e9es, tout au long de l\u2019histoire, mais surtout dans la technologie : prot\u00e9ger la soci\u00e9t\u00e9 des grands dangers pendant que les hommes obtiennent le cr\u00e9dit pour l\u2019innovation et gouvernent le monde.\u00a0\u00bb<\/p>\n<p>Christopher Manning, directeur du laboratoire d\u2019IA de Stanford, est l\u00e9g\u00e8rement plus indulgent que \u2013 mais d\u2019accord avec \u2013 Giansiracusa dans son \u00e9valuation :<\/p>\n<p>\u00ab\u00a0Le nouveau conseil d\u2019administration d\u2019OpenAI est probablement encore incomplet\u00a0\u00bb, a-t-il d\u00e9clar\u00e9 \u00e0 nous. \u00ab\u00a0N\u00e9anmoins, la composition actuelle du conseil, qui ne compte personne ayant une connaissance approfondie de l\u2019utilisation responsable de l\u2019IA dans la soci\u00e9t\u00e9 humaine et qui est exclusivement compos\u00e9 d\u2019hommes blancs, n\u2019est pas un bon d\u00e9part pour une entreprise aussi importante et influente dans le domaine de l\u2019IA.\u00a0\u00bb<\/p>\n<p>L\u2019in\u00e9galit\u00e9 s\u00e9vit dans l\u2019industrie de l\u2019IA, des annotateurs qui \u00e9tiquettent les donn\u00e9es utilis\u00e9es pour former les mod\u00e8les d\u2019IA g\u00e9n\u00e9rative aux biais nocifs qui se manifestent souvent dans ces mod\u00e8les entra\u00een\u00e9s, y compris les mod\u00e8les d\u2019OpenAI. Summers, pour \u00eatre juste, s\u2019est inqui\u00e9t\u00e9 des cons\u00e9quences potentiellement nuisibles de l\u2019IA, du moins en ce qui concerne les moyens de subsistance. Mais les critiques avec lesquelles j\u2019ai parl\u00e9 trouvent difficile de croire qu\u2019un conseil comme celui d\u2019OpenAI actuel donnera syst\u00e9matiquement la priorit\u00e9 \u00e0 ces d\u00e9fis, du moins pas de la m\u00eame mani\u00e8re qu\u2019un conseil plus diversifi\u00e9 le ferait.<\/p>\n<p>Cela soul\u00e8ve la question : pourquoi OpenAI n\u2019a-t-il pas tent\u00e9 de recruter un \u00e9thicien de l\u2019IA bien connu comme Timnit Gebru ou Margaret Mitchell pour le conseil d\u2019administration initial ? \u00c9taient-elles \u00ab\u00a0indisponibles\u00a0\u00bb ? Ont-elles refus\u00e9 ? Ou OpenAI n\u2019a-t-il pas fait d\u2019effort en premier lieu ? Nous ne le saurons peut-\u00eatre jamais.<\/p>\n<p>Apparemment, OpenAI avait envisag\u00e9 de nommer Laurene Powell Jobs et Marissa Mayer au conseil d\u2019administration, mais elles \u00e9taient consid\u00e9r\u00e9es comme trop proches d\u2019Altman. Le nom de Condoleezza Rice a \u00e9galement \u00e9t\u00e9 \u00e9voqu\u00e9, mais finalement \u00e9cart\u00e9.<\/p>\n<p>OpenAI a l\u2019occasion de prouver qu\u2019elle est plus sage et plus mondaine dans la s\u00e9lection des cinq si\u00e8ges restants du conseil d\u2019administration \u2013 ou trois, si Altman et un cadre de Microsoft en prennent un chacun (comme cela a \u00e9t\u00e9 annonc\u00e9). S\u2019ils ne prennent pas une voie plus diversifi\u00e9e, ce que Daniel Colson, directeur de l\u2019institut de r\u00e9flexion AI Policy Institute, a d\u00e9clar\u00e9 sur X pourrait bien \u00eatre vrai : quelques personnes ou un seul laboratoire ne peuvent pas \u00eatre charg\u00e9s de s\u2019assurer que l\u2019IA est d\u00e9velopp\u00e9e de mani\u00e8re responsable.<\/p>\n<p>Mis \u00e0 jour le 23\/11 \u00e0 11h26. Int\u00e9gration d\u2019un article de Timnit Gebru et d\u2019informations provenant d\u2019un rapport sur les femmes membres potentielles du conseil d\u2019administration d\u2019OpenAI qui ont \u00e9t\u00e9 \u00e9cart\u00e9es.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":8207,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-8205","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/8205","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/comments?post=8205"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/8205\/revisions"}],"predecessor-version":[{"id":8206,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/8205\/revisions\/8206"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media\/8207"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media?parent=8205"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/categories?post=8205"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/tags?post=8205"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}