{"id":8100,"date":"2023-11-25T09:41:08","date_gmt":"2023-11-25T07:41:08","guid":{"rendered":"https:\/\/toukiela.com\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/"},"modified":"2023-11-25T09:41:09","modified_gmt":"2023-11-25T07:41:09","slug":"decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_be\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/","title":{"rendered":"D\u00e9couvrez comment OpenAI se lie \u00e0 une fanfiction Harry Potter !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sommaire<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1f16263140\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1f16263140\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/fr_be\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/#Les_etranges_connexions_entre_une_fanfiction_de_Harry_Potter_et_les_figures_influentes_de_lindustrie_de_lIA\" >Les \u00e9tranges connexions entre une fanfiction de Harry Potter et les figures influentes de l\u2019industrie de l\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/fr_be\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/#Les_liens_entre_HPMOR_et_OpenAI\" >Les liens entre HPMOR et OpenAI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/fr_be\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/#HPMOR_une_reecriture_du_monde_de_Harry_Potter\" >HPMOR : une r\u00e9\u00e9criture du monde de Harry Potter<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/fr_be\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/#Le_role_de_Yudkowsky_dans_lindustrie_de_lIA\" >Le r\u00f4le de Yudkowsky dans l\u2019industrie de l\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/fr_be\/decouvrez-comment-openai-se-lie-a-une-fanfiction-harry-potter\/#Les_differentes_croyances_autour_de_lIA\" >Les diff\u00e9rentes croyances autour de l\u2019IA<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Les_etranges_connexions_entre_une_fanfiction_de_Harry_Potter_et_les_figures_influentes_de_lindustrie_de_lIA\"><\/span>Les \u00e9tranges connexions entre une fanfiction de Harry Potter et les figures influentes de l\u2019industrie de l\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>As-tu d\u00e9j\u00e0 vomi et eu la diarrh\u00e9e en m\u00eame temps ? Moi oui, et quand cela m\u2019est arriv\u00e9, j\u2019\u00e9coutais une version audiobook faite par des fans de <a rel=\"nofollow noopener\" target=\"_blank\" href=\"http:\/\/hpmor.com\">Harry Potter et les M\u00e9thodes de la Rationalit\u00e9<\/a> (HPMOR), une fanfiction \u00e9crite par Eliezer Yudkowsky.<\/p>\n<p>Non, l\u2019horreur corporelle \u00e0 double extr\u00e9mit\u00e9 n\u2019\u00e9tait pas provoqu\u00e9e par la fanfiction, mais les deux exp\u00e9riences sont inextricables dans mon esprit. J\u2019ai \u00e9t\u00e9 choqu\u00e9 de d\u00e9couvrir des ann\u00e9es plus tard que la fanfiction de 660 000 mots que j\u2019ai d\u00e9vor\u00e9e pendant ma maladie avait des intersections bizarres avec les ultra-riches de la technorati, y compris bon nombre des personnes impliqu\u00e9es dans la r\u00e9cente d\u00e9b\u00e2cle d\u2019OpenAI.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_liens_entre_HPMOR_et_OpenAI\"><\/span>Les liens entre HPMOR et OpenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Un exemple concret : dans un <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/www.404media.co\/new-openai-ceo-emmett-shear-was-minor-character-in-hpmor-harry-potter-ai-fanfic\/\">Easter egg rep\u00e9r\u00e9 par 404 Media<\/a> (qui \u00e9tait trop mineur pour que quiconque d\u2019autre \u2013 y compris moi, quelqu\u2019un qui a lu la fanfiction de plus de mille pages \u2013 le remarque), il y a un joueur de Quidditch mentionn\u00e9 une fois dans l\u2019histoire \u00e9tendue nomm\u00e9 Emmett Shear. Oui, le m\u00eame Emmett Shear qui a co-fond\u00e9 Twitch et qui vient d\u2019\u00eatre nomm\u00e9 PDG int\u00e9rimaire d\u2019OpenAI, probablement la soci\u00e9t\u00e9 la plus influente des ann\u00e9es 2020. Shear \u00e9tait fan du travail de Yudkowsky, suivant l\u2019histoire publi\u00e9e en ligne. Ainsi, pour son anniversaire, il a re\u00e7u un cam\u00e9o en cadeau.<\/p>\n<p>Shear est depuis longtemps fan des \u00e9crits de Yudkowsky, tout comme bon nombre des acteurs cl\u00e9s de l\u2019industrie de l\u2019IA. Mais cette fanfiction de Harry Potter est l\u2019\u0153uvre la plus populaire de Yudkowsky.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"HPMOR_une_reecriture_du_monde_de_Harry_Potter\"><\/span>HPMOR : une r\u00e9\u00e9criture du monde de Harry Potter<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>HPMOR est une r\u00e9\u00e9criture de l\u2019univers de Harry Potter, qui part du postulat que la tante de Harry, Petunia, a \u00e9pous\u00e9 un professeur de biochimie \u00e0 Oxford au lieu du cr\u00e9tin abusif Vernon Dursley. Ainsi, Harry grandit en tant qu\u2019enfant qui sait tout, obs\u00e9d\u00e9 par la pens\u00e9e rationaliste, une id\u00e9ologie qui valorise la pens\u00e9e exp\u00e9rimentale et scientifique pour r\u00e9soudre les probl\u00e8mes, en \u00e9vitant l\u2019\u00e9motion, la religion ou d\u2019autres mesures impr\u00e9cises. Il ne faut pas trois pages avant que Harry ne cite les \u00ab\u00a0Cours de physique de Feynman\u00a0\u00bb pour essayer de r\u00e9soudre un d\u00e9saccord entre ses parents adoptifs sur la r\u00e9alit\u00e9 de la magie. Si vous pensiez que le Harry Potter \u00ab\u00a0r\u00e9el\u00a0\u00bb pouvait \u00eatre parfois un peu frustrant (pourquoi ne pose-t-il jamais les questions les plus \u00e9videntes \u00e0 Dumbledore ?), pr\u00e9parez-vous \u00e0 rencontrer ce Harry Potter, qui pourrait donner du fil \u00e0 retordre \u00e0 \u00ab\u00a0Young Sheldon\u00a0\u00bb.<\/p>\n<p>Il est logique que Yudkowsky c\u00f4toie bon nombre des personnes les plus influentes dans le domaine de l\u2019IA aujourd\u2019hui, \u00e9tant donn\u00e9 qu\u2019il est lui-m\u00eame un chercheur en IA de longue date. Dans un article de 2011 du New Yorker sur les <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/www.newyorker.com\/magazine\/2011\/11\/28\/no-death-no-taxes\">techno-libertariens de la Silicon Valley<\/a>, George Packer rapporte d\u2019un d\u00eener chez le milliardaire capital-risqueur Peter Thiel, qui co-fondera plus tard et investira dans OpenAI. Alors que les \u00ab\u00a0blondes en robes noires\u00a0\u00bb servent du vin aux hommes, Packer d\u00eene avec les co-fondateurs de PayPal comme David Sacks et Luke Nosek. Patri Friedman, un ancien ing\u00e9nieur de Google qui a obtenu un financement de Thiel pour cr\u00e9er une organisation \u00e0 but non lucratif visant \u00e0 construire des civilisations flottantes anarchistes inspir\u00e9es du festival Burning Man (apr\u00e8s 15 ans, l\u2019organisation ne semble pas avoir beaucoup progress\u00e9), est \u00e9galement pr\u00e9sent \u00e0 la f\u00eate. Et puis il y a Yudkowsky.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_role_de_Yudkowsky_dans_lindustrie_de_lIA\"><\/span>Le r\u00f4le de Yudkowsky dans l\u2019industrie de l\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Pour relier davantage les parties impliqu\u00e9es, voici un selfie de Sam Altman, ancien PDG d\u2019OpenAI, de Grimes et de Yudkowsky.<\/p>\n<p>Yudkowsky n\u2019est pas un nom connu du grand public comme Altman ou Elon Musk. Mais il appara\u00eet r\u00e9guli\u00e8rement dans les histoires derri\u00e8re des entreprises comme OpenAI, ou m\u00eame derri\u00e8re la grande romance qui nous a donn\u00e9 des enfants nomm\u00e9s X \u00c6 A-Xii, Exa Dark Sider\u00e6l et Techno Mechanicus. Non, vraiment \u2013 Musk voulait autrefois tweeter une blague sur le \u00ab\u00a0Basilic de Roko\u00a0\u00bb, une exp\u00e9rience de pens\u00e9e sur l\u2019intelligence artificielle qui a \u00e9t\u00e9 initialement publi\u00e9e sur LessWrong, le blog et le forum communautaire de Yudkowsky. Mais, comme il s\u2019est av\u00e9r\u00e9, Grimes avait d\u00e9j\u00e0 fait la m\u00eame blague sur un \u00ab\u00a0Basilic Rococo\u00a0\u00bb dans le clip de sa chanson \u00ab\u00a0Flesh Without Blood\u00a0\u00bb.<\/p>\n<p>HPMOR est litt\u00e9ralement un outil de recrutement pour le mouvement rationaliste, qui trouve son foyer virtuel sur LessWrong de Yudkowsky. \u00c0 travers une histoire divertissante, Yudkowsky utilise le monde familier de Harry Potter pour illustrer l\u2019id\u00e9ologie rationaliste, montrant comment Harry lutte contre ses biais cognitifs pour devenir un r\u00e9solveur de probl\u00e8mes expert. Lors d\u2019un affrontement final entre Harry et le professeur Quirrell \u2013 son mentor en rationalisme qui se r\u00e9v\u00e8le \u00eatre mal\u00e9fique \u2013 Yudkowsky a bris\u00e9 le quatri\u00e8me mur et a donn\u00e9 \u00e0 ses lecteurs un \u00ab\u00a0examen final\u00a0\u00bb. En tant que communaut\u00e9, les lecteurs devaient soumettre des th\u00e9ories rationalistes expliquant comment Harry pouvait se sortir d\u2019une situation fatale. Heureusement, pour le bien des fins heureuses, la communaut\u00e9 a r\u00e9ussi.<\/p>\n<p>Mais la morale de HPMOR n\u2019est pas seulement d\u2019\u00eatre un meilleur rationaliste, ou d\u2019\u00eatre \u00ab\u00a0moins faux\u00a0\u00bb que possible.<\/p>\n<p>\u00ab\u00a0Pour moi, une grande partie de HPMOR concerne la fa\u00e7on dont la rationalit\u00e9 peut vous rendre incroyablement efficace, mais \u00eatre incroyablement efficace peut toujours \u00eatre incroyablement mal\u00e9fique\u00a0\u00bb, m\u2019a dit mon seul autre ami qui a lu HPMOR. \u00ab\u00a0J\u2019ai l\u2019impression que le point central de HPMOR est que la rationalit\u00e9 est sans importance \u00e0 la fin de la journ\u00e9e si votre alignement est mauvais\u00a0\u00bb.<\/p>\n<p>Mais, bien s\u00fbr, nous ne pouvons pas tous \u00eatre d\u2019accord sur une d\u00e9finition commune du bien et du mal. Cela nous ram\u00e8ne aux bouleversements chez OpenAI, une entreprise qui cherche \u00e0 construire une IA plus intelligente que les humains. OpenAI veut aligner cette intelligence artificielle g\u00e9n\u00e9rale (AGI) sur les valeurs humaines (comme la valeur humaine de ne pas \u00eatre tu\u00e9 lors d\u2019un \u00e9v\u00e9nement apocalyptique provoqu\u00e9 par l\u2019IA), mais il se trouve que cette \u00ab\u00a0recherche sur l\u2019alignement\u00a0\u00bb est la sp\u00e9cialit\u00e9 de Yudkowsky.<\/p>\n<p>En mars, des milliers de personnalit\u00e9s notables de l\u2019IA ont sign\u00e9 une lettre ouverte demandant \u00e0 tous les \u00ab\u00a0laboratoires d\u2019IA de suspendre imm\u00e9diatement leurs activit\u00e9s pendant au moins 6 mois\u00a0\u00bb.<\/p>\n<p>Les signataires comprenaient des ing\u00e9nieurs de Meta et de Google, des fondateurs de Skype, Getty Images et Pinterest, le fondateur de Stability AI Emad Mostaque, Steve Wozniak et m\u00eame Elon Musk, co-fondateur d\u2019OpenAI qui a d\u00e9missionn\u00e9 en 2018. Mais Yudkowsky n\u2019a pas sign\u00e9 la lettre et a plut\u00f4t \u00e9crit <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/time.com\/6266923\/ai-eliezer-yudkowsky-open-letter-not-enough\/\">une tribune dans le magazine TIME<\/a> pour soutenir qu\u2019une pause de six mois n\u2019\u00e9tait pas suffisamment radicale.<\/p>\n<p>\u00ab\u00a0Si quelqu\u2019un construit une IA trop puissante, dans les conditions actuelles, je m\u2019attends \u00e0 ce que chaque membre de l\u2019esp\u00e8ce humaine et toute vie biologique sur Terre meurent peu de temps apr\u00e8s\u00a0\u00bb, a \u00e9crit Yudkowsky. \u00ab\u00a0Il n\u2019y a aucun plan propos\u00e9 pour comment nous pourrions faire une telle chose et survivre. L\u2019intention ouvertement d\u00e9clar\u00e9e d\u2019OpenAI est de faire en sorte qu\u2019une future IA fasse nos devoirs d\u2019alignement de l\u2019IA. Le simple fait d\u2019entendre que <em>voil\u00e0 le plan<\/em> devrait suffire \u00e0 faire paniquer toute personne sens\u00e9e. L\u2019autre grand laboratoire d\u2019IA, DeepMind, n\u2019a aucun plan du tout.\u00a0\u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_differentes_croyances_autour_de_lIA\"><\/span>Les diff\u00e9rentes croyances autour de l\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Alors que Yudkowsky plaide pour une approche pessimiste en ce qui concerne l\u2019IA, la crise de leadership chez OpenAI a mis en lumi\u00e8re la grande vari\u00e9t\u00e9 de croyances diff\u00e9rentes sur la fa\u00e7on de naviguer dans une technologie qui est potentiellement une menace existentielle.<\/p>\n<p>En tant que PDG int\u00e9rimaire d\u2019OpenAI, Shear \u2013 d\u00e9sormais l\u2019une des personnes les plus puissantes au monde, et non pas un attrapeur de Quidditch dans une fanfiction \u2013 publie des m\u00e8mes sur les diff\u00e9rentes factions du d\u00e9bat sur l\u2019IA.<\/p>\n<p>Il y a les techno-optimistes, qui soutiennent la croissance de la technologie \u00e0 tout prix, car ils pensent que tous les probl\u00e8mes caus\u00e9s par cette mentalit\u00e9 de \u00ab\u00a0croissance \u00e0 tout prix\u00a0\u00bb seront r\u00e9solus par la technologie elle-m\u00eame. Ensuite, il y a les acc\u00e9l\u00e9rationnistes efficaces (e\/acc), qui semblent \u00eatre un peu comme les techno-optimistes, mais avec davantage de discours sur la fa\u00e7on dont la croissance \u00e0 tout prix est le seul chemin \u00e0 suivre, car le deuxi\u00e8me principe de la thermodynamique le dit. Les \u00ab\u00a0safetyists\u00a0\u00bb (ou \u00ab\u00a0decels\u00a0\u00bb) soutiennent la croissance de la technologie, mais seulement d\u2019une mani\u00e8re r\u00e9glement\u00e9e et s\u00fbre (pendant ce temps, dans son \u00ab\u00a0manifeste techno-optimiste\u00a0\u00bb, le capital-risqueur Marc Andreessen d\u00e9nonce \u00ab\u00a0la confiance et la s\u00e9curit\u00e9\u00a0\u00bb et \u00ab\u00a0l\u2019\u00e9thique technologique\u00a0\u00bb comme ses ennemis). Et puis il y a les \u00ab\u00a0doomers\u00a0\u00bb, qui pensent que lorsque l\u2019IA nous surpassera, elle nous tuera tous.<\/p>\n<p>Yudkowsky est un leader parmi les \u00ab\u00a0doomers\u00a0\u00bb, et il fait partie des personnes qui ont pass\u00e9 les derni\u00e8res d\u00e9cennies \u00e0 fr\u00e9quenter ce qui semble \u00eatre la moiti\u00e9 du conseil d\u2019administration d\u2019OpenAI. Une th\u00e9orie populaire sur le limogeage d\u2019Altman est que le conseil souhaitait nommer quelqu\u2019un qui se rapprochait davantage de ses valeurs \u00ab\u00a0decels\u00a0\u00bb. Ainsi, entre en jeu Shear, que l\u2019on sait \u00eatre inspir\u00e9 par Yudkowsky et qui se consid\u00e8re \u00e9galement comme un \u00ab\u00a0doomer\u00a0\u00bb et un \u00ab\u00a0safetyist\u00a0\u00bb.<\/p>\n<p>Nous ne savons toujours pas ce qui se passe chez OpenAI, et l\u2019histoire semble changer toutes les 10 secondes. Pour l\u2019instant, les cercles technologiques sur les r\u00e9seaux sociaux continuent de se battre sur l\u2019id\u00e9ologie decel versus e\/acc, en utilisant le chaos chez OpenAI comme toile de fond pour \u00e9tayer leurs arguments. Et au milieu de tout cela, je ne peux m\u2019emp\u00eacher de trouver fascinant que, si l\u2019on regarde de plus pr\u00e8s, tout cela remonte \u00e0 une fanfiction de Harry Potter vraiment ennuyeuse.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":8102,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-8100","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/8100","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/comments?post=8100"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/8100\/revisions"}],"predecessor-version":[{"id":8101,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/8100\/revisions\/8101"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media\/8102"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media?parent=8100"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/categories?post=8100"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/tags?post=8100"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}