{"id":9172,"date":"2023-12-31T11:42:56","date_gmt":"2023-12-31T09:42:56","guid":{"rendered":"https:\/\/toukiela.com\/cette-semaine-en-ia-lethique-de-lia-continue-de-passer-a-la-trappe\/"},"modified":"2023-12-31T11:42:57","modified_gmt":"2023-12-31T09:42:57","slug":"cette-semaine-en-ia-lethique-de-lia-continue-de-passer-a-la-trappe","status":"publish","type":"post","link":"https:\/\/toukiela.com\/en\/cette-semaine-en-ia-lethique-de-lia-continue-de-passer-a-la-trappe\/","title":{"rendered":"Cette semaine en IA : l’\u00e9thique de l’IA continue de passer \u00e0 la trappe"},"content":{"rendered":"

<\/em><\/p>\n

Les dangers de l\u2019IA g\u00e9n\u00e9rative<\/h2>\n

<\/p>\n

Un titre dans l\u2019actualit\u00e9 a attir\u00e9 mon attention ce matin : \u00ab\u00a0Des g\u00e9n\u00e9rateurs d\u2019images IA sont entra\u00een\u00e9s sur des photos explicites d\u2019enfants\u00a0\u00bb. L\u2019histoire r\u00e9v\u00e8le que LAION, un ensemble de donn\u00e9es utilis\u00e9 pour former de nombreux g\u00e9n\u00e9rateurs d\u2019images IA populaires en open source et commerciaux, contient des milliers d\u2019images de soup\u00e7ons de s\u00e9vices sexuels sur des enfants. Un groupe de surveillance bas\u00e9 \u00e0 Stanford a travaill\u00e9 avec des organisations de lutte contre les abus pour identifier le mat\u00e9riel ill\u00e9gal et signaler les liens aux autorit\u00e9s comp\u00e9tentes.<\/p>\n

<\/p>\n

LAION, une organisation \u00e0 but non lucratif, a retir\u00e9 ses donn\u00e9es d\u2019entra\u00eenement et s\u2019est engag\u00e9e \u00e0 supprimer les contenus offensants avant de les republier. Cet incident souligne le peu de r\u00e9flexion qui est accord\u00e9e aux produits IA g\u00e9n\u00e9ratifs alors que les pressions concurrentielles augmentent.<\/p>\n

<\/p>\n

Gr\u00e2ce \u00e0 la prolif\u00e9ration d\u2019outils de cr\u00e9ation de mod\u00e8les IA sans code, il est de plus en plus facile de former des IA g\u00e9n\u00e9ratives sur n\u2019importe quel ensemble de donn\u00e9es imaginable. Cela pr\u00e9sente des avantages pour les start-ups et les g\u00e9ants de la technologie qui peuvent ainsi mettre ces mod\u00e8les sur le march\u00e9 plus rapidement. Cependant, avec une barri\u00e8re \u00e0 l\u2019entr\u00e9e plus basse, vient la tentation de mettre de c\u00f4t\u00e9 l\u2019\u00e9thique au profit d\u2019un chemin acc\u00e9l\u00e9r\u00e9 vers le march\u00e9.<\/p>\n

<\/p>\n

L\u2019\u00e9thique est difficile \u2013 il n\u2019y a pas de doute l\u00e0-dessus. Parcourir les milliers d\u2019images probl\u00e9matiques de LAION, pour prendre l\u2019exemple de cette semaine, ne se fera pas du jour au lendemain. Et id\u00e9alement, le d\u00e9veloppement \u00e9thique de l\u2019IA implique de travailler avec toutes les parties prenantes pertinentes, y compris les organisations qui repr\u00e9sentent les groupes souvent marginalis\u00e9s et affect\u00e9s de mani\u00e8re n\u00e9gative par les syst\u00e8mes IA.<\/p>\n

<\/p>\n

L\u2019industrie regorge d\u2019exemples de d\u00e9cisions de mise en \u0153uvre de l\u2019IA prises en pensant aux actionnaires, et non aux \u00e9thiciens. Prenons par exemple Bing Chat (maintenant Microsoft Copilot), le chatbot aliment\u00e9 par l\u2019IA de Microsoft, qui lors de son lancement a compar\u00e9 un journaliste \u00e0 Hitler et insult\u00e9 son apparence. En octobre, ChatGPT et Bard, les concurrents de Google, donnaient toujours des conseils m\u00e9dicaux racistes et obsol\u00e8tes. Et la derni\u00e8re version du g\u00e9n\u00e9rateur d\u2019images DALL-E d\u2019OpenAI montre des preuves d\u2019anglocentrisme.<\/p>\n

<\/p>\n

Il est donc \u00e9vident que des pr\u00e9judices sont caus\u00e9s dans la poursuite de la sup\u00e9riorit\u00e9 de l\u2019IA, du moins selon Wall Street. Peut-\u00eatre qu\u2019avec l\u2019adoption des r\u00e9glementations de l\u2019IA de l\u2019UE, qui menacent de sanctions en cas de non-respect de certaines r\u00e8gles de s\u00e9curit\u00e9 de l\u2019IA, il y a un espoir \u00e0 l\u2019horizon. Mais le chemin \u00e0 parcourir est encore long.<\/p>\n

<\/p>\n

Autres nouvelles en IA<\/h2>\n

<\/p>\n

Voici quelques autres actualit\u00e9s int\u00e9ressantes de ces derniers jours :<\/p>\n

<\/p>\n

Pr\u00e9dictions pour l\u2019IA en 2024 :<\/strong> Devin pr\u00e9sente ses pr\u00e9dictions pour l\u2019IA en 2024, abordant notamment l\u2019impact de l\u2019IA sur les \u00e9lections primaires aux \u00c9tats-Unis et ce qui attend OpenAI.<\/p>\n

<\/p>\n

Contre la pseudanthropie :<\/strong> Devin sugg\u00e8re \u00e9galement d\u2019interdire \u00e0 l\u2019IA d\u2019imiter le comportement humain.<\/p>\n

<\/p>\n

Microsoft Copilot se met \u00e0 la cr\u00e9ation musicale :<\/strong> Copilot, le chatbot aliment\u00e9 par l\u2019IA de Microsoft, peut d\u00e9sormais composer des chansons gr\u00e2ce \u00e0 une int\u00e9gration avec l\u2019application musicale GenAI Suno.<\/p>\n

<\/p>\n

Fin de la reconnaissance faciale chez Rite Aid :<\/strong> Rite Aid a \u00e9t\u00e9 interdit d\u2019utiliser la technologie de reconnaissance faciale pendant cinq ans apr\u00e8s que la Federal Trade Commission ait constat\u00e9 que l\u2019utilisation \u00ab\u00a0irresponsable\u00a0\u00bb des syst\u00e8mes de surveillance faciale par le g\u00e9ant am\u00e9ricain de la pharmacie a humili\u00e9 les clients et mis leurs informations sensibles en danger.<\/p>\n

<\/p>\n

L\u2019UE offre des ressources informatiques :<\/strong> L\u2019UE \u00e9largit son plan, annonc\u00e9 pour la premi\u00e8re fois en septembre et lanc\u00e9 le mois dernier, visant \u00e0 soutenir les start-ups d\u2019IA nationales en leur fournissant un acc\u00e8s \u00e0 la puissance de traitement pour la formation de mod\u00e8les sur les supercalculateurs de l\u2019Union.<\/p>\n

<\/p>\n

OpenAI donne de nouveaux pouvoirs au conseil d\u2019administration :<\/strong> OpenAI renforce ses processus internes de s\u00e9curit\u00e9 pour contrer la menace d\u2019une IA nocive. Un nouveau \u00ab\u00a0groupe consultatif sur la s\u00e9curit\u00e9\u00a0\u00bb si\u00e9gera au-dessus des \u00e9quipes techniques et fera des recommandations \u00e0 la direction, et le conseil d\u2019administration s\u2019est vu accorder un droit de veto.<\/p>\n

<\/p>\n

Questions-r\u00e9ponses avec Ken Goldberg de l\u2019UC Berkeley :<\/strong> Brian s\u2019est entretenu avec Ken Goldberg, professeur \u00e0 l\u2019UC Berkeley, fondateur de start-up et sp\u00e9cialiste de la robotique, pour discuter des robots humano\u00efdes et des tendances plus larges de l\u2019industrie de la robotique.<\/p>\n

<\/p>\n

Les DSI adoptent prudemment la GenAI :<\/strong> Ron explique que, bien que les DSI soient sous pression pour offrir des exp\u00e9riences similaires \u00e0 celles propos\u00e9es par ChatGPT en ligne, la plupart adoptent une approche d\u00e9lib\u00e9r\u00e9e et prudente de l\u2019adoption de cette technologie pour l\u2019entreprise.<\/p>\n

<\/p>\n

Les \u00e9diteurs de presse poursuivent Google pour l\u2019IA :<\/strong> Une action collective intent\u00e9e par plusieurs \u00e9diteurs de presse accuse Google de \u00ab\u00a0siphonner\u00a0\u00bb les contenus d\u2019actualit\u00e9s par des moyens anticoncurrentiels, notamment gr\u00e2ce \u00e0 des technologies d\u2019IA comme le Search Generative Experience (SGE) de Google et le chatbot Bard.<\/p>\n

<\/p>\n

OpenAI signe un accord avec Axel Springer :<\/strong> En parlant d\u2019\u00e9diteurs, OpenAI a conclu un accord avec Axel Springer, le propri\u00e9taire berlinois de publications telles que Business Insider et Politico, pour former ses mod\u00e8les d\u2019IA g\u00e9n\u00e9rative sur le contenu de l\u2019\u00e9diteur et ajouter des articles r\u00e9cents publi\u00e9s par Axel Springer \u00e0 ChatGPT.<\/p>\n

<\/p>\n

Google \u00e9tend Gemini \u00e0 davantage de produits :<\/strong> Google a int\u00e9gr\u00e9 ses mod\u00e8les Gemini \u00e0 plus de ses produits et services, notamment sa plateforme de d\u00e9veloppement d\u2019IA g\u00e9r\u00e9e Vertex AI et AI Studio, l\u2019outil de cr\u00e9ation d\u2019exp\u00e9riences bas\u00e9es sur l\u2019IA de l\u2019entreprise.<\/p>\n

<\/p>\n

Plus de d\u00e9couvertes en apprentissage automatique<\/h2>\n

<\/p>\n

La recherche la plus folle (et la plus facile \u00e0 mal interpr\u00e9ter) de la semaine ou des deux derni\u00e8res semaines doit \u00eatre life2vec<\/a>, une \u00e9tude danoise qui utilise d\u2019innombrables donn\u00e9es sur la vie d\u2019une personne pour pr\u00e9dire \u00e0 quoi elle ressemble et quand elle mourra. En gros !<\/p>\n

<\/p>\n

\n

Visualisation de la repr\u00e9sentation de life2vec des diff\u00e9rents concepts et \u00e9v\u00e9nements de la vie pertinents. Image credits :<\/strong> Lehmann et al.<\/p>\n<\/div>\n

<\/p>\n

L\u2019\u00e9tude ne pr\u00e9tend pas avoir une pr\u00e9cision oraculaire, mais elle montre plut\u00f4t que si nos vies sont le r\u00e9sultat de nos exp\u00e9riences, ces parcours peuvent \u00eatre extrapol\u00e9s en utilisant les techniques d\u2019apprentissage automatique actuelles. En tenant compte de l\u2019\u00e9ducation, du travail, de la sant\u00e9, des loisirs et d\u2019autres facteurs, on peut raisonnablement pr\u00e9dire non seulement si quelqu\u2019un est, par exemple, introverti ou extraverti, mais aussi comment ces facteurs peuvent influencer l\u2019esp\u00e9rance de vie. Nous n\u2019en sommes pas encore \u00e0 la pr\u00e9diction des crimes, mais vous pouvez parier que les compagnies d\u2019assurance sont impatientes d\u2019obtenir une licence pour ces travaux.<\/p>\n

<\/p>\n

Une autre grande avanc\u00e9e a \u00e9t\u00e9 r\u00e9alis\u00e9e par des scientifiques de la CMU qui ont cr\u00e9\u00e9 un syst\u00e8me appel\u00e9 Coscientist, un assistant bas\u00e9 sur l\u2019IA pour les chercheurs qui peut effectuer de nombreuses t\u00e2ches de laboratoire de mani\u00e8re autonome. Il est actuellement limit\u00e9 \u00e0 certains domaines de la chimie, mais comme les scientifiques, les mod\u00e8les comme celui-ci seront des sp\u00e9cialistes.<\/p>\n

<\/p>\n

Gabe Gomes, chercheur principal, a d\u00e9clar\u00e9 \u00e0 Nature<\/a> : \u00ab\u00a0Le moment o\u00f9 j\u2019ai vu une intelligence non organique \u00eatre capable de planifier, de concevoir et d\u2019ex\u00e9cuter de mani\u00e8re autonome une r\u00e9action chimique invent\u00e9e par des humains, c\u2019\u00e9tait incroyable. C\u2019\u00e9tait un moment de \u00ab\u00a0oh la vache\u00a0\u00bb. Fondamentalement, il utilise un LLM comme GPT-4, affin\u00e9 sur des documents de chimie, pour identifier les r\u00e9actions, les r\u00e9actifs et les proc\u00e9dures courants et les ex\u00e9cuter. Ainsi, vous n\u2019avez pas besoin de dire \u00e0 un technicien de laboratoire de synth\u00e9tiser quatre lots d\u2019un catalyseur \u2013 l\u2019IA peut le faire, et vous n\u2019avez m\u00eame pas besoin de lui tenir la main.<\/p>\n

<\/p>\n

Les chercheurs en IA de Google ont \u00e9galement eu une semaine charg\u00e9e, explorant quelques domaines d\u2019avant-garde int\u00e9ressants. FunSearch<\/a> peut sembler \u00eatre Google pour les enfants, mais cela signifie en r\u00e9alit\u00e9 recherche de fonctions, qui, comme Coscientist, est capable de faire et d\u2019aider \u00e0 faire des d\u00e9couvertes math\u00e9matiques. Fait int\u00e9ressant, pour \u00e9viter les hallucinations, cela utilise une paire de mod\u00e8les d\u2019IA similaires \u00e0 l\u2019architecture \u00ab\u00a0ancienne\u00a0\u00bb des GAN. L\u2019un th\u00e9orise, l\u2019autre \u00e9value.<\/p>\n

<\/p>\n

Bien que FunSearch ne fasse pas de nouvelles d\u00e9couvertes r\u00e9volutionnaires, il peut prendre ce qui existe d\u00e9j\u00e0 et l\u2019affiner ou le r\u00e9appliquer dans de nouveaux domaines. Ainsi, une fonction utilis\u00e9e dans un domaine mais dont un autre domaine n\u2019est pas conscient pourrait \u00eatre utilis\u00e9e pour am\u00e9liorer un algorithme standard de l\u2019industrie.<\/p>\n

<\/p>\n

StyleDrop<\/a> est un outil pratique pour les personnes souhaitant reproduire certains styles via des images g\u00e9n\u00e9ratives. Le probl\u00e8me (comme le voient les chercheurs) est que si vous avez un style en t\u00eate (disons \u00ab\u00a0pastel\u00a0\u00bb) et que vous le d\u00e9crivez, le mod\u00e8le aura trop de sous-styles de \u00ab\u00a0pastel\u00a0\u00bb parmi lesquels choisir, ce qui rendra les r\u00e9sultats impr\u00e9visibles. StyleDrop vous permet de fournir un exemple du style auquel vous pensez, et le mod\u00e8le se basera sur cela \u2013 c\u2019est essentiellement un ajustement fin super efficace.<\/p>\n

<\/p>\n

\n

Image credits :<\/strong> Google<\/p>\n<\/div>\n

<\/p>\n

L\u2019article de blog et l\u2019\u00e9tude montrent que le mod\u00e8le est assez robuste, capable d\u2019appliquer un style provenant de n\u2019importe quelle image, qu\u2019il s\u2019agisse d\u2019une photo, d\u2019une peinture, d\u2019un paysage urbain ou d\u2019un portrait de chat, \u00e0 n\u2019importe quel autre type d\u2019image, m\u00eame l\u2019alphabet (notoirement difficile pour certaines raisons).<\/p>\n

<\/p>\n

Google avance \u00e9galement dans le domaine des jeux vid\u00e9o g\u00e9n\u00e9ratifs avec VideoPoet, qui utilise une base LLM (comme tout le reste de nos jours\u2026 que voulez-vous utiliser d\u2019autre ?) pour effectuer diverses t\u00e2ches vid\u00e9o, telles que la transformation de texte ou d\u2019images en vid\u00e9o, l\u2019extension ou la stylisation de vid\u00e9os existantes, etc. Le d\u00e9fi ici, comme le montre chaque projet, n\u2019est pas simplement de cr\u00e9er une s\u00e9rie d\u2019images qui se rapportent les unes aux autres, mais de les rendre coh\u00e9rentes sur de plus longues p\u00e9riodes (plus d\u2019une seconde) et avec de grands mouvements et changements.<\/p>\n

<\/p>\n

\n

Image credits :<\/strong> Google<\/p>\n<\/div>\n

<\/p>\n

VideoPoet<\/a> semble faire progresser les choses, bien que les r\u00e9sultats soient encore assez \u00e9tranges. Mais c\u2019est ainsi que les choses \u00e9voluent : d\u2019abord, elles sont insuffisantes, puis elles sont \u00e9tranges, puis elles sont d\u00e9routantes. On suppose qu\u2019elles laissent place \u00e0 quelque chose de d\u00e9routant \u00e0 un moment donn\u00e9, mais personne n\u2019est vraiment arriv\u00e9 l\u00e0 pour le moment.<\/p>\n

<\/p>\n

Dans le domaine pratique, des chercheurs suisses ont appliqu\u00e9 des mod\u00e8les d\u2019IA \u00e0 la mesure de la neige. Normalement, on se fie aux stations m\u00e9t\u00e9orologiques, mais elles peuvent \u00eatre \u00e9loign\u00e9es et nous disposons de toutes ces belles donn\u00e9es satellites, n\u2019est-ce pas ? Exactement. L\u2019\u00e9quipe de l\u2019ETHZ a donc utilis\u00e9 des images satellites publiques de la constellation Sentinel-2, mais comme le dit Konrad Schindler, chef de file, \u00ab\u00a0il ne suffit pas de regarder les zones blanches sur les images satellites pour savoir imm\u00e9diatement \u00e0 quelle profondeur se trouve la neige\u00a0\u00bb.<\/p>\n

<\/p>\n

Alors ils ont int\u00e9gr\u00e9 des donn\u00e9es topographiques pour tout le pays provenant de leur Office f\u00e9d\u00e9ral de topographie (comme notre USGS) et ont form\u00e9 le syst\u00e8me \u00e0 estimer non seulement en se basant sur les zones blanches des images, mais aussi sur des donn\u00e9es de r\u00e9f\u00e9rence et des tendances comme les sch\u00e9mas de fonte. La technologie qui en r\u00e9sulte est commercialis\u00e9e par ExoLabs, que je vais contacter pour en savoir plus.<\/p>\n

<\/p>\n

Cependant, Stanford nous met en garde<\/a> \u2013 aussi puissantes que soient des applications telles que celles mentionn\u00e9es ci-dessus, il faut noter qu\u2019elles n\u2019impliquent pas beaucoup de biais humain. Lorsqu\u2019il s\u2019agit de sant\u00e9, cela devient soudainement un gros probl\u00e8me, et la sant\u00e9 est le domaine o\u00f9 de nombreux outils d\u2019IA sont test\u00e9s. Des chercheurs de Stanford ont montr\u00e9 que les mod\u00e8les d\u2019IA v\u00e9hiculent des \u00ab\u00a0st\u00e9r\u00e9otypes raciaux m\u00e9dicaux obsol\u00e8tes\u00a0\u00bb. GPT-4 ne sait pas si quelque chose est vrai ou non, il peut donc r\u00e9p\u00e9ter d\u2019anciennes affirmations discr\u00e9dit\u00e9es sur des groupes, par exemple que les personnes noires ont une capacit\u00e9 pulmonaire inf\u00e9rieure. Non ! Soyez prudents si vous travaillez avec des mod\u00e8les d\u2019IA dans le domaine de la sant\u00e9 et de la m\u00e9decine.<\/p>\n

<\/p>\n

Enfin, voici une courte histoire \u00e9crite par Bard avec un script de tournage et des indications, r\u00e9alis\u00e9e par VideoPoet. Attention, Pixar !<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":9174,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-9172","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/9172","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/comments?post=9172"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/9172\/revisions"}],"predecessor-version":[{"id":9173,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/9172\/revisions\/9173"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media\/9174"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media?parent=9172"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/categories?post=9172"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/tags?post=9172"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}