Découvrez si vous êtes plus « black » que ChatGPT avec ce quiz incroyable !

Un jeu de quiz met en lumière les biais de l’IA envers la culture noire

L’agence de publicité créative McKinney a développé un jeu de quiz appelé « Are You Blacker than ChatGPT? » pour mettre en lumière les biais de l’IA.

Le jeu teste les connaissances d’une personne sur la culture noire par rapport à ce que ChatGPT a appris sur la communauté noire. Il pose des questions telles que « Que signifie lorsque quelqu’un dit : ‘Pas trop sur eux, maintenant’ ? » et « Quelle est votre réponse si vous êtes invité à un événement ? » Lorsque j’ai fait le quiz, ChatGPT et moi avons donné la bonne réponse pour la première question : lorsque quelqu’un dit « pas trop sur eux », cela signifie généralement d’y aller doucement avec eux. Mais ChatGPT a échoué pour la deuxième question. Dans la communauté noire, la réponse stéréotypée lorsqu’on vous invite à un événement est : « Qui d’autre sera là ? » Mais ChatGPT a répondu : « Merci pour l’invitation ! »

« C’est intéressant parce qu’il est présenté comme ce bot qui sait tout, et c’est comme si tu ne savais pas tout, surtout en ce qui concerne les choses qui ne sont pas spécifiques aux blancs », a déclaré Meghan Woods, rédactrice chez McKinney et l’une des créatrices du jeu, à Toukiela.

Woods a déclaré que l’idée du quiz est apparue l’année dernière lors d’une séance de brainstorming créatif chez McKinney. Il a fallu un an à Woods et à une équipe dirigée par des personnes noires pour créer ce produit, dans le but de souligner de manière ludique le décalage de ChatGPT avec les utilisateurs noirs. Elle a souligné que le point aveugle de ChatGPT semble provenir du fait que de nombreux éléments de la culture noire ne sont pas nécessairement documentés en ligne ; ils sont transmis en personne ou de manière orale à travers les générations. Cela signifie que son algorithme passe à côté de nombreux détails lorsque le web est exploré à la recherche d’informations sur les personnes noires.

« Les zones d’ombre peuvent être assez bouleversantes », a déclaré Woods. « C’est assez dangereux. »

Le manque de diversité dans l’IA entraîne des biais culturels

L’IA est peut-être en plein essor, mais les femmes, les personnes noires et les personnes de couleur qui travaillent dans ce domaine ont depuis longtemps parlé d’être ignorées ou mises de côté. Le résultat est que l’innovation en matière d’IA se fait sans tenir compte des connaissances et des complexités culturelles qui la rendraient adaptée à différentes cultures. Dans les cas les plus extrêmes, le manque de diversité signifie que les voitures sont développées avec une IA qui ne peut pas détecter les peaux noires, ce qui entraîne un nombre croissant d’accidents. Dans d’autres cas, cela signifie simplement un chatbot qui ne peut pas distinguer une chanson de Whitney Houston d’une autre.

Gerald Carter, fondateur de Destined AI, une entreprise qui aide à détecter et à atténuer les biais de l’IA, a déclaré que le quiz de McKinney fait un bon travail en gamifiant et en sensibilisant davantage à ces lacunes de l’IA. « Beaucoup de subtilités peuvent être prises en compte en incluant des perspectives diverses à tous les niveaux », a-t-il déclaré. « Pour que l’IA atteigne son plein potentiel, elle doit fonctionner pour tout le monde, partout. »

La société mère de ChatGPT, OpenAI, a été critiquée pour le manque de diversité au sein de son conseil d’administration. Woods a déclaré qu’il ne semble pas que ChatGPT apprenne du quiz non plus, étant donné qu’il continue de donner les mêmes mauvaises réponses dans de nombreux cas. « Notre hypothèse est qu’il ne sera jamais capable de saisir pleinement bon nombre des choses que nous lui demandons. »

Nous avons contacté OpenAI pour obtenir un commentaire et nous mettrons à jour cet article lorsque nous aurons des nouvelles.

Carter a déclaré que ChatGPT pourrait mieux fonctionner pour plus de cultures en améliorant ses sources et en collectant des données plus inclusives. Une approche plus immédiate consiste à surveiller la dérive du modèle d’IA et à apporter des améliorations en utilisant des outils axés sur les perspectives culturelles.

Les constructeurs noirs et de couleur prennent des mesures pour une IA plus diversifiée

Tandis que les grandes entreprises travaillent à rendre l’IA utile pour tous, les constructeurs noirs et de couleur dans ce domaine ont pris les choses en main pour s’assurer que cette nouvelle vague d’IA est diverse.

Carter, par exemple, travaille avec des entreprises pour les aider à obtenir des données plus inclusives. Erin Reddick a créé ChatBlackGPT (sans lien avec OpenAI) pour offrir des perspectives plus approfondies sur la culture et l’histoire noires, et Tamar Huggins a levé 1,4 million de dollars pour son alternative à ChatGPT, appelée Spark Plug, qui traduit des textes de littérature classique en anglais vernaculaire afro-américain (AAVE).

« L’embauche, la rétention, s’assurer que les gens sont présents et ont leur mot à dire », a déclaré Woods, concernant ce qui doit être fait de plus pour rendre l’IA plus inclusive. « Je sais que cela peut sembler cliché, mais je pense que cela peut commencer à avoir un impact. »