Découvrez comment Miranda Bogen révolutionne l’IA avec ses solutions innovantes pour la gouvernance !

Donner la parole aux femmes universitaires spécialisées en intelligence artificielle

Pour donner aux femmes universitaires spécialisées en intelligence artificielle la reconnaissance qu’elles méritent depuis longtemps, Toukiela lance une série d’interviews mettant en avant des femmes remarquables qui ont contribué à la révolution de l’IA. Nous publierons plusieurs articles tout au long de l’année, alors que le boom de l’IA se poursuit, mettant en lumière des travaux clés souvent méconnus. Lire d’autres profils ici.

Miranda Bogen : directrice fondatrice du AI Governance Lab

Miranda Bogen est la directrice fondatrice du AI Governance Lab du Center for Democracy and Technology, où elle travaille pour aider à créer des solutions permettant de réglementer et de gouverner efficacement les systèmes d’IA. Elle a contribué à orienter les stratégies d’IA responsables chez Meta et a précédemment travaillé en tant qu’analyste politique principale au sein de l’organisation Upturn, qui vise à promouvoir l’équité et la justice dans la technologie.

Comment avez-vous commencé dans le domaine de l’IA ? Qu’est-ce qui vous a attiré dans ce domaine ?

J’ai été attirée par le travail sur l’apprentissage automatique et l’IA en voyant comment ces technologies se heurtaient à des conversations fondamentales sur la société – les valeurs, les droits et les communautés qui sont laissées pour compte. Mes premiers travaux explorant l’intersection entre l’IA et les droits civils m’ont convaincue que les systèmes d’IA ne sont pas simplement des artefacts techniques ; ce sont des systèmes qui façonnent et sont façonnés par leur interaction avec les individus, les bureaucraties et les politiques. J’ai toujours été capable de traduire entre des contextes techniques et non techniques, et j’ai été enthousiasmée par l’opportunité d’aider à percer la complexité technique pour permettre à différentes communautés d’expertise de façonner la construction de l’IA dès le départ.

Quel travail êtes-vous le plus fier d’avoir accompli dans le domaine de l’IA ?

Quand j’ai commencé à travailler dans ce domaine, de nombreuses personnes devaient encore être convaincues que les systèmes d’IA pouvaient entraîner des effets discriminatoires pour les populations marginalisées, sans parler du fait qu’il fallait faire quelque chose pour remédier à ces préjudices. Bien qu’il y ait encore un écart trop important entre le statu quo et un avenir où les biais et autres préjudices sont systématiquement traités, je suis heureuse que les recherches que mes collaborateurs et moi avons menées sur la discrimination dans la publicité en ligne personnalisée et mon travail au sein de l’industrie sur l’équité algorithmique aient contribué à des changements significatifs dans le système de diffusion des annonces de Meta et à des progrès dans la réduction des disparités d’accès à des opportunités économiques importantes.

Comment naviguez-vous dans les défis de l’industrie technologique dominée par les hommes et, par extension, de l’industrie de l’IA dominée par les hommes ?

J’ai eu la chance de travailler avec des collègues et des équipes exceptionnelles qui ont été généreux en termes d’opportunités et de soutien sincère, et nous avons essayé de transmettre cette énergie dans toutes les situations. Dans ma transition de carrière la plus récente, j’ai été ravie de constater que presque toutes mes options impliquaient de travailler avec des équipes ou au sein d’organisations dirigées par des femmes exceptionnelles, et j’espère que le secteur continuera à mettre en valeur les voix de celles qui n’ont pas traditionnellement été au centre des conversations axées sur la technologie.

Quels conseils donneriez-vous aux femmes qui cherchent à se lancer dans le domaine de l’IA ?

Les mêmes conseils que je donne à quiconque me le demande : trouvez des managers, des conseillers et des équipes qui vous soutiennent, vous inspirent, qui apprécient votre opinion et votre perspective, et qui se mettent en danger pour vous défendre, ainsi que votre travail.

Quels sont les problèmes les plus pressants auxquels l’IA est confrontée dans son évolution ?

Les impacts et les préjudices que les systèmes d’IA ont déjà sur les personnes sont bien connus à ce stade, et l’un des plus grands défis pressants est de passer de la simple description du problème à l’élaboration d’approches robustes pour aborder systématiquement ces préjudices et encourager leur adoption. Nous avons lancé le AI Governance Lab au CDT pour faire progresser les choses dans les deux sens.

Quels sont certains des problèmes dont les utilisateurs d’IA devraient être conscients ?

Dans l’ensemble, les systèmes d’IA manquent encore de ceintures de sécurité, d’airbags et de panneaux de signalisation, il est donc préférable de faire preuve de prudence avant de les utiliser pour des tâches importantes.

Quelle est la meilleure façon de construire de manière responsable l’IA ?

La meilleure façon de construire de manière responsable l’IA est d’adopter l’humilité. Réfléchissez à la manière dont le succès du système d’IA sur lequel vous travaillez a été défini, à qui cette définition sert et au contexte qui peut être manquant. Pensez à ceux pour qui le système pourrait échouer et à ce qui se passera si tel est le cas. Et construisez des systèmes non seulement avec les personnes qui les utiliseront, mais aussi avec les communautés qui en seront les sujets.

Comment les investisseurs peuvent-ils encourager de manière plus responsable l’IA ?

Les investisseurs doivent laisser aux constructeurs de technologies le temps de procéder de manière plus réfléchie avant de précipiter sur le marché des technologies peu abouties. La pression concurrentielle intense pour lancer les nouveaux modèles d’IA les plus récents, les plus grands et les plus brillants conduit à une préoccupation de sous-investissement dans des pratiques responsables. Bien que l’innovation sans entrave chante une chanson tentante, c’est un mirage qui laissera tout le monde dans une situation pire.

L’IA n’est pas de la magie ; c’est simplement un miroir qui est tenu devant la société. Si nous voulons qu’il reflète quelque chose de différent, nous avons du travail à faire.