Découvrez les recommandations-chocs d’Amba Kak pour contrer les inquiétudes liées à l’IA !

Des femmes qui ont contribué à la révolution de l’IA

Pour donner aux femmes universitaires spécialistes de l’IA et à d’autres la reconnaissance qu’elles méritent depuis longtemps, nous lance une série d’entretiens mettant en avant des femmes remarquables qui ont contribué à la révolution de l’IA. Nous publierons plusieurs articles tout au long de l’année alors que le boom de l’IA se poursuit, mettant en lumière des travaux clés qui passent souvent inaperçus. Lire d’autres profils ici.

Amba Kak est la directrice exécutive de l’AI Now Institute, où elle aide à formuler des recommandations politiques pour faire face aux préoccupations liées à l’IA. Elle a également été conseillère principale en IA à la Federal Trade Commission et a précédemment travaillé en tant que conseillère politique mondiale chez Mozilla et conseillère juridique auprès du régulateur des télécommunications de l’Inde sur la neutralité du net.

Brièvement, comment avez-vous commencé dans le domaine de l’IA ? Qu’est-ce qui vous a attiré dans ce domaine ?

C’est une question complexe car « IA » est un terme à la mode pour décrire des pratiques et des systèmes qui évoluent depuis longtemps maintenant ; je travaille sur la politique technologique depuis plus d’une décennie et dans plusieurs parties du monde et j’ai assisté à une époque où tout tournait autour des « big data », puis tout est devenu axé sur l’IA. Mais les problèmes fondamentaux qui nous préoccupaient – comment les technologies et les économies basées sur les données impactent la société – restent les mêmes.

J’ai été attirée par ces questions dès mes études de droit en Inde, où, au milieu de décennies, voire de siècles, de précédents, il était motivant de travailler dans un domaine où les questions « pré-politiques », les questions normatives sur le monde que nous voulons, le rôle que la technologie doit y jouer, restent ouvertes et contestables. À l’échelle mondiale, à l’époque, le grand débat portait sur la possibilité de réglementer Internet au niveau national (ce qui semble maintenant très évident, oui !), et en Inde, il y avait de vifs débats sur le fait qu’une base de données biométriques regroupant l’ensemble de la population créait un vecteur dangereux de contrôle social. Face aux récits d’inévitabilité autour de l’IA et de la technologie, je pense que la réglementation et le plaidoyer peuvent être des outils puissants pour façonner les trajectoires technologiques au service de l’intérêt public plutôt que des bénéfices des entreprises ou simplement des intérêts de ceux qui détiennent le pouvoir dans la société. Bien sûr, au fil des années, j’ai également appris que la réglementation est souvent entièrement cooptée par ces intérêts aussi et peut souvent servir à maintenir le statu quo plutôt qu’à le remettre en question. C’est donc le travail à réaliser !

Quel travail êtes-vous le plus fier dans le domaine de l’IA ?

Notre rapport sur le paysage de l’IA en 2023 a été publié en avril au milieu d’un crescendo d’enthousiasme pour l’IA alimenté par chatGPT – il s’agissait en partie d’un diagnostic sur ce qui devrait nous inquiéter dans l’économie de l’IA, en partie d’un manifeste orienté vers l’action destiné à la communauté de la société civile dans son ensemble. Il répondait à un moment où à la fois le diagnostic et les actions à entreprendre faisaient cruellement défaut, et à leur place se trouvaient des récits sur l’omniscience et l’inévitabilité de l’IA. Nous avons souligné que le boom de l’IA renforçait davantage la concentration du pouvoir au sein d’une section très étroite de l’industrie technologique, et je pense que nous avons réussi à percer à travers le battage médiatique pour recentrer l’attention sur les impacts de l’IA sur la société et sur l’économie… sans supposer que tout cela était inévitable.

Plus tard dans l’année, nous avons pu amener cet argument devant un groupe de dirigeants gouvernementaux et de hauts responsables de l’IA lors du UK AI Safety Summit, où j’étais l’une des trois voix de la société civile représentant l’intérêt public. Cela a été une leçon pour comprendre le pouvoir d’un contre-récit convaincant qui recentre l’attention lorsque l’on est facilement emporté par des récits sélectionnés et souvent intéressés de l’industrie technologique.

Comment naviguez-vous dans les défis de l’industrie technologique dominée par les hommes et, par extension, de l’industrie de l’IA dominée par les hommes ?

L’industrie technologique, et en particulier l’IA, reste majoritairement blanche et masculine et géographiquement concentrée dans des bulles urbaines très riches. Mais j’aime redéfinir le problème de la domination des hommes dans l’IA non seulement parce qu’il est maintenant bien connu, mais aussi parce qu’il peut parfois donner l’illusion de solutions rapides ou d’un théâtre de la diversité qui, à eux seuls, ne résoudront pas les inégalités structurelles et les déséquilibres de pouvoir inhérents au fonctionnement actuel de l’industrie technologique. Cela ne résout pas le « solutionnisme » profondément enraciné responsable de nombreuses utilisations néfastes ou exploiteuses de la technologie.

La véritable question à laquelle nous devons faire face est la création d’un petit groupe d’entreprises et, au sein de celles-ci, d’une poignée d’individus qui ont accumulé un accès sans précédent au capital, aux réseaux et au pouvoir, récoltant les bénéfices du modèle économique de la surveillance qui a alimenté la dernière décennie d’Internet. Et cette concentration de pouvoir est susceptible de s’aggraver encore davantage avec l’IA. Ces individus agissent en toute impunité, même si les plateformes et les infrastructures qu’ils contrôlent ont des impacts sociaux et économiques considérables.

Comment naviguons-nous dans tout cela ? En exposant les dynamiques de pouvoir que l’industrie technologique s’efforce de dissimuler. Nous parlons des incitations, des infrastructures, des marchés du travail et de l’environnement qui alimentent ces vagues technologiques et façonnent la direction qu’elles prendront. C’est ce que nous faisons depuis près d’une décennie chez AI Now, et lorsque nous le faisons bien, il est difficile pour les décideurs politiques et le public de détourner le regard – créant ainsi des contre-récits et des imaginaires alternatifs pour le rôle approprié de la technologie au sein de la société.

Quels conseils donneriez-vous aux femmes qui souhaitent entrer dans le domaine de l’IA ?

Pour les femmes, mais aussi pour d’autres identités minorisées ou perspectives cherchant à formuler des critiques en dehors de l’industrie de l’IA, le meilleur conseil que je puisse donner est de tenir bon. Il s’agit d’un domaine qui tentera régulièrement et systématiquement de discréditer les critiques, en particulier lorsqu’elles ne proviennent pas de milieux traditionnellement STEM – et c’est facile à faire étant donné que l’IA est une industrie si opaque qui peut vous donner l’impression d’être toujours en train de vous battre depuis l’extérieur. Même lorsque vous êtes dans le domaine depuis des décennies comme moi, de puissantes voix de l’industrie chercheront à vous discréditer, ainsi que vos critiques valables, simplement parce que vous remettez en question le statu quo.

Vous et moi avons autant voix au chapitre que Sam Altman dans le futur de l’IA, car ces technologies auront un impact sur nous tous et pourraient potentiellement avoir un impact disproportionné sur les personnes aux identités minorisées de manière préjudiciable. En ce moment, nous nous battons pour savoir qui peut revendiquer l’expertise et l’autorité en matière de technologie au sein de la société… nous devons donc vraiment revendiquer cet espace et tenir bon.