OpenAI s’associe à Common Sense Media pour révolutionner les directives de l’IA – une collaboration sans précédent!

OpenAI s’associe avec Common Sense Media pour des directives sur l’IA pour les familles

OpenAI espère gagner la confiance des parents – et des décideurs politiques – en s’associant à des organisations qui travaillent à minimiser les dommages technologiques et médiatiques pour les enfants, les préadolescents et les adolescents.

À titre d’exemple, OpenAI a annoncé aujourd’hui un partenariat avec Common Sense Media, l’organisation à but non lucratif qui examine et classe la pertinence de divers médias et technologies pour les enfants, afin de collaborer sur des directives et des supports pédagogiques sur l’IA pour les parents, les éducateurs et les jeunes adultes.

Dans le cadre du partenariat, OpenAI travaillera avec Common Sense Media pour sélectionner des GPT (Générateur de Texte Prédictif) « adaptés à la famille » – des applications de chatbot alimentées par les modèles GenAI d’OpenAI – dans la GPT Store, le marché de GPT d’OpenAI, sur la base des critères de notation et d’évaluation de Common Sense, déclare Sam Altman, PDG d’OpenAI.

« L’IA offre d’incroyables avantages pour les familles et les adolescents, et notre partenariat avec Common Sense renforcera davantage notre travail de sécurité, garantissant que les familles et les adolescents peuvent utiliser nos outils en toute confiance », a ajouté Altman dans une déclaration préparée.

Un cadre pour évaluer la sécurité des applications d’IA

Le lancement du partenariat fait suite à l’annonce d’OpenAI selon laquelle elle participerait au nouveau cadre de Common Sense, lancé en septembre, pour l’évaluation et l’examen de la sécurité, de la transparence, de l’utilisation éthique et de l’impact des produits d’IA. Le cadre de Common Sense vise à produire une « étiquette nutritionnelle » pour les applications alimentées par l’IA, selon James Steyer, cofondateur et PDG de Common Sense, afin de mettre en lumière les contextes dans lesquels les applications sont utilisées et de mettre en évidence les domaines d’opportunité et de préjudice potentiels par rapport à un ensemble de principes de « bon sens ».

Dans un communiqué de presse, Steyer a fait allusion au fait que les parents d’aujourd’hui sont généralement moins informés sur les outils GenAI – par exemple, le chatbot alimenté par l’IA devenu viral de OpenAI, ChatGPT – que les générations plus jeunes. Un sondage d’Impact Research commandé par Common Sense Media à la fin de l’année dernière a révélé que 58% des élèves âgés de 12 à 18 ans ont utilisé ChatGPT, contre 30% des parents d’enfants d’âge scolaire.

« Ensemble, Common Sense et OpenAI travailleront pour s’assurer que l’IA a un impact positif sur tous les adolescents et les familles », a déclaré Steyer dans un communiqué envoyé par courrier électronique. « Nos guides et notre sélection seront conçus pour informer les familles et les éducateurs sur l’utilisation sûre et responsable des outils [OpenAI tels que] ChatGPT, afin que nous puissions collectivement éviter les conséquences indésirables de cette technologie émergente. »

La pression sur OpenAI pour prouver l’impact positif de ses applications IA

OpenAI est sous pression des régulateurs pour montrer que ses applications alimentées par GenAI, y compris ChatGPT, sont un avantage global pour la société – et non un préjudice. L’été dernier, la Federal Trade Commission des États-Unis a ouvert une enquête sur OpenAI pour déterminer si ChatGPT nuisait aux consommateurs par sa collecte de données et la publication de fausses déclarations sur des individus. Les autorités européennes chargées des données se sont également inquiétées de la gestion des informations privées par OpenAI.

Les outils d’OpenAI, comme tous les outils GenAI, ont tendance à inventer des choses avec confiance et à se tromper sur des faits de base. De plus, ils sont biaisés – ce qui reflète les données utilisées pour les former.

Les enfants et les adolescents, conscients ou non des limitations des outils, ont de plus en plus recours à eux pour obtenir de l’aide non seulement pour leurs devoirs, mais aussi pour des problèmes personnels. Selon un sondage du Center for Democracy and Technology, 29% des enfants déclarent avoir utilisé ChatGPT pour faire face à l’anxiété ou aux problèmes de santé mentale, 22% pour des problèmes avec des amis et 16% pour des conflits familiaux.