SÉMINAIRE | Critique de l'Intelligence Artificielle (CIA)
![SÉMINAIRE | Critique de l'Intelligence Artificielle (CIA)](/sites/default/files/2024-02/Affiche%20CIA%20V2.png)
Le séminaire "Critique de l'IA" a le plaisir de recevoir Apolline Taillandier, Doctorante en sciences politiques.
Lieu : site Pouchet du CNRS et visioconférence
Il est possible de suivre le séminaire sur Zoom.
Pour participer, il suffit de cliquer sur ce lien.
ID de réunion : 942 5678 0437 - Code secret : 98330913
Intervenant : Dan McMillan, Lecturer in Creative and Social Computing à Goldsmiths, University of London, et auteur de Resisting AI.
Il y a un besoin urgent de résister à l'IA sur la base du fait qu'il s'agit d'une technologie violente et nécropolitique, et de faire des propositions sur la façon dont cela pourrait être fait. Pour ce faire, cette conférence s'appuiera sur des arguments tirés du livre récemment publié par Dan McQuillan, "Resisting AI", et sur sa critique permanente des grands modèles de langage. L'exposé couvrira le rôle de la science dans la légitimation de la violence algorithmique ou les façons dont les critiques féministes et décoloniales de la science ne fournissent pas seulement une critique de l'IA mais indiquent des formes d'appareils alternatifs viables. Il fournira également une perspective particulière sur les tentatives actuellement inefficaces de régulation de l'IA et sur les formes de savoirs socialement situés et mobilisés qui pourraient en fait la limiter. Enfin, il proposera un programme d'alternatives positives à l'IA sous le titre de "technopolitique préfigurative" et abordera les questions tactiques en s'inspirant de la technopolitique historique des Luddites et des mouvements contemporains contre les centres de données.
Intervenant : Dan McMillan, Lecturer in Creative and Social Computing à Goldsmiths, University of London, et auteur de Resisting AI.
Il y a un besoin urgent de résister à l'IA sur la base du fait qu'il s'agit d'une technologie violente et nécropolitique, et de faire des propositions sur la façon dont cela pourrait être fait. Pour ce faire, cette conférence s'appuiera sur des arguments tirés du livre récemment publié par Dan McQuillan, "Resisting AI", et sur sa critique permanente des grands modèles de langage. L'exposé couvrira le rôle de la science dans la légitimation de la violence algorithmique ou les façons dont les critiques féministes et décoloniales de la science ne fournissent pas seulement une critique de l'IA mais indiquent des formes d'appareils alternatifs viables. Il fournira également une perspective particulière sur les tentatives actuellement inefficaces de régulation de l'IA et sur les formes de savoirs socialement situés et mobilisés qui pourraient en fait la limiter. Enfin, il proposera un programme d'alternatives positives à l'IA sous le titre de "technopolitique préfigurative" et abordera les questions tactiques en s'inspirant de la technopolitique historique des Luddites et des mouvements contemporains contre les centres de données.
Intervenante : Marie Lechner, enseignante-chercheuse à l’ÉSAD (École supérieure d’art et de design d’Orléans) et commissaire d’exposition indépendante.
Lancées il y a peine plus d’un an (avec DALL-E 2, Midjourney ou ChatGPT), les fonctionnalités d’IA générative sont déjà en train d’équiper les derniers modèles de smartphones, permettant de modifier les images dès la prise de vue ou d’en générer directement dans l’interface de l’agent conversationnel). Ces nouveaux produits ont pour effet d’invisibiliser et de normaliser à toute allure ces technologies, sans susciter de réels débats publics et au risque de confier le pouvoir de représentation à une poignée de grandes entreprises privées qui ont le contrôle sur ce qui est visible/dicible et ce qui ne l’est pas.
Face à ces phénomènes, les médias et certaines institutions artistiques sont promptes à sensationnaliser l’art généré par les IA en dévaluant l’agentivité humaine dans le processus créatif et en faisant passer les algorithmes pour des artistes - voire en alimentant la fiction d’une superintelligence. Dans ce contexte d’accélération généralisée et de brouillage du discours, comment contrer l’art-washing qui masque les implications sociales et politiques du déploiement de ces technologies (surveillance, renforcement des discriminations, travail précarisé et invisibilisé, automatisation de professions entières sous prétexte d’inéluctabilité du progrès) ?
Quelles sont les approches artistiques critiques qui participent à la démystification de ces technologies et se concentrent sur les préjudices réels ? Comment déjouer la fascination qu’exercent ces « mean images », comme les désigne l’artiste Hito Steyerl, s’appuyant sur la polysémie du mot en anglais (moyen, médiocre, méchant), pour explorer comment ces images synthétiques constituent à la fois une menace et, en tant que moyenne statistique des ensembles de données qui les composent, excluent toute véritable créativité ?
Intervenant : Bertrand Pailhès. Le gouvernement français s’apprête à mettre en œuvre l’article 10 de la loi relative aux Jeux Olympiques promulguée au printemps 2023, lequel légalise à titre expérimental les technologies de computer vision associées à la vidéosurveillance (vidéosurveillance dite « algorithmique »). Dans ce contexte, cette séance abordera les questions suivantes. Quels sont les soubassements technologiques de ces technologies de vision assistée par ordinateur et quels en sont les usages ? Quels sont les enjeux économiques et industriels ? En quoi le droit, et notamment ce cadre juridique « expérimental » participe-t-il de la construction d’une « acceptabilité sociale » de technologies controversées ? Comment transcrire les principes juridiques devant encadrer ces IA dédiées à la surveillance policières dans les pratiques concrètes des professionnels de la sécurité ? Enfin, quel rôle se donnent des institutions comme la CNIL dans leur régulation ?
Intervenant : Alexandre Monnin. Dans cette intervention nous reviendrons sur la nécessité d'une critique du numérique et sur les difficultés afférentes. Si le caractère matériel du numérique est de mieux en mieux appréhendé, ce constat ne se traduit pas automatiquement en prises pour l'action. Comment, dès lors, ne pas se contenter d'imprécations ? Par ailleurs, la critique du numérique doit se garder de charrier avec elle une rhétorique réactionnaire : critique du calcul, de la quantité, de l'abstraction.... Autant de termes particulièrement connotés sur un plan historique et philosophique. Expliciter cet écueil est aujourd'hui une impérieuse nécessité pour développer une critique et un praxis émancipées de ces travers.
Intervenants : Théo Martin et Thomas Borrell. Depuis la fin des années 2010, l’agriculture numérique connait un essor important caractérisé par la création d’entreprises, de dispositifs de recherche mais également la mise à l’agenda des politiques publiques. Si le déploiement de ces innovations reste très hétérogène et nos connaissances sur leurs effets sont limitées et mitigées, l'agriculture numérique s'affirme à travers un discours porteur d'une anticipation prometteuse. L'agriculture numérique s'inscrit ainsi dans l'économie des promesses techno-scientifiques. Nous proposons ici de décrire les singularités de cette promesse et d'analyser en quoi elle renouvelle l'esprit d'un productivisme agricole en crise.
Intervenant : Bastien Béchadergue. Maître de conférences à l'université de Versailles Saint-Quentin depuis 2020. Il enseigne au sein du département Réseaux et Télécommunications de l'IUT de Vélizy, et mène des activités de recherche sur les communications optiques sans fil au sein du Laboratoire d'ingénierie des systèmes de Versailles. Il a également réalisé un master de sociologie des sciences à l'EHESS entre 2019 et 2021.
Intervenants : Mohamed Abdalla, Lê Nguyên Hoang et Aurélien Bellet. Cette session est basée sur une actualité récente concernant l'apprentissage automatique préservant la vie privée. Un travail de désinformation scientifique dans ce domaine a été réalisé par Lê Nguyên Hoang, qui a résumé son travail dans cette vidéo récente. Ses arguments sont soutenus par un travail théorique, discutant de la non-compatibilité entre haute performance et sécurité/confidentialité, réalisé avec ses co-auteurs et qui a donné lieu à cette publication : "On the Impossible Security of Very Large Foundation Models".
Intervenants : Anne-Laure Ligozat, maître de conférences en informatique à l'ENSIIE et au LISN, où elle est également référente développement durable. Après s'être intéressée au traitement automatique des langues, ses thèmes de recherche portent actuellement sur l'impact environnemental du numérique. Elle a récemment co-publié l'article "Unraveling the hidden environmental impacts of AI solutions for environment" avec Gauthier Roussilhe, chercheur sur la question des impacts environnementaux du numérique au RMIT et au Centre de Recherche en Design (ENS Saclay, ENSCI). Il est également concepteur et consultant en services numériques. Ses réflexions se sont d'abord articulées autour des enjeux éthiques du design. Il a notamment réalisé le documentaire Ethics for Design afin d'interroger la responsabilité des designers. Il étudie actuellement comment la crise environnementale modifie la conception et la maintenance des systèmes numériques.
Intervenant : Paola Tubaro, enseignant-chercheur au CNRS, au sein du Laboratoire interdisciplinaire des sciences du numérique (LISN). Sociologue économique, elle utilise l'analyse des réseaux sociaux pour apporter un éclairage nouveau sur les transformations contemporaines des communautés, des marchés et des organisations. Ses recherches actuelles portent sur l'économie des plateformes numériques, les réseaux d'approvisionnement mondiaux dans l'industrie de l'intelligence artificielle, le rôle du travail humain dans le développement de l'automatisation et les inégalités d'accès aux données. Elle s'intéresse également aux questions éthiques liées à l'intelligence artificielle, au big data et aux réseaux, ainsi qu'à leurs implications méthodologiques pour les sciences sociales.
Intervenant : David Bol, Professeur à l'UCLouvain. Titulaire d'un doctorat en sciences de l'ingénieur, il a été chercheur post-doctoral invité au UC Berkeley Lab for Manufacturing and Sustainability. Il est activement impliqué dans la transition socio-écologique des TIC (Technologies de l'Information et de la Communication). Après un rappel des différents mécanismes qui lient la transition numérique au changement climatique, il nous donnera sa vision de la recherche et de l'innovation à l'ère de l'Anthropocène.
Intervenant : Dominique Cardon, professeur de sociologie à Sciences Po et directeur du laboratoire de recherche MediaLab à Sciences Po. Il a été chercheur au laboratoire SENSE des Orange Labs et professeur associé à l'Université Paris Est/LATTS (Laboratoire Techniques, Territoires et Sociétés). Il était également membre affilié du Centre d'étude des mouvements sociaux de l'EHESS. Depuis 2010, ses travaux proposent de mener une analyse sociologique des algorithmes du web et du big data visant à comprendre à la fois la forme interne des calculs et le monde que les calculateurs projettent sur nos sociétés. Il mène des recherches thématiques et méthodologiques exploitant et interrogeant la place prise par le numérique dans nos sociétés. Ses recherches portent également sur la transformation de l'espace médiatique et les nouveaux circuits de l'information numérique. Il est membre du comité de rédaction de la revue Réseaux et du comité de prospective de la CNIL.
Intervenant : Dominique Cardon, professeur de sociologie à Sciences Po et directeur du laboratoire de recherche MediaLab à Sciences Po. Il a été chercheur au laboratoire SENSE des Orange Labs et professeur associé à l'Université Paris Est/LATTS (Laboratoire Techniques, Territoires et Sociétés). Il était également membre affilié du Centre d'étude des mouvements sociaux de l'EHESS. Depuis 2010, ses travaux proposent de mener une analyse sociologique des algorithmes du web et du big data visant à comprendre à la fois la forme interne des calculs et le monde que les calculateurs projettent sur nos sociétés. Il mène des recherches thématiques et méthodologiques exploitant et interrogeant la place prise par le numérique dans nos sociétés. Ses recherches portent également sur la transformation de l'espace médiatique et les nouveaux circuits de l'information numérique. Il est membre du comité de rédaction de la revue Réseaux et du comité de prospective de la CNIL.
Intervenante : Francesca Musiani, docteur en socio-économie, chargée de recherche au CNRS et directrice adjointe du Centre Internet et Société du CNRS, qu'elle a cofondé en 2019. Elle est également chercheuse associée au Centre de sociologie de l'innovation (i3/MINES ParisTech) et Global Fellow à l'Internet Governance Lab de l'American University à Washington, DC. Depuis 2006, ses travaux portent sur la gouvernance de l'Internet, dans une perspective interdisciplinaire qui s'appuie sur les sciences de l'information et de la communication, les études scientifiques et technologiques (STS) et le droit international. Ses recherches récentes portent sur le développement et les utilisations des technologies de cryptage dans les outils de messagerie, la "résistance numérique" à la surveillance et à la censure dans l'Internet russe, et la gouvernance des archives du Web.
Intervenant : Étienne Ollion, sociologue politique, chercheur permanent au Centre National de la Recherche Scientifique (CREST) et professeur à l'École Polytechnique. Ses travaux portent sur l'État et le pouvoir, ainsi que sur la numérisation de la science et les sociétés contemporaines. En parallèle, il mène des recherches sur les données numériques et l'intelligence artificielle, en portant par exemple un regard critique sur la révolution dite du Big Data. Il est un pionnier du développement des sciences sociales computationnelles en France, tant en termes de recherche que d'enseignement.
Le séminaire "Critique de l'intelligence artificielle" (CIA) a pour objectif de questionner les enjeux sociétaux, politiques, écologiques, éthiques et philosophiques du numérique et de l'IA, ainsi que le rapport de notre société à la technologie, à travers une approche inspirée de la théorie critique.
Ce séminaire est ouvert à tou-tes, sur inscription et en ligne via la plateforme Zoom.
Un évènement organisé en partenariat avec l'École Nationale Supérieure de Paris-Saclay.
Pour venir au CNRS Pouchet
Ce séminaire a a été lancé en 2021 par Marie Garin, doctorante en mathématiques à l’ENS Paris-Saclay, associée au Centre Borelli. Ses recherches portent sur la protection de la vie privée dans le cadre de l’apprentissage statistique ainsi que sur les considérations éthiques liées à l’intelligence artificielle dans le cadre du développement d’une Théorie critique de l’intelligence artificielle.
Contact : marie.garin@ens-paris-saclay.fr
Félix Tréguer est chercheur associé au Centre Internet et Société (CIS). Ses recherches portent sur l’histoire politique d’Internet et de l’informatique, les pratiques de pouvoir comme la censure ou la surveillance des communications et plus généralement sur la transformation numérique de l’État et du champ de la sécurité.
Contact : felix.treguer@sciencespo.fr