Intervenante : Marie Lechner, enseignante-chercheuse à l’ÉSAD (École supérieure d’art et de design d’Orléans) et commissaire d’exposition indépendante, pour une présentation intitulée « Entre spectacularisation et critique complaisante, quelle place pour une exploration artistique critique de l’IA ? ».
Résumé
Lancées il y a peine plus d’un an (avec DALL-E 2, Midjourney ou ChatGPT), les fonctionnalités d’IA générative sont déjà en train d’équiper les derniers modèles de smartphones, permettant de modifier les images dès la prise de vue ou d’en générer directement dans l’interface de l’agent conversationnel). Ces nouveaux produits ont pour effet d’invisibiliser et de normaliser à toute allure ces technologies, sans susciter de réels débats publics et au risque de confier le pouvoir de représentation à une poignée de grandes entreprises privées qui ont le contrôle sur ce qui est visible/dicible et ce qui ne l’est pas.
Face à ces phénomènes, les médias et certaines institutions artistiques sont promptes à sensationnaliser l’art généré par les IA en dévaluant l’agentivité humaine dans le processus créatif et en faisant passer les algorithmes pour des artistes - voire en alimentant la fiction d’une superintelligence. Dans ce contexte d’accélération généralisée et de brouillage du discours, comment contrer l’art-washing qui masque les implications sociales et politiques du déploiement de ces technologies (surveillance, renforcement des discriminations, travail précarisé et invisibilisé, automatisation de professions entières sous prétexte d’inéluctabilité du progrès) ?
Quelles sont les approches artistiques critiques qui participent à la démystification de ces technologies et se concentrent sur les préjudices réels ? Comment déjouer la fascination qu’exercent ces « mean images », comme les désigne l’artiste Hito Steyerl, s’appuyant sur la polysémie du mot en anglais (moyen, médiocre, méchant), pour explorer comment ces images synthétiques constituent à la fois une menace et, en tant que moyenne statistique des ensembles de données qui les composent, excluent toute véritable créativité ?
Lieu : CNRS Paris Pouchet et visioconférence
Il est également possible de suivre le séminaire sur Zoom.
Pour participer, il suffit de cliquer sur ce lien.
ID de réunion : 942 5678 0437 - Code secret : 98330913
Avec la participation de représentants de la CNIL et de Caroline Lequesne-Roth, maîtresse de conférences en droit public à l’Université Côte d’Azur.
Intervenant : Alexandre Monnin. Dans cette intervention nous reviendrons sur la nécessité d'une critique du numérique et sur les difficultés afférentes. Si le caractère matériel du numérique est de mieux en mieux appréhendé, ce constat ne se traduit pas automatiquement en prises pour l'action. Comment, dès lors, ne pas se contenter d'imprécations ? Par ailleurs, la critique du numérique doit se garder de charrier avec elle une rhétorique réactionnaire : critique du calcul, de la quantité, de l'abstraction.... Autant de termes particulièrement connotés sur un plan historique et philosophique. Expliciter cet écueil est aujourd'hui une impérieuse nécessité pour développer une critique et un praxis émancipées de ces travers.
Intervenants : Théo Martin et Thomas Borrell. Depuis la fin des années 2010, l’agriculture numérique connait un essor important caractérisé par la création d’entreprises, de dispositifs de recherche mais également la mise à l’agenda des politiques publiques. Si le déploiement de ces innovations reste très hétérogène et nos connaissances sur leurs effets sont limitées et mitigées, l'agriculture numérique s'affirme à travers un discours porteur d'une anticipation prometteuse. L'agriculture numérique s'inscrit ainsi dans l'économie des promesses techno-scientifiques. Nous proposons ici de décrire les singularités de cette promesse et d'analyser en quoi elle renouvelle l'esprit d'un productivisme agricole en crise.
Intervenant : Bastien Béchadergue. Maître de conférences à l'université de Versailles Saint-Quentin depuis 2020. Il enseigne au sein du département Réseaux et Télécommunications de l'IUT de Vélizy, et mène des activités de recherche sur les communications optiques sans fil au sein du Laboratoire d'ingénierie des systèmes de Versailles. Il a également réalisé un master de sociologie des sciences à l'EHESS entre 2019 et 2021.
Intervenants : Mohamed Abdalla, Lê Nguyên Hoang et Aurélien Bellet. Cette session est basée sur une actualité récente concernant l'apprentissage automatique préservant la vie privée. Un travail de désinformation scientifique dans ce domaine a été réalisé par Lê Nguyên Hoang, qui a résumé son travail dans cette vidéo récente. Ses arguments sont soutenus par un travail théorique, discutant de la non-compatibilité entre haute performance et sécurité/confidentialité, réalisé avec ses co-auteurs et qui a donné lieu à cette publication : "On the Impossible Security of Very Large Foundation Models".
Intervenants : Anne-Laure Ligozat, maître de conférences en informatique à l'ENSIIE et au LISN, où elle est également référente développement durable. Après s'être intéressée au traitement automatique des langues, ses thèmes de recherche portent actuellement sur l'impact environnemental du numérique. Elle a récemment co-publié l'article "Unraveling the hidden environmental impacts of AI solutions for environment" avec Gauthier Roussilhe, chercheur sur la question des impacts environnementaux du numérique au RMIT et au Centre de Recherche en Design (ENS Saclay, ENSCI). Il est également concepteur et consultant en services numériques. Ses réflexions se sont d'abord articulées autour des enjeux éthiques du design. Il a notamment réalisé le documentaire Ethics for Design afin d'interroger la responsabilité des designers. Il étudie actuellement comment la crise environnementale modifie la conception et la maintenance des systèmes numériques.
Intervenant : Paola Tubaro, enseignant-chercheur au CNRS, au sein du Laboratoire interdisciplinaire des sciences du numérique (LISN). Sociologue économique, elle utilise l'analyse des réseaux sociaux pour apporter un éclairage nouveau sur les transformations contemporaines des communautés, des marchés et des organisations. Ses recherches actuelles portent sur l'économie des plateformes numériques, les réseaux d'approvisionnement mondiaux dans l'industrie de l'intelligence artificielle, le rôle du travail humain dans le développement de l'automatisation et les inégalités d'accès aux données. Elle s'intéresse également aux questions éthiques liées à l'intelligence artificielle, au big data et aux réseaux, ainsi qu'à leurs implications méthodologiques pour les sciences sociales.
Intervenant : David Bol, Professeur à l'UCLouvain. Titulaire d'un doctorat en sciences de l'ingénieur, il a été chercheur post-doctoral invité au UC Berkeley Lab for Manufacturing and Sustainability. Il est activement impliqué dans la transition socio-écologique des TIC (Technologies de l'Information et de la Communication). Après un rappel des différents mécanismes qui lient la transition numérique au changement climatique, il nous donnera sa vision de la recherche et de l'innovation à l'ère de l'Anthropocène.
Intervenant : Dominique Cardon, professeur de sociologie à Sciences Po et directeur du laboratoire de recherche MediaLab à Sciences Po. Il a été chercheur au laboratoire SENSE des Orange Labs et professeur associé à l'Université Paris Est/LATTS (Laboratoire Techniques, Territoires et Sociétés). Il était également membre affilié du Centre d'étude des mouvements sociaux de l'EHESS. Depuis 2010, ses travaux proposent de mener une analyse sociologique des algorithmes du web et du big data visant à comprendre à la fois la forme interne des calculs et le monde que les calculateurs projettent sur nos sociétés. Il mène des recherches thématiques et méthodologiques exploitant et interrogeant la place prise par le numérique dans nos sociétés. Ses recherches portent également sur la transformation de l'espace médiatique et les nouveaux circuits de l'information numérique. Il est membre du comité de rédaction de la revue Réseaux et du comité de prospective de la CNIL.
Intervenante : Francesca Musiani, docteur en socio-économie, chargée de recherche au CNRS et directrice adjointe du Centre Internet et Société du CNRS, qu'elle a cofondé en 2019. Elle est également chercheuse associée au Centre de sociologie de l'innovation (i3/MINES ParisTech) et Global Fellow à l'Internet Governance Lab de l'American University à Washington, DC. Depuis 2006, ses travaux portent sur la gouvernance de l'Internet, dans une perspective interdisciplinaire qui s'appuie sur les sciences de l'information et de la communication, les études scientifiques et technologiques (STS) et le droit international. Ses recherches récentes portent sur le développement et les utilisations des technologies de cryptage dans les outils de messagerie, la "résistance numérique" à la surveillance et à la censure dans l'Internet russe, et la gouvernance des archives du Web.
Intervenant : Étienne Ollion, sociologue politique, chercheur permanent au Centre National de la Recherche Scientifique (CREST) et professeur à l'École Polytechnique. Ses travaux portent sur l'État et le pouvoir, ainsi que sur la numérisation de la science et les sociétés contemporaines. En parallèle, il mène des recherches sur les données numériques et l'intelligence artificielle, en portant par exemple un regard critique sur la révolution dite du Big Data. Il est un pionnier du développement des sciences sociales computationnelles en France, tant en termes de recherche que d'enseignement.
Le séminaire "Critique de l'intelligence artificielle" (CIA) a pour objectif de questionner les enjeux sociétaux, politiques, écologiques, éthiques et philosophiques du numérique et de l'IA, ainsi que le rapport de notre société à la technologie, à travers une approche inspirée de la théorie critique.
Ce séminaire est ouvert à tou-tes, sur inscription et en ligne via la plateforme Zoom.
Un évènement organisé en partenariat avec l'École Nationale Supérieure de Paris-Saclay.
Pour venir au CNRS Pouchet
Ce séminaire a a été lancé en 2021 par Marie Garin, doctorante en mathématiques à l’ENS Paris-Saclay, associée au Centre Borelli. Ses recherches portent sur la protection de la vie privée dans le cadre de l’apprentissage statistique ainsi que sur les considérations éthiques liées à l’intelligence artificielle dans le cadre du développement d’une Théorie critique de l’intelligence artificielle.
Contact : marie.garin@ens-paris-saclay.fr
Félix Tréguer est chercheur associé au Centre Internet et Société (CIS). Ses recherches portent sur l’histoire politique d’Internet et de l’informatique, les pratiques de pouvoir comme la censure ou la surveillance des communications et plus généralement sur la transformation numérique de l’État et du champ de la sécurité.
Contact : felix.treguer@sciencespo.fr