Date initialement prévue le 28 mars 2023, reportée ultérieurement.

À l'occasion de ce séminaire, Bertrand Pailhès et Félicien Vallet, représentants de la CNIL, et Caroline Lequesne-Roth, maîtresse de conférences en droit public à l’Université Côte d’Azur, nous parlerons de la thématique suivante :  « L’IA dans les politiques de sécurité : l'exemple de la vidéosurveillance algorithmique ».

Contexte

À l’heure où l’Assemblée Nationale s’apprête à adopter l’article 7 de la loi relative aux Jeux Olympiques pour légaliser à titre expérimental ces technologies, nous aborderons les questions suivantes :

• Quels sont les soubassements technologiques de ces technologies de vision assistée par ordinateur et quels en sont les usages ?
• Comment ces dispositifs prolongent-ils des pratiques policières discriminatoires ?
• Quels sont les enjeux économiques et industriels ?
• En quoi le droit participe-t-il de la construction d’une « acceptabilité sociale » de technologies controversées ?
• Quel rôle se donnent des institutions comme la CNIL dans leur régulation, et plus généralement vis-à-vis des systèmes d’IA ?

Intervenants

Bertrand Pailhès est directeur des technologies et de l’innovation à la CNIL depuis novembre 2019. Ingénieur des Mines, Bertrand Pailhès a travaillé à l’ARCEP et à la CNIL au service de l’expertise technologique. Il a également été coordonnateur national de la stratégie pour l’intelligence artificielle à la Direction Interministérielle du Numérique.

Il interviendra aux côtés de Félicien Vallet. Adjoint au chef du service de l’expertise technologique, Félicien Vallet coordonne les actions liées à l'intelligence artificielle au sein de la CNIL.

Caroline Lequesne-Roth est maîtresse de conférences en droit public (HDR) à l’Université Côte d’Azur (UCA). Ses travaux portent notamment sur les enjeux normatifs et conceptuels de la numérisation des services publics à l’heure de l’intelligence artificielle et du big data. Elle est l’auteure de diverses contributions relatives à l’encadrement des technologies de surveillance et aux relations entre science et pouvoir.

Lancé en 2021 par Marie GARIN, doctorante en 5e année à l'ENS Paris-Saclay, le séminaire "Critique de l'intelligence artificielle" (CIA) a pour objectif de questionner les enjeux sociétaux, politiques, écologiques, éthiques et philosophiques du numérique et de l'IA, ainsi que le rapport de notre société à la technologie, à travers une approche inspirée de la théorie critique.

Ce séminaire est ouvert à tous, sur inscription et en ligne via la plateforme Zoom.
Un événement organisé en partenariat avec l'Ecole Nationale Supérieure de Paris-Saclay.

Contacts

marie.garin@ens-paris-saclay.fr
Pour cette nouvelle année, le séminaire est co-organisé avec Félix Tréguer, sociologue : felix.treguer@sciencespo.fr

• 6 mars 2023 - Une techno-critique non-réactionnaire du numérique est-elle possible et à quelles conditions ?

Conférencier : Alexandre Monnin. Dans cette intervention nous reviendrons sur la nécessité d'une critique du numérique et sur les difficultés afférentes. Si le caractère matériel du numérique est de mieux en mieux appréhendé, ce constat ne se traduit pas automatiquement en prises pour l'action. Comment, dès lors, ne pas se contenter d'imprécations ? 
Par ailleurs, la critique du numérique doit se garder de charrier avec elle une rhétorique réactionnaire : critique du calcul, de la quantité, de l'abstraction.... Autant de termes particulièrement connotés sur un plan historique et philosophique. Expliciter cet écueil est aujourd'hui une impérieuse nécessité pour développer une critique et un praxis émancipées de ces travers.

• 24 janvier 2023 - Agriculture numérique : une promesse au service d’un nouvel esprit du productivisme.

Conférenciers : Théo Martin et Thomas Borrell. Depuis la fin des années 2010, l’agriculture numérique connait un essor important caractérisé par la création d’entreprises, de dispositifs de recherche mais également la mise à l’agenda des politiques publiques. Si le déploiement de ces innovations reste très hétérogène et nos connaissances sur leurs effets sont limitées et mitigées, l'agriculture numérique s'affirme à travers un discours porteur d'une anticipation prometteuse. L'agriculture numérique s'inscrit ainsi dans l'économie des promesses techno-scientifiques. Nous proposons ici de décrire les singularités de cette promesse et d'analyser en quoi elle renouvelle l'esprit d'un productivisme agricole en crise.

• 29 novembre 2022 - Impacts environnementaux du numérique : entre consensus et controverse.

Conférencier : Bastien Béchadergue. Maître de conférences à l'université de Versailles Saint-Quentin depuis 2020. Il enseigne au sein du département Réseaux et Télécommunications de l'IUT de Vélizy, et mène des activités de recherche sur les communications optiques sans fil au sein du Laboratoire d'ingénierie des systèmes de Versailles. Il a également réalisé un master de sociologie des sciences à l'EHESS entre 2019 et 2021.

• 2 novembre 2022

Intervenants : Mohamed Abdalla, Lê Nguyên Hoang et Aurélien Bellet. Cette session est basée sur une actualité récente concernant l'apprentissage automatique préservant la vie privée. Un travail de désinformation scientifique dans ce domaine a été réalisé par Lê Nguyên Hoang, qui a résumé son travail dans cette vidéo récente. Ses arguments sont soutenus par un travail théorique, discutant de la non-compatibilité entre haute performance et sécurité/confidentialité, réalisé avec ses co-auteurs et qui a donné lieu à cette publication : "On the Impossible Security of Very Large Foundation Models".

• 16 mars 2022 - Crise environnementale et digitalisation, le cas de l'IA. – Rediffusion

Intervenants : Anne-Laure LIGOZAT, maître de conférences en informatique à l'ENSIIE et au LISN, où elle est également référente développement durable. Après s'être intéressée au traitement automatique des langues, ses thèmes de recherche portent actuellement sur l'impact environnemental du numérique. Elle a récemment co-publié l'article "Unraveling the hidden environmental impacts of AI solutions for environment" avec Gauthier ROUSSILHE, chercheur sur la question des impacts environnementaux du numérique au RMIT et au Centre de Recherche en Design (ENS Saclay, ENSCI). Il est également concepteur et consultant en services numériques. Ses réflexions se sont d'abord articulées autour des enjeux éthiques du design. Il a notamment réalisé le documentaire Ethics for Design afin d'interroger la responsabilité des designers. Il étudie actuellement comment la crise environnementale modifie la conception et la maintenance des systèmes numériques.

• 16 février 2022 - Qui travaille derrière l'intelligence artificielle ? Dimensions éthiques et sociétales d'un mode de production émergent. – Rediffusion

Intervenant : Paola TUBARO, enseignant-chercheur au CNRS, au sein du Laboratoire interdisciplinaire des sciences du numérique (LISN). Sociologue économique, elle utilise l'analyse des réseaux sociaux pour apporter un éclairage nouveau sur les transformations contemporaines des communautés, des marchés et des organisations. Ses recherches actuelles portent sur l'économie des plateformes numériques, les réseaux d'approvisionnement mondiaux dans l'industrie de l'intelligence artificielle, le rôle du travail humain dans le développement de l'automatisation et les inégalités d'accès aux données. Elle s'intéresse également aux questions éthiques liées à l'intelligence artificielle, au big data et aux réseaux, ainsi qu'à leurs implications méthodologiques pour les sciences sociales.

• 2 février 2022 - La recherche de l'efficacité dans l'Anthropocène. – Rediffusion

Conférencier : David BOL, Professeur à l'UCLouvain. Titulaire d'un doctorat en sciences de l'ingénieur, il a été chercheur post-doctoral invité au UC Berkeley Lab for Manufacturing and Sustainability. Il est activement impliqué dans la transition socio-écologique des TIC (Technologies de l'Information et de la Communication). Après un rappel des différents mécanismes qui lient la transition numérique au changement climatique, il nous donnera sa vision de la recherche et de l'innovation à l'ère de l'Anthropocène.

• 19 janvier 2022 - La revanche des neurones. Une histoire socio-technique de l'IA. – Rediffusion

Intervenant : Dominique CARDON, professeur de sociologie à Sciences Po et directeur du laboratoire de recherche MediaLab à Sciences Po. Il a été chercheur au laboratoire SENSE des Orange Labs et professeur associé à l'Université Paris Est/LATTS (Laboratoire Techniques, Territoires et Sociétés). Il était également membre affilié du Centre d'étude des mouvements sociaux de l'EHESS. Depuis 2010, ses travaux proposent de mener une analyse sociologique des algorithmes du web et du big data visant à comprendre à la fois la forme interne des calculs et le monde que les calculateurs projettent sur nos sociétés. Il mène des recherches thématiques et méthodologiques exploitant et interrogeant la place prise par le numérique dans nos sociétés. Ses recherches portent également sur la transformation de l'espace médiatique et les nouveaux circuits de l'information numérique. Il est membre du comité de rédaction de la revue Réseaux et du comité de prospective de la CNIL.

• 24 novembre 2021 - Gouvernance algorithmique, technologies de l'internet, quels outils de pouvoir ? – Rediffusion

Intervenant : Francesca MUSIANI, docteur en socio-économie, chargée de recherche au CNRS et directrice adjointe du Centre Internet et Société du CNRS, qu'elle a cofondé en 2019. Elle est également chercheuse associée au Centre de sociologie de l'innovation (i3/MINES ParisTech) et Global Fellow à l'Internet Governance Lab de l'American University à Washington, DC. Depuis 2006, ses travaux portent sur la gouvernance de l'Internet, dans une perspective interdisciplinaire qui s'appuie sur les sciences de l'information et de la communication, les études scientifiques et technologiques (STS) et le droit international. Ses recherches récentes portent sur le développement et les utilisations des technologies de cryptage dans les outils de messagerie, la "résistance numérique" à la surveillance et à la censure dans l'Internet russe, et la gouvernance des archives du Web.

• 10 novembre 2021 - Après le déluge. Faire des recherches à l'ère du numérique. – Rediffusion

Conférencier : Étienne OLLION, sociologue politique, chercheur permanent au Centre National de la Recherche Scientifique (CREST) et professeur à l'École Polytechnique. Ses travaux portent sur l'État et le pouvoir, ainsi que sur la numérisation de la science et les sociétés contemporaines. En parallèle, il mène des recherches sur les données numériques et l'intelligence artificielle, en portant par exemple un regard critique sur la révolution dite du Big Data. Il est un pionnier du développement des sciences sociales computationnelles en France, tant en termes de recherche que d'enseignement.