Bandeau image

Transparence, IA responsable et éthique

Transparence, IA responsable et éthique

Partager

twlkfbml
Chapo
La confiance numérique s'instaure à partir de l'implantation de méthodologies éthiquement responsables à travers la transparence et la redevabilité des systèmes algorithmiques ; de la régulation de la collecte, de l'usage et du traitement de données personnelles ; du renforcement de la régulation au travers de procédures numériques appropriées.
Contenu
Corps de texte

La confidentialité par conception est une forme de régulation qui inclut la protection des données personnelles dans toutes les étapes de la collecte et du traitement. Le traçage des outils appliqués aux données doit également être développé de manière à faciliter l'explication du modèle pour les experts comme pour les utilisateurs rendant les systèmes algorithmiques auditables. Les principes de confidentialité, bien que faciles à formuler, nécessitent de modifier les infrastructures de stockage et de traitement, avec d'importants impacts législatifs, sociologiques et économiques. Les techniques de transparence des systèmes algorithmiques seront développés en focalisant sur : l'équité, la loyauté et la non-discrimination et la redevabilité-par-construction.

Challenges :

  • Responsabilité-by-design, Explicabilité-by-design
  • Transparence-by-design, équité-by-design
  • Audit des systèmes algorithmiques : non-discrimination , loyauté, biais techniques, neutralité, équité
  • Mesure de la confiance et de l’appropriation du numérique
  • « Progressive user-centric-analytics » (monitoring interactif des systèmes de décisions : dataviz dashboards, IHM) 
  • Responsabilité du traitement de l’information et de la prise de décision : contrôle d’usage des données et fact-checking
  • Découverte causale, traçabilité des inférences à partir des données sources, interprétabilité des architectures profondes