Les enjeux de 2017 (3) : algorithmes, intelligence artificielle et éthique

27 mars 2017

La loi pour une République numérique du 7 octobre 2016 a confié à la CNIL la mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques. Elle a choisi de consacrer les premières réflexions au thème des algorithmes et de l’intelligence artificielle en initiant un cycle national de débats publics, ateliers ou rencontres, dans une démarche associant de très nombreux partenaires.

Les algorithmes : de nombreuses questions éthiques pour des outils au cœur de nos vies

Résultats de requêtes sur un moteur de recherche, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques, affectation des étudiants à l’Université : dans tous ces domaines, des algorithmes sont à l’œuvre. Pourtant, la mise en œuvre de tels dispositifs pose de nombreuses questions éthiques, notamment en termes d’autonomie de l’individu, qu’il soit l’auteur d’une décision « aidée » par un algorithme ou qu’il en fasse l’objet.

Les Français en ont d’ailleurs une représentation inégale. Si 83 % d’entre eux ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%). Leur présence est déjà jugée massive dans la vie de tous les jours par 80% des Français qui considèrent, à 65%, que cette dynamique va encore s’accentuer dans les années qui viennent. Concernant l’opinion sur les algorithmes, une courte majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables.

Les algorithmes, à l’heure de l’intelligence artificielle, suscitent donc des questions complexes :

  • Sont-ils les « nouveaux décideurs » ?
  • Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés qui y ont recours ?
  • Les algorithmes ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ? Ou sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?
  • En un mot, quelle autonomie de l’individu dans un monde « algorithmé » ?

Faire des algorithmes l’objet d’un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile s’impose donc comme une nécessité.

Un débat public décentralisé, initié par la CNIL

La CNIL a décidé d’initier un vaste processus de discussion collectif que feront vivre tous ceux – institutions publiques, société civile, entreprises – qui souhaitent y prendre part en organisant des débats et manifestations multiformes. Près d’une trentaine de partenaires ont ainsi décidé d’organiser des évènements divers (colloques, séminaires, ateliers), afin soit de sensibiliser le grand public, soit d’approfondir les questions éthiques soulevées par les algorithmes dans divers secteurs d’activité (santé, justice prédictive, éducation, etc.).

À l’automne 2017, la CNIL rendra publique la synthèse des échanges et des contributions. L’objectif est d’établir un panorama des défis et enjeux. Des pistes ou propositions pour accompagner le développement des algorithmes dans un cadre éthique pourront être présentées aux pouvoirs publics.

Document reference

Rapport annuel 2016

Les mots clés associés à cet article