Algorithmes utilisés par l'administration : vers plus de transparence

05 septembre 2017

La loi pour une République numérique prévoit que les administrations mettant en œuvre un traitement algorithmique qui aboutit à une décision individuelle doivent désormais en informer les personnes concernées et leur permettre d’obtenir communication de certaines informations pour comprendre le fonctionnement de l’algorithme.  

algo

Les algorithmes occupent, dans tous les champs de la vie quotidienne, une place de plus en plus importante, bien qu’invisible. Résultats de requêtes sur un moteur de recherche, fils d’actualité sur les réseaux sociaux, recommandations personnalisées sur des sites de e-commerce, pilotage automatique d’avions, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques : dans tous ces domaines, des algorithmes sont à l’œuvre.

Les décisions publiques sont également largement concernées par cette utilisation croissante des algorithmes : affectation des élèves dans un établissement scolaire ou des étudiants à une formation, lutte contre la fraude fiscale, attribution d’un logement social, classement des passagers aériens à risques, etc.

Les décisions individuelles ne doivent pas être prises sur la seule base d’un algorithme (article 10 de la loi Informatique et Libertés). En revanche, les algorithmes peuvent être utilisés comme un outil d’aide à la décision.

Dans ce contexte, la loi du 7 octobre 2016 pour une République numérique et la loi Informatique et Libertés permettent aux citoyens de contrôler l’usage de leurs données personnelles par les administrations utilisant des algorithmes pour prendre des décisions individuelles.

Quels sont vos droits ?

La loi du 7 octobre 2016 pour une République numérique prévoit :

  • un droit à l’information lorsqu’une administration utilise un algorithme pour prendre une décision individuelle : les citoyens doivent savoir que l’administration a utilisé un algorithme ;
  • un droit d’obtenir de l’administration la communication des informations permettant de comprendre le fonctionnement de cet algorithme, sous réserve que ces informations ne portent pas atteinte à des secrets protégés par la loi (article L. 311-3-1 du code des relations entre le public et l’administration – CRPA).

Quels éléments l’administration doit-elle vous fournir?

L’information

Une mention doit figurer sur la décision individuelle prise sur la base d’un algorithme et préciser :

  • la finalité du traitement algorithmique ;
  • l’existence du droit d’obtenir communication des règles définissant ce traitement ;
  • les conditions d'exercice de ce droit à communication et de saisine, si nécessaire, de la commission d'accès aux documents administratifs (CADA).

(article R. 311-3-1-1 du CRPA, issu du décret n° 2017-330 du 14 mars 2017, applicable à compter du 1er septembre 2017).

Le droit d’accès prévu par le code des relations entre le public et l’administration

La personne concernée par une décision individuelle prise sur la base d’un traitement algorithmique doit faire une demande à l’administration pour obtenir les éléments suivants :

  • le degré et le mode de contribution du traitement algorithmique à la prise de décision ;
  • les données traitées et leurs sources ;
  • les paramètres de traitement et, éventuellement, leur pondération, appliqués à la situation de l'intéressé ;
  • les opérations effectuées par le traitement.

(article R. 311-3-1-2 du CRPA, issu du décret n° 2017-330 du 14 mars 2017, applicable à compter du 1er septembre 2017).

Chaque administration définit les modalités concrètes d’exercice de ce droit.

Que faire en cas de refus de l’administration ?

En cas de refus de l’administration de répondre à une demande de communication de ces éléments, la personne peut saisir la CADA.

Pouvez-vous exercer le droit d’accès prévu par la loi Informatique et Libertés en présence d’un algorithme utilisé par l’administration ?

L’article 39 de la loi Informatique et Libertés prévoit un droit d’accès aux traitements de données à caractère personnel. Il permet à une personne dont les données font l’objet d’un traitement de demander au responsable de ce traitement :

  • les données traitées et leurs sources ;
  • les finalités du traitement et ses destinataires ;
  • les éventuels transferts de données hors de l’Union européenne ;
  • les informations permettant de comprendre et de contester la logique qui sous-tend l’algorithme.

Cet article s’applique aux administrations utilisant un traitement algorithmique pour prendre une décision individuelle. Pour les personnes concernées, le droit d’accès prévu par la loi Informatique et libertés va ainsi compléter le dispositif prévu par le code des relations entre le public et l’administration.

Les informations pouvant être obtenues au titre du droit d’accès prévu par la loi Informatique et Libertés comprennent l’ensemble des éléments devant être fournis au titre du code des relations entre le public et l’administration, auxquels vont s’ajouter tous les éléments relatifs à l’application concrète de l’algorithme à votre situation personnelle. Il s’agira par exemple, pour les traitements algorithmiques procédant à un classement, du score obtenu ainsi que des seuils de scoring et de leur signification.

En cas de refus de l’administration de fournir ces informations, les personnes concernées peuvent saisir la CNIL.

Les mots clés associés à cet article