Évènement air2023 : IA et libre arbitre, le 28 novembre à la CNIL

air : un débat public annuel pour comprendre les nouveaux enjeux éthiques

Depuis la loi du 7 octobre 2016 pour une République numérique, la CNIL est chargée de mener une réflexion sur les problèmes éthiques et les questions de société soulevés par l'évolution des technologies numériques.

La mise en œuvre de cette mission a conduit la CNIL à organiser des débats publics autour des nouveaux enjeux du numérique, au croisement d’expertises terrain et scientifiques : c’est l’objectif des évènements air (avenirs, innovations, révolutions).

IA : quelles conséquences sur nos libertés ?

Nous déléguons de plus en plus de tâches à des intelligences artificielles. Si les algorithmes de recommandation ou les intelligences artificielles génératives (telles que ChatGPT) sont les plus connues, d’autres utilisations de l’intelligence artificielle, qui peuvent avoir des conséquences sur notre quotidien, sont moins visibles.

Ainsi, des activités telles que la traduction automatique de texte, la sélection et la retouche des photos ou encore la suggestion de mots dans un message s’appuient de plus en plus sur de tels systèmes. Si l’intelligence artificielle accélère les processus, elle limite aussi nos moments de réflexion et nos choix. Ce faisant, elle est susceptible de reproduire des biais et des sélections faits par les acteurs du numérique, mais également par les personnes qui annotent les données et entraînent ces IA.

Des photos stéréotypées, des textes reproduisant des biais de discrimination, une limitation imperceptible des contenus auxquels nous avons accès… quels sont les risques à laisser ce modèle se développer sans encadrement ?

Alors que l’IA commence à « composer » des contenus, la question des choix qu’elle passe sous silence et des biais qu’elle est susceptible de reproduire devient d’autant plus critique.