Home / Publications / Entre intelligence artificielle et reproduction des...

Entre intelligence artificielle et reproduction des erreurs du passé

la nécessité d’un encadrement éthique

09/05/2019

L’intelligence artificielle est à la mode et entre progressivement dans la vie quotidienne des humains. C’est pourquoi aujourd’hui, il convient de réfléchir aux enjeux éthiques posés.

Naissance du concept d’intelligence artificielle - "I propose to consider the question, ’Can machines think?’" (Je propose de considérer la question, "les machines peuvent-elles penser ?") avait écrit Alan Turing au début de son article Computing Machinery and Intelligence, publié en 1950. Cette question, réservée à un petit cercle d’initiés à cette époque, prend désormais tout son sens. En effet, si l’on définit l’intelligence artificielle (IA) comme "la science qui consiste à faire faire aux machines ce que l’homme ferait moyennant une certaine intelligence" (Marvin Minsky), la Science semble n’avoir jamais été aussi près d’en faire naître une.

L’intelligence artificielle aujourd’hui - En mars 2019, nous fêtions les trois ans de la victoire de l’Alpha Go sur le champion du monde du jeu de Go. Cette victoire est particulièrement symbolique car le jeu de go ne permet pas de gagner simplement en mémorisant un grand nombre de parties que l’ordinateur se contenterait de reproduire.

La puissance de calcul des ordinateurs actuels, les capacités de stockage et la quantité de données disponibles ont permis des progrès considérables et contribué à distiller dans notre quotidien différentes formes de machine learning ou de deep learning. Ces différentes branches de l’intelligence artificielle sont basées sur des algorithmes.

Les questions éthiques liées à l’intelligence artificielle - L’enjeu d’un algorithme est ce que ses développeurs définissent comme son "succès". Ce succès, pour être atteint, repose sur des raisonnements "logiques". Cependant, ces raisonnements peuvent comporter des biais ou des schémas pouvant susciter des discriminations ou des formatages. En ligne de mire, on trouve l’algorithme derrière le site Admission Post Bac que l’on considère inapte à gérer les exceptions et qui pourrait reproduire les inégalités sociales.

Premiers éléments de réponse de la Commission nationale de l’informatique et des libertés (CNIL) - Face aux dangers des algorithmes, la CNIL a publié en décembre 2017 un rapport intitulé "Comment permettre à l’Homme de garder la main ?". Son objectif est d’exposer les solutions pouvant permettre "de garantir que l’intelligence artificielle augmente l’homme plutôt qu’elle ne le supplante" (Isabelle Falque-Pierrotin).

Ce rapport considère important d’instaurer deux principes fondamentaux :

  • tout d’abord un principe de loyauté, selon lequel un algorithme doit être loyal envers ses utilisateurs, non pas en tant que consommateur mais en tant que citoyen. Le but de ce principe est de faire primer l’intérêt des utilisateurs ;
  • ensuite, un principe de vigilance/réflexivité, qui doit conduire à instaurer un questionnement régulier, méthodique et délibératif à l’égard des algorithmes.

Ces principes doivent aider à apporter des solutions aux six problématiques principales identifiées par la CNIL. La première crainte est le risque de déresponsabilisation des différents acteurs face à la confiance inspirée par les systèmes algorithmiques. Ensuite, comme le codage des algorithmes peut reproduire des discriminations et des exclusions, il est essentiel de veiller à limiter au maximum la reproduction de ces biais. De plus, la personnalisation, qui résulte de la segmentation et du profilage, peut affecter le pluralisme démocratique et culturel. Du côté des données personnelles, la CNIL considère également qu’il est primordial de trouver un équilibre entre les traitements importants de données nécessaires à l’IA et la protection des droits et des libertés de chacun. De même, il est crucial que les données alimentant les algorithmes ne soient pas faussées ou non pertinentes. Enfin, face à l’émergence de robots humanoïdes ou à des formes d’hybridation entre humains et machines, il devient indispensable et urgent de poser les premières questions d’éthique.

Le défi est bien aujourd’hui de construire les bases d’une véritable réflexion éthique quant à l’impact des différents systèmes algorithmiques sur nos sociétés.


A lire également :

Cet article a été publié dans notre Lettre Propriétés Intellectuelles de mai 2019. Découvrez les autres articles de cette lettre.


En savoir plus sur notre cabinet d'avocats :

Notre cabinet d'avocats est l’un des principaux cabinets d’avocats d’affaires internationaux. Son enracinement local, son positionnement unique et son expertise reconnue lui permettent de fournir des solutions innovantes et à haute valeur ajoutée dans tous les domaines du droit.

A propos de notre cabinet d'avocats

Expertise : Droit de la propriété intellectuelle

Conformité RGPD : découvrez notre offre

Auteurs

Anne Laure Villedieu
Anne-Laure Villedieu
Associée
Paris
Favero Eleonore
Eléonore Favero
Avocat
Paris