A la fin de l’année 2022, ChatGPT a créé un engouement tel auprès du grand public que le logiciel a été rapidement inaccessible en raison du trop grand nombre de demandes. De quoi parle-t-on ? ChatGPT est un système d’intelligence artificielle (IA) développé par OpenAI et intégré par Microsoft depuis février 2023 au moteur de recherche Bing.
ChatGPT n’est cependant pas l’unique système d’intelligence artificielle. Depuis quelques mois, les autres géants de la Tech accélèrent leur développement vers l’IA générative. C’est le cas de Google avec Bard, de Meta, ou encore de Snapchat avec MyAI.
Plus largement, l’IA offre de multiples applications, qui peuvent être développées dans tous les secteurs de l’économie. De nombreuses entreprises réfléchissent déjà à son utilisation, entrevoyant un large éventail d’opportunités économiques et des gains sensibles d’efficacité.
Aussi impressionnants qu’intrigants, ces systèmes d’IA soulèvent de nombreuses questions juridiques compte tenu des risques que leur utilisation est susceptible de générer, du fait, notamment, de l’opacité et de la complexité des processus décisionnels qu’ils mettent en œuvre, ou encore des aspects de cybersécurité1.
La concrétisation des promesses de l’IA est l’occasion de faire un état des lieux des législations existantes ou en cours de discussion :
- La Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’IA) et modifiants certains actes législatifs de l’Union2 , adoptée le 21 avril 2021 par la Commission.
- Le Compromis du Conseil de l’Union en date du 25 novembre 20223 qui propose, de façon équilibrée, de tenir compte « des principales préoccupations des États membres tout en préservant l'équilibre délicat entre la protection des droits fondamentaux et la promotion de l'adoption des technologies de l'IA »4.
La proposition de règlement sur l’IA
• Une définition européenne du système d’IA
La Proposition, telle que modifiée par le Compromis, propose une définition harmonisée de ce qu’est un système d’intelligence artificielle. Il s’agit d’« un système qui est conçu pour fonctionner avec des éléments d'autonomie et qui, sur la base des données et des entrées générées par la machine et/ou par l'homme, déduit la manière d'atteindre un ensemble donné d'objectifs en faisant appel à l'apprentissage automatique et/ou à des approches axées sur la logique et les connaissances, et produit des résultats générés par le système sous la forme de contenu (systèmes d'IA générative), ainsi que de prédictions, de recommandations ou de décisions qui influencent l'environnement avec lequel le système interagit »5.
• Classification des systèmes d’IA
La Proposition fait d’abord un état des lieux des pratiques considérées comme interdites6 incluant notamment les systèmes d’IA qui exploitent les éventuelles vulnérabilités dues à l’âge, au handicap physique ou mental. Le Compromis protège également les personnes vulnérables en raison de leur situation sociale ou économique et vient préciser l’interdiction d’utiliser les systèmes d’identification biométrique à distance « en temps réel » dans des espaces accessibles au public7.
Ensuite, la Proposition définit une classification de systèmes d’IA à haut risque8. Dès lors qu’un système d’IA constitue un produit couvert par les actes législatifs d’harmonisation de l’Union énumérés à l’annexe II9, il est considéré comme étant à haut risque et doit par conséquent faire l’objet d’une évaluation de conformité par un tiers avant sa mise sur le marché ou sa mise en service.
Les systèmes d’IA qui sont visés à l’annexe III10 sont également considérés comme à haut risque. Cette liste peut être modifiée par la Commission11.
• Autorités notifiantes et organismes notifiés
Aux termes de la Proposition, chaque Etat membre désigne ou établit une autorité notifiante qui sera chargée de mettre en place et d’accomplir les procédures nécessaires à l’évaluation, à la désignation et à la notification des organismes d’évaluation de la conformité et à leur contrôle12.
Les autorités notifiantes pourront notifier les organismes d’évaluation de la conformité qui répondront à certaines exigences fixées par la Proposition13. Le Compromis précise que ces organismes notifiés seront constitués en vertu du droit national et auront la personnalité juridique.
• Exigences applicables aux systèmes d’IA à haut risque
La Proposition indique que les systèmes d’IA doivent se conformer à plusieurs exigences14, notamment :
• Obligations incombant aux fournisseurs, importateurs et aux utilisateurs de système d’IA à haut risque
Outre les exigences mentionnées ci-dessus, la Proposition impose un certain nombre d’obligations aux fournisseurs de systèmes d’IA, notamment de mettre en place un système de gestion de la qualité et d’assurer la conservation de la documentation et la tenue des journaux générés automatiquement par leurs systèmes d’IA15.
La Proposition impose également des obligations aux importateurs. En effet, ceux-ci doivent s’assurer, avant toute mise sur le marché, que le fournisseur d’IA a suivi la procédure d’évaluation de la conformité16, qu’il a établi la documentation technique requise et que le système porte le marquage de conformité CE.
Quant aux distributeurs, il leur incombe de vérifier que ledit système porte le marquage de conformité CE et qu'il est accompagné d'une copie de la déclaration UE de conformité et de la notice d'utilisation17, et ce, avant la distribution du système d’IA sur le marché.
Enfin, les utilisateurs de ces systèmes d’IA doivent s’en servir en respectant les notices d’utilisation et en réserver le contrôle à des personnes qui en ont les compétences, la formation et l’autorité nécessaires18. Les utilisateurs, tels que désignés par la Proposition, correspondent à toute personne physique ou morale, autorité publique ou tout autre organisme qui utilise sous sa propre autorité un système d’IA, sauf lorsque cette utilisation intervient dans le cadre d’une activité personnelle à caractère non professionnel.
• Sanctions
Pour les entreprises qui ne respecteraient pas les obligations ci-dessus, la Proposition prévoit :
- une amende administrative d’un montant maximal de 30 000 000 €, ou allant jusqu’à 6 % de leur chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu en cas de non-respect de l’interdiction frappant les pratiques en matière d’IA19 ainsi qu’en cas de non-conformité du système d’IA20 ;
- une amende administrative d’un montant maximal de 20 000 000 € ou allant jusqu’à 4 % de leur chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu en cas de non-conformité avec les autres exigences de la Proposition ;
- une amende administrative d’un montant maximal de 10 000 000 €, ou allant jusqu’à 2 % de leur chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu, en cas de fourniture d’informations inexactes, incomplètes ou trompeuses aux organismes notifiés et aux autorités nationales compétentes en réponse à une demande.
Le Compromis vient réduire les sanctions applicables aux PME et aux jeunes entreprises.
Et ensuite ?
La prochaine étape consistera en des négociations entre le Conseil et le Parlement européen, une fois que ce dernier aura adopté sa propre position, en vue de parvenir à un accord sur le règlement proposé21. 2023 pourrait être une année charnière pour la Proposition.
Points clés :
- La Proposition de règlement sur l’IA tient compte des évolutions rapides des systèmes d’IA dans l’Union : elle veut créer un cadre harmonisé au niveau européen.
- Les systèmes d’IA et les acteurs soumis à la Proposition sont nombreux et devront porter une grande attention à la conformité de ces systèmes avant leur mise sur le marché.
- Les entreprises devront donc se préparer et anticiper le respect des exigences de la Proposition dans le développement de leur système d’IA.
Article paru dans Option Finance Innovation le 11/04/2023
1) Commission européenne – Livre blanc sur l’intelligence artificielle, une approche européenne axée sur l’excellence et la confiance, 19 Février 2020 (COM (2020) 65 final).
2) https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX%3A52021PC0206
3) https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/fr/pdf
4) https://www.consilium.europa.eu/fr/meetings/tte/2022/12/06/
5) Article 3 (1) de la Proposition.
6) Article 5 de la Proposition.
7) https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/fr/pdf
8) Article 6 de la Proposition
9) L’annexe II mentionne notamment les règlements liés à la réception et à la surveillance des véhicules agricoles et forestiers, des véhicules à deux ou trois roues et des quadricycles ; aux équipements marins.
10) L’annexe III fait référence aux domaines suivants : identification biométrique et catégorisation des personnes physiques ; gestion et exploitation des infrastructures critiques ; éducation et formation professionnelle ; emploi, gestion de la main d’œuvre et accès à l’emploi indépendant ; accès et droit aux services privés essentiels, aux services publics et aux prestations sociales ; autorités répressives ; gestion de la migration, de l’asile et des contrôles aux frontières ; administration de la justice et processus démocratique.
11) Article 7 de la Proposition.
12) Article 30 de la Proposition.
13) Articles 32 et 33 de la Proposition.
14) Articles 8 à 15 de la Proposition.
15) Articles 17 à 20 de la Proposition.
16) Telle que prévue à l’Article 43 de la Proposition.
17) Article 27 de la Proposition.
18) Article 29 de la Proposition.
19) Telles que visées à l’Article 5 de la Proposition
20) Selon les exigences énoncées à l’Article 10 de la Proposition
21) https://www.consilium.europa.eu/fr/meetings/tte/2022/12/06/
Technologie, Media et Communication dans notre cabinet d’avocats :
Si les avancées technologiques constituent de formidables opportunités, elles sont également un vecteur de risques pour les entreprises. Dans cet environnement évolutif, notre cabinet d’avocats met à votre disposition sa fine compréhension des nouvelles technologies, son expertise reconnue en matière de propriété intellectuelle ainsi que sa parfaite maîtrise du droit des contrats.
|
|
|
