Le jeu vidéo est souvent cité comme un cas dans lequel l’usage de l’intelligence artificielle présenterait un risque « minimal » pour les personnes. En raison de cette qualification, le jeu vidéo échapperait aux obligations découlant du Règlement sur l’intelligence artificielle. La situation est cependant plus complexe qu’il n’y paraît.
L’entrée en vigueur du Règlement sur l’intelligence artificielle
- Le Règlement sur l’intelligence artificielle est entré en vigueur en août 2024 (le « RIA »).
- Le RIA vise à garantir que les systèmes d'IA utilisés par les entreprises européennes ou destinés aux résidents de l'UE soient sûrs, transparents et respectueux des droits fondamentaux.
Une approche basée sur les risques
- Le RIA adopte une approche basée sur les risques. En bas de la pyramide se trouvent les systèmes d’IA entraînant un risque minimal, au-dessus desquels on trouve les systèmes à risques limités, puis élevés, et au sommet de la pyramide ceux présentant un risque inacceptable pour les droits et libertés des utilisateurs.
- Plus le niveau de risque est élevé, plus les obligations applicables à celui-ci sont strictes. Ainsi, les pratiques à risque minimal échappent à la nouvelle réglementation, celles à risque limité font l’objet d’obligations de transparence (art. 52), celles à haut risque sont soumises à un régime de mise en conformité détaillé (art. 6 à 51) et celles présentant un risque inacceptable sont prohibées (art. 5).
- Les systèmes d’IA utilisés dans les jeux vidéo sont souvent présentés comme présentant un risque minimal. Cependant, cette vision est trop simplificatrice. Par exemple, les chatbots prenant la forme de personnages non-joueurs (« PNJ ») pourraient être considérés comme un système d’IA à risque limité, voire élevé selon son rôle et le contenu de ses dialogues. Les studios devraient alors afficher le fait que ces PNJ ont été générés par IA et mettre en œuvre des actions pour prévenir la génération de contenu illégal par ceux-ci. En outre, une fonctionnalité du jeu susceptible de manipuler le comportement des joueurs de manière nuisible, par exemple en encourageant les dépenses excessives ou en exploitant un comportement addictif, serait très probablement considérée comme un système d’IA inacceptable – a fortiori s’il peut viser des joueurs mineurs.
Une approche complémentaire avec celle du RGPD
- De nombreuses obligations issues du RIA font écho à celles du RGPD. C’est par exemple le cas des obligations de transparence et d’information, de celle tenant à définir l’objectif poursuivi (la finalité) et la base légale du traitement de données lié au système d’IA, de l’importance de réaliser une analyse d’impact si nécessaire…
- En outre, la CNIL veillera à la bonne application du RIA en France et sera impliquée dans la coordination entre les organismes de réglementation au niveau européen.
Notre accompagnement sur la mise conformité au RIA
- Analyse du niveau de risque et identification du régime réglementaire applicable
- Définition des obligations : mise en place d'un système de gouvernance de l'IA, rédaction de la documentation et implémentation de processus assurant la traçabilité des phases du cycle de vie des systèmes d'IA, formation et sensibilisation des collaborateurs, etc.
- Établissement d’un plan d’action
- Evaluation de l'impact sur la protection des données
