La Charte éthique européenne de la CEPEJ d’utilisation de l’intelligence artificielle (IA) dans les systèmes judiciaires et leur environnement : le Comité Ad Hoc sur l’intelligence artificielle (CAHAI) du Conseil de l’Europe

Par Monsieur Xavier Ronsin, Premier Président de la Cour d’Appel de Rennes, expert scientifique de la CEPEJ et Madame Clementina Barbaro, Secrétaire du Comité Ad Hoc sur l’Intelligence Artificielle du Conseil de l’Europe (CAHAI)

La Commission européenne pour l’efficacité de la justice, mieux connue sous le nom de CEPEJ, est chargée de promouvoir le bon fonctionnement et l’efficacité de la justice dans les 47 états membres du Conseil de l’Europe. La question de l’utilisation des technologies numériques dans le domaine de la justice, a occupé une place importante dans les travaux de la CEPEJ au cours des dernières années. Plus récemment, la CEPEJ a analysée l’entrée progressive de l’IA dans les systèmes judiciaires européens. Si certaines applications d’IA méritent d’être encouragées (pensons notamment aux outils qui permettent d’effectuer plus rapidement, et avec des résultats plus pertinents, une recherche juridique), d’autres – et notamment celles qualifiées de « justice prédictive » – suscitent une série d’interrogations en raison de leur impact sur l’office du juge, les garanties du procès équitable et les droits des justiciables.

Face à ces défis, la CEPEJ a souhaité poser un cadre de gouvernance de l’IA en adoptant, le 3-4 décembre 2018, la Charte éthique d’utilisation de l’IA dans les systèmes judiciaires et leur environnement[1]. Il s’agit du premier texte aux niveaux européen et mondial énonçant cinq principes de fond et d’ordre méthodologique qui devraient guider l’intégration des outils et services d’IA dans les systèmes judiciaires nationaux. En raison de son aspect novateur et de la qualité de son contenu, la Charte s’est imposée en tant que texte de référence par les décideurs politiques européens de haut niveau ainsi que par les représentants des institutions judiciaires nationales.

Parmi ces principes, le respect des droits de l’homme et de la non-discrimination revêt une importance fondamentale. L’objectif est de s’assurer, dès la conception et jusqu’à l’application pratique, que les solutions garantissent le respect des droits garantis par la CEDH et la Convention n° 108 du Conseil de l’Europe. Le principe de non-discrimination est expressément énoncé en raison de la capacité de certains traitements – notamment en matière pénale – de révéler des discriminations existantes en regroupant ou en classifiant des données concernant des personnes ou des groupes de personnes. Les acteurs publics et privés doivent donc veiller à ce que ces applications ne reproduisent ni n’aggravent cette discrimination et ne conduisent pas à des analyses ou pratiques déterministes.

Certains défis qualitatifs relatifs à la méthodologie d’analyse et au traitement automatisé des décisions judiciaires sont également pris en compte. Un principe de qualité et de sécurité est clairement énoncé : il devrait être possible de traiter les données par apprentissage automatique sur la base d’originaux certifiés et l’intégrité de ces données devrait être garantie à toutes les étapes du traitement. La création d’équipes multidisciplinaires, composées de magistrats, de chercheurs en sciences sociales et en informatique est fortement recommandée, tant au stade de la rédaction et du pilotage que de l’application des solutions proposées.

Le principe de transparence des méthodologies et des techniques utilisées dans le traitement des décisions judiciaires revêt également une grande importance. L’accent est mis ici sur l’accessibilité et la compréhension des techniques de traitement des données, ainsi que sur la possibilité pour des autorités ou des experts indépendants d’effectuer des audits externes.  Par ailleurs, la CEPEJ encourage la mise en place d’un mécanisme de certification afin de reconnaître la qualité de réalisations, mais aussi garantir leur transparence et la loyauté des modalités de traitement de l’information.

Par ailleurs, la Charte souligne la nécessité de permettre à l’usager de toujours rester un acteur éclairé et maître de ses choix. Le juge, en particulier, devrait pouvoir revenir à tout moment aux décisions et données judiciaires qui ont été utilisées pour produire un résultat et continuer à avoir la possibilité de s’en écarter compte tenu des spécificités de l’affaire en question. Chaque utilisateur devrait être informé, dans un langage clair et compréhensible, du caractère contraignant ou non des solutions proposées par les instruments d’IA, des différentes options possibles et de son droit à un conseil juridique et à un recours devant un tribunal.

La CEPEJ met en œuvre une série de mesure pour assurer une large diffusion de la Charte auprès des professionnels de la justice, les institutions et les acteurs de la vie politique. De plus, sur le plan pratique, ces principes constituent une base de comparaison importante pour évaluer les caractéristiques des différentes applications de l’IA, dont l’intégration dans le système judiciaire ou au niveau des tribunaux se poursuit actuellement de manière hétérogène.

Il est aussi important de mentionner que le Conseil de l’Europe travaille actuellement à la définition d’un cadre juridique pour le développement, la conception et l’application de l’intelligence artificielle, fondés sur les normes du Conseil de l’Europe dans le domaine des droits de l’homme, de la démocratie et de l’État de droit. Un Comité Ad Hoc sur l’intelligence artificielle (CAHAI) a été établi en septembre 2019, avec un mandat de deux ans, ayant pour tâche d’examiner, sur la base de larges consultations multipartites, la faisabilité et les éléments potentiels de ce cadre juridique. Il s’agit du tout premier comité intergouvernemental au niveau international en ce domaine, marquant la volonté des Etats membres du CdE d’aller au-delà des normes éthiques. Ces dernières ont augmenté de manière spectaculaire au cours des dernières années (nous comptons aujourd’hui environ 200 Chartes dans le monde) mais ont des limites : on s’inquiète notamment de leur capacité à relever efficacement les défis posés par l’IA, par exemple dans des domaines sensibles comme la reconnaissance faciale, qui ont un fort impact sur les droits de l’homme, en raison de leur caractère non contraignant.

Le CAHAI s’appuiera sur différents travaux et cadres existants du Conseil de l’Europe concernant l’IA pour identifier les éléments transversaux de ce cadre juridique : en plus de la Charte de la CEPEJ, citons la Convention 108+ (Convention pour la protection des personnes à l’égard du traitement des données à caractère personnel), différentes études de Comités spécialisés, , la Recommandation du Commissaire aux droits de l’homme ” Décoder l’intelligence artificielle ” : 10 mesures pour protéger les droits de l’homme”.

[1] https://www.coe.int/fr/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment.

Ce texte inclut une étude approfondie de l’utilisation de l’IA dans les systèmes judiciaires européens en tant qu’Annexe I.