[Dossier spécial] Décryptage de l’IA appliquée au Droit - L'intelligence artificielle et le juge judiciaire : enjeux et perspectives

Le présent article est issu du dossier spécial "Décryptage de l’IA appliquée au Droit".

Tarik Lakssimi, Agrégé des facultés de droit, Chef du département recherche, notamment sur l’IA, de l’Ecole Nationale de la Magistrature (ENM) a accepté de nous présenter les initiatives prises par l'ENM pour intégrer l'IA dans ses formations, tout en examinant les défis et l’évolution potentielle que soulève cette intégration. Pour comprendre les orientations et les évolutions de la formation des magistrats à l’heure du règlement sur l'IA et des intelligences artificielles génératives.

Le sommaire de ce dossier est à retrouver en intégralité ici.

L'avènement de l'intelligence artificielle (IA) bouleverse de nombreux domaines et le monde juridique n'y fait pas exception. Face à cette révolution numérique, l'École Nationale de la Magistrature (ENM) se trouve au cœur des enjeux liés à la formation des futurs magistrats et à l'adaptation des pratiques judiciaires des magistrats déjà en poste [1]. Cet article se propose de présenter les initiatives prises par l'ENM pour intégrer l'IA dans ses formations, tout en examinant les défis et l’évolution potentielle que soulève cette intégration. Cela permet de comprendre les orientations et évolutions de la formation des magistrats à l’heure de l’IA Act et des intelligences artificielles génératives. Ces dernières formes d’intelligences artificielles permettent, on le sait, d’accélérer certains processus parfois chronophages comme l’analyse, la synthèse, la comparaison ou encore la rédaction de document, y compris juridiques (actes de procédure, voire jugement). Mais l’acte de juger étant un mécanisme complexe aux répercussions importantes dans la vie des justiciables, l’ENM s’est très tôt interrogée sur l’usage et l’encadrement de ces outils au sein de la magistrature. L’IA générative, qui évolue à une vitesse impressionnante, n’est, en outre, pas la seule forme d’IA à laquelle l’ENM reste attentive. De plus en plus d’outils d’aide à la décision, tendant vers une justice prédictive, qui n’est pour l’heure pas tout à fait satisfaisante, voient le jour chez différents opérateurs privés. Parce que ces outils tentent d’apporter des aides à la prédiction de décision de justice, l’ENM s’intéresse également à ces évolutions afin d’anticiper au mieux leur potentielle utilisation qui reste en tout hypothèse assez encadrée [2]. L’IA générative, couplée aux tentatives d’IA tendant vers des outils de justice prédictive, constitue donc pour l’ENM un sujet important aussi bien sur le plan de la formation (I) que de la recherche (II).

I. La formation à l’IA

Dans un premier temps, l'ENM a adopté une approche axée essentiellement sur la sensibilisation aux enjeux de l'IA. Cette phase s'est notamment caractérisée par une formation centrée sur les risques et les enjeux éthiques de l'IA, d’une part, une attention particulière portée au cadre réglementaire [3], d’autre part et une sensibilisation aux usages délictuels potentiels, tels que les « deepfakes » et les « fake news », enfin. Cette approche, bien que nécessaire, restait toutefois limitée dans sa portée opérationnelle et se contentait d’ouvrir aux magistrats l’accès à une compréhension de certaines manifestations du phénomène IA au sein de la société. Reconnaissant la nécessité d'une approche plus dynamique, l'ENM a alors progressivement évolué vers une stratégie plus engagée. Cette évolution s'est manifestée par la mise en place d'expérimentations concrètes (1), le développement de formations techniques spécifiques (2) ou encore la création d'un groupe de travail dédié à l'IA générative (3).

S’agissant, d’abord, des expérimentations concrètes (1), l’ENM a mené, entre 2019 et 2022, une expérience en collaboration avec l'université de Grenoble, impliquant 250 auditeurs de justice et magistrats [4]. L’étude consistait à mesurer l'influence de résultats produits par des algorithmiques sur des décisions judiciaires en matière civile et pénale.

L’on a pu constater une influence significative de l'algorithme sur les décisions en matière civile, avec une conformité majoritaire aux indications algorithmiques. Cela s’explique par le fait qu’il était question de fixer le montant d’une prestation compensatoire, ce qui se prête bien au traitement algorithmique eu égard aux critères d’entrée et de sortie attendus dans ce type d’exercice de détermination d’un montant de prestation compensatoire.

En revanche, en matière pénale, l’utilisation d’algorithme n’avait qu’un effet négligeable sur les décisions de culpabilité : l’intime conviction semblait ici l’emporter sur les propositions algorithmiques. Cette expérience, en réalité plus sociale que juridique [5], souligne toutefois la complexité de l'interaction entre l'IA et le processus décisionnel judiciaire, mettant en lumière la nécessité d'une formation approfondie des magistrats non seulement sur ces questions d’intelligence artificielle en particulier, mais aussi sur l’environnement numérique dans lequel l’IA évolue.

Pour ce qui est, ensuite, des formations spécifiques (2), outre les projets contribuant à la réflexion de l’IA à l’échelle européenne auxquels participe l'ENM, cette dernière a développé une formation prenant la forme d’un cycle approfondi du numérique [6] d'un an organisé en partenariat avec l'École des Mines de Paris et le Campus du numérique public de la DINUM [7]. Ce programme vise non seulement à développer une culture numérique pour soutenir la modernisation de la Justice, mais aussi à comprendre les enjeux numériques et à acquérir des outils de gestion de programmes numériques. Le programme permet aussi d’explorer les nouvelles technologies (machine learning, blockchain, IA) et leur impact sur la justice. L’objectif du cycle tend, dans ce contexte, à renforcer les synergies entre les métiers de la justice et les acteurs de la transformation numérique de l'État. Cette initiative contribue à former des magistrats capables de comprendre les technologies numériques dans leur pratique professionnelle et d’interagir avec.

En ce qui concerne, enfin, la création d’un groupe de travail (3), l’ENM a très rapidement remarqué l'importance croissante de l'IA générative et créé un groupe de travail dédié, présidé par le rapporteur général du comité interministériel sur l'IA. Ce groupe vise notamment à améliorer les enseignements sur l'IA ou encore à comprendre les limites de l'IA générative, et même à développer un code de conduite pour l'utilisation de l'IA et former les formateurs de l'ENM à l'IA générative. Cette initiative démontre une prise de conscience de l'impact potentiel de l'IA générative sur la pratique juridique et la nécessité de préparer les magistrats à cette nouvelle réalité. Le groupe de travail rendra prochainement ses conclusions.

II. La recherche sur l’IA

Malgré les avancées significatives réalisées par l’ENM dans l'intégration de l'intelligence artificielle (IA) à son cursus, plusieurs défis majeurs restent à relever et anticiper pour une intégration efficace de l'IA dans la formation des magistrats et la pratique judiciaire. L’ENM participe activement à la recherche juridique sur ces thématiques. La question ici n’est plus tant d’intégrer, dans l’immédiat, l’usage de l’IA dans le processus de formation ou dans le travail quotidien du magistrat [8], que de penser les potentialités d’une IA de justice prédictive couplée à l’IA générative [9] et de son intégration dans le paysage judiciaire [10]. Cette recherche laisse apparaître trois principaux aspects qui pourraient soulever des difficultés dans l’acte de juger : l’accès aux données (1), d’une part, l’évolution du raisonnement juridique (2), d’autre part et le contrôle du résultat produit par l’algorithme (3), enfin.

La question de l'accès aux données juridiques est cruciale pour le développement d'une IA efficace (1). L'efficacité des algorithmes d'IA dépend en effet largement de la qualité et de l'exhaustivité des données sur lesquelles elles sont entraînées et des données qu’elles reçoivent en entrée. Dans le domaine juridique, cela implique l'accès non seulement aux différents textes normatifs juridiques [11] et à l'ensemble des décisions de justice rendues sur le fondement de ces textes, mais aussi à leur analyse doctrinale qui est, le plus souvent, éparpillée entre les différents éditeurs juridiques privés, lesquels développent des IA sur le fondement de leur propre base de données [12]. Le libre accès aux textes normatifs juridiques et aux décisions de justice, à travers l’Open data, devrait faciliter le développement des IA juridiques à cet égard. En revanche, l’analyse doctrinale de ces textes et décisions, qui contribue aussi bien à l’explication et à la compréhension du droit que, parfois, à sa création [13] soulève davantage de difficultés en raison de l’éclatement de l’œuvre doctrinal entre les différents éditeurs juridiques qui possèdent des propriétés intellectuelles sur ces œuvres [14]. Cette situation pose un défi majeur pour le développement d'une IA (prédictive ou générative) fiable et représentative de la réalité juridique. Ce défi soulève la question de la rémunération équitable des éditeurs afin de permettre l'utilisation de ces données juridiques. Si l'on se souvient que la justice est d'intérêt public [15], une IA juridique fiable, quel qu’en soit le fabricant [16] ou l’utilisateur [17], utilisée par les magistrats ne pourra véritablement voir le jour tant que l’on ne tient pas compte de la pertinence et de l’exhaustivité des données utilisées par les algorithmes. Cela pourrait impliquer la mise en place de nouveaux modèles de collaboration entre le secteur public et le secteur privé, voire l'élaboration de nouvelles dispositions légales pour faciliter l'accès aux données tout en préservant les intérêts légitimes des éditeurs. Par ailleurs, le développement des blogs, sites d’actualité juridique ou autres canaux numériques modernes [18] facilite la mise en ligne et la diffusion de données juridiques en libre accès, ce qui pourrait constituer, peut-être, les prémices d’un open source de la donnée juridique. Mais on est encore très loin de l’efficacité et de l’étendue que couvrent les éditeurs juridiques classiques [19].

Au vrai, même à supposer que des données fiables et complètes venaient à être accessibles, l'évolution du contentieux et du raisonnement juridique (2) pose des défis spécifiques pour le développement d'algorithmes efficaces que l’IA générative ne parvient pas, pour l’heure, à surmonter. La complexification du raisonnement juridique à travers, notamment, la fondamentalisation du droit, la multiplicité des sources (CEDH, UE...) et l'incertitude qui apparaît parfois dans la hiérarchie des normes [20] ou des juridictions rendent le raisonnement juridique de plus en plus complexe en paraissant peu accessible aux algorithmes du moment. Ces évolutions posent un défi majeur pour les systèmes d'IA, qui doivent être capables de prendre en compte ces multiples sources et juridictions tout en les hiérarchisant de manière pertinente. Le coût que représenterait la mise en place de tel système d’IA est à mettre en corrélation avec le bénéfice que pourraient en tirer les acteurs économiques impliqués, lesquels érigeront mathématiquement comme limite à leur investissement le bénéfice potentiel. Ceci explique notamment, en partie, l’une des raisons pour lesquelles le marché de l’IA en matière médicale connait un fort investissement. Outre les aspects liés à l’importance du secteur de la santé, les enjeux économiques y sont considérables. De plus, le développement des modes alternatifs de règlement des différends et l'émergence de nouveaux types de contentieux (comme ceux liés à l'environnement [21] ou au numérique) ajoutent une couche supplémentaire de complexité en ce que le juge est de plus en plus invité à laisser s’échapper le contentieux vers des modes de règlement plus consentis [22] ou à traiter des contentieux par un raisonnement juridique qui n’emprunte pas tout à fait la méthode du syllogisme classique [23].

Enfin, la question du contrôle humain sur les résultats produits par l'IA est fondamentale en matière de justice (3). Elle implique une classification des contentieux selon leur nature et leur enjeu [24]. Il est en effet nécessaire de développer une typologie fine des contentieux, prenant en compte non seulement la nature du litige, mais aussi son enjeu social, économique ou humain. Cette classification permettrait de déterminer le degré d'intervention acceptable de l'IA et le niveau de contrôle humain nécessaire pour chaque type de contentieux lorsqu’une IA quelle qu’elle soit est utilisée dans le processus de jugement. L’IA Act, à travers la classification des IA en fonction du niveau de risque, apparaît comme une première boussole dans cette entreprise. Ceci soulève en outre des questions, plus théoriques et philosophiques, sur ce qu’est la justice ou encore sur le rôle du juge au sein de la société. L’un des arguments critiques qui reviennent le plus souvent contre les IA juridiques réside en effet dans son incapacité à comprendre l’aspect humain et émotionnel des contentieux. Pourtant, l’aspect humain et émotionnel n’est pas censé être la boussole du juge. Certes, le juge a toujours cherché à adapter sa décision aux spécificités des espèces en tenant compte de l’humanité de la personne impliquée par la décision. Le juge n’est précisément pas un robot inhumain dénué de sentiment. Mais la boussole judiciaire reste la règle de droit. La justice est censée être aveugle. Or, c’est précisément ce que l’on reproche parfois à l’IA… Voici une vertu traditionnelle de la justice qui se mue en défaut comme par enchantement. Aussi, au lieu de simplement rejeter l’IA en pointant son défaut d’humanité, il convient peut-être davantage de l’accompagner en repensant, au besoin, la philosophie du procès et de la justice pour un usage efficace et éthique de l’IA dans les processus de jugement.

En définitive, l'intégration de l'IA dans la formation des magistrats et dans la pratique judiciaire, d’une part, et la réflexion autour des problématiques que soulève l’IA, d’autre part, ouvre la voie à une transformation profonde de notre système de justice. Cette transformation, si elle est menée avec discernement et dans le respect des valeurs fondamentales de notre droit, pourrait conduire à une justice plus efficace, plus transparente et plus équitable. Toutefois, elle nécessite une vigilance constante et un dialogue continu entre les différents acteurs impliqués.

L'ENM, en tant que creuset de la formation des futurs magistrats, a un rôle crucial à jouer dans cette évolution. En préparant les juges de demain à maîtriser ces nouvelles technologies tout en préservant l'essence de leur mission, elle contribue à façonner une justice du 21ème siècle, à la fois ancrée dans ses valeurs fondamentales et résolument tournée vers l'avenir.

© Reproduction interdite, sauf autorisation écrite préalable