vendredi 30 août 2019

La justice et l’intelligence artificielle : troquer le bandeau pour le masque ?

En droit, il n’y a pas de révolutions mais des évolutions, entend-on dire parfois. Ou tout au plus, y’aurait-il des revirements…les cours et tribunaux épousant avec circonspection l’évolution des mœurs et des rapports sociaux : juris-prudence. Mais que devient cet art de la prudence face à l’évolution des technologies ? Que devient-il quand les technologies s’immiscent au cœur-même de la sphère juridique pour en transformer les pratiques ? 

Comme de nombreuses autres sphères, le droit et la justice ne sont pas épargnés par le phénomène de numérisation du quotidien et le développement de l’intelligence artificielle qui l’accompagne. Dans cette sphère, l’émergence de technologies basées sur des systèmes d’intelligence artificielle permet l’automatisation d’un nombre toujours plus grand d’activités, considérées auparavant comme l’apanage exclusif de l’avocat ou du juge. Les applications intégrant des dispositifs algorithmiques, parfois auto-apprenants, se multiplient. Alors que les uns ironisent en dénonçant une potentielle « überisation du droit », les autres investissent dans ce qu’on appelle désormais les LegalTechs, pour désigner une grande diversité de dispositifs censés dépoussiérer la justice et la faire entrer définitivement dans une nouvelle ère numérique : plateformes en ligne facilitant l’accès à la justice, bases de données intelligentes permettant aux avocats d’étayer des stratégies judiciaires, systèmes de prédiction aidant les juges à évaluer la dangerosité potentielle d’un individu…

La juxtaposition des termes justice et algorithme ne manque pas de faire naître un sentiment d’ « inquiétante étrangeté » car elle laisse croire en une possible modélisation de la pratique juridique. Derrière leurs fonctions vertueuses d’optimisation et d’efficacité, ces technologies pourraient transformer radicalement la rationalité des pratiques juridiques, fragiliser les mécanismes de mise en œuvre du droit et, ce faisant, troubler la trajectoire des justiciables. A travers le développement de systèmes algorithmiques capables de collecter, d’analyser, de traiter des quantités massives de données, les acteurs de la justice se voient conférer des outils de prédiction leur permettant d’optimiser les processus décisionnels, d’anticiper les risques, voire de gouverner les conduites. Ironie de l’histoire ? Les juristes de la Rome antique, qui ont tellement marqué notre tradition juridique occidentale, se fondaient eux aussi sur des oracles pour rendre leur décisions… 

Il est aujourd’hui crucial de bien cerner les enjeux sociétaux de ces nouveaux outils de prédiction. Deux pistes d’investigation méritent d’être suivies. La première concerne les professionnels du droit et oblige à s’interroger sur la singularité de leurs pratiques : qu’est-ce que fait l’avocat ou le juge qui ne puisse être réalisé par une machine ? Il est nécessaire ici de se demander si la machine peut vraiment saisir la part d’irréductible complexité de certaines affaires. Comment envisager de nouvelles modalités de collaboration avec les machines, qui ne confineraient pas le juriste dans un rôle de simple exécutant ? Comment établir une relation de confiance avec le client ou le justiciable alors que de nouveaux acteurs algorithmiques font irruption dans l’arène judiciaire ? Au-delà des problèmes relatifs à ces futures collaborations, se pose également la question du financement et du contrôle des outils numériques mis à disposition des acteurs de la justice, à l’heure où le marché de la donnée et le développement des technologies est dominé par le secteur privé. 

La seconde piste d’investigation concerne les justiciables et, plus particulièrement, leur droit fondamental à être traités de manière impartiale. L’un des arguments souvent avancés en faveur d’un recours plus étendu aux machines est qu’elles permettent de compenser les biais cognitifs et affectifs dont sont victimes les humains. Trop subjectifs et partiaux, les magistrats seraient, selon certains, incapables de rendre « objectivement » la même justice pour tous. Or parmi les attributs de la justice, il n’y pas que le glaive et la balance… Symbole d’impartialité, le bandeau couvrant les yeux de la justice est essentiel. Aujourd’hui on sait cependant que cette critique est trop simpliste car le fonctionnement des systèmes d’intelligence artificielle peut également se révéler très opaque et, parfois, dissimuler des traitements inégalitaires et discriminatoires. Le système avance alors masqué et son pouvoir est invisible. Le bandeau n’est plus sur les yeux de la justice, mais sur ceux du justiciable… 

Christophe Lazaro,
Professeur en Droit et Société à l'Université Catholique de Louvain (UCLouvain)
Membre de la CERNA (Commission de Réflexion sur l’Ethique de la Recherche en sciences et technologies du Numérique d’Allistene, France)