Presaje

Sous l’égide bienveillante de la Cour d’Appel de Paris, de l’Institut Présaje, de l’EFB et de l’ENM, l’intitulé de ce colloque du 1^er décembre 2023 « Intelligence artificielle, droit et souveraineté » pose les termes de ce qui s’apparente à « une conjoncture problématique »[1]. Soit une crise de souveraineté du mandat de justice confié à la Profession¹ du droit par l’Etat, et par des citoyens à l’Etat, dans le contexte de sociétés dites démocratiques.

Je salue ce séminaire que rend nécessaire la diffusion des outils à base d’IA : le Président de l’Institut Présaje, Thomas Cassuto, le Président de la Cour d’appel de Paris, Jacques Boulard, et tout particulièrement ses deux initiateurs : Arnaud Billion, Ethicien et docteur en droit de l’informatique et Sabine Van Haecke-Lepic (Phd en droit), Avocate.

L’enjeu de mon intervention est de montrer que les professions à mandat souverain (Weber, 1921 ; Dubar & Tripier, 1998) – réaliser la justice, la recherche de type scientifique, l’éducation, la santé, la culture, la sécurité… - articulé sur des droits posés comme fondateurs du « vivre ensemble » – ont un réel pouvoir d’agir (stratégique et politique). « Agir » plutôt qu’« Action », trop fonctionnaliste et applicatif. Mais cet agir s’active à certaines conditions : de réflexivité (entendue comme retours critiques et comparés sur exercice pour neutraliser les « prêt-à-penser » sur l’IA, le droit et la souveraineté) ; et de mobilisation de la « Profession », telle que définie en sociologie des professions (cf. note ci-contre).

Je m’appuierai sur la synthèse de mes recherches, couvrant une vingtaine d’années, qui ont abouti à une Habilitation à diriger des thèses : « La modernité et ses avatars en gestion » (de Rozario, 2013). Je m’inscris également dans le courant de l’analyse cognitive des politiques publiques (IEP Paris, cf. Muller, 2000). J’examine les déclinaisons de l’utopie de société formalisée par les philosophes du XVIIème siècle², notamment son appropriation pour la construction d’un Etat dit « moderne », qui s’en inspire pour assoir sa souveraineté.

Vous me pardonnerez une lecture et un commentaire en guise d’introduction. Le hasard m’a récemment fait lire les actes d’un colloque sur l’évaluation législative publié par la Revue de la recherche juridique. J’ai envie de partager cet extrait de l’allocution d’ouverture prononcée par René Monery, alors Président du Sénat, tant elle me semble pertinente trente ans plus tard (1994, RRJ, Droit prospectif, p. 1078):

« Trop de législation tue la loi. Je crois que c’est vrai. Je ferai un petit aparté en disant que notre système politique et notre gouvernement font trop de lois. Je trouve que, souvent, les lois sanctionnent plus facilement les habitudes qu’elles ne les transforment. Et quand on veut trop vite transformer les habitudes, les lois se heurtent parfois à une certaine incompréhension » ; « La loi n’est plus un acte incontestable et sacré dont le bien-fondé ne peut être remis en doute car incarnation de la Vérité, de la Raison, de la Justice sur le plan symbolique. Elle n’est plus légitime ab initio tenant à ses caractéristiques propres, aux valeurs qu’elle incarne, à sa puissance intrinsèque. Sa légitimité dépend de son aptitude à réaliser certains objectifs, de l’efficacité sociale des résultats enregistrés ».

La légitimité juridique dépendrait ainsi de trois conditions : l’opinion publique doit constater concrètement en situation et en contexte les effets du droit ; les décisions juridiques devraient être suffisamment consensuelles pour ne pas apparaître comme une remise en cause de la majorité, mais aussi ; elles doivent pouvoir être suffisamment contestées (la référence à la modernité est directe) pour susciter des améliorations objectives.

IA : une conjoncture problématique[2]

Depuis 2015, et très rapidement, des opérateurs d’IA principalement américains, leurs consultants et lobbyistes associés ont proposé des Machines Learning (ML) - les « Legal-tech » - bien plus performantes que les systèmes experts en usage. Grâce à leur numérisation et mise en commune, la masse des données traitées n’a jamais été aussi considérable. Ces ML s’auto-améliorent dans leurs traitements statistiques de données, soit automatiquement, soit par commande humaine (« supervision »), processus appelé « deep learning » ou « apprentissage (statistique devrait-on toujours rappeler) profond », par homologie avec l’apprentissage humain. Tout à fait à tort aux vues des recherches en sciences de l’éducation.

Mais mon propos n’est ni d’exposer la technicité de l’IA – outre une pincée de technique - ni de pointer certaines inadéquations entre le réel et la manière dont le décrit son langage de spécialité³. Ross (Artificial Intelligence Outperform), par exemple, « performe » la recherche documentaire à partir de requêtes (les « prompts », « prompting » étant l’ingénierie des requêtes pertinentes), en « forant » des milliers de données juridiques. Predictice ou Case Law Analytics calculent les meilleures probabilités de résolution d’un contentieux, le montant des indemnités potentielles, les faits les plus influents des juridictions antérieures pour une décision optimale en temps, résultats et coûts. Après la promesse d’une « justice prédictive », sont plus raisonnablement invoquées des « justices préventives », voire « prospectives », dans un rapport au temps et à l’avenir – soulignons-le – qui demeure essentiellement focalisé sur le contrôle et la maîtrise technique.

Les deux auteurs du numéro hors-série de Légimag (Charpentier, Lesguillons, 2016ⁱ) « La Start- up juridique : braconnage ou avenir de la profession » auxquels nous empruntons cette contextualisation, décrivent (sans l’invoquer) toutes les caractéristiques d’une « conjoncture problématique » :

• Une rhétorique de crise et d’urgence, sous forme de menaces (l’émotion mobilisée est la peur) : si les professionnels ne l’adoptent pas immédiatement, l’activité des juristes juniors, des documentalistes juridiques, des veilleurs, des collaborateurs, des éditeurs, des enseignants et des consultants en droit, celle des avocats… disparaîtra. Peut-être est-il trop tard ? Certainement. Cette rhétorique dégrade souvent les savoirs, les outils et les organisations actuels, taxés de totalement dépassés, inefficaces, « H.B. » (Has Been). La rhétorique de la science (du progrès inéluctable) – est mise en avant dans une sorte de combat héroïque toujours binaire entre : « les anciens » et « les modernes ».
• La mise sur agenda d’un nouveau thème de mobilisation collective, ici l’IA. Cette mise sur agenda est de type politique. Elle correspond en général à un projet de déstabilisation des expertises existantes pour installer un nouveau système d’expertise. Pour cela, un langage de spécialité présenté comme « radicalement nouveau » - nous l’avons évoqué précédemment – est nécessaire afin de se démarquer des savoirs existants. La mise sur agenda n’est possible qu’avec des lobbyistes actifs. Ont été d’ailleurs rappelés durant ce colloque leurs présences auprès des constitutions européennes (la Commission européenne, le Conseil de l’Europe, etc.).
• L’annonce du monopole de LA résolution de cette conjoncture problématique. Trépo (2007) avait bien analysé les conditions de basculement d’une mode à l’autre en management, notamment en informatique de gestion dont fait partie l’IA aujourd’hui. Pour emporter la décision, il est nécessaire de promettre une solution totale, unique, incomparablement meilleure, non couteuse, voire, gratuite en ROI. Celle-ci promet la satisfaction de tous les besoins et la tranquillité pour des gains inestimables (rarement anticipés dans leurs types et leurs niveaux de conséquences).

Les nouveaux entrants (principalement les Gafam et des start-ups en matière d’IA) doivent en effet apporter « La solution » à la conjoncture problématique mise en scène, et tenir par la même occasion l’agenda de sa résolution, s’ils entendent modifier les dynamiques en place pour s’installer. Et en France, les éditeurs juridiques traditionnels n’offrent pas encore de produits alternatifs équivalents, la numérisation des données juridiques et la recherche juridique prenant du temps.

In fine, la vigilance implique de considérer au moins trois dangers[4]. Premièrement, un danger de changement de paradigme via l’intelligence essentiellement statistique imposée par l’IA, par rapport à d’autres formes d’intelligence humaines et biologiques. Les droits ne sont pas calculés, ils sont interprétés. Une requête peut être jugée fondée, mais rejetée par des considérations morales hors champ probabiliste. Autre exemple pratique, au cours d’un jugement, le juge et les parties prenantes découvrent le principe moral du droit par son exercice, ce qu’a particulièrement bien filmé Justine Triet dans le film primé à Cannes « Anatomie d’une chute », j’y reviendrai. Deuxièmement, un danger de substitution de souveraineté dans l’art de faire justice. Les IA américaines (ceci s’applique à d’autres compétiteurs nationaux⁵) sont, d’une part, de propriété américaine, et de l’autre, surtout de culture américaine dans leur conception de la justice. Les précieux commentaires de la jurisprudence – la doctrine – sont détenus par les éditeurs. Le traitement statistique des jurisprudences diffuse des « Soft Laws » à la place de « Hard Laws », basées sur l’application de lois⁶ et la hiérarchie des normes depuis une constitution nationale (cf. Kelsen). Enfin, troisième danger : l’industrialisation de la profession, ce qui reviendrait à supprimer son pouvoir d’agir pour faire de chaque « juriste » un « agent numérique ». Arnaud Billion compare ainsi des juristes instrumentés par l’IA et les ingénieurs informaticiens pour finalement constater une triste similitude : ne demanderait-on pas à l’un et l’autre de bien formuler des prompts, des prescriptions afin de bien les exécuter et les optimiser ?

Si les ingénieurs peuvent s’en passer, les juristes ont besoin de savoir si une règle correspond bien à une règle de droit, ils ne peuvent l’appliquer sans cette réflexion préalable. Ce processus d’industrialisation autorise à grande échelle des opérations d’optimisation par standardisation (versus spécialisation), interopérabilité, interchangeabilité, reproductibilité, sous-traitance, délocalisation et médiation technique (versus médiation humaine).

Or la finalité d’une profession à mandat souverain n’est pas l’optimisation ni l’industrialisation des combinatoires de normes posées comme indiscutables⁷ – pour le droit - mais la réalisation la plus juste possible des quatre principaux marqueurs de la modernité décrits plus loin. Et cette réalisation, complexe, est liée à un territoire, une population, des configurations d’organisations différentes, une autonomie et un rôle politique : « entre l’Etat, le public et le marché », constatait  Karpik.

Modernité, Etat & Professions modernes

De manière plus prononcée à partir du 17^ème siècle, les politologues et les sociologues notent que l’Etat moderne, à racine républicaine, gouverne avec des professions et des organisations orientées vers la réalisation de la modernité (Latreille, 1980 ; Dubar & Tripier, 1998 ; Dubet, 2002 ; Herlizch, 2003). Les juristes et les ingénieurs, plus tard les managers font partie des professions dites modernes, mandatées pour pratiquer cette modernité et accompagner ses réformes. Elles disposent d’une double légitimité : celle que leur confère l’Etat lui-même mandaté pour bien gouverner ; et celle de la modernité comme idéal de gouvernement.

Parmi la profusion de travaux sur la modernité, indissociables de la postmodernité ou de la sur- modernité, j’ai identifié quatre marqueurs de cette utopie (de Rozario, 2014) :

• La perfectibilité et l’apprentissage, soit une formation de l’individu l’invitant à choisir de se comporter et d’exister dans les espaces de sociétés démocratiques, plutôt que de se conformer à des rôles ou des états pré-établis ;
• Une réflexivité critique (acquis du raisonnement de type scientifique) faisant rupture avec les raisonnements métaphysiques, les croyances, les préconceptions, les pensées tautologiques ou totalisantes, ou encore le surnaturel ;
• Le libre arbitre et la protection contre des « contrats de soumission » (Rousseau, 1761). Se distingueraient ainsi les sociétés « communautaires » des sociétés «modernes » (les guillemets sont nécessaires) basées sur un pacte qui prend la forme de droits humains fondamentaux, individuels et collectifs ;
• L’équité de répartition des ressources au sein d’une population reliée à un territoire ;
• Une rhétorique de type prospectif, soit un rapport particulier au passé analysé pour construire un autre présent meilleur.

Je ne reviendrai pas sur les critiques⁸ de cette utopie, nombreuses et anciennes. Le désir de scientificité qui l’anime conduit par exemple à la dérive du positivisme, dont témoigne le tropisme du droit positif, par ailleurs largement débattue dans la revue interdisciplinaire d’études juridiques (RIEJ, Sève, 1988) et celle des Archives de philosophie du droit (l’Avocature, 2022). Cet avatar n’est pas spécifique au droit, il fait partie de la modernité.

En conséquence, le triptyque Etat-Marché-Profession reste tendu et le tandem Etat-Profession l’est d’autant plus aujourd’hui que le mode de gouvernementalité républicaine, rappelle Eppstein (2005) s’appuie sur des instruments de gestion à distance. Dans une première phase, cette gouvernementalité était plutôt centralisée et relativement autoritaire⁹. Suit une deuxième phase de contractualisation plus partenariale à partir des années 1980, et enfin, la phase actuelle est en prise avec internet et l’informatique de gestion – dont l’IA. Nous serions dans une « gouvernementalité à distance ». Les actes du colloque d’Aix-Marseille déjà cité mentionnent également une difficulté structurelle à évaluer les effets législatifs – rôle du parlement – face à un exécutif qui capte le droit pour ses politiques publiques.

« Gouverner par les instruments ^»10

Dans un article séminal, Michel Berry (1983, CRG, Centre de recherche en gestion, Ecole des Mines) avait précisément identifié les effets dommageables des instruments de gestion appliqués pour eux-mêmes, c’est-à-dire sans perspective de sens et d’effets par rapport à des finalités. Bon bilan présentait « les trahisons de l’intendance » pour qualifier une dérive techniciste que la modernité devrait en théorie modérer par l’activation d’une réflexivité critique. Que ferait l’IA au nombre des opérations connues d’instruments de gestion fonctionnant « à vide » ? Je me permets une synthèse en six points, recontextualisée.

Réduire la complexité du réel à la simplification, au lieu d’essayer d’en rendre compte. Cette opération de réduction s’appuie sur : des moyennes statistiques, des données enregistrées passées et situées en contexte. L’écart-type est bien souvent plus intéressant en statistique que la moyenne. Et le mathématicien Giuseppe Longo (2023)¹¹ souligne les différences fondamentales entre l’apprentissage humain (lié à la psychogénèse et social) et l’apprentissage de l’IA (un « perroquet statistique »), par optimisation des corrélations.

Mettre en place des automatismes et des routines de répétition qui se renforcent, et même constatés comme aberrants ou dysfonctionnels, sont néanmoins maintenus. Pourtant, ces instruments de gestion sont maintenus en place, et par leurs intrications, leurs strates de versions successives et leurs fonctionnements produisent eux-mêmes des anomalies ordinaires – des bruits informatiques, bugs - qu’un back office doit traiter en continu.

Réduire la vigilance humaine, car ils inspirent confiance. D’une part, nous l’avons vu, leurs promoteurs utilisent une rhétorique moderne (scientifique, de l’excellence et de l’optimisation). Et de l’autre, ils rendent des comptes chiffrés (statistiques, indicateurs, feedbacks). Le NLP (Natural language processing ou langage du traitement naturel humain) utilisé par l’IA inclut des techniques d’analyse syntaxique (Parsing). Ce NLP ressemble au langage humain, mais ne détecte pas le sens des mots. Par exemple, « licéité » et « illicéité » sont assimilés (Barthes, 2017). Réguler les rapports sociaux : nous échangeons et nous nous rencontrons souvent sur les sujets que la machine émet par ses « notifications », dont beaucoup ne sont pas utiles ou utilisables.

Segmenter les activités humaines, les découper en fonctions, ce qui limite une vision globale et synthétique. Par ailleurs, le remplacement ou la modification d’un outil de gestion déstabilise et provoque du désordre organisationnel.

Produire des arbitrages. Lorsque l’outil est obsolète et remplacé ou modifié – inévitablement – nous nous rendons compte de l’arbitraire des choix réalisés par la version ou le logiciel précédent, ce qui libère potentiellement de la colère, voire, conduit à rejeter ces outils de gestion.

Pour Longo, l’IA ne fait que suivre un parcours optimal géodésique, mais ne donne pas le sens de l’action ; ses données sont considérables mais sa théorie de raisonnement de base est fausse. Depuis les travaux de Poincaré, l’on sait que le réel est non-linéaire, donc non mesurable et non statistisable, non probable. Le mieux serait plutôt de nommer l’IA « automate numérique » même si l’enchantement y perd. En théorie des systèmes enfin, l’optimisation ne peut jamais être atteinte et en matière d’IA, l’intervention humaine reste nécessaire.

Il semblerait donc que l’IA soit H.B. (Has Been) par sa correspondance avec un mode de raisonnement limité et finalement ancien, une énième version de la machine à calcul de Turing (1936). Nous vivons de cette facilité-là. Il conviendrait plutôt de revoir cette conception simplifiée des instruments de gestion et notre relation avec eux¹². Berry mentionne un orgueil humain qui nous pense comme ontologiquement supérieurs à la machine, quoiqu’il arrive et quoiqu’il en coûte, alors que les dépendances se sont inversées. Plutôt que chercher et développer des outils de simplification du réel, mieux vaudrait rechercher ceux qui en rendent le mieux compte et prennent en compte l’intelligence et le travail humain. Ceci rejoint également les travaux de B. Latour (2006) et ceux de Denise M. Rousseau sur le contrat « psychologique » (et non économique, calculable selon la TCR, Théorie du choix rationnel) dans les sociétés constituées sur des droits individuels (Rousseau et al., 2018).

Mobiliser l’AGIR de la profession

Le dernier point de mon intervention s’inscrit dans la résolution de Sabine Van Haecke-Lepic qui défend une reconstruction de la souveraineté de la profession, plutôt qu’une « soumission aux codes de l’IA », et plus généralement une soumission aux instruments de gestion déconsidérant ce que l’agir professionnel peut. Encore faut-il que nous arrêtions de nous considérer comme des machines à exécuter des process pré-définis, se révélant infinis dans le cycle infernal de leurs optimisations.

Il est enrichissant de relire la synthèse coordonnée par B. Maggi (2011) sur les théories et les auteurs contemporains de l’action humaine. Il convient également de citer les travaux de Giddens à l’origine du courant Strategy-as-Practice (SAP, la « Stratégie comme pratique ») dans lequel je m’inscris également (de Rozario & Pesqueux, 2018), et antérieurement les apports de Max Weber. Cet agir, et en particulier l’agir d’une profession à mandat souverain, ne peut être décrit de manière appropriée par les tentatives suivantes : une réaction à un stimulus (la sanction / la récompense) ; une sensation subjective en situation (l’émotion ou l’intuition) ; un choix individuel rationnel (la volonté) ; les compétences cognitives d’un stade de développement mental (voir les travaux sur le Care) ; un inconscient soumis aux substrats biologiques. Notons qu’à ces différentes représentations de l’agir humain correspond une discipline scientifique spécialisée sur un découpage particulier : la théorie économique du choix rationnel (RAT), le comportementalisme/behaviourisme, l’ethnométhodologie et les Cultural Studies, le cognitivisme et la théorie du développement piagétien, une interprétation de la psychanalyse, entre autres. Cette contextualisation mériterait d’être approfondie sur les plans ontologiques et épistémologiques - qui me sont chers – et les effets de la circulation des idées entre les disciplines, pour rappeler la nécessité des recherches transdisciplinaires. Le vocabulaire de spécialité en cours de construction de l’IA nous y invite directement, ceci a déjà été évoqué.

L’expression d’agir indique que « le réalisé n’a pas le monopole du réel » (Clot). Autrement dit pour comprendre l’action humaine, il s’avère nécessaire d’identifier son intentionalité (l’action machinique n’a pas d’intentionalité), et de considérer son régime de déroulement spécifique, à partir des interactions et du langage humain, en situation. L’agit est sensiblement plus qu’une action, un résultat optimum sélectionné parmi des options d’actions possibles. Il est un mouvement d’appropriation du milieu de vie humain et des interactions humaines. Toute action – humaine – conserve en mémoire les traces des réflexions et conflits d’actions en amont de son déroulement et contribue à l’apprentissage humain. L’activité humaine n’est donc pas une répétition d’actions réussies, une routine informatisée. L’efficacité, humaine s’entend, ne se limite pas à réaliser ce qui est prévu, à appliquer, mais contribue au développement de l’individu lui- même, des autres individus, de ce qu’ils traitent ensemble et de leur environnement.

Karpik soulignait pour les juristes que « La profession s’engage dans la cité » ; elle n’est pas simplement soumise à des décisions ou des circonstances par ailleurs, ni ne fait que les appliquer : elle les discute et les construit pour son domaine. Et la profession doit accepter le jeu démocratique d’être discutée, et d’en disputer. Elle ne peut faire qu’appliquer, compulser, articuler les segments normatifs, et les optimiser au détriment démocratique.

Les chimistes – et en cela il n’y a pas profession mais métier, ou activité – se passe de définition pour appliquer les formules. Les juristes ont besoin de savoir si une prescription correspond à une règle de droit avant de l’appliquer et si ces règles ne violent pas un idéal de justice, c’est-à-dire des principes moraux. Car vérifier qu’une règle est applicable n’indique pas qu’elle soit morale ni légitime, ce qui revient à affirmer que la profession du droit a besoin de la philosophie et de travailler son éthique. Les analystes de la profession du droit en France regrettent une approche plutôt positiviste, peu d’enseignements en éthique et en philosophie du droit. Les facultés de droit se sont longtemps intitulées Ecoles de droit. Ceci impliquerait un assouplissement du tandem Etat- profession du droit, le droit n’étant pas que le pouvoir exercé par l’Etat. Le postulat fondamental de la liberté humaine implique que l’on peut le vouloir, mais l’on ne peut causer un comportement. Comment identifier l’agir d’une profession ? A partir de trois diagnostics que je n’aurai pas le temps de développer : un diagnostic de socialisation professionnelle (les dynamiques d’accès à la profession et de sortie) / un diagnostic des dynamiques des contrats psychologiques actuels de la profession et des stratégies-en-pratiques / l’identification des conditions de mise sur agenda de l’agir professionnel du droit.

Modernité, IA & Profession

Dans la demi-heure qui m’était impartie - largement dépassée - j’ai pointé quelques balises tronconiques blanches, celles qui pointillent le long des pistes d’aérodrome. Certes la modernité a mauvaise réputation – son effondrement est prophétisé depuis toujours - mais ses marqueurs humanistes méritent d’être travaillés, encore et différemment, compte-tenu de ce que l’on sait de ses avatars en gestion. Bien installée dans l’agenda du monde, la technologie de l’IA se présente comme une véritable opportunité stratégique et politique d’auto-critique pour les professions, et de restauration d’un véritable agir professionnel. Dans « Anatomie d’une chute », Justine Triet et son équipe montrent particulièrement clairement le travail d’un certain agir du droit. Il se construit à l’occasion des relations entre parties prenantes, d’une situation contextualisée, « bio-psycho- sociale » (des personnes de générations et de genre différents, de psychologie et de références sociales diverses, n’ayant pas les mêmes relations familiales, etc.), c’est-à-dire composée de plusieurs mises en perspectives, et finalement, la construction du droit se faisant a fortiori, a simili, a contrario. Ce chantier me semble d’autant plus urgent que le droit englobe toutes les activités humaines et les organise de la naissance au décès, en passant par les contrats.