L’interdiction des décisions de justice automatisées en droit des données personnelles
Par Arnaud Nadinga
L’intelligence artificielle (IA)[1] a progressivement et au fil des ans infiltré plusieurs champs de l’activité humaine. Si la partie émergée de cette conquête se cantonne pour l’instant au renforcement des capacités d’apprentissage et de production de l’homme dans des domaines aussi divers que le marketing, l’assurance, la banque, la santé, l’éducation, la sécurité et la défense, les ambitions sont en réalité plus grandes. Il s’agit à terme de conquérir toutes les disciplines jusque-là réservées à l’intelligence humaine[2]. On voit déjà poindre des tentatives de manipulation des choix individuels et collectifs dans les domaines comme la consommation ou les élections. D’autres avertissent sur le risque qu’à l’avenir elle soit en mesure de remplacer l’homme dans certains métiers[3].
Alors que le droit tente du mieux possible d’encadrer cette percée de l’intelligence artificielle[4], il risque lui-même de tomber sous son charme, tant ses avantages paraissent illimités. Après les services qui lui ont été rendus par l’informatique sur des sujets comme l’informatisation de la jurisprudence, la numérisation de la documentation juridique, la facilitation de la recherche documentaire et la dématérialisation des procédures, il est aujourd’hui question de « modélisation des décisions de justice ou [de] création d’algorithmes mettant en œuvre certaines législations »[5]. À l’heure des algorithmes prédictifs, il est même évoqué l’idée d’une justice prédictive[6]. Cette justice dans laquelle, un « outil informatique, reposant sur une base de données jurisprudentielles, qui, à l’aide d’algorithmes de tri et (pour les plus perfectionnés) de “réseaux neuronaux”, va permettre d’anticiper quelles seront les statistiques de succès de tel ou tel argument juridique »[7]. Pour les magistrats, l’exemple fut[8] le traitement DataJust français, créé en 2020 et qui avait pour finalité le développement d’un algorithme devant servir entre autres finalités à leur fournir une aide pour le calcul des montants d’indemnisation des préjudices corporels[9].
Il ne s’agit donc pas (en tous cas pas pour l’instant) de remplacer le magistrat, mais de l’accompagner dans son office[10]. Cela n’enlève rien au fait que l’algorithme sera partie prenante de la décision judiciaire. Cette perspective ne manque pas de soulever des inquiétudes qui ont justifié jusque-là, dans nombre de droits d’inspiration française[11], le maintien d’une prohibition ; celle de l’interdiction des décisions de justice fondées sur un traitement automatisé de données à caractère personnel dont le régime dans les droits burkinabè et de la CEDEAO est l’objet du présent écrit. Sa sanction étant déjà précisée dans l’intitulé de la réflexion[12], il s’agira de déterminer ses raisons d’être (I) et ses conditions d’application (II).
I. Les motivations de l’interdiction
Pour diverses raisons, l’automatisation de la justice a suscité de la méfiance. Ces raisons ont motivé l’interdiction des décisions de justice fondées sur un traitement automatisé de données personnelles. Elles concernent notamment l’indépendance du juge (a), la protection des droits et libertés (b) et la responsabilisation du juge (c).
a. Indépendance du juge et transparence de la logique algorithmique
La problématique de l’indépendance du juge se pose surtout à l’égard des concepteurs des outils d’aide à la décision que sont les algorithmes. En cela, autant les initiatives issues du secteur privé que celles des pouvoirs législatifs et exécutifs méritent de l’attention[13]. Mais le cas des premiers est plus préoccupant. Il faut veiller en effet à ce que la justice ne soit pas privatisée[14]. Et pour ce faire, si les moyens à la disposition de la justice ne lui permettent pas de se passer des initiatives privées, un regard méfiant doit être posé sur les outils d’aide à la décision qui ont vocation à être mobilisés par les juridictions dès lors qu’ils émanent d’elles.
En effet, l’outil d’intelligence artificielle est loin de la neutralité et de l’objectivité qu’on lui prête. Son fonctionnement est étroitement lié à sa configuration et aux choix des données mobilisées pour l’alimenter[15]. Ce faisant, il est souvent porteur de la philosophie, des préjugés et des choix du concepteur qui risquent d’influer sur l’impartialité et l’objectivité du juge. Au-delà, il ne faut pas oublier que les outils d’aide à la décision automatisée « s’inscrivent dans le marché de la justice prédictive, livré à la concurrence et à la nécessité de rentabiliser les services »[16]. Cet « objectif de rentabilité, très éloigné des objectifs du service public de la justice, [peut permettre] à des personnes privées d’influencer et de modifier la façon dont la justice est rendue »[17].
À cette problématique de l’indépendance de la juste, il faut ajouter celle de la transparence et de l’explicabilité des algorithmes[18]. Ils sont porteurs d’une asymétrie informationnelle. La logique, les corrélations et les recoupements qu’ils établissent sont imperméables aux particuliers[19]. Or, dans le domaine de la justice, cette transparence notamment sur l’étendue de la contribution de l’algorithme, les données traitées, leurs sources ou encore les paramètres du traitement est une composante essentielle du droit à un procès équitable. Elle rend possibles, sur le fondement d’atteintes aux droits, d’éventuelles critiques ou contestations des résultats fournis après la cuisine interne de l’algorithme.
b. La protection des droits et libertés
La protection des droits et libertés des personnes est également au cœur de la réflexion sur l’encadrement de l’usage de l’intelligence artificielle. Les systèmes de données et les algorithmes sont conçus et fonctionnent de telle manière « qu’ils intègrent, dissimulent et perpétuent »[20] des préjugés fondés sur la race, le sexe, les origines ou l’âge. L’utilisation de tels systèmes de données et algorithmes peut donner lieu à des décisions discriminatoires. En 2019, le Groupe de travail d’experts sur les personnes d’ascendance africaine invitait ainsi les États membres des Nations Unies à « corriger les préjugés présents dans les algorithmes utilisés dans les produits et outils commerciaux, militaires et gouvernementaux ». Il précisait pour l’occasion qu’« [i]l faut veiller à ce que les personnes en situation de vulnérabilité qui sont fréquemment prises pour cible, mal identifiées ou ignorées soient dûment prises en considération lors de l’élaboration d’algorithmes informatiques. [Et que] les préjugés présents dans les algorithmes touchent particulièrement les personnes d’ascendance africaine, notamment les femmes, les personnes handicapées […] »[21].
c. La responsabilisation du juge ou l’humanisation de la justice
L’autre préoccupation est relative à la responsabilisation du juge. Ailleurs, la décision d’« exclure absolument le recours à des types de profils qui se substitueraient à l’appréciation du juge » a été prise pour éviter que l’ordinateur ne serve d’excuse au juge pour ne pas trancher lui-même des problèmes délicats[22]. En réalité, c’est la déshumanisation de la justice qui est ainsi récusée. Il ne faut tolérer aucun compromis sur la nature essentiellement humaine de la décision de justice[23] face à une machine dont on a souvent du mal à contester les résultats et qui n’a pas la capacité de saisir toutes les implications d’une affaire. Il faut veiller à ce que la figure du juge humain ne s’efface pas au profit d’un juge artificiel[24] ; un juge dont la justice ne serait que le résultat d’un calcul mathématique et statistique.
L’on a ainsi décidé qu’il ne suffit pas de refuser les décisions exclusivement automatisées et qu’il fallait également écarter l’usage des outils d’aide à la décision. En effet, même dans ce dernier cas, on n’est pas à l’abri du biais d’automatisation : cette tendance qu’a l’humain à se conformer à la recommandation de la machine au détriment de son propre jugement. Comme le souligne Mme F. G’SELL, « au fil du recours de plus en plus systématique aux outils prédictifs, le juge du XXIe siècle pourrait fort bien n’avoir un jour plus rien d’humain »[25]. L’on a par exemple exprimé la crainte « que des notions familières de notre droit telles que celle de “bon père de famille”, au lieu de laisser place à l’appréciation du juge, ne deviennent au contraire des notions d’apparence quasi scientifique contre lesquelles aucun recours ne serait permis »[26].
II. Les critères d’application du régime d’interdiction
C’est l’article 35, § 1 de l’Acte additionnel de la CEDEAO[27] relatif à la protection des données à caractère personnel qui interdit les décisions de justice fondées sur un traitement automatisé de données à caractère personnel en ces termes[28] : « Aucune décision de justice impliquant une appréciation sur le comportement d’une personne ne peut avoir pour fondement un traitement automatisé des données à caractère personnel destiné à évaluer certains aspects de sa personnalité ». Cette disposition est transposée en droit burkinabè par l’article 15, alinéa 1 de la loi n° 001‐2021/AN du 30 mars 2021 portant protection des personnes à l’égard du traitement des données à caractère personnel[29]. Au moins quatre critères sont nécessaires pour l’application de cette interdiction : une décision de justice (a) automatisée (b), impliquant une appréciation du comportement humain (c) et fondée sur le profilage (d).
a. Une décision de justice
Cette notion ne pose pas de difficultés. Dans un sens organique, la décision de justice est celle qui est prise par une autorité habilitée à rendre justice. Sont alors concernées, les décisions qui émanent d’une juridiction judiciaire ou administrative[30] et qui sont rendues dans le cadre d’un litige qui lui a été soumis. Faut-il y inclure également les décisions rendues dans le cadre des modes alternatifs de règlements des différends ? Elles relèvent de la justice privée et rien ne s’oppose en principe à ce qu’elles y soient rangées, même si les décisions impliquant une appréciation du comportement humain se rencontrent plus souvent dans la justice étatique.
Pour autant, sous d’autres cieux, un régime spécifique a été prévu pour les services en ligne d’arbitrage, de médiation et de conciliation qui « ne peuvent avoir pour seul fondement un traitement algorithmique ou automatisé de données à caractère personnel »[31]. Comme on le verra dans les lignes qui suivent, la solution est distincte en ce qu’elle n’interdit pour ces modes alternatifs que les décisions exclusivement automatisées. En revanche, lorsque ces services sont proposés « à l’aide » d’un traitement automatisé, ils sont autorisés avec l’information et le consentement exprès des parties au litige. Les décisions prises dans ce cadre peuvent donc se fonder partiellement sur un traitement automatisé de données à caractère personnel.
b. Une décision automatisée
L’automatisation n’est pas entendue ici dans le sens de « l’utilisation du numérique comme support de la décision de justice »[32]. Elle concerne plutôt les cas où la décision du juge repose sur un processus entièrement ou partiellement automatisé. De façon plus précise, une décision est dite automatisée si elle repose sur l’intervention d’une machine guidée par des règles décisionnelles en fonction des données qui lui sont soumises[33]. On parle de décision algorithmique. Néanmoins, il existe au moins deux niveaux d’automatisme en fonction de l’étendue du rôle que joue la machine dans le processus de décision. La décision est alors totalement ou partiellement automatisée. Dans le premier cas, le rôle de la machine ne se limite pas à aider la personne humaine ou le juge. Tout le processus décisionnel est automatisé et le résultat fourni par l’algorithme est le seul élément qui justifie la décision prise[34]. En revanche, si le résultat fourni par la machine n’est qu’un des éléments qui motive la décision ou s’il existe un contrôle significatif effectué, dans le processus décisionnel, par une personne ayant l’autorité et la compétence pour modifier la décision[35], l’on est plutôt en présence d’une décision partiellement automatisée.
Pour ce qui est exactement du régime de l’article 35, § 1 de l’Acte additionnel, ce qui est interdit c’est le fait même pour le juge d’utiliser un traitement automatisé de données personnelles dans le cadre de son office. Il importe peu alors que la décision repose partiellement ou totalement sur un traitement automatisé de données. L’interdiction est large et s’applique, quel que soit le niveau d’automatisme. Contrairement au cas des décisions privées ou administratives qui peuvent se fonder au moins partiellement sur le traitement automatisé de données personnelles[36], toute possibilité d’utiliser un traitement automatisé de données personnelles est exclue pour les décisions de justice. Les traitements automatisés ne peuvent même pas tenir lieu d’instrument d’aide à la décision.
c. Une décision impliquant une appréciation sur le comportement de la personne
Pour rentrer dans le champ de l’interdiction, la décision doit également impliquer une appréciation du comportement de la personne concernée. Elle doit donc comporter un examen de la conduite de la personne en cause. En doctrine, on cite parmi les matières pouvant servir de lieu de prédilection, la responsabilité pénale et la responsabilité civile. On pourrait par ailleurs y ajouter le droit de la famille ou le droit des personnes.
d. Une décision fondée sur le profilage
La décision automatisée doit également avoir pour objet le profilage, soit l’établissement du profil de la personne physique[37] concernée. Autrement dit, comme l’exprime la disposition, la décision doit être fondée sur « un traitement automatisé des données à caractère personnel destiné à évaluer certains aspects de [l] a personnalité » de la personne concernée, notamment pour analyser ou prédire des éléments concernant le rendement au travail, la situation économique, la santé, les préférences personnelles, les intérêts, la fiabilité, le comportement, la localisation ou les déplacements de cette personne physique[38]. Dans les cas où une telle évaluation de la personnalité de la personne concernée n’est pas faite, l’interdiction n’a pas lieu d’être.
* *
*
En définitive, le régime est bienvenu en ce qu’il est limité à des cas bien précis et qu’il permet de préserver des valeurs chères à la justice. Il reste à savoir s’il pourra se maintenir face aux assauts de l’intelligence artificielle.
[1] Il n’existe pas encore de définition unanime. L’intelligence artificielle peut néanmoins être entendue comme « un ensemble de théories et de techniques visant à réaliser des machines capables de simuler l’intelligence humaine ». v. https://fr.wikipedia.org/wiki/Intelligence_artificielle. Ou encore comme « la science qui consiste à faire faire aux machines ce que l’homme ferait moyennant une certaine intelligence » (Marvin Minsky, 1956). Définition reprise dans CNIL, « Comment permettre à l’Homme de garder la main, Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle », décembre 2017, p. 16.
[2] M. NIANE, « Le droit de l’intelligence artificielle en Afrique : vers un encadrement juridique des capacités », in C. CASTETS-RENARD et J. EYNARD, Un droit de l’intelligence artificielle : entre règles sectorielles et régime général, perspectives comparées, Bruylant, 2023, p. 909.
[3] D. COHEN, Homo numericus. La civilisation qui vient, Albin Michel, 2022, p. 25.
[4] Il n’existe actuellement presqu’aucune règle générale ou sectorielle encadrant l’usage de l’IA en Afrique. Sur l’état de son encadrement par les États africains, v. UNESCO, Évaluation des besoins en intelligence artificielle en Afrique, 2021, 86 p., spéc. p. 22. Sur la situation au niveau africain, on note néanmoins cette Résolution de la Commission africaine des Droits de l’Homme et des Peuples sur la nécessité d’élaborer une étude sur les droits de l’homme et des peuples et l’intelligence artificielle (IA), la robotique et d’autres technologies nouvelles et émergentes en Afrique — CADHP/Rés.473 (XXXI) 2021 ; Laquelle « [a]ppelle l’Union africaine et les organismes régionaux à inscrire d’urgence dans leurs agendas la question des technologies de l’intelligence artificielle, la robotique et d’autres technologies nouvelles et émergentes en vue d’élaborer un cadre régional réglementaire qui permettra de mettre en place des technologies qui répondent aux besoins des populations du continent » (point 5).
[5] L. HUTTNER, « Données à caractère personnel — Décision automatisée et justice », Répertoire Dalloz IP/IT et
Communication, n° 1.
[6] S. BEKKAOUI « Les décisions de justice à l’ère des algorithmes : entre intelligence artificielle et intelligence humaine », Revue marocaine d’histoire du droit, numéro spécial 3, 2023, pp. 38 et s.
[7] R. BOUCQ, « La justice prédictive en question », Dalloz-actualité, 14 juin 2017.
[8] Le Ministère de la justice français a abandonné ce projet expérimental en janvier 2022. V. S. MERABET, « Hommage posthume à l’abandon de DataJust : des principes directeurs de la justice numérique », Revue pratique de la prospective et de l’innovation n°1, mai 2022, pp. 18-21.
[9] Décret n° 2020-356 du 27 mars 2020 portant création d’un traitement automatisé de données à caractère personnel dénommé « DataJust ». Le Conseil d’État français a reconnu la légalité de ce décret au regard des finalités du traitement, des principes de minimisation et d’exactitude des données personnelles et des restrictions apportées aux droits des personnes concernées : CE, 10e-9e ch. réunies, 30/12/2021, n°440376, Dalloz IP/IT 2022, p. 6, obs. Crichton C.
[10] Néanmoins, en 2016 des chercheurs de l’Université de Londres, de l’Université de Sheffield et de l’Université de Pennsylvanie ont annoncé le franchissement d’une nouvelle étape dans laquelle par le croisement des faits, des arguments des parties et du droit positif pertinent, un algorithme arriverait à deviner les décisions de justice. V. B. BARRAUD, « Un algorithme capable de prédire les décisions des juges : vers une robotisation de la justice ? », In Les Cahiers de la Justice , Dalloz, 2017/1 n° 1, p. 122. Qui rapporte les travaux de N. ALETRAS, V. LAMPOS, D. TSARAPATSANIS, D. PREOTIUC-PIETRO, « Predicting Judicial Decisions of the European Court of Human Rights: a Natural Language Processing Perspective », Peer Journal of Computer Science 24 oct. 2016.
[11] La situation est différente dans les système de Common Law où la règle du précédent est plus favorable à l’usage des algorithmes dans le domaine judicaire. Pour des exemples dans ce sens, v. F. G’SELL, « L’automatisation des décisions de justice, jusqu’où ? », Enjeux numériques, n°3, septembre 2018, pp. 48-52 ; S. ABITEBOUL et F. G’SELL, « Les algorithmes pourraient-ils remplacer les juges ? », in Le Big Data et le droit, Dalloz, Thèmes et Commentaire, 2019, pp. 28 et s.
[12] C’est une interdiction stricte qui sanctionne les décisions de justice fondées sur un traitement automatisé de données personnelles répondant cumulativement aux critères qui seront identifiées. Aucune exception n’est admise à cette prohibition. Cela signifie qu’une décision qui passerait outre cette proscription sera invalidée.
[13] L. HUTTNER, op. cit., n° 7.
[14] S. MERABET, « Hommage posthume à l’abandon de DataJust : des principes directeurs de la justice numérique », op. cit., n°3, p. 19
[15] Ibid.
[16] L. HUTTNER, op. cit., n° 7.
[17] Ibid.
[18] Y. MENECEUR, L’intelligence artificielle en procès. Plaidoyer pour une règlementation internationale et
européenne, Bruxelles, Bruylant, 2020, # 2.09, p. 160.
[19] G. KŒNIG, La fin de l’individu. Voyage d’un philosophe au pays de l’intelligence artificielle, 1re éd., 6e tirage, coll. « De Facto », Paris, L’Observatoire-Le Point, 2020, p. 159.
[20] Rapport du Groupe de travail d’experts sur les personnes d’ascendance africaine sur les travaux de ses vingt-troisième et vingt-quatrième sessions, A/HRC/42/59, 2019, point 71, p. 16.
[21] Ibid., point 84, p. 17.
[22] Sénat français, Rapport fait au nom de la Commission des Lois constitutionnelles de Législation, du Suffrage universel, du Règlement et d’Administration générale sur le projet de loi, adopté par l’Assemblée Nationale relatif à l’informatique et aux libertés, 1977, p. 22. V. aussi, Rapport de la Commission informatique et libertés, 1975, La Documentation française, p. 16.
[23] J. CARBONNIER, Droit civil — vol. I : Introduction, coll. « Quadrige », Paris, PUF, 2004, p. 23 : « le juge est un homme et non une machine à syllogismes : autant qu’avec sa connaissance des règles et sa logique, il juge avec son intuition et sa sensibilité ».
[24] S. MERABET, op. cit., n°9, p. 21.
[25] F. G’SELL, « L’automatisation des décisions de justice, jusqu’où ? », Enjeux numériques, n°3, septembre 2018, p. 48.
[26] Sénat français, op. cit., p. 22.
[27] Communauté économique des États de l’Afrique de l’Ouest.
[28] Cette interdiction est en revanche absente de la Convention de l’Union africaine sur la cybersécurité et la protection des données à caractère personnel. Seule celle que l’on retrouve au paragraphe 2 de l’art. 35 l’Acte additionnel et qui concerne l’interdiction des décisions privées et administratives prises sur le seul fondement d’un traitement automatisé de données personnelles est reprise avec quelques modifications. L’art. 14, §5 dispose en effet : « Aucune personne ne peut être concernée ni être soumise aux effets néfastes d’une décision qui a des effets juridiques et qui est basée uniquement sur un traitement automatisé des données à caractère personnel pour évaluer certains aspects de sa personnalité ». La convention est accessible ici.
[29] Cet art. dispose également : « Aucune décision de justice, impliquant une appréciation sur un comportement humain, ne peut avoir pour fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé destiné à évaluer certains aspects de sa personnalité ».
[30] Et aussi constitutionnelle s’il est convenu que le Conseil constitutionnel est une juridiction.
[31] Art. 4.3 de la loi n° 2016-1547 du 18 novembre 2016 de modernisation de la justice du XXIe siècle en France (introduit par la loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice).
[32] L. HUTTNER, op. cit., n° 2.
[33] T. DOUVILLE, Droit des données à caractère personnel, coll. « Domat droit privé/public », Paris, LGDJ, 2023, n° 697, p. 423.
[34] Nigeria Data Protection Act, 2023, art. 65: “automated decision-making” means a decision based solely on automated processing by automated means, without any human involvement”.
[35] G29, Lignes directrices relatives à la prise de décision individuelle automatisée et au profilage aux fins du règlement (UE) 2016/679, (WP251rev.01), 6 février 2018, p. 23.
[36] L’art. 35, §2 de l’Acte additionnel n’interdit que les décisions privées et administratives exclusivement automatisées : « Aucune décision produisant des effets juridiques à l’égard d’une personne ne peut être prise sur le seul fondement d’un traitement automatisé des données à caractère personnel destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité ». Dans le même sens, v. l’art. 15, al. 2 de la loi burkinabè portant protection des personnes à l’égard du traitement des données à caractère personnel. D’ailleurs, l’avant-dernier tiret de l’art. 31 de ce dispositif légal précise que les systèmes automatisés peuvent être des dispositifs d’aide à la décision administrative ou privée qu’il soumet néanmoins à autorisation de la Commission de l’Informatique et des Libertés (CIL) : « les traitements d’aide à la décision administrative ou privée, impliquant une appréciation sur un comportement humain, donnant une définition du profil ou de la personnalité de l’intéressé ou reposant sur des techniques d’intelligence artificielle à des fins prédictives ».
[37] Il faut noter que le droit des données personnelles de la CEDEAO et du Burkina Faso ne protège que les personnes physiques.
[38] Art. 1er du Code béninois du numérique.
Articles
