L’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales

Un article de la Grande Bibliothèque du Droit, le droit partagé.
Europe > Droit privé > Droit pénal  > Intelligence artificielle


Auteur : Thierry Vallat, avocat au barreau de Paris [1]
Octobre 2021



Le Parlement européen a publié une résolution le 6 octobre 2021 concernant l'utilisation de l'intelligence artificielle en droit pénal.


Ce texte, qui n'a pas de valeur contraignante, a pour vocation d'inspirer la Commission dans le domaine du recours de l'intelligence artificielle en matière de sécurité et de surveillance, afin d'éviter toute discrimination par les services répressifs.


Cette résolution rappelle que le déploiement de l’IA dans les domaines répressif et judiciaire ne devrait pas être réduit à la simple question de la faisabilité technique, mais être davantage considéré comme une décision politique concernant la conception et les objectifs des systèmes répressifs et de justice pénale; que le droit pénal moderne repose sur l’idée que les autorités réagissent à une infraction après qu’elle a été commise, sans partir du principe que tous les citoyens sont dangereux et doivent être constamment surveillés afin de prévenir les actes répréhensibles potentiels; que les techniques de surveillance fondées sur l’IA remettent profondément en question ce raisonnement et qu’il est donc urgent que les législateurs du monde entier évaluent de manière approfondie les conséquences de l’autorisation de déploiement de technologies qui réduisent le rôle des êtres humains dans l’application des lois et les décisions de justice.


Le Parlement européen a notamment précisé sa position sur la reconnaissance faciale et son utilisation par les autorités judiciaires.


Il a exprimé sa vive inquiétude quant à l’utilisation, par les services répressifs et les services de renseignement, de bases de données privées de reconnaissance faciale, telles que Clearview AI, qui contient plus de trois milliards d’images collectées illégalement sur les réseaux sociaux et à d’autres endroits sur l’internet, y compris des images de citoyens de l’Union; invite les États membres à obliger les services répressifs à faire savoir s’ils utilisent la technologie de Clearview AI ou des technologies équivalentes d’autres fournisseurs.


Rappelant que le comité européen de la protection des données a estimé que l’utilisation d’un service comme celui-ci par les autorités répressives dans l’Union «ne serait probablement pas compatible avec le régime de protection des données de l’Union», il appelle de ses vœux l’interdiction de l’utilisation des bases de données privées de reconnaissance faciale dans le domaine répressif.


La résolution réaffirme que l’utilisation des technologies de reconnaissance faciale doit au moins se faire dans le respect des exigences de minimisation des données, d’exactitude des données, de limitation du stockage, de sécurité des données et du principe de responsabilité, tout en étant légale, équitable et transparente, et en poursuivant un objectif spécifique, explicite et légitime, clairement défini dans le droit des États membres ou de l’Union; est d’avis que les systèmes de vérification et d’authentification ne peuvent continuer à être déployés et utilisés avec succès que si leurs effets négatifs peuvent être atténués et les critères susmentionnés respectés;


Il demande en outre l’interdiction permanente de l’utilisation de l’analyse et/ou de la reconnaissance automatisées, dans les espaces accessibles au public, d’autres caractéristiques humaines telles que la démarche, les empreintes digitales, l’ADN, la voix et d’autres signaux biométriques et comportementaux.


Le Parlement demande enfin un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives destinés à l’identification, à moins qu’ils ne soient utilisés qu’aux fins de l’identification des victimes de la criminalité, jusqu’à ce que les normes techniques puissent être considérées comme pleinement respectueuses des droits fondamentaux, que les résultats obtenus ne soient ni biaisés, ni discriminatoires, que le cadre juridique offre des garanties strictes contre les utilisations abusives ainsi qu’un contrôle et une surveillance démocratiques rigoureux, et que la nécessité et la proportionnalité du déploiement de ces technologies soient prouvées de manière empirique; relève que lorsque les critères susmentionnés ne sont pas remplis, les systèmes ne devraient pas être utilisés ou déployés.


Rappelons qu'en avril dernier, la Commission européenne a présenté une proposition de règlement sur le recours à la reconnaissance dans les espaces qui accueillent du public n'incluant pas les exigences du contrôleur européen à la protection des données sur les reconnaissance faciale.


Retrouvez la résolution du Parlement européen du 5 octobre 2021: résolution PE 5 oct 2021 sur l'IA [2]