Vers des certifications pour l’intelligence artificielle

La présence de plus en plus importante de l’intelligence artificielle (IA) dans tous les domaines incite aujourd’hui les instances décisionnaires à l’encadrer et s’assurer de sa bonne utilisation. Point sur ce qui se fait en matière de justice au niveau européen.
———

 

En décembre 2018, la Commission européenne pour l’efficacité de la justice (CEPEJ) a adopté la « Charte éthique européenne d’utilisation d’IA dans les systèmes judiciaires et leur environnement ».

Cette charte, qui a vocation à orienter les juristes, professionnels de la justice et décideurs politiques dans le traitement la gestion de la progression de l’IA dans les processus judiciaires, contient cinq principes fondamentaux :

  • Principe de respect des droits fondamentaux : assurer une conception et une mise en œuvre des outils et des services d’intelligence artificielle qui soient compatibles avec les droits fondamentaux ;
  • Principe de non-discrimination ; prévenir spécifiquement la création ou le renforcement de discriminations entre individus ou groupes d’individus ;
  • Principe de qualité et sécurité : en ce qui concerne le traitement des décisions juridictionnelles et des données judiciaires, utiliser des sources certifiées et des données intangibles avec des modèles conçus d’une manière multi disciplinaire, dans un environnement technologique sécurisé ;
  • Principe de transparence, neutralité et intégrité intellectuelle : rendre accessibles et compréhensibles les méthodologies de traitement des données, autorisant les audits externes ;
  • Principe de maîtrise par l’utilisateur : bannir une approche prescriptive et permettre à l’usager d’être un acteur éclairé et maître de ses choix.

 

Aujourd’hui l’objectif est de s’assurer que cette transformation de la justice ne tende pas vers l’automatisation des décisions mais au contraire qu’elle permette d’en accroître la compétence et la rapidité, tout en étant respectueuse des Droits de l’Homme, des droits individuels mais également de la protection des données personnelles.

Pour ce faire, la CEPEJ réfléchit aujourd’hui à un système de certification des produits liés à l’IA qui sont utilisés dans les systèmes judiciaires.

Le 23 septembre dernier, les experts de la CEPEJ se sont réunis pour entamer ces travaux à destination des décideurs publics mais également du secteur privé, ce qui leur permettra de bénéficier de conseils et recommandations sur la méthode à adopter pour la mise en œuvre de chacun des principes de la charte.

Consultez la Charte