Alors que la Silicon Valley est l’épicentre du progrès algorithmique (notamment avec le développement du « machine learning »), la ville de New York est propulsée par son Conseil municipal comme la place de l’éthique algorithmique.

En effet, le Maire de New-York, Bill de Blasio, a trouvé sur son bureau en décembre dernier, un projet de loi l’« Algorithmic accountability bill » visant à instiguer de l’éthique dans l’intelligence artificielle utilisée par les institutions fédérales.

Le projet de loi comporte deux volets : instaurer des algorithmes plus responsables et des algorithmes plus transparents.

James Vecca, le conseiller municipal à l’origine du projet de loi relate s’être alerté après l’annonce du site internet ProPublica des résultats d’un test sur un algorithme dans le milieu carcéral.

La justice et la police américaines usent de ces algorithmes, appelés « systèmes de décision automatisés », pour prendre certaines décisions. L’algorithme dont il est question, nommé « COMPAS », détermine à partir de multiples critères un score lié au risque de récidive d’un prévenu, scores ensuite communiqués aux magistrats.

L’étude de ProPublica a, dès lors, révélé que l’algorithme favorisait très largement la libération des détenus à la couleur de peau blanche, au détriment des personnes à la couleur de peau noire.

De manière effarante, l’algorithme reproduit ainsi les discriminations raciales, dont les Hommes tentent de se départir. Cette annonce a fait l’effet d’une douche froide dans le milieu de l’IA. Alors qu’on pensait pouvoir mettre toute confiance dans les algorithmes, toujours considérés comme une matière scientifique objective, on s’aperçoit qu’il n’en est rien.

C’est pourquoi, le projet de loi requiert la publication des codes algorithmiques afin de savoir sur quelles données ceux-ci se fondent pour prendre des décisions. En outre, le conseil municipal propose qu’un groupe de travail contrôle les décisions prises par les algorithmes utilisés par la police et la justice.

Un choix politique qui n’est pas neuf en Europe :

En France, la loi pour une République Numérique (LCEN) du 7 octobre 2016 a soutenu le lancement d’une plateforme collaborative : Transalgo, qui permet de développer des tests éthiques pour les algorithmes et favoriser leur diffusion dans les secteurs publics et privés.

Par ailleurs, le rapport de la CNIL intitulé « Comment permettre à l’homme de garder la main ? » renforce la promotion d’une éthique algorithmique en mettant en garde sur les dangers des algorithmes et en proposant des solutions à adopter. Parmi les solutions que propose son rapport, la CNIL enjoint de développer les recherches sur l’IA éthique et ouvrir la possibilité pour tous les acteurs de la chaîne algorithmique de questionner sur les méthodes scientifiques et techniques.

Enfin, la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel, prévoit un droit à l’explication sur les décisions prises par les algorithmes.

Ces initiatives internationales sont révélatrices d’une prise de conscience de l’Homme face aux machines que « l’évolution technologique déplace la limite entre le possible et l’impossible et nécessite de redéfinir la limite entre le souhaitable et le non-souhaitable. ».