ET S’IL ETAIT VITAL DE DESAMORCER LES ARMES DE DESTRUCTION MATHEMATIQUE ?

Capture d’écran 2019-11-22 à 13.44.21

A l’issue de la remise des prix RH ManpowerGroup – HEC Paris 2019 (cliquer ici), qui a couronné le livre d’Olivier Sibony intitulé “Vous allez commettre une terrible erreur“, et le livre de Luc Julia “L’intelligence artificielle n’existe pas“, j’ai eu le privilège de présenter les ” 7 Pépites 2019″ du Prix ManpowerGroup – Hec Paris, sept livres (voir photo en bas ce ce post) qui méritent d’être mis en lumière pour leur qualité remarquable, que je chronique chaque semaines dans le cadre de la rubrique #JourDuPenseur de ce blog. Après “La vie solide – La charpente comme éthique du Faire” du philosophe-charpentier, Arthur Lochmann, “Le travail qui guérit – l’individu, l’entreprise, la société” du Professeur Jean-Michel Oughourlian,”KINTSUGI – L’art de la résilience” de Céline Santini, « L’invention du consommateur » de Louis Pinto, “Le Pouvoir des imaginaires” de Patrice Duchemin, et ” Travail gratuit : la nouvelle exploitation” de Maud Simonet, j’ai le plaisir de vous présenter, pour conclure cette série de 15 posts, la septième et dernière pépite de l’année 2019 : “Algorithmes. La bombe à retardement”, de Cathy O’Neil dans sa traduction française préfacée par Cédric Villani. Un livre passionnant que le Financial Times a été jusqu’à qualifier de “Manuel du citoyen du 21ème siècle”. Ancienne analyste à Wall Street engagée dans « Occupy Wall Street » devenue une figure majeure de la lutte contre les dérives des algorithmes, la mathématicienne Cathy O’Neil avait déjà eu l’occasion de dénoncer ce qu’elle appelle des « armes de destruction mathématiques » lors d’un Ted Talk (avril 2017) remarquable et remarqué (voir ci-dessous en version sous-titrée Français).

.
« Pour mettre fin aux mauvais usages de l’intelligence artificielle, il ne faut pas les cacher. Il faut, au contraire, en tirer parti et en parler ». Le combat contre l’opacité est devenu le vrai combat de Cathy O’Neil, qui dénonce sans relâche les effets pervers de beaucoup d’algorithmes, qui choisissent votre université, vous accordent un crédit ou une assurance, ou qui cherchent à influencer votre vote à la prochaine élection. La cause des dérives vient selon elle principalement de l’absence de feedback adapté de l’évaluation des algorithmes à l’œuvre dans nos vies, qu’elle nomme ADM (« Armes de Destruction Mathématiques »). Elle souligne le déséquilibre qui règne le plus souvent entre l’algorithme et son usager qui peut en devenir victime: « Alors qu’on n’exige pas de justifications de la part des ADM lorsque leur verdict tombe, les individus qui en sont victimes doivent en revanche fournir des preuves infaillibles de leur dysfonctionnement». Or, un très grand nombre d’algorithmes, lorsqu’on prend la peine de les explorer au plan mathématique, génèrent des boucles de rétroaction néfastes. Contrairement aux algorithmes de paris sportifs que Cathy 0’Neil prend pour exemple d’algorithmes vertueux car soumis en permanence à la vérification des données statistiques qui les nourrit, beaucoup d’algorithmes fonctionnent en utilisant de la donnée de substitution (« proxy datas) chaque fois que la donnée réelle n’est pas disponible, créant ainsi des zones de dysfonctionnement potentiel des modèles, et en particulier des « angles morts » qui reflètent les jugements et priorités de leurs concepteurs : « les modèles sont un ensemble d’opinions insérées dans un système mathématique ».

Selon Cathy O’Neil, l’injustice vient du fait que « les modèles opaques sont légions alors que les modèles transparents font figure d’exception ». Il nous faudrait théoriquement nous demander à chaque fois non seulement qui a conçu le modèle, mais aussi dans quel but véritable. « Opacité, Echelle et Nocivité » sont les trois éléments d’une Arme de Destruction Mathématique. Par où commencer si nous voulions réguler ces modèles mathématiques qui dirigent de plus en plus nos vies ? La suggestion de Cathy O’Neil est de partir des modélisateurs eux-mêmes. A l’instar des médecins, les experts en données devraient prêter une sorte de serment d’Hippocrate, axé sur les mauvais usages et les mauvaises interprétations possibles de leurs modèles. Il nous faut aussi réévaluer les critères de réussite de chaque modèle, en prenant compte les coûts cachés et des paramètres non numériques d’utilité pour la société. Pour désamorcer les ADM, il nous faut également mesurer leur impact, auditer leurs algorithmes, actualiser les régulations étatiques, et stimuler le développement d’algorithmes utiles à l’intérêt général. Une prise de conscience et une démarche collective sont nécessaires : « Nous devons tous ensemble nous unir pour contrôler ces ADM, les dompter et les désamorcer. Les mathématiques méritent bien mieux que des ADM, et la démocratie aussi ». Car, comme le souligne en conclusion Cathy O’Neil, « nous ne pouvons pas nous permettre de rester spectateurs. »

Les7pépitesManpowerHEC

Leave a Reply

Your email address will not be published. Required fields are marked *

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>