La science des données en quête du “su”

J’ai essayé de mettre mes pas dans les traces d’Alain Desrosières pour mieux comprendre les dits “big data” ou “intelligence artificielle”. Pour ne pas être trop long, j’ai réparti le texte en deux billets successifs :
1. Le paradoxe de la mesure de la société (celui-là)
2. La science des données en quête du “su” (celui-ci)

Ce ne sont que quelques pistes, je n’ai ni les compétences, ni les moyens pour aller beaucoup plus loin. Et ces pistes sont orientées par le prisme des trois dimensions du document (vu, lu, su. Présentation : version longue ou version abrégée) qui me sert de boussole depuis plusieurs années.

La science des données

L’intelligence artificielle est l’appellation la plus courante pour regrouper les travaux des chercheurs investis dans ce domaine. Elle a déjà son histoire avec ses étapes, ses courants, ses avancées et ses impasses. L’ensemble a été bien décrit par un consultant Olivier Ezratti dans un ebook. Dans ce billet, je n’examinerai qu’un de ses courants, à l’heure actuelle le plus important : la science des données. Celui-ci est le courant dominant actuel. Il a supplanté le courant précédent qui cherchait à développer des systèmes experts avec des résultats souvent décevants.

Je suis, bien sûr, incapable de me prononcer vraiment sur la pertinence d’une science dont je maîtrise mal les concepts. Ma présentation et ma compréhension sont limitées : je ne puis entrer ni dans le code, ni dans les équations. Néanmoins j’ai essayé d’en suivre la logique à partir des explications de deux experts reconnus au talent de vulgarisateur : Stéphane Mallat et Yann LeCun. J’éviterai d’employer le terme galvaudé d’intelligence artificielle et m’en tiendrai, comme le premier des deux experts à l’expression “science des données”, l’intelligence reste une notion encore largement énigmatique aujourd’hui, comme le répète dans toutes ses conférences le second expert. Pour apporter mon grain de sel au débat, je tenterai d’y appliquer une approche issue des sciences de l’information pour revenir à A. Desrosières en conclusion.

La science des données, le “big data”, l’apprentissage automatique, les réseaux de neurones, et toutes les méthodes qui les accompagnent forment une nouvelle étape de l’histoire des statistiques. Son but est générique et voudrait s’appliquer à n’importe quelles données et à toutes les sciences. Elle fait l’objet d’un intense débat dans la communauté concernée, et d’une forte émulation à l’aune des premiers résultats prometteurs obtenus.

A l’étape actuelle, ces résultats proviennent principalement de l’utilisation de la technique dite des “réseaux de neurones”. Neurone est ici utilisé dans un but métaphorique, rien à voir avec la biologie, mais la métaphore n’est évidemment pas innocente.

Il s’agit essentiellement de reconnaître un signal constitué d’un ensemble considérable de données issues d’un document ou d’un protodocument. Ce dernier peut être une image, un son, l’enregistrement d’une situation, etc. L’important, pour l’approche qui est la mienne, est d’abord de constater que :
1. les données ne sont pas issues du hasard, mais bien d’un processus volontaire d’enregistrement ;
2. l’objectif est toujours une interprétation. Il s’agit soit de la reconnaissance ou la réinterprétation d’un document déjà interprété dont il faut retrouver la signification (reconnaissance d’images, reconnaissance de la parole enregistrée, traduction automatique, etc), soit de la production d’un nouveau document ou simplement d’une action dans un contexte donné (génération d’images, de textes ou de sons signifiants, comme par exemple un diagnostic médical, des coups à jouer dans un jeu, des décisions à prendre pour un broker ou une voiture autonome, etc).
Pour le dire avec mes mots : les données entrées dans le processus constituent la forme (le “vu”) et l’objectif est de leur retrouver ou de leur trouver un sens, de les lire, les interprêter (le “lu”).

Le réseau de neurones utilise pour cela une série de calculs en cascades qui constituent une suite de filtres simplifiant progressivement la forme initiale en classant et reclassant les données jusqu’à ce que les catégories de données obtenues soient suffisamment discriminantes et donc facilement reconnaissables par la machine. Pour que le processus fonctionne, il faut qu’il y ait au départ une régularité dans l’organisation des données et le défi consiste donc à la repérer. Sur l’image, le x à gauche représente l’ensemble des données, le y à droite la réponse à la question, c’est-à-dire l’interprétation des données. Notons en passant une autre autre utilisation discutable du vocabulaire, le résultat est nommé “prédiction” et non interprétation.

Pour arriver au résultat, il faut entraîner la machine. Cela consiste, par exemple, à lui montrer un certain nombre d’images, que l’on nommera (sur la diapo ci-dessus, des voitures et des avions). Progressivement, la machine intégrera les régularités correspondants aux objets choisis et elle fera de moins en moins d’erreurs dans ses réponses. Ce qui est magique, c’est que cet apprentissage est cumulatif. La performance dépendra de l’ampleur de l’apprentissage et surtout du nombre de réseaux de neurones mis en cascade. Les progrès ont été spectaculaires. Pour la reconnaissance d’images, par exemple, on est passé de 28% d’erreurs à moins de 3% en quelques années.

Les limites

Pour autant, même pour la reconnaissance des images, discipline reine de la science des données, un grain de sable peut sérieusement perturber les résultats. Des chercheurs ont montré, par exemple, qu’en ajoutant simplement un tout petit éléphant dans l’image d’une pièce, on rendait la reconnaissance des autres objets difficile. Les systèmes d’apprentissage sont peu robustes et loin d’être infaillibles.

Par ailleurs, la méthode introduit mécaniquement un biais conservateur dans les résultats. Ceux-ci reproduisent en effet les choix, mêmes involontaires et apparemment objectifs, des documents sur lesquels ils ont été entraînés. Les documents reflètent l’état d’une société, son présent et son passé, jamais son avenir. Ainsi le vocable de “prédiction”, utilisé pour désigner les interprétations des données, paraît pour le moins usurpé. Les sociétés sont pleines de préjugés dont on trouve les traces dans les documents et les dénonciations de systèmes d’apprentissage reproduisant des résultats racistes, sexistes ou discriminants sont nombreuses.

Une autre limite, mise en avant par Stéphane Mallat, est que l’on ne comprend pas très bien comment et pourquoi le système fonctionne. L’informatique a une avance considérable sur les mathématiques. Il y a des algorithmes très efficaces qu’on comprend très mal d’un point de vue mathématique. On ne comprend pas la nature des invariants. La nature même des classifications n’est pas claire. Cette limite n’est pas exceptionnelle dans l’histoire des sciences. Il existe un grand nombre de cas ou des découvertes ont précédé leur explication scientifique. Mais évidemment, elle bride les développement futurs, fragilise les systèmes en rendant difficiles les corrections des limites précédemment évoquées et, de plus, elle conforte l’impression de “boîte noire”. Même ses promoteurs ne sont pas toujours capables de l’élucider.

Y. LeCun, quant à lui, insiste sur une limite plus profonde encore, au point d’en faire un défi personnel et son programme de recherche pour les décennies à venir. En comparant les performances de l’apprentissage des machines avec celles d’un enfant en bas âge ou même d’un orang-outang, il constate un gap considérable. Il suffit, en effet, de quelques interactions à ces derniers pour anticiper des modifications de leur environnement. Il en conclut que les machines manquent du sens commun, c’est-à-dire de cette intuition qui nous rend le monde familier et nous permet d’y vivre sans trop de difficultés, autrement dit l’intelligence. Les chercheurs sont encore très loin d’avoir conçu des algorithmes qui permettraient d’approcher ces capacités.

Science des données et société

Y. LeCun est le responsable du laboratoire d’intelligence artificielle de Facebook, le plus important réseau social dont le président écrivait au moment de son entrée en bourse en 2012 : “Il y a à la fois un énorme besoin et une énorme occasion pour connecter tout le monde, pour donner à chacun une voix et pour aider à changer la société pour le futur. L’ampleur de la technologie et de l’infrastructure à construire est sans précédent et nous croyons que c’est le plus important des problèmes auquel nous devons nous atteler” (trad JMS). Et pourtant, pas une fois dans sa longue conférence qui nous a servi de fil directeur, Y. LeCun ne fera allusion à des questions sociétales. Mieux, les exemples qu’il prend pour introduire l’avenir de ses recherches sont ceux d’un orang-outang ou d’enfants en bas âge, sélectionnés justement pour leurs interactions sociales limitées.

S. Mallat, quant à lui, fera allusion en quelques mots à la toute fin de sa conférence inaugurale au Collège de France sur la science de données aux éventuelles questions éthiques, notamment concernant la protection de la vie privée.

Il y a ainsi un contraste entre ces présentations de la nouvelle science des données et l’histoire des statistiques rapportée par A. Desrosières. On a du mal à y trouver une volonté de construire des références communes pour “rendre possible le débat contradictoire sur les options de la cité” ou encore des “controverses épistémologiques sur le rapport à la réalité [qui] traversent la communauté des statisticiens” comme l’écrivait Jacky Fayolle.

Mis à part les tentatives justement critiquées par Pablo Jensen (voir billet précédent), les débats sur les conséquences sociales de l’utilisation des données par les algorithmes sont la plupart du temps extérieurs à la communauté des scientifiques qui les manipulent. Ils posent souvent des questions importantes et proposent des réponses réglementaires ou dénoncent des abus devant les dérives qui apparaissent. Mais faute d’une connaissance précise des outils, il n’est pas sûr qu’ils atteignent toujours leur cible.

Dans un article récent du New-York Times, une chercheure en science des données alertait : “Les algorithmes d’apprentissage ne comprennent pas encore les choses à la façon des humains, avec parfois de désastreuses conséquences” du fait de leur diffusion rapide dans la société. Dans la même perspective, mais en reprenant les leçons du RTP-Doc, je dirais les choses différemment : les chercheurs en sciences de données devraient favoriser un débat critique interdisciplinaire sur les processus et résultats de leurs outils, résultats qui n’ont pas encore dépassés le stade de l’interprétation. Le moment est peut être venu d’aborder la troisième dimension du document, après la forme et le sens, celle de la relation, du “su”.

---

---