Que faut-il faire, ou ne pas faire, au quotidien et au cours de notre vie? Quel degré de désorganisation pouvons-nous accepter? Quelle part de nouveauté et de familier doit comporter une existence épanouie? Si ces préoccupations peuvent sembler exclusivement humaines, elles ne le sont pas. Tout comme nous, les ordinateurs sont confrontés à des limites de temps et d’espace. Les informaticiens se sont emparés de ces questions depuis longtemps; les solutions qu’ils ont trouvées ont beaucoup à nous apprendre.
Un sur-apprentissage dans notre alimentation ?
Une fois qu’on sait ce qu’est le sur-apprentissage, on le voit partout. Le sur-apprentissage explique, par exemple, les anomalies de notre alimentation. Comment se fait-il que ce qui flatte le plus notre palais soit aussi ce qui fait le plus de mal à notre santé, alors que nos papilles gustatives ont pour but, du point de vue de l’évolution, de nous empêcher de manger ce qui ne nous convient pas ?
La réponse est que le sens du goût est pour notre corps un indicateur indirect de la santé. La graisse, le sucre et le sel sont des nutriments importants, et pendant deux cent mille ans, avoir envie de manger les aliments qui en contiennent était une façon raisonnable de préserver sa santé.
Mais notre capacité à modifier notre nourriture a brisé ce rapport. Nous pouvons maintenant ajouter à notre nourriture des graisses et du sucre au-delà de ce qui est bon pour nous, et puis ne plus manger que cela, au lieu du mélange de plantes, de graines et de viandes qui constituait historiquement l’alimentation humaine. En d’autres termes, nous sur-apprenons le goût. Et plus nous savons manipuler notre nourriture (et plus nos styles de vie divergent de ceux de nos ancêtres), plus notre goût trahit sa fonction. Nos capacités humaines deviennent une malédiction, nous rendant dangereusement capables de nous procurer tout ce que nous voulons, même lorsque ce que nous voulons n’est pas exactement ce qu’il nous faudrait.
Un effet négatif possible lors d'efforts physiques ?
Prenez garde! Quand vous allez au gymnase pour vous débarrasser du surpoids causé par tout ce sucre, vous risquez aussi une sur-apprentissage. Certains signaux visibles de la forme physique – peu de graisses et une forte masse musculaire par exemple – sont faciles à mesurer et ils jouent un rôle pour minimiser les risques cardiaques et autres. Mais eux aussi sont un indicateur imparfait : sur-apprendre les signaux, par exemple en adoptant un régime drastique pour réduire les graisses et en prenant des stéroïdes pour augmenter la masse musculaire, vous donnera l’apparence de respirer la santé, mais l’apparence seulement.
Le sur-apprentissage est également présent dans le sport. Par exemple, Tom fait de l’escrime, de façon discontinue, depuis sa jeunesse. Le but initial de l’escrime était d’apprendre à se défendre dans un duel, et les armes de l’escrime moderne sont semblables à celles dont on se servait autrefois, en particulier l’épée, qui servait encore dans les duels formels il y a moins de cinquante ans. Mais l’introduction du matériel d’arbitrage électronique (un bouton au bout de la lame pour signaler une touche) a changé la nature de ce sport. Des techniques inutiles dans un duel sérieux sont devenues essentielles en compétition. Les escrimeurs modernes utilisent des lames flexibles qui leur permettent de déclencher le bouton par un simple frôlement de leur adversaire. Ils marquent leurs points, non pas en estoquant et en fendant, mais en fouettant ou en caressant. Certes, le nouveau sport est tout aussi passionnant, mais depuis que les athlètes ont sur-appris leur tactique pour répondre aux exigences du score, il ne sert plus à grand-chose pour s’entraîner au maniement des vraies armes.
Un effet pervers
Il est cependant probable que le sur-apprentissage ne soit pas aussi puissant et aussi problématique que dans le monde des affaires. «Les primes structurent le travail», a dit Steve Jobs. « Il faut donc faire très attention à ce qu’on demande aux gens de faire à l’aide d’incitations, car certaines formes d’encouragement ont toutes sortes de conséquences qu’on ne peut pas prévoir». Sam Altman, président de l’incubateur de start-up Y Combinator, fait écho aux mises en garde de Jobs : « Il est absolument vrai qu’une société délivrera toute performance que le CEO décide de mesurer. »
En fait, il est incroyablement difficile de produire des incitations ou des mesures de performance qui n’auront pas une forme ou une autre d’effet pervers. Dans les années 1950, V. F. Ridgway, professeur de management à Cornell, a dressé un abondant catalogue de ces « conséquences dysfonctionnelles des mesures de performance ». Dans un bureau de recherche d’emploi, les salariés étaient évalués au nombre d’entrevues réalisées, ce qui les incitait à mettre fin à l’entrevue aussi vite que possible, sans beaucoup se préoccuper d’aider leurs clients à trouver du travail.
Dans une force de police locale, des détectives qui devaient s’acquitter d’un quota mensuel d’enquêtes choisissaient les affaires faciles à la fin du mois, plutôt que celles qui étaient urgentes. Et dans une usine qui se focalisait sur la mesure de la production, les contrôleurs négligeaient la maintenance et les réparations, préparant ainsi le terrain aux catastrophes. Ces problèmes ne peuvent simplement être ignorés en tant qu’incapacité du management à atteindre ses objectifs. C’est plutôt le contraire: l’impitoyable et astucieuse optimisation de la mauvaise chose.
Au 19e siècle, le passage à l’analyse en temps réel n’a fait qu’aggraver le danger des mesures. Avinash Kaushik, prophète du marketing numérique chez Google, nous prévient qu’essayer d’imposer la publicité aux utilisateurs de sites Web revient à bourrer ces sites de publicités : « Quand vous êtes payé sur la base d’un tant par millier de publicités, la tentation est de trouver le moyen de placer un maximum de publicités sur chaque page et de faire en sorte que le visiteur lise un maximum de pages.
Vous êtes ainsi incité à oublier votre entité principale, le client, pour vous focaliser sur l’entité secondaire, l’annonceur. Le site Web va peut-être gagner un peu d’argent sur le court terme, mais les articles bourrés de publicités, les diaporamas multipages qui se chargent avec lenteur et les titres accrocheurs qui surgissent à chaque clic vont finalement chasser les lecteurs. » Conclusion de Kaushik : « On ne mesure pas le nombre de pages visitées par un ami. Ou on le perd. »
Dans certains cas, la différence entre un modèle et la réalité est littéralement une affaire de vie ou de mort.
Cet article n'est qu'une courte introduction au livre présenté ci-dessous, comprenant quant à lui une analyse complète du sujet.
> Commandez dès à présent votre ouvrage
A lire aussi :
Extrait du titre Penser en algorithmes
De Brian Christian, Tom Griffiths
Collection Quanto
Publié chez EPFL PRESS