Le New York Times vient de mettre en ligne l’article suivant. Il est nourri, intelligent, documenté à lire attentivement par toute personne intéressée par les processus de production des énoncés collectifs (ce que les naïfs et partisans appellent des « vérités »).
Wikipedia’s Moment of Truth
Pour les gens pressés, ou strictement francophones (car l’article est long), voici en français (pour l’instant) les conclusions que j’en tire.
Elles vont au delà de l’article lui-même.
- Toute tentative pour établir des « vérités » utiles, générales et durables, confronte entre elles des logiques incompatibles. De tels efforts, il ne reste que des outils, d’une utilité circonstancielle, locale et temporaire.
- Tout le monde le sait depuis le prix Nobel « d’économie » d’Herbert Simon (1978) : on ne saurait aller au-delà d’une « rationalité limitée » (bounded rationality) car la « rationalité absolue » (substantive rationality) à laquelle on a longtemps rêvé se montre inaccessible. Reste à concentrer nos efforts sur les procédures que nous suivons et l’architecture des systèmes de pensée mis en œuvre. La spéculation financière et les géants numériques ont tiré parti de ce constat. Les politiques, les religieux, les consommateurs l’ont ignoré.
- Les efforts des « Large Language Models » (LLM) portés par les réseaux « d’intelligence artificielle » (IA), rendent inévitable cette prise de conscience « métalogique » autrefois réservée aux « progressistes » dans leurs moments, parfois dépressifs, de retour au réel.
- Plus que l’erreur ou la manipulation, il faut craindre aujourd’hui les incontrôlables « effets Larsen » de la généralisation des moyens numériques. L’alimentation réciproque (par exemple de Wikipédia, des moteurs de recherche, des chatbots et autres ChatGPT) est dangereuse. Elle engendre des informations fausses, crédibles et contagieuses, comme on peut le prévoir quand on y reconnaît un cannibalisme systémique analogue à celui qu’on a observé dans la « crise de la vache folle » des années 1990-2000, sur les vaches qu’on nourrissait de farines animales.
- Au lieu d’aborder ces questions par le biais d’une métaphore naturaliste, on peut le faire en anthropologues : prendre la mesure des « crises mimétiques » en gestation dans l’extraordinaire déploiement des réseaux numériques.
Comme dans des mouvements de foule, elles risquent de déclencher d’incontrôlables violences (dont celles qu’on s’efforce de reprendre en main par la désignation d’un « bouc émissaire »).
Cela n’est pas toujours suffisant. Il arrive qu’elles soient plus puissantes que les institutions dont on imaginait, avant la crise, qu’elles pourraient les gérer. - Quelle est la place de l’homme dans tout ça ? Partout, dedans et tout autour. C’est la raison pour laquelle les automates numériques nous ressemblent tant.
Comprendre leur fonctionnement nous éclaire sur le nôtre.
Un peu d’empathie pour eux pourrait nous y aider.
Je vous invite à vous imaginer en robot ignorant de sa propre nature.
___