Certains chercheurs en intelligence artificielle (IA) se heurtent à la même pierre d'achoppement que les anciens Babyloniens, déclare Sylvia Wenmackers, philosophe des sciences à la KU Leuven.
Quand je lis des articles sur la recherche en IA, je pense souvent aux prix babyloniens de l'orge. Oui, vous avez bien lu.
Quiconque a travaillé avec un ordinateur le sait : la technologie nous permet de faire des bêtises plus rapidement. Cela vaut aussi pour la recherche en IA. Entraîner un réseau de neurones exige une immense puissance de calcul et donc beaucoup d'énergie. Une erreur de programmation peut passer inaperçue jusqu'à ce que le supercalculateur ait tourné des jours durant. Dans un contexte de réchauffement climatique, nous devons réfléchir à deux fois, surtout pour des applications futiles.
Pire encore : et si la question de recherche était vouée à l'échec ? Si vous cherchez un lien qui n'existe pas, plus de puissance ne changera rien. L'IA produira alors de la "bêtise artificielle". Ce problème n'est pas nouveau : il remonte au moins à l'écriture cunéiforme.
Pour les Babyloniens, l'orge était la céréale principale, vendue en vrac comme les dattes, la moutarde, le sésame, la cardamome ou la laine. Les prix fluctuaient selon les récoltes et le transport, influencés par la météo (sécheresses ou inondations).
Dès le VIIe siècle av. J.-C., ils notaient non seulement les prix, mais aussi la météo, les niveaux d'eau, les événements sociaux et les observations célestes. Ils ont tenu ces registres pendant des siècles, jusqu'au début de notre ère, cherchant à prédire les prix volatiles via les astres.
Par exemple, une tablette cunéiforme décrit une nuit nuageuse du 27e jour du sixième mois, avec des vents, Jupiter se levant, Vénus, Mercure et Mars en Vierge, Saturne en Verseau – et le prix de l'orge ce mois-là.
Ces "journaux astronomiques" sont en réalité des tables astrologiques. Les Babyloniens ont posé les bases de l'astronomie moderne tout en promouvant l'idée magique d'une influence céleste sur les affaires humaines (astrologie). Dans Un monde plein de motifs, Rens Bod cite ces journaux comme exemple de recherche infructueuse : aucun lien n'a été trouvé entre positions célestes et prix de l'orge.
Les réseaux de neurones entraînés sur des données historiques biaisées adoptent et amplifient ces biais.
C'est ce qui me vient à l'esprit en lisant sur un réseau de neurones prédisant les préférences politiques à partir de photos. Les données historiques biaisées se perpétuent, voire s'amplifient.
Mais le problème est plus profond que les biais. Les Babyloniens n'avaient pas de télescopes, pourtant ils ont collecté des masses de données. L'hypothèse astrologique était fondamentalement erronée : aucun lien significatif entre planètes et prix de l'orge.
L'idée de lire le caractère, le QI ou la criminalité dans l'apparence persiste. La phrénologie, liant forme du crâne à des traits psychologiques, fut une "science" respectable au XIXe siècle, avant d'être reléguée au rang de pseudoscience. Les chercheurs en IA ignorant cette histoire risquent de la répéter, boostés par une puissance de calcul inédite. Dans de grands ensembles de données, des corrélations spurieuses émergent toujours – souvent non reproductibles, mais publiables.
La recherche exploratoire peut toutefois porter ses fruits. Comme l'écrit Bod sur l'astrologie babylonienne : "En bonus, ils ont découvert les modèles de mouvements planétaires et les règles de prédiction." L'IA actuelle pourrait ainsi générer des avancées durables, au-delà de l'énergie gaspillée.
Crédit image d'ouverture : Gavin Collins, Wikimedia Commons
