Certains chercheurs en intelligence artificielle se heurtent à la même pierre que les anciens Babyloniens, déclare la philosophe des sciences Sylvia Wenmackers (KU Leuven).
Quand je lis des reportages sur la recherche en intelligence artificielle, je pense souvent aux prix babyloniens de l'orge. C'est exact.
Quiconque a déjà travaillé avec un ordinateur peut le confirmer :la technologie nous aide à faire des choses stupides plus rapidement. Cela s'applique également à la recherche sur l'IA. L'apprentissage d'un réseau de neurones demande beaucoup de temps de calcul et donc beaucoup d'énergie, et une erreur de programmation est facilement commise. Cela n'apparaît souvent qu'après que le supercalculateur a soufflé pendant des jours. À la lumière d'une terre qui se réchauffe, nous devons y penser plus souvent, surtout si l'application ultime est frivole.
Cela pourrait être pire :et si la question de recherche n'avait vraiment aucune chance ? Vous cherchez une connexion qui n'existe tout simplement pas ? Ensuite, une puissance de calcul supplémentaire n'aidera pas et l'IA ne produira que de la stupidité artificielle. Soit dit en passant, ce problème n'est pas nouveau. Elle est au moins aussi ancienne que l'écriture cunéiforme.
Pour les Babyloniens, l'orge était la principale céréale qu'ils vendaient en vrac, tout comme les dattes, la moutarde, le sésame, la cardamome et la laine. Le prix du marché de ces biens a fortement fluctué. Vraisemblablement, le taux dépendait des coûts de récolte et de transport, qui à leur tour dépendaient des caprices du temps (et des sécheresses ou inondations associées).
A partir du 7ème siècle av. Les Babyloniens notaient non seulement les prix du marché, mais aussi la météo, les niveaux d'eau, les événements sociaux marquants et les observations du ciel. Ils l'ont maintenu pendant des siècles, jusqu'à peu de temps avant le début de notre ère. Apparemment, ils cherchaient des moyens de prédire l'évolution erratique des prix des étoiles.
Par exemple, une de leurs tablettes cunéiformes déclare que la nuit du 27 du sixième mois était nuageuse avec des rafales de vent, que Jupiter se levait et que Vénus, Mercure et Mars étaient dans la constellation de la Vierge et Saturne en Verseau. Cette même tablette répertorie également le prix de l'orge pour ce mois.
Ces tablettes sont aujourd'hui appelées "journaux astronomiques", mais autant parler de tables astrologiques. Les Babyloniens ont ainsi jeté les bases de l'astronomie moderne (astronomie) ainsi que de l'idée magique que les astres influencent directement les événements humains (astrologie). Dans Un monde plein de motifs Rens Bod cite ces journaux babyloniens comme exemple d'une recherche ratée de modèles. Pour autant que nous sachions, ils n'ont jamais été en mesure de trouver un lien entre les positions des corps célestes et le prix de l'orge.
Les réseaux de neurones entraînés sur des données historiques, qui contiennent des biais humains, adoptent ces biais, parfois même sous une forme amplifiée
C'est ce à quoi je pense quand je lis sur la recherche en IA. Par exemple, avec un message sur un réseau de neurones formé pour déterminer les préférences politiques de quelqu'un sur la base de photos. Les réseaux de neurones qui sont formés sur la base de données historiques, qui contiennent des biais humains, prennent le relais de ces biais, parfois même sous une forme amplifiée.
C'est le cas, mais je pense que le problème est plus profond que le biais ou l'inexactitude des données d'entraînement. Après tout, le problème des Babyloniens n'était pas qu'ils n'avaient pas de télescope ! Même sans instruments, ils ont recueilli une multitude de données d'observation. Le vrai problème était que l'hypothèse astrologique est construite sur des sables mouvants :il n'y a tout simplement pas de lien significatif entre les variables - la position des planètes et le prix de l'orge - comme ils l'avaient espéré.
L'espoir de lire le caractère, le QI ou la propension à un comportement criminel d'une personne par son apparence est au moins aussi persistant. La phrénologie, dans laquelle la forme de la tête était associée à toutes sortes de propriétés psychologiques, est désormais considérée comme une pseudoscience. Au 19ème siècle, cependant, c'était une branche respectable et florissante de la science. Les chercheurs en IA qui ne connaissent pas cette histoire sont condamnés à répéter ses bévues. Ils sont aidés en cela par une puissance de calcul sans précédent. Dans un ensemble de données avec de nombreuses variables, vous trouverez toujours une relation. Les relations aléatoires ne sont pas reproductibles, mais les répliques sont rares en IA. En attendant, le chercheur a une belle publication en poche.
Cependant, la recherche exploratoire peut être précieuse. Comme l'écrit Bod à propos de l'astrologie :"En tant que prise accessoire, les Babyloniens ont trouvé les célèbres modèles de mouvements planétaires et les règles de prévision." Il ne peut donc pas être exclu que la recherche actuelle sur l'IA produise quelque chose de valeur durable, en plus à tout cet air chaud.
Crédit image d'ouverture :Gavin Collins, Wikipedia Commons
