Le philosophe Stephen Cave affirme que l'intelligence artificielle peut aider à prendre des décisions éthiques plus éclairées et objectives.
Quels sont les avantages des robots dans la prise de décisions morales ?
"L'intelligence artificielle, par exemple pour les conseils médicaux, dispose d'une quantité incroyable de données qu'un médecin humain ne peut égaler : informations sur les médicaments, études cliniques, taux de réussite des traitements, effets secondaires possibles, et bien plus."
Cela conduit-il à de meilleures décisions morales ?
"Nous devons nous pencher sur cette question. Autrefois, les robots n'étaient que des 'forces stupides'. Aujourd'hui, ils émergent avec des capacités avancées. Considérez la voiture autonome : il faut leur insuffler une moralité.
Imaginez une situation critique : si elle continue tout droit, les occupants périssent ; si elle dévie à gauche, un cycliste sans casque meurt ; à droite, un cycliste casqué est blessé. Le choix semble évident : opter pour le moindre mal, heurter le cycliste casqué. Mais si toutes les voitures autonomes sont programmées ainsi, qui portera encore un casque ? Faut-il systématiquement sacrifier les cyclistes sans casque, instaurant de facto une peine de mort pour non-port du casque ?"
Si une machine prend une 'mauvaise' décision, qui est responsable ? On ne peut pas emprisonner une IA.
"Bien sûr, il y a les programmeurs. Jusqu'aux années 1980, les machines étaient prévisibles et suivaient strictement leur code. Aujourd'hui, avec l'apprentissage automatique (machine learning), leurs décisions sont souvent opaques. Prenons une IA qui conseille l'amputation d'une jambe : le médecin ignore le raisonnement exact, mais sait qu'elle détient plus de données que lui. Doit-il suivre la machine ou son intuition ?"
Quelle est la conclusion ?
"Nous devons faire confiance à ces machines, car nous les concevons précisément parce qu'elles en savent plus que nous. Cependant, il ne faut pas aller trop loin : des erreurs restent possibles. Définir cette limite est un défi majeur." (lg)
