L'intelligence artificielle peut aider à prendre des décisions éthiques, déclare le philosophe Stephen Cave.
Quels sont les avantages des robots qui prennent des décisions morales ? «L'intelligence artificielle qui fournit des conseils médicaux, par exemple, a une quantité incroyable de données à prendre en compte qu'un médecin. Données sur les médicaments, les études cliniques, le taux de réussite d'un traitement, les effets secondaires possibles, ...'
Cela conduit-il à de meilleures décisions morales ?
Nous devons nous en occuper. Dans le passé, nous n'avions pas à nous poser cette question, les robots n'étaient que des "forces stupides". Maintenant, ils sortent de leur cachette. Pensez à la voiture autonome. Il faut leur donner une certaine moralité. Supposons qu'une voiture autonome menace de se heurter à un obstacle. S'il roule tout droit, tous les occupants meurent. S'il dévie à gauche, un cycliste meurt parce qu'il ne porte pas de casque. S'il dévie à droite, un cycliste avec un casque est blessé. Le choix peut sembler simple :si vous ne pouvez pas éviter une collision, choisissez le moindre mal et foncez contre le cycliste casqué. Si nous programmons cela dans toutes les voitures autonomes, qui voudrait porter un casque ? Est-il préférable de toujours le laisser choisir des cyclistes sans casque ? Par exemple, nous introduisons actuellement la peine de mort pour les cyclistes qui ne portent pas de casque.'
Si quelque chose ne va pas à cause de la "mauvaise" décision d'une machine, qui est à blâmer ? Nous ne pouvons pas mettre une machine en prison.
"Bien sûr, il y a toujours quelqu'un qui a programmé l'ordinateur. Bien que ce ne soit pas facile ici non plus. Jusque dans les années 1980, les machines étaient prévisibles, elles faisaient ce pour quoi elles étaient programmées. Aujourd'hui, nous faisons du machine learning. Nous ne comprenons pas pourquoi ils font certaines choses. Pensez à l'intelligence artificielle qui fournit des conseils médicaux. Par exemple, l'ordinateur recommande d'amputer la jambe du patient. Si le médecin ne comprend pas ce conseil, il ne peut pas demander à l'ordinateur comment il a pris cette décision. Il sait que la machine en sait beaucoup plus que lui. Doit-il faire confiance à la machine ou doit-il faire confiance à son intuition ?'
Et ?
« Nous devons faire confiance à ces machines, car nous les construisons parce que nous pensons qu'elles savent mieux que nous. En même temps, il ne faut pas aller trop loin avec cela, quelque chose peut toujours mal tourner. Où se situe cette limite est une question difficile." (lg)
