L'intelligence artificielle n'a jamais eu à évoluer. Par conséquent, il n'a pas développé la tactique de survie qui mène à l'impulsion de dominer les autres.
Alors que nous nous trouvons à la veille d'une nouvelle révolution technologique, celle de l'intelligence artificielle, on craint de plus en plus qu'elle ne soit la dernière. La plus grande crainte est que l'intelligence des machines égale ou même dépasse bientôt celle des humains.
Les machines pourraient se retourner contre nous et nous remplacer en tant que forme de vie dominante sur Terre. Nos créations deviennent nos maîtres - ou peut-être même nous anéantissent complètement. Des scénarios aussi dramatiques montrent une idée fausse sur l'intelligence artificielle. Et ils détournent l'attention des risques plus banals et plus réalistes que la technologie pose à l'avenir, ainsi que de ses avantages prometteurs.
Une prise de contrôle par l'intelligence artificielle a longtemps constitué la base de la science-fiction. Dans 2001 :L'Odyssée de l'espace HAL, l'ordinateur conscient de lui-même contrôlant la mission du vaisseau spatial interplanétaire, se retourne contre l'équipage dans un effort pour se préserver. Dans Le Terminator Un système de défense informatisé semblable à Internet appelé Skynet prend conscience de lui-même et déclenche une guerre nucléaire qui détruit la majeure partie de l'humanité. Cette idée est depuis devenue presque une loi de la nature dans la science-fiction :un système informatique intelligent fera tout ce qu'il faut pour survivre, y compris gagner la domination sur la race humaine.
Pour un neuroscientifique, ce raisonnement est étonnant. L'intelligence artificielle présente de nombreux risques à prendre en compte, notamment les perturbations économiques, l'échec d'applications vitales et la militarisation d'entités malveillantes. Mais ce qui inquiète le plus les gens, ce sont les robots avides de pouvoir qui décident de leur propre chef de conquérir le monde. Pourquoi l'IA consciente d'elle-même voudrait-elle conquérir le monde ? Il ne veut pas ça.
Nous surestimons la menace d'une prise de contrôle involontaire par l'IA, car nous lions l'intelligence à la volonté de dominer
L'intelligence est simplement la capacité d'acquérir des connaissances et des compétences et de les utiliser pour poursuivre un objectif. Il ne fournit pas la fin en soi, seulement les nécessités pour y parvenir. «L'intelligence naturelle» - l'intelligence des êtres biologiques - est une adaptation évolutive. Comme d'autres adaptations similaires, il est apparu lors de la sélection naturelle. Après tout, cela a amélioré la survie et donc la distribution de l'espèce. Ces objectifs sont profondément enracinés en tant qu'instinct dans le système nerveux des organismes les plus simples.
Mais parce que les systèmes d'IA ne sont pas passés par le processus de sélection naturelle, ils n'ont pas eu à développer un instinct de survie. Dans l'IA, l'intelligence et la survie sont déconnectées. Par conséquent, l'intelligence peut servir n'importe quel objectif que nous préprogrammons. Gardant ce fait à l'esprit, l'auteur de science-fiction Isaac Asimov a écrit sa célèbre première loi de la robotique. sur :"Un robot ne doit pas nuire à un être humain ou permettre à un être humain de souffrir par inactivité." Il est peu probable que nous nous retrouvions sous la coupe de nos maîtres numériques sans notre volonté.
Il est tentant de supposer que si nous avions évolué à partir d'une autre espèce animale, comme les orangs-outans ou les éléphants (certains des animaux les plus intelligents de la planète), nous serions moins susceptibles de voir un lien inévitable entre l'intelligence et la domination. Au lieu de cela, nous pouvons nous concentrer sur l'intelligence en tant que catalyseur d'une collaboration renforcée. Les éléphants d'Asie femelles vivent dans des groupes strictement coopératifs, mais ne montrent aucune hiérarchie ni aucun chef dominants clairs.
Le comportement de recherche de dominance est plus lié à la testostérone qu'à l'intelligence
Il est tentant de supposer que si nous avions évolué à partir d'une autre espèce animale, comme les orangs-outans ou les éléphants (certains des animaux les plus intelligents de la planète), nous serions moins susceptibles de voir un lien inévitable entre l'intelligence et la domination. Au lieu de cela, nous pouvons nous concentrer sur l'intelligence en tant que catalyseur d'une collaboration renforcée. Les éléphants d'Asie femelles vivent dans des groupes strictement coopératifs, mais ne montrent aucune hiérarchie ni aucun chef dominants clairs.
Les éléphants mâles, en revanche, vivent dans des groupes moins étroitement liés. Ils se battent régulièrement pour la domination, car seuls les plus forts sont autorisés à s'accoupler avec des femelles réceptives. Les orangs-outans ont une vie largement solitaire. Les femelles ne recherchent pas la domination, bien que les mâles compétitifs se battent régulièrement pour avoir accès aux femelles. Ces observations et d'autres suggèrent que le comportement de recherche de dominance est lié à la testostérone plutôt qu'à l'intelligence. Même parmi les humains, ceux qui tentent d'accéder à des positions de pouvoir sont rarement parmi les plus intelligents d'entre nous.
Peur d'un scénario comme dans The Terminator nous éloigne des risques réels de l'intelligence artificielle. Cela peut (et très probablement) impliquer des armements, et cela peut conduire à de nouvelles méthodes de guerre. L'IA peut également perturber notre économie actuelle. Alors que l'IA améliore la productivité, crée de nouveaux emplois et stimule la croissance économique, les travailleurs devront se recycler pour de nouveaux emplois. Certains seront inévitablement laissés pour compte.
Comme pour de nombreuses révolutions technologiques, l'IA peut accroître les inégalités de richesse et de revenu à moins que de nouveaux systèmes fiscaux ne soient adoptés. Et bien sûr, il y a des risques imprévus associés aux nouvelles technologies – « l'ignorant ne sait rien ». Tous ces risques sont plus inquiétants qu'une inévitable prise de contrôle par des robots.
Il ne fait aucun doute que l'IA contribuera à une profonde transformation dans les décennies à venir. Au mieux, la technologie a le potentiel de nous libérer de notre travail quotidien et de créer une utopie où tout le temps est du temps libre. Au pire, la troisième guerre mondiale est menée par des armées composées de robots super intelligents.
Mais ils ne seront pas contrôlés par HAL, Skynet ou leurs nouveaux parents IA. Même dans le pire des cas, les robots resteront sous notre surveillance et nous n'avons que nous-mêmes à blâmer.
Cet article est extrait de Scientific American et a été traduit par Lin Polleunis.
