Le pouvoir de la science-fiction réside souvent dans l'exploration de nouvelles possibilités et des avantages et inconvénients qu'elles apportent. Que faisons-nous de ces informations en réalité ?
Dans les histoires de science-fiction, les prédictions apparaissent souvent en termes de probabilités. Cela se produit également dans le monde réel, il suffit de penser aux prévisions météorologiques ou aux prévisions médicales. Moins visibles sont les modèles derrière les recommandations en ligne. Même les juges sont parfois assistés par des algorithmes qui tentent d'estimer le risque de récidive, du moins aux États-Unis.
La relation entre la science-fiction et la réalité est complexe, car les histoires fictives suivent simplement leurs propres lois. Les contes de fées classiques, par exemple, commencent souvent par la violation d'une interdiction. La femme de Barbe Bleue doit entrer dans la pièce interdite ou il n'y aura aucun recours. Dans la science-fiction, il existe une variante de cette loi. Si on dit au héros que les chances de succès sont extrêmement minces, la mission réussira quand même. Ainsi, les déclarations de probabilité fictives ont le même objectif que l'interdiction de Barbe Bleue :elles initient une torsion cruciale de l'intrigue.
HG Wells l'a déjà utilisé dans La guerre des mondes à partir de 1898. Dans ce document, l'astronome Ogilvy estime les chances qu'il n'y ait pas de vie humaine sur Mars à un million contre un, après quoi une guerre éclate entre Mars et la Terre. Jeff Wayne l'a résumé succinctement dans son arrangement musical :"Les chances que quelque chose vienne de Mars sont d'un million contre une... Mais quand même, ils arrivent !"
Wells a présenté un scientifique comme source fiable. Dans d'autres histoires de science-fiction, des ordinateurs ou des robots remplissent ce rôle. Au début d'une évasion palpitante dans Star Wars :L'Empire contre-attaque (1980), le robot de protocole d'or C-3PO rapporte que les chances de naviguer avec succès hors d'un champ d'astéroïdes sont d'environ 3 720 contre un. Han Solo répond :« Ne me dis jamais les probabilités ! », puis manœuvre parfaitement entre les astéroïdes.
Punir des personnes qui n'ont pas encore commis de crime ne semble pas moralement acceptable, mais ne pas intervenir ne semble pas non plus une option
Terry Pratchett a magistralement commenté la logique inverse des énoncés de probabilité dans les mondes fictifs dans Mort (1987):"Les scientifiques ont calculé que les chances que quelque chose d'aussi manifestement absurde existe sont des millions contre un. Mais les magiciens ont calculé que les chances d'un million contre un se présentent neuf fois sur dix."
Une autre source d'énoncés de probabilité fictifs est Multivac, le supercalculateur inventé par Isaac Asimov. Dans Tous les troubles du monde , une nouvelle de 1958, Multivac a été utilisé pour calculer la probabilité de crimes un jour à l'avance et ainsi les prévenir. Deux ans plus tôt, Philip K. Dick avait écrit une nouvelle sur le même thème :The Minority Report , qui a inspiré un film de Steven Spielberg en 2002. Dans la nouvelle et dans le film, il y a trois mutants dotés de capacités télépathiques, chacun envisageant un avenir possible.
L'histoire montre clairement que le problème essentiel des systèmes prédictifs n'est pas du tout une question d'opportunité. La vraie question est de savoir quoi faire de cette information. Punir des personnes qui n'ont pas encore commis de crime ne semble pas moralement acceptable, mais ne pas intervenir ne semble pas non plus une option.
Le pouvoir de la science-fiction réside souvent dans l'exploration de nouvelles possibilités et des avantages et inconvénients qu'elles apportent. Les histoires elles-mêmes comportent également des dangers. Le premier danger est l'accoutumance. Dick et Asimov nous ont non seulement fait réfléchir aux risques de la police prédictive, mais ils nous ont également habitués à cette application. Dans la série télévisée Fringe , qui a fonctionné jusqu'en 2013, contenait toujours un ordinateur de police qui surveille en permanence tous les quartiers et signale leur probabilité de criminalité.
En attendant, cela ne s'arrête pas à la fiction et les attentes dans le monde réel débouchent sur de nouvelles applications. Par exemple, il y a COMPAS, un algorithme qui conseille les juges aux États-Unis dans leur décision sur la peine. Pour ce faire, le système examine le risque estimé de récidive. En 2016, l'équipe éditoriale américaine de recherche a publié ProPublica un rapport à ce sujet qui montre que le système présente un parti pris contre les accusés noirs.
Cela illustre le deuxième danger, qui réside dans les questions que les histoires de science-fiction ci-dessus ne posent pas :sur quelles données les machines s'appuient-elles pour faire des déclarations de probabilité ? Quel algorithme est derrière ? Et surtout :et s'ils se trompaient tout aussi systématiquement que leurs homologues fictifs ? En bref, comment s'assurer que la loi, que Pratchett a si bien rédigée, reste une fiction ?
