Nick Bostrom, l’auteur de « The Simulation Argument » déclare qu’une mauvaise technologie pourrait détruire l’humanité – et le seul moyen de l’empêcher est une surveillance de masse et une gouvernance mondiale.
Dans son article, Bostrom soutient qu’une surveillance mondialisée sera nécessaire pour empêcher une technologie de notre propre création de détruire l’humanité – une idée radicalement dystopique de l’un des philosophes les plus éminents de cette génération.
Bostrom cadre son argument en terme d’une urne géante remplie de balles. Chaque balle représente une idée différente ou une technologie possible, et elles sont de couleurs différentes : blanche (bénéfique), grise (modérément nocif), ou noir (destruction de civilisation).
L’humanité tire constamment des balles de cette urne, selon le modèle de Bostom – et heureusement, personne n’a encore sorti une balle noire. L’accent est mis sur « encore ».
« Si la recherche scientifique et technologique continue, écrit Bostrom, nous finirons par l’atteindre et l’extraire. »
Pour éviter que cela ne se produise, Bostrom affirme que nous avons besoin d’un gouvernement mondial plus efficace – un gouvernement qui pourrait rapidement interdire toute technologie potentiellement destructrice pour la civilisation.
Il suggère également que nous nous appuyions sur la surveillance de masse par le gouvernement, en équipant chaque personne de « balises de liberté » ressemblant à des colliers qui peuvent entendre et voir ce qu’elles font à tout moment.
Ces balises seraient introduites dans des « stations de surveillance des patriotes », ou « centres de liberté », où des intelligences artificielles surveillent les données, amenant les « agents de la liberté » humains dans la boucle s’ils détectent des signes d’une boule noire.
Nous avons déjà vu des gens abuser des systèmes de surveillance de masse , et ces systèmes sont beaucoup moins exhaustifs que ce que propose Bostrom.
Néanmoins, s’il s’agit de choisir entre l’observation et la surveillance de chacun de nos mouvements ou la fin de la civilisation, Bostrom semble penser que le premier choix est une meilleure option que le second.
« De toute évidence, la surveillance de masse et la gouvernance mondiale comportent d’énormes inconvénients, voire des risques énormes », a-t-il déclaré à la foule lors de la conférence TED, selon Inverse. « Je fais juste remarquer que si on a de la chance, le monde pourrait être tel que ce serait le seul moyen de survivre à une balle noire. »