https://korii.slate.fr/tech/internet-manipulation-visions-glacantes-tristan-harris
Pour quiconque suit l’actualité chamboulée du monde de la tech, Tristan Harris n’est pas un inconnu. Ingénieur pour Apple et Google, chez qui il a étudié en profondeur les questions de l’éthique et de la «persuasion humaine», l’Américain est désormais l’un des plus efficaces porte-voix de celles et ceux s’inquiétant des méthodes et dark patterns mis en place par les GAFAM pour manipuler les esprits.
Très présent dans le débat grandissant sur la responsabilité des géants du net envers leurs utilisateurs et utilisatrices, Harris a cofondé le Center For Humane Technology, une ONG dont l’objectif affiché est de «renverser le déclassement humain» («human downgrading», en version originale) et de «réaligner la technologie avec l’humanité».
Cette question de la manipulation généralisée des cerveaux fait actuellement l’objet d’une audition au Sénat américain, où certain·es élu·es aimeraient comprendre les choses –avant éventuellement de les reprendre en main en légiférant.
Exemples édifiants à l’appui, il a dessiné un résumé glaçant des coulisses de notre navigation en ligne, et de la manière dont elle est influencée par des méthodes, designs et algorithmes dont nous ignorons tout lorsque nous sautons innocemment d’une page à une autre sur internet, quand nous publions un statut sur Facebook ou quand nous rafraîchissons notre fil Twitter.
Harris a également de nouveau présenté son effrayante théorie de «l’avatar numérique»: un double algorithmique dont chacun·e disposerait, quelque part sur les serveurs anonymes des grosses plateformes, et qui permettrait aux géants du net de nous connaître mieux que nous nous connaissons nous-mêmes, donc de manipuler nos désirs, actions et réactions.
Même chose pour YouTube, qui tire 70% de son trafic des recommandations que son algorithme contestable présente aux internautes –comme cela a été récemment démontré, celles-ci les poussent souvent vers des vidéos de plus en plus trash, outrageantes, conspirationnistes, créant même un terrain de jeu idéal pour les pédophiles.
Dégoûté·e, vous désirez quitter Facebook? Tristan Harris détaille la manière dont la plateforme de Mark Zuckerberg tente de vous en dissuader: elle vous demande de confirmer votre départ en faisant apparaître les visages des cinq relations qui risquent de vous manquer le plus. Le tout calculé, là encore, par un savant algorithme.
Sombre, volontairement anxiogène mais pas totalement irréaliste, le tableau dépeint par Tristan Harris a été suffisamment inquiétant pour faire dire à John Tester, sénateur du Montana, qu’il «sera probablement mort et enterré, et heureux de l’être, quand toute cette merde prendra toute son ampleur».
À moins bien sûr, si cela est encore possible, que les responsables politiques n’imposent des règles contraignantes aux acteurs du marché de la tech. Ou que les utilisateurs et utilisatrices, lassées de ces influences invisibles et de leurs conséquences sur leur libre arbitre, ne décident de reprendre un contrôle plus conscient de leur vie, poussant alors les géants du net à adapter leurs méthodes.