Douglas Rushkoff sait qu'il a merdé

Douglas Rushkoff se sent responsable.

Rushkoff est un écrivain et penseur de la génération X qui a fait partie de la première vague de défenseurs de la technologie dans les années 1990 qui ont vendu au monde un avenir en ligne. « Je faisais partie de la première vague de gens qui ont dit : « Entrez, l'eau est très bien », me dit-il.

Trois décennies plus tard, le monde est très différent. Les entreprises se sont intégrées dans le tissu de nos interactions quotidiennes, dynamisées par Internet et les médias sociaux. Il semble désormais que l’intelligence artificielle aidera les entreprises à programmer l’humanité plus rapidement et mieux que jamais.

Rushkoff y voit une opportunité. «C'est comme si les médias numériques avaient enfin un caractère», dit Rushkoff à propos de l'IA.

Au cours de sa carrière de plus de trente ans, Rushkoff a écrit des livres qui annonçaient les joies d’Internet et mettaient en garde contre les périls des entreprises qui cherchaient à le contrôler. En 2010, il a écrit un petit volume intitulé Programmer ou être programmé : dix commandes pour l’ère numérique. Il regorgeait de conseils pratiques et significatifs pour vivre dans un monde numérique.

Les commandes étaient simples et faciles à comprendre : ne soyez pas toujours en ligne, ne vendez pas vos amis, dites la vérité, vous pouvez toujours choisir « aucune des réponses ci-dessus », vivez en personne, une taille unique ne convient pas à tous, soyez vous-même, vous n'avez jamais tout à fait raison, et partagez, ne volez pas. La philosophie de Rushkoff et un avertissement étaient contenus dans son commandement final : programmer ou être programmé.

Selon Rushkoff, les humains devraient savoir comment fonctionnent les machines et comprendre que ce sont les humains qui construisent les machines pour les entretenir. Pas l'inverse. Cela se résume en partie à l'apprentissage des langages de programmation, ou du moins au fonctionnement des instructions if-then, mais c'est plus important que cela. « Apprenez à reconnaître les préjugés des médias qu'ils utilisent. C'est aussi simple que ça», dit-il.

Le livre s'est bien vendu mais, dit-il, a été mal compris. « Lorsque le livre est sorti pour la première fois… c'est devenu une histoire d'« apprendre à coder ». C’est devenu un argument en faveur des STEM », dit-il. « Nous devrions savoir quelque chose sur le fonctionnement de la technologie. Mais (le livre) était un argument en faveur des arts libéraux, sur la manière dont nous réfléchissons de manière critique à l’égard de ces environnements. Je pense que personne n'a vraiment compris cela. Je ne pense pas que quiconque ait compris cette sorte d’exigence à la McLuhan selon laquelle nous considérons les médias numériques comme un environnement qui change qui nous sommes, qui change ce que signifie être humain.

Il vient de publier une version mise à jour du livre qui inclut une commande supplémentaire consacrée à l'IA : « Valoriser l'humain ».

« Ce qu'il y a de mieux avec l'IA, c'est qu'elle nous donne la possibilité de regarder et de dire : « Oh, ces technologies agissent sur nous ». Il faut aller jusqu'au stade de science-fiction du « il y a une IA là-dedans qui me fait quelque chose » pour comprendre qu'en réalité, toutes les technologies vous font quelque chose », dit-il. « Ils essaient tous de vous programmer d'une manière ou d'une autre. »

Le premier grand livre de Rushkoff était Cyberie en 1994. Il s’agissait d’une première exploration de la culture Internet qui, selon son auteur, était terminée au moment où elle est sortie sur les tablettes. « À la fin de ce livre, le magazine Wired venait de publier son premier numéro », explique Rushkoff. « Jusqu'à ce moment-là, Mondo 2000 et le monde psychédélique dirigeaient en quelque sorte la culture Internet. »

Au début des années 1990, on rêvait de ce que serait Internet et de ce qu’il pourrait apporter à l’humanité. « La culture Internet reposait en grande partie sur le potentiel débridé de l’imagination humaine collective. En réseau, qu’allons-nous faire ? Mais Rushkoff a également vu les signes avant-coureurs. Les entreprises ont commencé à tourner en rond et ont posé une question complètement différente.

« Que se passe-t-il lorsque nous migrons les techniques de publicité, de marketing et de relations publiques les plus propagandistes vers des environnements interactifs ?

Rushkoff dit que la contre-culture de la génération X est en partie responsable. «Nous, les contre-cultures rave des années 90, sommes en grande partie responsables de ne pas avoir fait avancer avec nous le programme de justice sociale des années 60», dit-il. «Beaucoup de personnes à qui j'ai parlé lors de ce moment élogieux disaient: 'Nous avons un programme sans programme.' Tous sont les bienvenus. Ressentez cette chose et elle se déroulera naturellement.

Selon Ruskhoff, les ravers ont regardé les mouvements punk du passé récent et les ont trouvés trop politiques et trop réactionnaires. « Nous avons poussé le gouvernement hors du net… nous n'avions pas réalisé que lorsqu'on se débarrasse du gouvernement, on donne libre cours aux entreprises », dit-il. « Cette déréglementation ne signifiait pas seulement l'absence de censure de mes transactions de LSD par courrier électronique, mais également l'absence de restrictions sur Intel, Amazon et Facebook. Nous avons donc été politiquement naïfs lorsque nous nous sommes lancés dans cette démarche, et nous n’avons pas établi de cadre rigoureux autour du développement d’Internet.

Au fur et à mesure qu’Internet progressait, la culture californienne qui a contribué à le façonner a fusionné avec d’autres idées étranges de la côte ouest et est devenue quelque chose de nouveau. « Ainsi, la hiérarchie des besoins, de la réalisation de soi, du développement personnel de Maslow, une partie de la culture californienne est restée mais s'est mariée à ce genre de libertaire, de capitaliste d'Ayn Rand », dit Rushkoff. Vous avancez 25 ans plus tard et vous vous retrouvez avec ces anarcho-capitalistes dissociés comme seigneurs féodaux de ces paysages.»

L’un des aspects désagréables d’Internet est qu’il a été créé par des humains qui l’ont conçu pour agir sur d’autres humains. Lorsque nous expliquons pourquoi YouTube nous montre des choses que nous ne voulons pas voir, nous nous plaignons de « l’algorithme ». Lorsque Facebook nous envoie une série de déchets d’IA, nous déplorons « notre flux ». Mais la simple vérité est que nous voyons tout cela pour une raison : un être humain l’a conçu de cette façon.

« L'IA fournit une métaphore vraiment cohérente pour ce dont je parle. L'IA ne fait rien des choses dont les gens ont peur, mais elle démontre aux gens que ce média s'adapte à ce que vous avez fait. Cela change. Cela vous apprend. Vous êtes dans une boucle de rétroaction », explique Rushkoff. « Vous disposez donc d'une armée d'intelligences artificielles ultra rapides qui n'ont pas de programme propre, mais qui ont le programme de Peter Thiel ou de Mark Zuckerberg. »

Cette prolifération de l’IA pourrait amplifier tout ce que beaucoup d’entre nous détestent dans le monde dans lequel nous vivons actuellement. « Si vous attirez davantage l'attention des gens en les rendant anxieux, alors rendez-les anxieux, rendez-les violents, faites-les détester leurs voisins, rendez-les impuissants, faites tout ce que vous avez à faire », dit Rushkoff. « Et j’ai l’impression que les gens comprennent ça maintenant. Ainsi, les boucles de rétroaction dont je parlais en 1999 lorsque je disais : « C'est comme de la publicité, mais imaginez une publicité qui pourrait se répéter en fonction de la façon dont vous réagissez. Que se passe-t-il alors ? Je disais : « Vous allez avoir des versions plus extrêmes de vous-même. » C’est là que nous nous sommes retrouvés.

Il pointe du doigt Twitter, maintenant X. « Regardez l’environnement de propagande total de Twitter/X maintenant », dit Rushkoff. «(Elon Musk) possède la chose. Il vous envoie ses propres messages. Il vous envoie les messages des personnes qu'il souhaite que vous voyiez, quel que soit le courant de conversation dans lequel vous vous trouvez. Les publicités, les robots sont la vision du monde qu'il souhaite que vous ayez. Il est difficile d'être sur cette plateforme et de ne pas penser : « Eh bien, c'est le monde ». Même si je dis autre chose, l’air que je respire ici est cet horrible techno-fasciste, tyrannique, méchant, troll, cruel.

Rushkoff me dit qu'il est alarmé par l'ampleur avec laquelle cette pensée s'est répandue. « Même la gauche progressiste a adopté le paradigme du programmateur : « Comment amener les gens à être plus conscients du climat ? Comment puis-je amener les gens à mieux manger ? » », dit-il. « Une fois que vous parlez de « comment puis-je amener les gens à faire quelque chose ? » Vous demandez : « Comment puis-je programmer les gens ? »

«Nous avons adopté cette conception selon laquelle les humains sont programmables par nos systèmes plutôt que nos systèmes sont programmables par les humains», dit-il. Il espère que cette nouvelle édition de Program or Be Programmed fera avancer ce changement de paradigme. Il espère que l’IA les aidera à comprendre qu’un monde meilleur est possible, que toutes ces machines sont des inventions humaines et que les humains devraient être au cœur de tout ce que nous faisons.

« Si la technologie peut réellement accomplir toutes ces tâches, toutes ces choses, si elle a réellement une valeur utilitaire bien supérieure à celle des humains, alors voulons-nous doubler notre valeur utilitaire en tant qu'offre de base, ou voulons-nous commencer à examiner valeurs humaines ? Qu’est-ce que nous proposons qu’ils ne peuvent pas ?

Vous pouvez trouver Programmer ou être programmé : onze commandes pour l'avenir de l'IA partout où les livres sont vendus.