Réputé coupable

Les premières pages

Il y a une chose qui m'a toujours étonné chez mon espèce : la vitesse avec laquelle nous détournons nos propres inventions. À peine une technologie est-elle née pour un usage honnête que quelqu'un, quelque part, en trouve un mauvais. Le magnétoscope devait nous laisser regarder la télévision plus tard ; on s'en est servi pour copier des films. La cassette audio devait mettre la musique dans nos poches ; on s'en est servi pour pirater les disques. Le graveur, le partage de fichiers, la messagerie, l'intelligence artificielle : chaque outil pensé pour le bien a trouvé, presque aussitôt, sa version pour le pire. Quand un ingénieur met au point une machine, songe-t-il une seconde à tout ce qu'un esprit mal tourné saura en faire ? Sans doute pas. Et pourtant, cela arrive à chaque fois. C'est de cet étonnement qu'est parti ce livre. Je voulais raconter une dizaine de technologies détournées de leur usage d'origine, décriées, condamnées, ayant perdu leur crédibilité pour ce que quelques-uns en avaient fait. Mais en creusant, j'ai découvert que l'histoire vraie était encore plus étrange — et qu'elle disait, sur nous, quelque chose de bien plus dérangeant que le simple penchant humain à mal se servir des choses. Car il y a un second réflexe, plus rapide encore que le premier. À peine avons-nous détourné une technologie que nous la mettons en accusation. Non pas celui qui l'a détournée : la technologie elle-même. Nous ne disons pas « des gens copient illégalement avec le magnétoscope » ; nous disons « le magnétoscope va tuer le cinéma ». Nous ne disons pas « des criminels utilisent le chiffrement » ; nous disons « le chiffrement est l'arme des terroristes ». À chaque fois, avec une constance qui force l'admiration, nous prenons l'objet pour le coupable. Nous le jugeons, nous le condamnons, parfois nous l'interdisons — et nous nous sentons quittes, sans avoir jamais regardé la seule chose qui, dans toute cette affaire, pouvait être coupable : la main qui s'en sert, et souvent, la nôtre. Ce livre est donc devenu le procès de cette manière de juger. J'y instruis douze affaires, douze technologies que l'opinion, la presse, les tribunaux ou les États ont tenues pour coupables — le magnétoscope, la cassette, les jeux vidéo, le Minitel, le chiffrement, le darkweb, le bitcoin, la messagerie chiffrée, les réseaux sociaux, l'intelligence artificielle, la reconnaissance faciale, l'imprimante 3D. Chacune a comparu, un jour, sous le poids d'une accusation qui semblait évidente. Et chaque fois, en regardant les faits — les vrais, les datés, ceux qu'on oublie dans le tumulte —, on découvre que le verdict populaire s'était trompé de coupable. Le titre dit tout cela d'un seul mot, et ce mot est un terme de droit. En français juridique, être réputé, c'est être tenu pour tel « quelle que soit la réalité ». La loi vous répute majeur, présent, propriétaire, sans se soucier de vérifier : elle décide que vous l'êtes. C'est exactement ce que nous faisons de nos technologies. Nous les réputons coupables — nous les tenons pour telles, jugées d'avance, condamnées sur leur mine ou sur leur pire usage, sans autre forme de procès. Ce livre rouvre les douze procès qu'on avait cru clos, appelle les faits à la barre, et rend, pour chacun, un second verdict. Ce mot, réputé, m'accompagne depuis quelques livres, comme une enseigne. J'ai raconté déjà un foyer réputé conforme, une machine réputée intelligente, un utilisateur réputé protégé : chaque fois, le même écart entre ce que le langage affirme et ce que la réalité dément. La technologie réputée coupable est le dernier volet de cette petite obsession — et le plus universel, car il ne concerne pas une époque, mais toutes. Le procès qu'on fait aujourd'hui à l'intelligence artificielle, on l'a fait hier au jeu vidéo, avant-hier au magnétoscope, et, si l'on remonte assez loin, à l'imprimerie et à l'écriture elle-même, que Socrate accusait déjà de nous rendre oublieux. Il n'y a pas de sujet plus actuel, parce qu'il n'y a pas de sujet plus permanent : à chaque génération, une nouvelle machine monte au banc des accusés, et à chaque génération, nous refaisons, mot pour mot, la même erreur de procès. Ce livre voudrait, modestement, aider à la reconnaître — et, la prochaine fois, à ne pas la commettre. Que le lecteur soit prévenu, en revanche, de ce que ce livre n'est pas. Ce n'est pas un plaidoyer pour la technologie. Je ne crois pas que les machines nous sauvent, et je me méfie autant des prophètes du progrès que de ceux de l'apocalypse. On ne trouvera ici ni émerveillement naïf ni « c'était mieux avant » : les deux me paraissent également paresseux. Ce livre ne dit pas que les technologies sont bonnes ; il dit qu'elles ne sont ni bonnes ni mauvaises, qu'elles n'ont pas d'intention, et que leur faire un procès, c'est se tromper d'accusé. La copie pirate existe, les rançongiciels paralysent de vrais hôpitaux, les images truquées brisent de vraies vies : rien de cela n'est nié dans les pages qui suivent. Mais aucun de ces maux n'a jamais été commis par un objet. Ils ont été commis par des mains — et c'est les mains qu'il faut juger, pas les outils. Chaque chapitre est bâti comme un procès. Il s'ouvre sur un chef d'accusation — une vraie pièce, une phrase de ministre, une une de presse, un arrêt de justice, citée telle quelle et datée : l'accusation parle d'abord, avec ses propres mots. Puis vient l'instruction, puis le contre-interrogatoire, où les faits vérifiés démontent, ou parfois confirment, la charge. Et chaque chapitre se referme sur un verdict. Je me suis efforcé, tout au long, de tenir une ligne difficile : celle de l'avocat, non du militant. Je ne plaide pas l'innocence des usages ; je plaide contre la condamnation des outils. La nuance est mince, mais c'est toute la différence entre penser et s'indigner. Le livre se lit en trois temps, qui sont trois manières de se tromper de coupable. La première partie rassemble les procès de la panique : ces objets — le magnétoscope, la cassette, les jeux vidéo, le Minitel — qu'on a condamnés par peur, avant tout dégât réel, et dont l'histoire a montré, à chaque fois, que la terreur s'était trompée de menace. La deuxième réunit les procès de l'association : le chiffrement, le darkweb, le bitcoin, la messagerie — des outils de liberté qu'on a jugés sur leur pire minorité d'usagers, en confondant l'objet et le crime. La troisième, enfin, est celle du miroir : les réseaux sociaux, l'intelligence artificielle, la reconnaissance faciale, l'imprimante 3D — des technologies dont l'accusation, pour la première fois, contient une part de vrai, mais qui ne font, au fond, que nous renvoyer notre propre visage. Là, l'accusé n'est plus tout à fait dehors ; il commence à nous ressembler. Car c'est là que ce livre, parti d'un étonnement sur les machines, finit par parler d'autre chose. Plus j'avançais dans ces douze procès, plus il m'apparaissait que le vrai sujet n'était jamais la technologie. Le magnétoscope ne nous apprend rien sur les magnétoscopes ; il nous apprend comment une industrie, prise de peur, invente un tueur imaginaire. Le darkweb ne nous apprend rien sur les réseaux ; il nous apprend comment une société laisse une exception salir un outil. Et le réseau social, l'intelligence artificielle, la reconnaissance faciale ne nous apprennent presque rien sur eux-mêmes : ils nous tendent un miroir, et nous détestons ce que nous y voyons. Ce livre parle de douze machines. Il parle, en vérité, de la seule chose qui les juge : nous. Un dernier mot sur la méthode, puisque j'y tiens. Les faits de ce livre sont datés et sourcés ; les citations qui ouvrent chaque procès sont authentiques, vérifiées au moment de l'écriture, jamais reconstituées de mémoire. J'ai voulu que le lecteur puisse toujours vérifier, car un livre qui reproche au monde de juger sans preuve n'aurait aucune excuse d'en manquer lui-même. Là où le débat reste ouvert — sur les effets des réseaux, par exemple, ou sur la part réelle du crime dans certains usages —, je l'ai dit, et je me suis gardé de trancher ce que la science n'a pas tranché. On ne guérit pas une accusation injuste par une autre. Voilà. Douze accusés vous attendent, réputés coupables, et douze procès à rouvrir. Vous verrez, chemin faisant, que la question qui les traverse tous est d'une simplicité désarmante, et qu'elle vaut bien au-delà de ces pages. La prochaine fois qu'un objet sera traîné devant l'opinion — et il y en aura un, bientôt, dont je ne connais pas encore le nom —, il suffira de la poser, cette question, avant de condamner : juge-t-on l'objet, ou la main ? Le reste, ce livre s'efforce de le montrer, en découle.

La suite dans le livre.