Machines hostiles, programmées pour dominer

Le Monde Diplomatique – juillet 2011 – Jean-Noël Lafargue
Il n’est pas difficile de faire l’expérience de la violence des portillons automatiques dans les couloirs du métro parisien. Un défaut d’attention, un mouvement décalé, un sac à dos un peu large, un enfant tenu par la main qui n’accepte pas de se presser… et la tenaille de caoutchouc broie les épaules ou frappe les tempes. L’aventure fait sourire les usagers quotidiens du métro : ceux-là ont appris à s’adapter aux machines. Les victimes elles-mêmes n’incriminent que leur propre maladresse. Mais imaginons un instant que ces portillons soient remplacés par des vigiles chargés de distribuer des claques ou des coups aux clients ne circulant pas à la bonne vitesse : ce serait scandaleux, insupportable. Nous l’acceptons pourtant de la part des machines, car nous savons qu’elles ne pensent pas. Nous estimons, en conséquence, qu’elles ne sont animées d’aucune mauvaise intention. Erreur : si les automates n’ont pas conscience de leurs actes, ils obéissent toujours à un programme, produit d’un réglage intentionnel. Dans d’autres villes, on trouve des composteurs, mais pas de portillons ; ailleurs, la validation des tickets est effectuée sous surveillance humaine ; et, à Aubagne ou à Châteauroux, les transports urbains sont… gratuits.
L’apparente logique du contrôle des billets (à la rationalité économique fort discutable) crée d’autres contraintes. Les barrières assignent le public à des zones précises : on est soit dedans, soit dehors. Dans la gare SNCF de mon village de banlieue, l’installation récente de portillons interdit aux usagers de quitter librement le quai pour acheter un journal, boire un café ou retourner au guichet chercher un renseignement. Le voyageur n’aura plus qu’à utiliser le distributeur automatique de sodas et de friandises (hors de prix) placé sur le quai. Et, pour lire, se contenter des panneaux publicitaires.
D’innombrables dispositifs programmés gèrent ou assistent notre quotidien. Qui n’est jamais devenu fou face à l’un de ces serveurs vocaux interactifs intimant d’« appuyer sur la touche étoile » ou d’articuler à voix in-tel-li-gible des expressions grotesques : « Si vous désirez des informations, dites “information” »« Information »« Je suis désolé mais je n’ai pas compris votre réponse, veuillez réessayer »« In-for-ma-tion »« Veuillez rappeler ultérieurement » ?

Les pratiques du marketing téléphonique ou des services d’assistance en ligne ajoutent un paramètre à ce problème : à qui parlons-nous vraiment lors de ces échanges programmés ? Dans de nombreux cas, les employés des centres d’appel suivent un logiciel « expert » et ne disposent d’aucune marge de manœuvre. Les employés « robotisés » servent de filtre et évitent de mobiliser des techniciens pour des problèmes mineurs. Souvent, le filtre s’avère si puissant qu’il est totalement impossible d’atteindre la personne compétente…
Pour finir, les téléopérateurs dont la conversation suit un scénario programmé ont l’avantage d’être parfaitement interchangeables. Il n’est pas impossible que ces opérateurs, souvent localisés dans des pays francophones où la main-d’œuvre est bon marché, ne comprennent pas vraiment les cas qu’ils sont censés gérer.
Présentée comme un moyen de réduire les tâches monotones, l’automatisation met en valeur, dans la « ressource humaine », non pas le libre arbitre ou la compétence (la procédure n’est pas du ressort de l’agent), mais la capacité à éponger le stress et l’agressivité. Tout semble fait non pour régler des problèmes, mais pour empêcher que ceux-ci n’atteignent leurs responsables.
Tournons un instant le regard sur nos papiers d’identité. Sans sourire, sans expression, les yeux vides, nous donnons de nous-même une figure triste, un peu angoissée, qui ne nous ressemble pas et que personne ne reconnaîtra comme nôtre. Ce sont les directives officielles du ministère de l’intérieur : le sujet doit « fixer l’objectif. Il doit adopter une expression neutre et avoir la bouche fermée. (…) La taille du visage doit être de 32 à 36 mm, du bas du menton au sommet du crâne » (norme ISO/IEC 19794-5). Le ministère de la tristesse a une bonne raison : cette image n’est pas destinée à des yeux humains mais à des logiciels de biométrie, très complexes, qui ne reconnaissent les gens que dans des conditions standardisées. Ainsi, le visage officiel de chacun est défini par les besoins d’un programme n’y voyant qu’une somme de cotes et une figure dont toute lueur expressive doit être bannie.
On teste à présent des logiciels qui lisent sur les lèvres des personnes filmées, analysent les gestes, la démarche, la posture ou les déplacements. Tel individu resté sur un quai en laissant passer plusieurs rames est suspect, le crime est connu avant d’avoir été commis.
Comment reprendre en main notre « destin numérique » à une époque où, étant tous utilisateurs d’outils programmés, nous risquons d’en devenir la chose ? Les débats qui entourent les questions du hacking — utiliser un outil numérique au-delà de son mode d’emploi —, du logiciel libre — ne rien ignorer du fonctionnement d’un programme et pouvoir l’améliorer — ou du bricolage (do it yourself) sont bien plus politiques que technologiques.

A propos werdna01

Hors des paradigmes anciens et obsolètes, libérer la parole à propos de la domination et de l’avidité dans les domaines de la politique, de la religion, de l’économie, de l’éducation et de la guérison, étant donné que tout cela est devenu commercial. Notre idée est que ces domaines manquent de générosité et de collaboration.
Cet article, publié dans Droit de l'humain, Social, est tagué , , , . Ajoutez ce permalien à vos favoris.