BURN OUT ROBOTIQUE

Isaac Asimov Né en 1920 à Petrovitchi en Russie et mort en 1992 à New-York. Professeur de biochimie à l’université de Boston, il est connu pour ses ouvrages de sciences fiction et de vulgarisation scientifique. Sa famille émigre aux états-unis alors qu’il a 3 ans. Issu d’une famille juive, le yiddish est sa langue maternelle, le russe étant la langue de ses parents pour « ce que les enfants ne doivent pas entendre». Avec le titre original de Runaround (traduit en français par « Cercle vicieux ou Cycle fermé), la nouvelle d’Isaac Asimov parue en 1942 dans la revue Astounding Science Fiction est la première nouvelle de sciences fiction ou sont exposées les 3 lois de la robotique. Le terme de « robotique » est également mentionné la première fois, « robot » étant lui-même apparu en 1920 dans la pièce de théatre R.U.R (Rossum’s Universal Robots) de Karel Čapek venant du tchèque « robota » signifiant « travail forcé », mais d’abord des langues slaves à partir du radical rabot (работа en russe) , : travail, présent dans Rab (раб) : esclave en russe, robotnik en polonais, работнік (rabotnik = ouvrier) en biélorusse . Résumé de « Runaround »: Deux techniciens robotique Powell et Donovan viennent sur Mercure contrôler le fonctionnement d’un robot de dernière génération SPD-13 (surnommé « Speedy ») , et dont le comportement pose problème. Ce robot, comme tous les autres, obéit aux 3 lois de la robotique : 1/ “Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.” 2/ “Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la Première Loi.” 3/ “Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi.” Par la suite une 4ème loi dite « Loi zéro est apparue dans « Les robots et l’empire » : « Un robot ne peut ni nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal. »

Le robot étant très coûteux, la 2ème loi a été abaissée et la 3ème loi a été renforcée. Le robot devait chercher un minerai servant à alimenter les mécanismes de protection contre l’irradiation solaire de Mercure et la situation devenait critique devant l’inefficacité du robot et l’urgence du réapprovisionnement. Ils trouvent le robot et Speedy veut jouer avec les techniciens : « Jouons ! nom d’un chien ! Je t’attrape et tu m’attrapes ; nul couteau ne pourra couper en deux notre amitié. Car je suis le Petit Chaperon rouge, le gentil Petit Chaperon rouge. Youpi ! » Son comportement étrange est ressenti comme l’équivalent robotique de l’ivresse, il avance sans but précis en changeant souvent de direction aux environs du filon de minerai. Avec le temps qui passe, le danger du aux émanations gazeuses qui corrodent le robot devient critique. 1ère solution : accroître le danger pour inciter le robot à revenir malgré l’ordre donné en augmentant la corrosion par des substances projetées vers lui mais cette solution est inefficace. 2ème solution : Un technicien se met volontairement en danger en allant vers le robot avec une protection insuffisante contre les radiations solaires. Speedy finit par intervenir pour sauver Powell et ensuite un ordre ferme d’aller chercher du minerai suffit au robot pour accomplir le travail. En 2019, en s’inspirant d’I. Asimov, des chercheurs de Stanford et de Amherst proposent des algorithmes dit « seldoniens » (en référence à Hari Seldon, le héros de la série de romans Fondation, d’Isaac Asimov) qui intègrent les 3 lois de la robotique pour empêcher les IA d’avoir des comportements indésirables avec des conditions de fonctionnement claires définissant des seuils pour « empêcher le comportement indésirable des machines intelligentes » . L’IA étant de plus en plus utilisée, notamment dans des domaines ou la marge d’erreur est très faible ou nulle dans des conditions complexes par exemple l’évaluation des niveaux requis pour progresser à l’université en évitant des inégalités sexistes ou la pondération des systèmes de reconnaissance faciale des autorités de police altérés selon la couleur de peau.

Cette nouvelle d’I. Asimov représente une situation de double contrainte ou injonctions contradictoires pouvant se produire dans toute relation humaine et comportant un rapport de domination, particulièrement au travers du mode de communication Les injonctions contradictoires (double bind) : (Ou double contrainte, double discours, injonctions paradoxales... ) Théorisé par Grégory Bateson et Paul Watzlawick en 1950 en analysant l’environnement social et la manière de communiquer. L’injonction contradictoire est un paradoxe de communication pouvant se produire dans toute relation humaine et désigne l'ensemble de deux injonctions qui s'opposent mutuellement, augmentées d'une troisième contrainte qui empêche l'individu de sortir de cette situation caractérisée par une relation de subordination ou de domination et dont on ne peut sortir qu’en méta-communiquant (communiquer sur le mode de communication) ou en sortant de la relation. Exemple : Paradoxe du barbier (Hans Reichenbach) : « Le capitaine ordonne au barbier de la compagnie de raser tous les hommes qui ne se rasent pas eux-mêmes et seulement ceux-là. La situation du barbier est délicate : s’il se rase lui-même, il rase quelqu’un qui se rase lui-même et désobéit. S’il ne se rase pas lui-même, il désobéit aussi. Il est, en outre, dans une relation vitale pour lui avec son capitaine et dans l’impossibilité de mettre en cause l’ordre donné, quel que soit son caractère absurde. Sa position est intenable » Ces situations paradoxales dans les relations humaines, pouvant être à l’origine de troubles mentaux graves et durables, se retrouvent notamment dans le contexte familial (demandes oppressantes des parents), la communication (langage paradoxal) et en management. Les injonctions contradictoires sont une des méthodes néo-libérales d’emprise psychologique dans les organisations contemporaines, souvent une continuation depuis l’emprise psychologique dans une relation affective, l’ensemble constituant un système de gestion amenant le personnel à accepter collectivement des modes de fonctionnement qu’ils refuseraient individuellement. « Les conséquences sont la répression des intelligences individuelles et collectives et de l’imaginaire, façonnage des univers symboliques et souffrance au travail » (Vandevelde-Rougale Agnès, 2017).

http://lcsp.univ-paris-diderot.fr/Vandevelde-Rougale Le management néolibéral actuel peut être compris comme une application pratique des méthodes de l’institut de Bad Harzbourg de Reinhard Höhne ancien général SS passé au travers des procès de Nuremberg et qui, après une période de discrétion dans l’après-guerre a formé des centaines de milliers de cadre dans la RFA (600 000 dans 2600 entreprises) pour devenir une figure incontournable de l’élite économique (« Libre d’obéir : Le management du nazisme à aujourd’hui » de Johann Chapoutot – 2020). Ces méthodes s’appuyant sur un management sur objectifs, glissent vers un management par délégation d’autorité (Réalisez vos objectifs, peu importe les moyens, seul le résultat compte , la responsabilité est transférée du manager au subordonné). Pour illustrer et développer ce type de management, voici une citation de Pierre Dardot dans Cairn.info (https://www.cairn.info/revue-empan-2017-3-page-53.html) « Le tournant néolibéral des années 1980-1990 remodèle le management en fonction d’une injonction à se penser et à se conduire comme une entreprise individuelle et comme le pdg de sa propre existence. Cette injonction mobilise une double logique, qui est à la fois marchande et managériale. Sous le premier aspect, tout travailleur doit rechercher un client, se positionner sur un marché, gérer ses coûts. Sous le second, le management de soi s’articule autour de quatre principes : la rationalisation, qui commande de procéder à des audits et à des bilans personnels réguliers ; l’organisation, qui implique de considérer son corps, son esprit et ses affects comme autant de départements d’une entreprise, puisqu’il s’agit de se construire pièce à pièce ; l’autocontrôle, qui commande de se fixer des objectifs selon la logique d’une auto-amélioration indéfinie ; l’efficacité, qui impose une obligation de résultat sacrifiant tout à l’exigence que « ça marche ». Bref, c’est l’exercice d’un pouvoir actif sur soi-même qui est bien de l’ordre de la maîtrise et qui est célébré comme un pouvoir de s’inventer tout au long de sa propre vie. » Pierre Dardot (Philosophe et universitaire) et Christian Laval (Sociologue) ont particulièrement étudié le néolibéralisme (Ce cauchemar qui n'en finit pas. Comment le néolibéralisme défait la démocratie, 2016) Que faire avec les contradictions dans le mental En cohérence avec le thème de l’année 2022-2023 de l’APPS « Que faire avec les contradictions dans le mental », et en restant sur le versant managérial et préventif du double bind et de la souffrance mentale au travail, pour s’en dégager, l’accompagnement invite à identifier la double

contrainte, en prendre conscience et méta-communiquer (communiquer sur la communication) dévoiler les non-dits, envisager la situation travail/hiérarchie à un niveau différent, distinguer et verbaliser les messages contradictoires et les paradoxes. En tant qu’individu, nous sommes effet, agent et produit des rapports sociaux dans la famille et dans le travail avec des rapports hiérarchiques de subordination ou domination pouvant générer de la souffrance dans le mental allant jusqu’au meurtre social. L’identification du Double Bind permet d’accompagner le sujet à la prise de conscience de son emprise et à sa résolution, et comprendre que n’importe qui peut être émetteur de double bind en étant soi-même victime d’un double bind. Cette nouvelle de sciences fiction illustre les injonctions paradoxales dont l’a mise en évidence a servi de base à l’étude de la communication dans la schizophrénie et l’élaboration de la thérapie familiale, reconnaître et traiter le burn-out et la souffrance au travail, les situations d’harcèlement scolaire ... et leurs conséquences de dépression, anxiété, perte de la boussole intérieure et de l’estime de soi.

Alain Chareyron

Illustration : ©Alain Chareyron