Une industrie peut gagner en performance tout en perdant la maîtrise de ce qui la fait fonctionner. Automatiser sans aveugler exige de concevoir la compréhension humaine aussi rigoureusement que l’exécution technique.
On raconte volontiers que l’automatisation retire l’action aux humains. Pourtant, ce n’est pas à ce stade que commence le plus difficile. Le plus souvent, elle fait également autre chose, de plus discret et de plus profond. Elle déplace les éléments qui contribuent au jugement, les inscrit dans des seuils, des paramètres, des règles d’ordonnancement, des séquences, des interfaces ou des alarmes, puis elle finit par faire oublier que ces choix étaient d’abord humains et dictés par des considérations techniques. L’organisation perd alors progressivement de vue ce qu’elle a confié à la machine. C’est en cela que l’automatisation devient aveuglante. Elle n’efface pas le jugement. Elle le fige dans des strates de plus en plus nombreuses de l’architecture, le rend moins visible, moins accessible, puis laisse à d’autres le soin d’en assumer les effets.
Le malentendu contemporain vient ainsi du fait que l’on continue à mettre en œuvre l’automatisation comme s’il s’agissait d’une simple substitution. Un geste sortirait du système, une séquence machine y entrerait, et l’affaire serait entendue. Une telle description est trompeuse et, surtout, obsolète. Dès qu’un système surveille, coordonne, filtre, classe, séquence, réalloue ou déclenche des actions, il ne remplace pas une tâche isolée. Il recompose le pilotage, redistribue l’action, l’attention, la mémoire, la vigilance, les lieux de compréhension et parfois même les formes de responsabilité. Les opérateurs n’agissent plus au même endroit, ni de la même manière. Les responsables ne voient plus les mêmes écarts. Les incidents n’apparaissent plus au même moment. De plus, les compétences critiques partent ou se dispersent et sont remplacés par ceux qui paramètrent, intègrent, supervisent ou maintiennent les éléments techniques. L’automatisation devient ainsi une superstructure opérationnelle et décisionnelle opacifiante, tout en prétendant être une commodité de production.
L’automatisation enfouit les choix humains dans la technique, jusqu’à faire oublier leur origine. Derrière un geste remplacé, c’est toute la répartition du jugement, de la vigilance et des responsabilités qui se recompose.
De plus, l’automatisation contemporaine intégrant l’IA ne se contente plus d’exécuter des séquences fixes, de répéter des règles explicites ou de déclencher mécaniquement une action lorsqu’un seuil est atteint. Dès qu’elle s’équipe de capacités d’analyse, d’apprentissage, de classification ou de recommandation, l’automatisation change de nature. Elle devient plus souple, plus adaptative, parfois plus performante, mais aussi beaucoup plus difficile à comprendre. L’IA constitue un intensificateur décisif et transforme une chaîne d’exécution en système d’interprétation partielle du réel. Elle ne fait plus seulement fonctionner. Elle commence à hiérarchiser, à proposer, à corriger ou à prioriser. Avec l’IA, le déplacement va donc plus loin car il ne reste pas localisé dans l’architecture. Il devient beaucoup plus mouvant parce que le système apprend, reclasse, hiérarchise et recompose en continu ce qui doit être vu, traité, signalé ou priorisé. Le problème n’est alors plus seulement de savoir quels choix humains ont été déposés dans la machine. Il implique également de comprendre comment la machine réordonne ces choix dans le cours de l’action. Si l’automatisation cache déjà le jugement dans l’architecture, l’IA le rend plus mobile, plus diffus et de plus en plus difficile à localiser.
Les travaux sur le travail automatisé convergent sur ce point. Eurofound rappelle que les systèmes robotiques avancés modifient les rôles, les tâches et les modes d’organisation, et qu’une interaction humain-robot efficace exige l’implication active des travailleurs concernés. L’Agence européenne pour la sécurité et la santé au travail ajoute qu’un niveau plus élevé d’automatisation peut alléger la charge immédiate. Mais, simultanément, elle produit une perte croissante de conscience de la situation, une sur confiance, un biais de décision et une dégradation des performances en cas de défaillance. Ce qui simplifie le régime nominal va donc durcir les régimes perturbés.
L’IA transforme une chaîne d’exécution en un système d’interprétation dont les arbitrages évoluent en cours d’action. Le pilotage courant peut s’en trouver facilité, tandis que les opérateurs deviennent moins capables de comprendre le système et de réagir à ses défaillances.
De nombreux cas industriels permettent d’observer ce déplacement à l’œuvre. ABB, par exemple, documente l’automatisation logistique du site moteur de Ford à Valence avec soixante robots mobiles autonomes remplaçant la flotte de chariots manuels et améliorant la sécurité des déplacements. Le gain est indiscutable mais le risque ne disparaît pas avec la suppression des caristes. Il migre vers la cartographie des trajets, le logiciel de coordination, la qualité des interfaces et la capacité de reprise quand un robot, une trajectoire ou une synchronisation sort du scénario prévu. Une automatisation de flux peut donc rendre un site plus sûr sur le plan physique et plus vulnérable sur le plan opérationnel et cognitif.
Les architectures à très grande échelle rendent ce phénomène encore plus visible. BHP décrit des flottes de camions autonomes pilotées à distance depuis des centres intégrés. Rio Tinto présente AutoHaul comme un système associant trains autonomes, centre d’opérations distant, maintenance prédictive des voies et pilotage coordonné du rail, du traitement et de la mine. Ces dispositifs sont régulièrement relatés comme des triomphes de l’autonomie. Ils révèlent surtout une dissociation croissante entre le lieu de l’action et le lieu de la compréhension. Le terrain cesse d’être décodé par ceux qui le pratiquent directement. Il remonte sous forme de données, d’états, d’alertes et d’images recomposées. Le système gagne en cohérence. Il perd aussi en sensibilité locale. Plus l’architecture intégrée fonctionne bien, plus elle peut donner l’illusion d’un monde parfaitement lisible alors même qu’elle a comprimé les aspérités du terrain dans une infrastructure éloignée de ceux qui en ressentaient autrefois les signaux faibles.
L’automatisation produit donc souvent un faux et insidieux calme industriel. Plus elle absorbe les écarts ordinaires, plus elle réduit le bruit du système, plus elle donne une impression de maîtrise. Mais ce calme est trompeur. Il ne signifie pas que le désordre a disparu. Il signifie qu’une partie du désordre a été classée, amortie, filtrée ou retardée. Lorsque ce qui ne rentre pas dans les catégories réapparaît, l’organisation (re)découvre brutalement ce qu’elle ne voyait plus. Le secteur des procédés continus le montre avec une grande netteté. Yokogawa décrit un cas de changement dans une raffinerie dont la procédure automatisée réduit fortement le nombre d’ajustements opératoires et le volume des alarmes, tout en rendant le retour à l’état stable plus prévisible. Le bénéfice est réel. Mais il contient sa propre limite. En capturant et en stabilisant le savoir opératoire, l’automatisation fiabilise le nominal et renvoie aux humains les cas rares, mal classés, atypiques, qui exigent une reprise en main rapide de situations que l’on pratique de moins en moins. La difficulté ne s’évanouit pas. Elle se raréfie, puis se concentre sur des cas plus extrêmes, plus complexes et souvent plus graves et dangereux.
Les cas les plus durs montrent même que l’automatisation peut participer directement à l’aveuglement qu’elle prétend conjurer. Le cas de la raffinerie Texaco de Milford Haven reste emblématique. Le Health and Safety Executive britannique conclut que les défaillances des systèmes de contrôle ont contribué à l’explosion de 1994, notamment parce que les écrans de la salle de contrôle ne fournissaient pas la vue d’ensemble nécessaire du procédé et que l’excès d’alarmes pendant la situation d’urgence a réduit l’efficacité de la réponse opérateur. Le cas BP Texas City suit la même logique. Le Chemical Safety Board relève des alarmes critiques défaillantes et un affichage informatisé médiocre qui empêchait une lecture cohérente des flux et de l’état du procédé. Le rapport Kuraray America documente de son côté une salle de contrôle saturée par plus de 265 000 alarmes sur un mois, soit en moyenne 395 alarmes par heure sur la période analysée. Mentionnons enfin le rapport 2025 sur l’usine Marathon Martinez qui ajoute un visage complémentaire du même problème, avec un déluge d’alarmes, une description erronée de l’alarme, des écrans inadéquats et une mauvaise hiérarchisation des priorités. Dans tous ces cas, le système n’a pas seulement cessé d’aider. Il a contribué à désorienter ceux qui devaient comprendre pour agir.
L’automatisation peut sécuriser les gestes tout en déplaçant le danger vers les logiciels et les interfaces, derrière un calme trompeur. En situation critique, les dispositifs censés éclairer l’action peuvent eux-mêmes produire l’aveuglement.
Ces situations révèlent une propriété structurelle essentielle. Une automatisation peut stabiliser un régime nominal tout en dégradant la lisibilité du régime anormal. C’est ce que les travaux du consortium ASM avaient déjà signalé lorsque Honeywell rappelait que la prolifération des alarmes pouvait submerger les opérateurs et rendre plus difficile la gestion des situations anormales. Le problème réside donc dans l’automatisation qui réduit l’effort apparent de pilotage sans préserver les conditions de compréhension du moment au cours duquel le système s’écarte de son scénario nominal.
Ce constat vaut aussi pour les formes plus diffuses de l’automatisation contemporaine, et c’est souvent là que l’IA devient la moins visible alors même qu’elle restructure déjà le travail. Le cas étudié par l’OSHA dans une usine automobile belge montre que le risque n’est pas attaché seulement aux robots ou aux véhicules autonomes. Il concerne aussi des systèmes de gestion du travail explicitement fondés sur l’IA. Il se distribue aussi dans des logiciels qui affectent les tâches, séquencent les opérations, mesurent les rythmes et encadrent les performances. L’IA est ici décisive non parce qu’elle pilote un robot spectaculaire, mais parce qu’elle intervient dans l’allocation des tâches, dans la lecture des performances et dans la manière dont l’organisation classe ce qui est normal, prioritaire ou déviant. L’automatisation prend alors la forme d’un environnement de gestion algorithmique du travail qui façonne le quotidien sans jamais se présenter comme une architecture technique du travail. C’est précisément ce qui la rend difficile à percevoir. Le risque ne réside plus dans une machine remarquable. Il se disperse dans des tableaux de bord, des affectations, des métriques et des coordinations partielles qui finissent par composer un système d’ensemble très peu lisible.
L’automatisation ne fragilise donc pas uniquement l’opérateur. Elle fragilise la gouvernabilité de l’organisation lorsqu’elle sépare progressivement celui qui agit, celui qui comprend, celui qui paramètre et celui qui répond. Dans un système peu automatisé, ces fonctions restent relativement proches. Dans un système très automatisé, elles se dissocient. L’opérateur surveille. L’ingénieur paramètre. L’intégrateur raccorde. Le manager répond. Le centre distant interprète. Cette séparation peut rendre les défaillances beaucoup plus difficiles à attribuer, à corriger et même à penser. L’aveuglement commence souvent dans l’impossibilité de relier l’action, la compréhension, le paramétrage et la responsabilité.
L’IA peut organiser le travail à travers des outils de gestion dont la logique d’ensemble reste illisible. Quand action, compréhension, paramétrage et responsabilité se dissocient, c’est la capacité de l’organisation à diagnostiquer et corriger ses défaillances qui se fragilise.
Il faut donc prendre au sérieux l’idée que l’automatisation renforce la performance locale tout en augmentant la fragilité systémique si elle ne s’accompagne pas d’un travail rigoureux sur l’intelligibilité. La performance locale est facile à documenter. Plus de cadence, moins d’erreurs répétitives, plus de sécurité physique sur certaines tâches, plus de régularité, moins de fatigue sur les opérations monotones. Les fragilités apparaissent plus tard et ailleurs. Elles se manifestent lorsqu’une organisation ne sait plus comment reprendre la main. Elles grandissent lorsqu’un opérateur surveille un système qu’il ne pratique plus directement. Elles s’installent quand les compétences de diagnostic s’érodent parce que le système a pris en charge tout ce qui était fréquent et prévisible. Elles deviennent critiques quand une panne logicielle, une erreur de synchronisation, une dérive de paramétrage, une rupture de communication ou un défaut de visualisation désorganise en cascade une chaîne que l’on croyait stabilisée. Le HSE britannique insiste d’ailleurs sur le fait que les systèmes de contrôle doivent être conçus en tenant compte explicitement des défaillances d’alimentation, des erreurs de données, des défaillances de modules ou de processeurs et des ruptures de communication.
Sortir du vocabulaire de la substitution devient dès lors indispensable. Une tâche ne vit pas seule. Elle est intégrée dans une organisation de gestes, de vérifications, d’interprétations, de routines de sécurité, d’habitudes, de relations hiérarchiques et de transmissions informelles. Lorsqu’une machine ou un logiciel prend en charge une séquence, il modifie les liaisons entre toutes ces charges et potentiellement en supprime une seule. C’est la raison pour laquelle les effets de l’automatisation ne se lisent correctement qu’à l’échelle d’un système de travail complet. Le rapport conjoint de l’OSHA et d’Eurofound le formule clairement lorsqu’il montre que les outils numériques peuvent transformer l’organisation du travail, intensifier le contrôle, redistribuer l’autonomie et remodeler les formes de coordinations. On n’automatise jamais un geste seul. On automatise un rapport entre tâches, contrôle, rythme, autonomie et visibilité.
La vraie question n’est donc pas de savoir s’il faut automatiser. Une grande partie de l’industrie a déjà répondu. La question utile devient comment automatiser sans perdre la capacité de comprendre ce que l’on automatise ? Cette formulation exige plus qu’un arbitrage budgétaire ou un choix d’équipement. Elle suppose d’abord un diagnostic de redistribution. Qu’est ce qui se déplace avec le système ? Quel geste disparaît ? Quelle vigilance nouvelle doit apparaître ? Quelle interface devient critique ? Où se dépose désormais le jugement ? Qui voit le premier écart ? Qui sait encore relier un symptôme à une cause ? Qui peut reprendre la main ? Qui comprend la logique d’ensemble quand plusieurs automatismes se croisent ?
Avant d’automatiser, il faut cartographier les dépendances transformées et vérifier que l’organisation saura encore diagnostiquer les écarts et reprendre la main.
Elle suppose ensuite de traiter le maintien de compréhension comme une fonction industrielle à part entière. Dans une organisation fortement automatisée, comprendre ne va plus de soi. La compréhension doit être conçue, entretenue, vérifiée. Cela implique des formations qui ne se limitent pas à l’usage nominal mais intègrent les modes dégradés réellement explorés, les interfaces qui montrent autre chose que des états élémentaires, les historiques longs et exploitables, les procédures de reprise non fictionnelles, et une circulation du savoir entre concepteurs, intégrateurs, mainteneurs, opérateurs et managers. Une automatisation mature ne retire pas les humains du système. Elle leur redistribue un rôle plus discontinu, parfois plus abstrait, souvent bien plus difficile et requérant un niveau de compétence bien plus élevé. Si cette difficulté n’est pas explicitement prise en charge, l’organisation confond alors modernisation et perte de contrôle.
Automatiser sans aveugler ne signifie donc ni ralentir par principe ni défendre une nostalgie du geste manuel. Cela signifie refuser une IA qui s’insère dans l’automatisation sans rendre visibles les jugements qu’elle transporte. Cela signifie refuser une automatisation qui augmente la cadence tout en rétrécissant la compréhension, qui fluidifie le nominal tout en brouillant l’anormal, qui améliore le rendement tout en rendant la reprise plus improbable. L’automatisation raisonnée mérite d’être défendue précisément parce qu’elle n’est pas un plaidoyer pour l’automatisme. Elle fixe une exigence plus haute. Elle implique de maintenir des emprises sur le système, de préserver une compréhension située des procédés et d’organiser la maitrise humaine. Elle impose de traiter la vigilance comme une ressource non seulement fondamentale mais également à concevoir et/ou à entretenir. Une industrie automatisée reste durablement performante à cette condition seulement. Elle doit demeurer intelligible à ceux qui la font vivre, sans quoi elle devient vite dépendante de mécanismes qu’elle ne sait plus relier à son propre réel.
Mustapha Derras
