L'IA ne va pas corriger tes rapports d'accident. Corrige-les d'abord toi-même.

Il y a quelques semaines, Prevencionar a publié le résumé d'une étude de Safety Science qui m'a beaucoup fait réfléchir. Un groupe de chercheurs a entraîné un modèle de langage à lire des rapports d'accidents et d'incidents et à classer les causes selon quatre niveaux : la personne, la tâche, l'équipement et l'organisation. Il a vu juste dans 72 à 82 pour cent des cas, selon le jeu de données. Pas mal. Mieux que les méthodes auxquelles ils l'ont comparé.

Mais ce qui m'intéresse, ce n'est pas le pourcentage. C'est une phrase, presque en passant, dans les conclusions : beaucoup de rapports étaient courts, incomplets, et décrivaient ce qui s'était passé sans presque rien dire des conditions dans lesquelles cela s'était passé.

Et je me suis dit : évidemment. C'est ça, la normalité.

Si vous avez lu des rapports d'accident de PME, vous savez de quoi je parle. « Le salarié a glissé dans la zone de chargement et s'est cogné le genou. » Point. Date, heure, partie du corps, jours d'arrêt. Ce qu'il y avait au sol, ça n'y figure pas. S'il portait les chaussures qu'il fallait, ça n'y figure pas. Si ce jour-là il manquait du monde et qu'il faisait le travail de deux, on ne se pose même pas la question. Parfois parce que la personne qui remplit le rapport est pressée. Parfois parce que le modèle de rapport ne le demande pas. Et souvent parce que la personne qui le remplit sait parfaitement pourquoi c'est arrivé, mais que l'écrire a des conséquences.

Voici ma thèse, et elle est assez inconfortable pour quelqu'un qui vend un logiciel avec de l'intelligence artificielle : l'IA ne peut pas tirer d'un rapport ce qui n'est pas dans le rapport. Tu peux avoir le meilleur modèle du monde. Si tu lui donnes « a glissé et s'est cogné », il te rendra « cause : glissade ». Merci, je le savais déjà.

Ça paraît évident, mais on n'en parle pas. Tout ce que je lis sur l'IA en prévention porte sur ce que l'IA va faire. Prédire les accidents, détecter des tendances, anticiper les risques. Et oui, tout cela est possible. Mais il y a une condition préalable que personne ne veut mettre dans le titre parce qu'elle ne fait pas vendre : tu as besoin de données qui disent quelque chose.

J'en parle en connaissance de cause. Quand nous avons commencé à tester notre propre assistant avec de vrais rapports de clients, le problème n'était pas le modèle. Le modèle comprenait parfaitement ce qu'on lui donnait. Le problème, c'est que ce qu'on lui donnait ne menait pas bien loin. Nous avons dû revenir en arrière et nous demander ce qu'un rapport devrait contenir pour valoir la peine d'être analysé.

Voici ce qui en est sorti. Ce n'est pas de la science, c'est ce que nous avons vu faire la différence :

• Ce que faisait exactement la personne. Pas « travaillait à l'entrepôt ». Quelle tâche, avec quel équipement, à quel moment de la journée. Une glissade à 8 heures du matin et une autre à 7 heures du soir le dernier jour de la semaine, ce n'est pas le même accident.
• Ce qui était différent ce jour-là. C'est la question qu'on ne pose presque jamais et celle qui explique le plus. Il manquait quelqu'un. Il y avait une commande urgente. La machine habituelle était à l'arrêt. Derrière 90 pour cent des accidents que j'ai vus, il y a un « ce jour-là ».
• Ce que dit l'évaluation des risques de ce poste. Et si ce qu'elle dit a quelque chose à voir avec ce qui s'est passé. Si le risque était identifié et que la mesure n'était pas appliquée, c'est une donnée. Si le risque n'y figurait même pas, c'est une autre donnée, et pire.
• Qui l'a vu et ce qu'il raconte. Un paragraphe avec les mots du collègue qui était à côté vaut plus que trois pages de formulaire.

• Ce qu'on a décidé de faire, et qui doit le faire. Avec un nom et une date. Un rapport qui se termine par « il est rappelé au personnel l'importance de... » est un rapport qui ne se termine pas.

Rien de tout cela n'a besoin d'intelligence artificielle. Il faut un autre modèle de rapport et, surtout, que la personne qui le remplit sente que dire la vérité ne va pas lui retomber dessus. Ce deuxième point relève de la culture, pas de la technologie, et aucun logiciel ne va le résoudre. Pas même le nôtre.

Ce que l'IA peut faire, en revanche, une fois que tu as des rapports qui disent quelque chose, c'est ce que faisait ce modèle de l'étude : lire deux cents rapports dans le temps où tu en lis un, et te dire qu'il y a un « ce jour-là » qui se répète. Que dans trois accidents différents, sur trois sites différents, quelqu'un remplaçait quelqu'un d'autre. Ça, un préventeur seul ne le voit pas, parce que personne n'a le temps de lire deux cents rapports.

Mais l'ordre compte. D'abord le rapport. Ensuite l'IA. Si tu fais l'inverse, tout ce que tu obtiens, c'est d'automatiser l'ignorance.

Si l'étude vous intéresse, le résumé de Prevencionar est ici. Et si vous avez envie de me raconter à quoi ressemble votre modèle de rapport d'enquête sur les accidents, ça m'intéresse vraiment. C'est l'une des choses que nous avons le plus apprises en écoutant.