Die KI wird deine Unfallberichte nicht in Ordnung bringen. Bring du sie zuerst in Ordnung.

goPrevina-Team ·

Vor ein paar Wochen hat Prevencionar eine Zusammenfassung einer Studie aus Safety Science veröffentlicht, die mich seitdem beschäftigt. Eine Gruppe von Forschenden hat ein Sprachmodell darauf trainiert, Unfall- und Vorfallberichte zu lesen und die Ursachen vier Ebenen zuzuordnen: der Person, der Aufgabe, dem Arbeitsmittel und der Organisation. Es lag in 72 bis 82 Prozent der Fälle richtig, je nach Datensatz. Nicht schlecht. Besser als die Methoden, mit denen sie es verglichen haben.

Aber was mich interessiert, ist nicht der Prozentsatz. Es ist ein Satz, fast beiläufig, in den Schlussfolgerungen: Viele der Berichte waren kurz und unvollständig, sie beschrieben, was passiert war, und sagten kaum etwas über die Bedingungen, unter denen es passiert war.

Und ich dachte: klar. Das ist ja der Normalfall.

Wenn ihr Unfallberichte aus kleinen und mittleren Unternehmen gelesen habt, wisst ihr, wovon ich spreche. „Der Mitarbeiter ist im Ladebereich ausgerutscht und hat sich das Knie angeschlagen.“ Punkt. Datum, Uhrzeit, Körperteil, Ausfalltage. Was auf dem Boden lag, steht nicht drin. Ob er die vorgeschriebenen Schuhe trug, steht nicht drin. Ob an dem Tag Leute fehlten und er die Arbeit von zweien machte, wird gar nicht erst gefragt. Manchmal, weil die Person, die den Bericht ausfüllt, es eilig hat. Manchmal, weil die Vorlage es nicht abfragt. Und oft, weil die Person, die ihn ausfüllt, genau weiß, warum es passiert ist, es aufzuschreiben aber Folgen hat.

Illustration: ein Klemmbrett mit einem leeren Vorfallformular im Vordergrund; dahinter ein Arbeiter mit einem Hubwagen neben einem nassen Boden.

Jetzt kommt meine These, und sie ist ziemlich unbequem für jemanden, der Software mit künstlicher Intelligenz verkauft: Die KI kann aus einem Bericht nicht herausholen, was nicht im Bericht steht. Du kannst das beste Modell der Welt haben. Wenn du ihm „ist ausgerutscht und hat sich gestoßen“ gibst, bekommst du „Ursache: Ausrutschen“ zurück. Danke, das wusste ich schon.

Das klingt selbstverständlich, aber darüber wird nicht gesprochen. Alles, was ich über KI im Arbeitsschutz lese, handelt davon, was die KI tun wird. Unfälle vorhersagen, Muster erkennen, Risiken vorwegnehmen. Und ja, das ist alles möglich. Aber es gibt eine Vorbedingung, die niemand in die Überschrift schreiben will, weil sie sich nicht verkauft: Du brauchst Daten, die etwas aussagen.

Ich weiß, wovon ich rede. Als wir angefangen haben, unseren eigenen Assistenten mit echten Berichten von Kunden zu testen, war nicht das Modell das Problem. Das Modell hat genau verstanden, was wir ihm gegeben haben. Das Problem war, dass das, was wir ihm gegeben haben, nicht viel hergab. Wir mussten einen Schritt zurückgehen und uns fragen, was ein Bericht enthalten müsste, damit es sich lohnt, ihn zu analysieren.

Dabei ist Folgendes herausgekommen. Es ist keine Wissenschaft, sondern das, was nach unserer Erfahrung den Unterschied macht:

  • Was genau die Person gemacht hat. Nicht „im Lager gearbeitet“. Welche Aufgabe, mit welchem Arbeitsmittel, zu welchem Zeitpunkt des Arbeitstags. Ein Ausrutscher um 8 Uhr morgens und einer um 7 Uhr abends am letzten Tag der Woche sind nicht derselbe Unfall.
  • Was an diesem Tag anders war. Das ist die Frage, die fast nie gestellt wird, und die, die am meisten erklärt. Jemand fehlte. Es gab einen Eilauftrag. Die übliche Maschine stand still. Hinter 90 Prozent der Unfälle, die ich gesehen habe, steckt ein „an diesem Tag“.
  • Was die Gefährdungsbeurteilung für diesen Arbeitsplatz sagt. Und ob das, was sie sagt, etwas mit dem zu tun hat, was passiert ist. Wenn die Gefährdung erkannt war und die Maßnahme nicht umgesetzt wurde, ist das eine Information. Wenn die Gefährdung gar nicht drinstand, ist das eine andere Information, eine schlimmere.
  • Wer es gesehen hat und was er erzählt. Ein Absatz in den Worten des Kollegen, der daneben stand, ist mehr wert als drei Seiten Formular.
Illustration: zwei Personen hocken neben einem Hubwagen und untersuchen einen nassen Boden.
  • Was beschlossen wurde und wer es tun muss. Mit Name und Datum. Ein Bericht, der mit „Das Personal wird an die Bedeutung von ... erinnert“ endet, ist ein Bericht, der nicht endet.

Nichts davon braucht künstliche Intelligenz. Es braucht eine andere Vorlage und vor allem, dass die Person, die sie ausfüllt, das Gefühl hat, dass es nicht auf sie zurückfällt, wenn sie die Wahrheit sagt. Das Zweite ist Kultur, nicht Technik, und das wird keine Software lösen. Auch unsere nicht.

Was die KI dagegen tun kann, sobald du Berichte hast, die etwas aussagen, ist das, was das Modell aus der Studie gemacht hat: zweihundert Berichte in der Zeit lesen, in der du einen liest, und dir sagen, dass sich ein „an diesem Tag“ wiederholt. Dass bei drei verschiedenen Unfällen an drei verschiedenen Standorten jemand für einen anderen eingesprungen war. Das sieht eine Fachkraft für Arbeitssicherheit allein nicht, weil niemand die Zeit hat, zweihundert Berichte zu lesen.

Illustration: eine Person liest Diagramme auf einem Laptop, im Hintergrund ein Lager.

Aber die Reihenfolge zählt. Zuerst der Bericht. Dann die KI. Wenn du es andersherum machst, erreichst du nur, dass du die Unwissenheit automatisierst.

Wenn ihr neugierig auf die Studie seid, findet ihr die Zusammenfassung von Prevencionar hier. Und wenn ihr Lust habt, mir zu erzählen, wie eure Vorlage für die Unfalluntersuchung aussieht: Das interessiert mich wirklich. Das gehört zu den Dingen, die wir am meisten durch Zuhören gelernt haben.