KI unterstützt, Mensch entscheidet: ChAmp schafft die Grundlage für effizientere Prüfprozesse
KI unterstützt, Mensch entscheidet: ChAmp schafft die Grundlage für effizientere Prüfprozesse; Foto: KIgeneriert/cs
Technologie kann Wissen schneller erschließen. Verantwortung aber bleibt eine menschliche Aufgabe. Genau an dieser Schnittstelle setzt das Forschungsprojekt ChAmp an. Erste empirische Ergebnisse zeigen: Hersteller und Prüfstellen haben überraschend ähnliche Anforderungen an ein KI-gestütztes Assistenzsystem. Das eröffnet Chancen für effizientere, transparentere und zugleich verlässlichere Prüfprozesse. Das Düsseldorfer ifaa – Institut für angewandte Arbeitswissenschaft e. V. gibt uns heute ein Projekt-Update.
Von Christoph Sochart
Künstliche Intelligenz ist dann besonders wertvoll, wenn sie nicht den Menschen aus dem Prozess drängt, sondern ihn besser macht. Wenn sie Ordnung in große Informationsmengen bringt, Zusammenhänge sichtbar macht und dort unterstützt, wo Fachleute heute viel Zeit mit Suchen, Vergleichen und Dokumentieren verbringen.
Genau darum geht es im Forschungsprojekt ChAmp. Der vollständige Titel lautet „Cyber-humanes Arbeiten in Daten-Ökosystemen am Beispiel maschineller Softwareprüfung“. Im Mittelpunkt steht die Frage, wie große Sprachmodelle und weitere KI-Verfahren technische Dokumentations- und Prüfprozesse unterstützen können – datenschutzkonform, nachvollziehbar und ohne die Verantwortung der Menschen zu ersetzen.
Kein Marktzugang ohne belastbare Nachweise
Viele elektronische Produkte erhalten keinen Marktzugang, wenn ihre technische Dokumentation nicht erfolgreich geprüft wurde. Hersteller müssen nachweisen, dass ihre Software regulatorische Anforderungen erfüllt. Dieser Nachweis muss vollständig, schlüssig und nachvollziehbar sein.
Das klingt zunächst nach Papierarbeit. In Wahrheit geht es um anspruchsvolle Wissensarbeit. Umfangreiche Dokumentationen müssen erstellt, regulatorische Anforderungen interpretiert, technische Lösungen bewertet und Nachweise einander zugeordnet werden. Für Hersteller und Prüfstellen ist das mit erheblichem Aufwand verbunden.
Die entscheidende Frage lautet deshalb nicht: Kann KI die Prüfung übernehmen? Die entscheidende Frage lautet: Wie kann KI Fachleute dabei unterstützen, bessere Prüfungen zu ermöglichen?
Hersteller und Prüfstellen denken ähnlicher als erwartet
Einen wichtigen Meilenstein hat ChAmp mit der Auswertung von Experteninterviews erreicht. Befragt wurden Fachleute des Messgeräteherstellers Sartorius Lab Instruments GmbH & Co. KG sowie der Physikalisch-Technischen Bundesanstalt (PTB). Ziel war es, die Anforderungen an ein künftiges KI-gestütztes Assistenzsystem aus zwei unterschiedlichen Perspektiven zu erfassen: aus Sicht derjenigen, die technische Dokumentationen erstellen, und aus Sicht derjenigen, die sie prüfen.
Das Ergebnis ist bemerkenswert. Die Rollen sind verschieden, die Herausforderungen aber vielfach ähnlich.
Hersteller wünschen sich Unterstützung bei der Interpretation regulatorischer Anforderungen, bei der Bewertung technischer Lösungsansätze und bei der Erstellung vollständiger und konsistenter Dokumentationen. Prüfende sehen vor allem Potenzial bei der Analyse umfangreicher Dokumentationspakete, bei der intelligenten Suche nach relevanten Informationen und bei der nachvollziehbaren Verbindung zwischen Anforderungen und Nachweisen.
Beide Seiten suchen also im Kern dasselbe: bessere Orientierung, weniger Reibungsverluste und mehr Sicherheit im Umgang mit komplexen Informationen.
„Die hohe Übereinstimmung der Anforderungen beider Akteursgruppen ist eine der wichtigsten Erkenntnisse der bisherigen Projektarbeit“, erklärt Katharina Adamczyk von der ZENIT GmbH. „Sie zeigt, dass ein gemeinsames Assistenzsystem Mehrwert schaffen kann, indem Informationen strukturiert aufbereitet, Zusammenhänge sichtbar gemacht und Wissensbestände besser erschlossen werden.“
Keine Blackbox für sensible Entscheidungen
ChAmp verfolgt dabei ausdrücklich keinen Ansatz der vollständigen Automatisierung. Das Projekt steht für ein cyber-humanes Arbeiten: KI übernimmt unterstützende Aufgaben, Fachkräfte behalten die Kontrolle.
Das ist bei regulatorischen Prüfungen entscheidend. Eine Maschine kann Dokumente durchsuchen, Hinweise geben, Anforderungen miteinander verknüpfen und mögliche Lücken aufzeigen. Sie kann aber nicht die Verantwortung für eine regulatorische Entscheidung tragen.
Deshalb sind Transparenz, Nachvollziehbarkeit und Quellenoffenlegung zentrale Voraussetzungen des geplanten Assistenzsystems. Nutzerinnen und Nutzer sollen erkennen können, auf welcher Grundlage eine KI einen Hinweis erzeugt. Sie sollen Ergebnisse prüfen, einordnen und gegebenenfalls korrigieren können.
Die Leitlinie lautet: KI unterstützt. Der Mensch entscheidet.
Das ist kein technischer Nebensatz. Es ist die Voraussetzung dafür, dass künstliche Intelligenz in sensiblen Arbeitsumgebungen Akzeptanz findet. Vertrauen entsteht nicht dadurch, dass eine Maschine selbstbewusst auftritt. Vertrauen entsteht, wenn ihre Vorschläge nachvollziehbar sind und der Mensch die letzte Verantwortung behält.
Der nächste Schritt: ein prototypisches Assistenzsystem
Die nun vorliegenden Anforderungskataloge bilden die Grundlage für die nächste Projektphase. Aktuell wird ein prototypisches Assistenzsystem entwickelt. Es soll auf lokalen Sprachmodellen sowie auf Verfahren zur semantischen Suche und Informationsverknüpfung basieren.
Dass dabei lokale Modelle zum Einsatz kommen, ist von besonderer Bedeutung. Technische Dokumentationen können sensible Informationen über Produkte, Verfahren und Unternehmenswissen enthalten. Datenschutz, Vertraulichkeit und Nachvollziehbarkeit sind deshalb keine Zusatzfunktionen, sondern Grundbedingungen des Systems.
Die Entwicklung folgt damit einem Prinzip, das in vielen Unternehmen an Bedeutung gewinnt: Nicht jede Information gehört in eine öffentliche Cloud, und nicht jede Entscheidung darf an ein automatisiertes System delegiert werden. Gute KI ist nicht diejenige, die am meisten verspricht. Gute KI ist diejenige, die in den Arbeitsprozess passt und ihre Grenzen kennt.
Ein Modell für weitere regulierte Bereiche
Die Erkenntnisse aus ChAmp reichen über die Softwareprüfung von Messgeräten hinaus. Ähnliche Fragen stellen sich bei der Produktsicherheit, im Datenschutz, in der Nachhaltigkeitsberichterstattung und bei Lieferkettennachweisen. Auch im Umfeld künftiger europäischer KI-Regulierung werden Unternehmen und Prüfstellen umfangreiche Nachweise erbringen müssen.
Überall dort gilt: Je komplexer die Anforderungen, desto größer der Wert einer intelligenten Assistenz. Aber ebenso gilt: Je größer die Bedeutung einer Entscheidung, desto unverzichtbarer bleibt die menschliche Prüfung.
ChAmp schafft mit seinen empirischen Ergebnissen deshalb mehr als eine technische Grundlage. Das Projekt liefert auch ein wichtiges Signal für die Gestaltung der Arbeitswelt: Digitalisierung muss nicht Entmündigung bedeuten. Sie kann Fachlichkeit stärken, wenn sie transparent entwickelt und verantwortungsvoll eingesetzt wird.
Die Zukunft der Prüfung ist dann nicht menschenleer. Sie ist menschlicher organisiert – mit einer KI, die unterstützt, sortiert und aufzeigt. Und mit Expertinnen und Experten, die weiterhin entscheiden.
Mehr erfahren: Zum Forschungsprojekt ChAmp und zum Blogbeitrag „ChAmp: Erste empirische Ergebnisse schaffen die Grundlage für ein cyber-humanes Prüfassistenzsystem“.