Vertrauen statt KI-Blindflug

Künstliche Intelligenz ist längst Alltag. In Laboren, in der Produktentwicklung, bei der Auswertung von Qualitätsdaten und in vielen weiteren Prozessen kann sie dabei helfen, Informationen schneller zu ordnen, Zusammenhänge sichtbar zu machen und Entscheidungen vorzubereiten. Gerade in einer Branche, in der Rohstoffqualität, Prozessstabilität, Rezeptursicherheit und regulatorische Anforderungen eng miteinander verknüpft sind, reicht reine Geschwindigkeit jedoch nicht aus. Entscheidend ist, ob man den Ergebnissen einer KI vertrauen kann; und zwar nicht blind, sondern begründet.

Genau hier setzt der Gedanke der vertrauenswürdigen KI an. Vertrauen ist kein Gefühl, das man einem System pauschal zuschreibt. Es entsteht vielmehr dort, wo ein Werkzeug transparent arbeitet, verlässlich reagiert, seine Grenzen kennt und in den jeweiligen Nutzungskontext passt [1].

Vertrauen muss zum Risiko passen

Ein zentraler Punkt ist deshalb die richtige Kalibrierung von Vertrauen: Nicht jede Aufgabe verlangt dasselbe Maß an Kontrolle. Für niedrigschwellige, eher unterstützende Tätigkeiten kann KI mit überschaubarem Risiko sehr nützlich sein (Abb. 1). Je höher die Tragweite einer Entscheidung, desto stärker müssen Ergebnisse geprüft, eingeordnet und gegebenenfalls verworfen werden [2].

Für die Getreide-, Mehl- und Backbranche ist dieser Gedanke besonders anschlussfähig. Wer mit Rezepturen, Prozessparametern, Spezifikationen, Qualitätsberichten oder Entwicklungsunterlagen arbeitet, braucht kein System, das möglichst überzeugend klingt. Benötigt wird ein System, das seine Antworten auf überprüfbare…