KI entscheidet. Mensch verantwortet. Jetzt Verantwortungsketten prüfen.

Mit Agentic AI wird für Unternehmen die Frage zentral, wie Verantwortung, Kontrolle und Eingriffsmöglichkeiten organisiert werden.

Künstliche Intelligenz entwickelt sich vom Assistenzsystem zum zunehmend autonomen Akteur. Agentische KI kann Ziele verfolgen, Aufgaben planen, Werkzeuge und andere Systeme aufrufen und daraus selbstständig Aktionen ableiten. Der Mensch verschwindet damit möglicherweise aus einzelnen Entscheidungsschritten, nicht aber aus der Verantwortung.

„Wir können Entscheidungen an KI delegieren. Verantwortung können wir nicht delegieren“, sagt Michael Weberberger, Geschäftsführer des oberösterreichischen KI-Dienstleisters TRUSTIFAI. „Je autonomer KI-Systeme werden, desto wichtiger ist es festzulegen, wer ihre Grenzen definiert, wer ihr Verhalten überwacht und wer eingreifen kann.“

HUMAN-IN-CONTROL STATT HUMAN-IN-THE-LOOP

Für Unternehmen bedeutet das eine neue Governance-Aufgabe. Sie müssen definieren, welche Entscheidungen KI autonom treffen darf, wo Grenzen liegen, welche Aktivitäten überwacht werden und wann ein Mensch eingreifen muss.

Statt einer Person in jeder einzelnen Entscheidungsschleife setzt TRUSTIFAI deshalb auf das Prinzip Human-in-Control: Menschen müssen nicht jede Entscheidung selbst treffen, aber ausreichende Transparenz und wirksame Kontrolle über das Gesamtsystem behalten.

Managementsysteme wie ISO 42001 können dafür einen organisatorischen Rahmen schaffen. Die Norm legt Anforderungen für die Einrichtung, Umsetzung, Aufrechterhaltung und kontinuierliche Verbesserung eines AI Management Systems in Organisationen fest.

TRUSTIFAI, das Joint Venture von TÜV AUSTRIA und Software Competence Center Hagenberg (SCCH), begleitet Unternehmen beim Aufbau von AI Governance und Risikomanagement sowie bei der Vorbereitung auf entsprechende Managementsysteme. Im Mittelpunkt stehen klare Verantwortlichkeiten, technische und organisatorische Guardrails, Monitoring und definierte Eskalationswege.

Michael Weberberger: „Das Risiko liegt nicht darin, dass KI autonomer wird, kritisch wird es, wenn die Autonomie der Systeme schneller wächst als unsere Fähigkeit, sie zu verstehen, zu überwachen und zu beherrschen.“

JETZT VERANTWORTUNGSKETTEN ÜBERPRÜFEN

Unternehmen, die Agentic AI einsetzen oder deren Einsatz planen, sollten ihre Governance frühzeitig auf autonome Prozesse ausrichten: Welche Entscheidungen darf KI übernehmen? Wo braucht es Grenzen? Wer überwacht das System? Und wer kann im Ernstfall eingreifen?

„Denn mit der Autonomie der KI muss auch die Fähigkeit wachsen, sie wirksam zu kontrollieren. TRUSTIFAI liefert dazu die richtigen Lösungen“, so Weberberger abschließend. trustifai.at

TRUSTIFAI GMBH
Michael Weberberger
Geschäftsführer | Managing Director
Telefon: +43664604546593
E-Mail: michael.weberberger@trustifai.at

trustifai.at

OTS-ORIGINALTEXT PRESSEAUSSENDUNG UNTER AUSSCHLIESSLICHER INHALTLICHER VERANTWORTUNG DES AUSSENDERS. www.ots.at
© Copyright APA-OTS Originaltext-Service GmbH und der jeweilige Aussender