Sieben Thesen zum aktuellen AI-Safety-Diskurs: „Es ist Zeit, die Debatte anders zu führen.“

TRUSTIFAI-Geschäftsführer Michael Weberberger plädiert für den Schritt von Governance und Compliance hin zu messbarer, wissenschaftlich fundierter AI Assurance.

_Wie wird aus Vertrauen in künstliche Intelligenz überprüfbare Sicherheit? Michael Weberberger, Geschäftsführer des KI-Dienstleisters __TRUSTIFAI__, dem Joint Venture von __TÜV AUSTRIA__ und __Software Competence Center Hagenberg__, formuliert sieben Thesen zum aktuellen AI-Safety-Diskurs und plädiert für den Schritt von Governance und Compliance hin zu messbarer, wissenschaftlich fundierter AI Assurance._

AI Safety ist im Mainstream angekommen. Was vor wenigen Jahren noch als Spezialthema für Forschungsteams galt, ist heute eine strategische Frage für Unternehmen, Technologieanbieter, Kunden, Investoren und Regulatoren.

Die Debatten rund um die großen AI Labs zeigen: Je leistungsfähiger KI-Systeme werden, desto wichtiger wird die Frage, wie sich ihre Risiken systematisch erkennen, testen und beherrschen lassen.

Die Reaktionen darauf sind vielfältig. Technologieanbieter fordern mehr Oversight, Regulatoren schaffen neue Kontrollmechanismen und Unternehmen beschäftigen sich intensiver mit AI Governance und Assurance. Gleichzeitig droht die Debatte zwischen zwei Polen stecken zu bleiben: hier die Warnung vor immer größeren Risiken, dort die Sorge, Regulierung könnte Innovation bremsen.

Es ist Zeit, die Debatte anders zu führen.

1. AI SAFETY BEGINNT NICHT ERST AN DER TECHNOLOGISCHEN GRENZE

Die spektakulärsten Beispiele der aktuellen Safety-Debatte kommen von großen AI Labs. Doch wer daraus ein Spezialproblem der technologischen Spitzenforschung macht, greift zu kurz. AI Safety betrifft längst jedes Unternehmen, das KI einsetzt, egal ob es Modelle für spezifische Aufgaben optimiert, RAG-Systeme einsetzt, Agenten mit Tools verbindet oder KI in operative Prozesse integriert. AI Safety beginnt, sobald Modelle in KI-Systemen mit der realen Welt verbunden werden: mit Kundendaten, Produktionssystemen, Bestellprozessen, oder interner Software, mit anderen Tools oder mit Produktionsmaschinen und Robotik. Gerade leistungsfähigere Modelle werden zunehmend mit solchen Zugriffsmöglichkeiten ausgestattet und erhalten damit mehr Handlungsspielraum.

Es braucht also weder AGI noch Superintelligence für die Relevanz von AI Safety. Denn das tatsächliche Risiko wächst nicht primär mit der Leistungsfähigkeit eines Modells, sondern mit den Möglichkeiten, die einem System gegeben werden, auf seine Umwelt einzuwirken. Die AI-Safety-Debatte konzentriert sich derzeit stark auf Governance, Oversight und Frontier-Risiken. Für Unternehmen stellt sich jedoch eine praktischere Frage: Welche Risiken gehe ich im Unternehmen ein? Wie lässt sich die Sicherheit meines eigenen Einsatzes von KI-Systemen nachweisen?

AI SAFETY BEGINNT DESHALB NICHT AN DER VORDERSTEN TECHNOLOGISCHEN GRENZE. SIE BEGINNT DORT, WO KI ENTSCHEIDUNGEN BEEINFLUSST ODER HANDLUNGEN AUSLÖST.

2. NICHT DAS MODELL ALLEIN IST DAS RISIKO, SONDERN DAS SYSTEM

Die Safety-Debatte richtet ihren Blick häufig auf das KI-Modell. In der Unternehmenspraxis entsteht das tatsächliche Risikoprofil jedoch erst durch das Zusammenspiel des gesamten Systems: Modelle, System Prompts, Datenquellen, RAG-Komponenten, APIs, Tools, Berechtigungen, Policies, Softwarelogik und der konkrete Anwendungskontext.

Das bedeutet: Das Modell kann unverändert bleiben, während sich das Risiko des Gesamtsystems erheblich verändert.

WER AI SAFETY ERNST NIMMT, DARF DESHALB NICHT NUR MODELLE EVALUIEREN. ENTSCHEIDEND IST DIE EVALUATION DES GESAMTEN AI SYSTEMS.

3. MEHR OVERSIGHT BEDEUTET NICHT AUTOMATISCH MEHR SICHERHEIT

Leistungsfähige KI braucht unabhängige Kontrolle. Doch eine Gleichung greift zu kurz: mehr Kontrolle gleich mehr Sicherheit.

Wenn Oversight hauptsächlich aus Dokumentation, Checklisten und formalen Freigaben besteht, kann ein System auf dem Papier bestens abgesichert erscheinen und technisch dennoch Schwächen aufweisen.
Zum anderen stößt auch menschliche Fähigkeit zur Wahrnehmung der Aufsicht schnell an Grenzen. Wenn KI-Systeme tausende oder Millionen Entscheidungen, Empfehlungen oder Aktionen erzeugen, lassen sich diese nicht wirksam einzeln überprüfen. Mit zunehmender Automatisierung wächst zudem das Risiko der Overconfidence und des Automation Bias: Menschen neigen dazu, automatisierten Ergebnissen zu vertrauen und sie seltener kritisch zu hinterfragen – gerade dann, wenn das System überwiegend zuverlässig erscheint.

TRUSTIFAI GMBH
Michael Weberberger
Geschäftsführer | Managing Director
Telefon: +43664604546593
E-Mail: michael.weberberger@trustifai.at

trustifai.at

OTS-ORIGINALTEXT PRESSEAUSSENDUNG UNTER AUSSCHLIESSLICHER INHALTLICHER VERANTWORTUNG DES AUSSENDERS. www.ots.at
© Copyright APA-OTS Originaltext-Service GmbH und der jeweilige Aussender