Erstes Gütesiegel für vertrauenswürdige KI vorgestellt

„TRUSTWORTHY AI – BY KNOW CENTER“ PRÜFT KONKRETE KI-ANWENDUNGEN NACH DEFINIERTEN KRITERIEN – PROTOTYP EINES KI-ASSISTENTEN DES ÖSTERREICHISCHEN STÄDTEBUNDES HAT QUALIFIZIERUNGSPROZESS ALS ERSTER ERFOLGREICH DURCHLAUFEN UND DAS GÜTESIEGEL ERHALTEN.

WIE VERTRAUENSWÜRDIG IST EINE KI-ANWENDUNG TATSÄCHLICH? MIT „TRUSTWORTHY AI – BY KNOW CENTER“ WURDE HEUTE IN WIEN EIN NEUES GÜTESIEGEL VORGESTELLT, DAS KONKRETE KI-ANWENDUNGEN ANHAND DEFINIERTER KRITERIEN PRÜFT UND QUALIFIZIERT. ALS ERSTES LEUCHTTURMPROJEKT HAT DER PROTOTYP EINES KI-ASSISTENTEN DES ÖSTERREICHISCHEN STÄDTEBUNDES DEN QUALIFIZIERUNGSPROZESS ERFOLGREICH DURCHLAUFEN.

VERTRAUENSWÜRDIGE KI ALS EUROPÄISCHE CHANCE

Hinter dem Gütesiegel steht das Know Center, das führende österreichische COMET-Kompetenzzentrum mit Fokus auf vertrauenswürdige KI und Data Science. Für OLIVER BERNECKER, MSC, CEO DES KNOW CENTERS, liegt in vertrauenswürdiger KI und digitaler Souveränität auch eine wirtschaftliche Chance für Europa. „_Bei den KI-Modellen werden Europa und Österreich mit den globalen Anbietern kaum in Hinblick auf Größe und Kapital konkurrieren können. Unsere Chance liegt dort, wo Qualität, Sicherheit und Vertrauenswürdigkeit zum Wettbewerbsvorteil werden_“, so Bernecker. „_Gleichzeitig erleben wir, dass das Vertrauen in KI unter Druck steht. Systeme liefern unerwartete und nicht erklärbare Ergebnisse und für Unternehmen und die öffentliche Verwaltung ist nicht immer klar, wie belastbar eine Anwendung tatsächlich ist. Hier kann Europa Stärke entwickeln. Mit dem Gütesiegel übersetzen wir wissenschaftliche Expertise in einen konkreten Qualifizierungsprozess für reale KI-Anwendungen_.“

SIEBEN KRITERIEN FÜR VERTRAUENSWÜRDIGE KI

Das Gütesiegel kann für KI-Tools, KI-Services, KI-Modelle und KI-Systeme beantragt werden. Bewertet werden sieben Bereiche:

* Datenschutz und Sicherheit,
* Transparenz, Erklärbarkeit und Fairness,
* menschliche Aufsicht und Entscheidung,
* digitale Souveränität,
* Ökonomie,
* Nachhaltigkeit sowie
* digitaler Humanismus.

In der zweiten Phase des Verfahrens wird zusätzlich die KI-Kompetenz innerhalb der jeweiligen Organisation berücksichtigt. Zudem sind Antragsteller:innen verpflichtet, eine kontinuierliche Eigenüberwachung durchzuführen.

„_Wir prüfen konkrete Anwendungen anhand klar definierter Kriterien_“, sagt DR.IN CATHRIN VON HESLER, VERANTWORTLICHE FÜR DAS GÜTESIEGEL „TRUSTWORTHY AI – BY KNOW CENTER“. „_Dabei schauen wir uns an, welche Daten vorhanden sind, wo diese gespeichert und verarbeitet werden, welche Prozesse dahinterstehen und wie zentrale Anforderungen in der Praxis umgesetzt werden. Die Bewertung zeigt, wo eine Anwendung die Anforderungen erfüllt und wo Handlungsbedarf besteht.“_

In die Prüfung fließen Forschungsergebnisse der Expert:innen des Know Centers ein, darunter wissenschaftlich entwickelte Methoden und Metriken für einzelne Bereiche, wie beispielsweise Fairness, Robustheit und Transparenz. Zeigen sich während des Audits offene Punkte, werden diese aufgezeigt und können von der antragstellenden Organisation bearbeitet werden. Anschließend können die betroffenen Kriterien erneut bewertet werden.

ABLAUF DES QUALIFIZIERUNGSPROZESSES

Der Qualifizierungsprozess startet mit einem Antrag beim Know Center. Anschließend wird der Ablauf auf die jeweilige Anwendung abgestimmt. Die Prüfung kann online oder vor Ort erfolgen, wobei sich ihr Umfang nach Kritikalität und Komplexität der Anwendung richtet.

Das Verfahren umfasst zwei Phasen. In Phase eins prüft das Know Center die festgelegten Kriterien. In Phase zwei legt die antragstellende Organisation ein Konzept vor, das beschreibt, wie die Anforderungen auch künftig eingehalten werden. Nach der abgeschlossenen Erstprüfung durch das Know Center wird als zweite Voraussetzung der Vergabe eine Eigenüberwachung durch den Antragsteller/die Antragstellerin verlangt. Zusätzlich wird die KI-Kompetenz der Organisation berücksichtigt. Werden die Vergabebestimmungen bezüglich beider Phasen erfüllt, verleiht das Know Center das Gütesiegel und vergibt eine individuelle Gütesiegel-ID.

Für Unternehmen, die öffentliche Verwaltung und andere Organisationen schafft das einen sichtbaren Qualitätsnachweis.

VERTRAUENSWÜRDIGE KI ALS STANDORTFAKTOR

Die Bedeutung vertrauenswürdiger KI für den österreichischen Digitalstandort und die öffentliche Verwaltung ordnete bei der Pressekonferenz ERICH ALBRECHTOWITZ, CDO DER GRUPPE I/C DIGITALISIERUNG UND INFORMATIONSMANAGEMENT IM BUNDESKANZLERAMT*, ein. „_Vertrauenswürdige KI ist ein Standortthema_“, sagt Albrechtowitz. „_Österreich braucht eigene wissenschaftliche und technologische Kompetenz, um KI-Systeme beurteilen, europäische Anforderungen in die Praxis übertragen und hochwertige Anwendungen entwickeln zu können. Kompetenz in diesen Bereichen stärkt die technologische Handlungsfähigkeit und digitale Souveränität Österreichs und Europas_.“

„Vertrauen braucht eine nachvollziehbare Grundlage“, fügt von Hesler hinzu. „_Mit dem Gütesiegel machen wir sichtbar, welche Kriterien eine konkrete KI-Anwendung erfüllt. Unternehmen und Organisationen erhalten damit eine belastbare Grundlage für die Bewertung und den Einsatz ihrer KI_.“

ERSTES LEUCHTTURMPROJEKT VORGESTELLT

Jene Anwendung, die den Qualifizierungsprozess als erstes erfolgreich durchlaufen und das Gütesiegel erhalten hat, wurde von der IT-Kommunal GmbH im Auftrag des Österreichischen Städtebundes für dessen Mitgliedsstädte entwickelt. Sie befindet sich derzeit im Testbetrieb.

Der „Kommunale KI-Assistent“ setzt zu 100 % auf Open Source Software auf, die Architektur dafür entstammt einer laufenden Projektinitiative aus dem öffentlichen Sektor in Deutschland. Der „KI-Assistent“ stellt vier Module zur Verfügung, mit denen grundlegende Verwaltungsaufgaben erledigt werden können: ein klassischer Chatbot für das strukturierte Abarbeiten von Aufgaben wie z.B. Dokumente redigieren oder Entwürfe erstellen; ein Recherche-Tool, das auf hinterlegte, kommunalspezifische Wissenspools zugreift; ein Zusammenfassungs-Tool, mit dem von längeren Dokumenten wie beispielsweise Studien, Gutachten oder auch Verträgen Zusammenfassungen mit vordefinierbarer Länge und Schwerpunktsetzung erstellt werden können und ein Transkriptions-Tool, mit dem Video- und Audio-Aufzeichnungen in Text umgewandelt werden können, was insbesondere bei intensivem Sitzungsbetrieb sehr hilfreich sein kann.

Alle Mitgliedsgemeinden des Österreichischen Städtebundes waren eingeladen, eine limitierte Zahl an Mitarbeiter:innen zum Evaluieren des KI-Assistenten zu nominieren. Aktuell testen rund 300 Gemeindebedienstete, der Testbetrieb läuft voraussichtlich noch bis Jahresende 2026.

_„Bei einer KI-Anwendung für Städte zählt, dass sie absolut vertrauenswürdig ist, sodass Mitarbeiter:innen aus der Verwaltung also auch datenschutzrechtlich relevante Dokumente damit bearbeiten können und gewährleistet ist, dass keine Daten die Betriebsumgebung des KI-Assistenten verlassen und weder gespeichert noch in irgendeiner Form ausgewertet werden. Der Qualifizierungsprozess gab uns dafür einen klaren Blick auf die notwendigen Qualitätskriterien und zeigte uns, wo wir nachschärfen mussten“_, erklärt DR. RONALD SALLMANN, CDO DES ÖSTERREICHISCHEN STÄDTEBUNDES UND STRATEGISCHER GESCHÄFTSFÜHRER DER IT-KOMMUNAL GMBH. Die IT-Kommunal GmbH ist bei dem Projekt als technischer Dienstleister tätig. Auftraggeber ist der Österreichische Städtebund, für dessen Mitgliedsstädte der KI-Assistent entwickelt wurde.

*(Anm.: Albrechtowitz ist in Entwicklung, Prüfung und Vergabe des Gütesiegels nicht eingebunden. „Trustworthy AI – by Know Center“ ist eine eigenständige Initiative des Know Center und kein staatliches Gütesiegel.)

Die digitale Pressemappe finden Sie auf: Recap Pressekonferenz: KI-Gütesiegel „Trustworthy AI – by Know Center“ am 8. September 2026 – Know Center Research GmbH – KI & Data Science

Weitere Informationen finden Sie auf: www.know-center.at/guetesiegel

Weitere Bilder in der APA-Fotogalerie

ÜBER DAS KNOW CENTER:

Das Know Center ist ein COMET Kompetenzzentrum und führendes Innovations- und Spitzenforschungszentrum für vertrauenswürdige KI, Data Science und digitale Souveränität. Mit State-of-the-Art & Beyond Technologien, Spitzenforschung im eigenen Haus und hochinnovativen Projekten mit Partnern aus Wirtschaft, öffentlicher Verwaltung und Wissenschaft stellt der Grazer Innovationshub die Transformation der neuesten Erkenntnisse auf dem Gebiet der vertrauenswürdigen KI und Data Science in konkrete Wettbewerbsvorteile für den Standort Österreich sicher. Für Wissenschaft und Gesellschaft liefert das Forschungszentrum die technologische Basis für die Lösung der großen Zukunftsfragen. Mit seinen wegweisenden Innovationen trägt das Know Center dazu bei, dass Europa die Technologie- und digitale Souveränität zurückgewinnt und die strategische Hoheit bei gleichzeitiger Wahrung eines offenen und innovationsgetriebenen Marktes garantieren kann.

corporate identity prihoda
Mag. Jolanthe Pantak
Telefon: 01479636631
E-Mail: jolanthe.pantak@cip.at

OTS-ORIGINALTEXT PRESSEAUSSENDUNG UNTER AUSSCHLIESSLICHER INHALTLICHER VERANTWORTUNG DES AUSSENDERS. www.ots.at
© Copyright APA-OTS Originaltext-Service GmbH und der jeweilige Aussender