Hagenberg / Wien (OTS) – Der kürzlich bekannt gewordene
Cybersecurity-Vorfall beim Testen
eines noch nicht veröffentlichten Open AI Modells zeigt
eindrucksvoll, wie sich die Herausforderungen im Umgang mit
agentischen KI-Systemen verändern. Nicht das KI-Modell allein stand
im Mittelpunkt des Vorfalls, sondern das Zusammenspiel aus Modell,
Werkzeugen, Berechtigungen und technischer Infrastruktur.
„Mit zunehmender Leistungsfähigkeit von KI reicht es nicht mehr
aus, einzelne Modelle zu bewerten. Entscheidend ist die
Vertrauenswürdigkeit des gesamten Systems“, erklärt Thomas Doms,
Geschäftsführer von TRUSTIFAI .
Der Vorfall verdeutlicht, dass moderne KI-Agenten unerwartete
Wege finden können, um ihre Ziele zu erreichen – selbst wenn diese
Wege außerhalb der ursprünglich vorgesehenen Testumgebung liegen.
Dadurch gewinnen Themen wie Systemgrenzen, Berechtigungskonzepte,
kontinuierliches Monitoring und unabhängige technische Prüfungen
erheblich an Bedeutung.
Genau hier setzt der von TRUSTIFAI gemeinsam mit TÜV AUSTRIA ,
scch und wissenschaftlichen Partnern der JKU entwickelte Prüfkatalog
zur Testung und Zertifizierung von KI Systemen an. Das zugrunde
liegende Whitepaper ( https://www.tuv.at/wp-
content/uploads/2025/09/TUeV-AUSTRIA-White-Paper-XI-Safe-and-
Certifiable-AI-Systems.pdf ) beschreibt einen evidenzbasierten
Prüfansatz, der nicht nur das KI-Modell, sondern den gesamten
Lebenszyklus eines KI-Systems betrachtet – von funktionalen
Anforderungen über Cybersecurity bis hin zu Governance und laufendem
Monitoring.
„Der aktuelle Vorfall bestätigt, dass Vertrauen keine Eigenschaft
eines Modells ist, sondern das Ergebnis einer systematischen und
kontinuierlichen Prüfung des gesamten KI-Systems“, so Michael
Weberberger, Principal Consultant bei TRUSTIFAI .
Nicht erst mit dem Inkrafttreten weiterer Anforderungen des EU AI
Acts wird diese ganzheitliche Betrachtung für Unternehmen also
zunehmend zum Erfolgsfaktor. Organisationen benötigen
nachvollziehbare Verfahren, um nachweisen zu können, dass ihre KI-
Systeme nicht nur leistungsfähig, sondern auch sicher, kontrollierbar
und vertrauenswürdig betrieben werden.
Der aktuelle Vorfall zeigt deshalb keineswegs das Scheitern
moderner KI, sondern unterstreicht vielmehr die Notwendigkeit
professioneller AI Assurance als festen Bestandteil des zukünftigen
KI-Betriebs. www.trustifai.at
Bild(er) zu dieser Aussendung finden Sie unter http://bild.ots.at