Im Rahmen einer strategischen Partnerschaft österreichischer Experten und Expertinnen sollen effiziente und unabhängige Prüfverfahren und Prüftechnologien für KI-Systeme entwickelt werden, die eine (semi)automatische Bewertung von Metriken ermöglichen. Daran beteiligt sind Know-Center, SGS, IAIK TU Graz und BANDAS Uni Graz.
Vertrauen in KI schaffen
Künstliche Intelligenz hat Produkte und Dienstleistungen bereits entscheidend verändert und gehört zu den am schnellsten wachsenden Themenfeldern. Sie ist eine Schlüsseltechnologie, um die Zukunftsfähigkeit von Wirtschaft und Gesellschaft zu sichern. Sie kann jedoch ungewollte und sehr negative Auswirkungen haben, wenn sie nicht adäquat verwendet wird.
„Das Potential von KI wird in Europa erst dann ausgeschöpft werden, wenn ein vertrauenswürdiger Umgang mit Daten sowie Fairness und Verlässlichkeit der Algorithmen und deren Sicherheit gewährleistet ist. Über eine 360° Perspektive wollen wir dafür sorgen, dass KI-Anwendungen technisch konform, zuverlässig und unvoreingenommen funktionieren. Im Fokus stehen alle Bereiche, die für eine hohe Qualität und Vertrauenswürdigkeit von KI essentiell sind: Daten, Algorithmen, Cybersicherheit, Prozesse, Ethik und Recht“, erklärt Stefanie Lindstaedt, CEO des Know-Centers, das Vorhaben.
Gebündelte Expertise
Ähnlich wie bei der Datenschutzgrundverordnung (DSGVO) plant die Europäische Kommission eine Verordnung einzuführen, um KI-Systeme künftig zu regulieren. Dabei ist eine umfassende Konformitätsbewertung durch Anbieter vorgesehen, die eine KI-Zertifizierung unumgänglich machen wird. Ziel der Initiative ist, Unternehmen dabei zu unterstützen, wettbewerbsfähige und vertrauenswürdige KI-basierte Produkte und Systeme zu entwickeln und Hemmschwellen für den Einsatz von KI abzubauen. Das multidisziplinäre ExpertInnenteam deckt dabei alle Bereiche von Forschung, über Beratung bis zur Zertifizierung ab.
„Ein Eckpfeiler des Vertrauens in KI ist die Einhaltung von Standards und Vorschriften, die durch Konformitätsbewertungen nachgewiesen werden, die akkreditierte Dritte wie SGS durchführen. In unserer Partnerschaft werden wir neue multidisziplinäre Tools und Techniken entwickeln, um diese Bewertungen zu ermöglichen, die Bereiche wie etwa Cybersicherheit oder Ethik umfassen. Das wird Kunden auf der ganzen Welt einen Mehrwert bieten“, erklärt Siddi Wouters, Senior Vice President Digital & Innovation bei SGS.
Cyberkriminalität als eine der größten Herausforderungen
Trotz des enormen technologischen Potentials sind mit dem Einsatz von KI-Anwendungen auch Unsicherheiten und Risiken verbunden. Es gibt eine Vielzahl an Möglichkeiten, KI-Systeme anzugreifen. „Herkömmliche statische Prüfungen reichen hier nicht aus. Es braucht die Erforschung grundlegend neuer sicherheitstechnischer Konzepte, um einen kontinuierlichen Nachweis der Robustheit von AI-Systemen gegen Cyberattacken zu erhalten und die Privatsphäre zu schützen. Diese Expertise bringt die TU Graz in die strategische Partnerschaft ein. Die Initiative ist für uns zugleich die logische Vertiefung bereits erfolgreich bestehender Kooperationen im Bereich Informatik, Software Engineering und Cybersicherheit mit SGS, dem Know-Center und der Uni Graz. Davon profitieren auch universitäre Forschung und Lehre, in die die neuen und aktuellen Inhalte einfließen“, erläutert Harald Kainz, Rektor der Technischen Universität Graz.
Offen für weitere Kooperationen
Die Energie Steiermark AG, Leftshift One und REDWAVE beteiligen sich mit Use Cases an dem Vorhaben. Die Initiative ist offen für weitere Partner aus Industrie und Wissenschaft, die gemeinsam an KI-Prüfverfahren arbeiten wollen.