Current Location：Home > NEWS > Normen und Standards stärken Vertrauen in KI-Systeme

Normen und Standards stärken Vertrauen in KI-Systeme

share:    Updated:2024-08-08 00:00:00

DIN/TS 92004 soll Leitlinien zur Identifikation und Analyse von Risiken in KI-Systemen im gesamten Lebenszyklus liefern und das Vertrauen in Künstliche Intelligenz fördern. 

Künstliche Intelligenz verändert die Welt grundlegend und ermöglicht Innovation in allen Lebensbereichen – von präziseren Diagnosen in der Medizin bis hin zu effizienteren Arbeitsabläufen in Unternehmen. Zeitgleich besteht die Frage, wie ethische Anforderungen gewahrt werden und verantwortungsvoll mit Herausforderungen wie Zuverlässigkeit und Robustheit von KI-Systemen und Vermeidung von unerwünschtem Bias sowie Autonomie und Kontrolle umgegangen werden kann. 

Im Mai 2024 haben die EU-Mitgliedstaaten mit dem AI Act daher das weltweit erste Gesetz zur Regulierung von Künstlicher Intelligenz verabschiedet. Dieser zielt unter anderem darauf ab, bei der Entwicklung und Anwendung von KI-Technologien die Grundrechte der Menschen zu gewährleisten sowie Innovationen in diesem Bereich voranzutreiben. Das Gesetz klassifiziert KI-Systeme nach ihrem Risiko für die Gesellschaft: Systeme mit unannehmbarem Risiko sind verboten, Hochrisikosysteme müssen strenge Vorschriften einhalten.  

Für viele Unternehmen bedeutet der AI Act eine Anpassung ihrer Entwicklungs- und Betriebsprozesse. Sie sind künftig dazu verpflichtet, ihre KI-Systeme und das damit verbundene Risiko zu bewerten. Normen und Standards helfen ihnen dabei, diese Aufgabe zu erfüllen.  

Neue Technische Spezifikation schafft Zuverlässigkeit und Vertrauen 

Mit der Technischen Spezifikation DIN/TS 92004 sind Anforderungen an die Risikoidentifikation und -analyse für die Entwicklung und den Betrieb von KI-Systemen erarbeitet worden. Das Dokument richtet sich an Entwickler, Anbieter und Betreiber.  

Dr. Maximilian Poretschkin, Leiter des Projekts ZERTIFIZIERTE KI, erläutert den Nutzen von DIN/TS 92004: „Diese Spezifikation beschreibt ein systematisches Vorgehen, um Risiken von KI-Systemen zu identifizieren und analysieren. Hierbei legt sie besonderen Wert auf die Dimensionen Zuverlässigkeit, Vermeidung von Bias sowie Autonomie und Kontrolle. Sie stellt somit einen wichtigen Baustein zur Operationalisierung der KI-Verordnung dar.“ 

Internationale Standards als Grundlage für Organisationen und Unternehmen  

Normen und Standards definieren Sicherheitsanforderungen, die KI-Systeme erfüllen müssen, bevor sie auf den Markt kommen. So tragen sie entscheidend zum Schutz vor Desinformation oder Diskriminierung bei und stärken das Vertrauen in KI-Systeme.  

DIN/TS 92004 ergänzt die internationale Norm ISO/IEC 23894. Diese enthält Leitlinien dazu, wie Organisationen mit KI verbundene Risiken managen können – beispielsweise, wenn ihre Produkte, Systeme und Dienstleistungen Künstliche Intelligenz nutzen oder selbst entwickeln. Ergänzend zu ISO/IEC 23894 nimmt die neue Technische Spezifikation eine Systemperspektive auf KI-Risiken ein. Unternehmen und Organisationen können DIN/TS 92004 künftig als Grundlage für die Implementierung ihrer jeweiligen Risikomanagementprozesse in Bezug auf bestimmte KI-Systeme nutzen.  

Die Technische Spezifikation wurde im Arbeitskreis NA 043-01-42-01 AK „KI-Qualität und Prüfverfahren“ erarbeitet und durch das Forschungsprojekt ZERTIFIZIERTE KI angestoßen, in dem DIN gemeinsam mit dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren wissenschaftlichen und industriellen Partnern zusammenarbeitet. Ein weiteres Ergebnis des Projektes, der KI-Prüfkatalog des Fraunhofer IAIS, diente u. a. als wesentlicher Input für das Dokument. Ziel ist es, den Inhalt von DIN/TS 92004 in die internationale und europäische Standardisierung einzubringen.