Künstliche Intelligenz Erstes Gesetz der EU zu Künstlicher Intelligenz tritt in Kraft

Anbieter zum Thema

evodion Information Technologies GmbH

Sick AG

SCHURTER AG

FAULHABER SA

Künftig gelten scharfe Regeln für viele Anwendungen – andere werden ganz verboten. Es lohnt sich für die Unternehmen, sich darauf einzustellen.

Das Ziel des AI Acts besteht darin, die Funktionsweise des europäischen Binnenmarktes zu verbessern und die Einführung von menschenzentrierter und vertrauenswürdiger Künstlicher Intelligenz (KI) zu fördern, während gleichzeitig ein hohes Schutzniveau für Gesundheit, Sicherheit und die in der Charta der Grundrechte verankerten Grundrechte – einschliesslich Demokratie, Rechtsstaatlichkeit und Umweltschutz – gegenüber möglichen schädlichen Auswirkungen von KI-Systemen gewährleistet wird. 

Risikogruppen für KI-Systeme  

KI-Systeme sollen zukünftig, je nach Gefahrenpotenzial, in verschiedene Risikogruppen eingeteilt werden. Gemeint sind in diesem Zusammenhang Anwendungen auf Basis maschinellen Lernens, bei denen grosse Datenmengen automatisch nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen gezogen werden.  

Systeme, die als besonders risikoreich gelten, in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen strenge Anforderungen erfüllen.

KI-Anwendungen, die gegen EU-Werte verstossen, sollen ganz verboten werden. Besonders hervorzuheben sind in diesem Zusammenhang die Bewertung von sozialem Verhalten («Social Scoring») und die Emotionserkennung am Arbeitsplatz. Auch dürfen nur Polizei und andere Sicherheitsbehörden beispielsweise Gesichtserkennung im öffentlichen Raum nutzen, ausschliesslich um schwere Straftaten, wie Menschenhandel oder Terrorismus, zu identifizieren, zu dokumentieren und zu verfolgen. Die Vertreter der EU-Staaten stimmten Anfang Februar des Jahres dem Gesetzesvorschlag zu. Das bedeutet nun für die Mitgliedsstaaten, dass sie nach und nach verbotene Systeme ausser Betrieb nehmen müssen. Für die komplette Umsetzung sind zwei Jahren vorgesehen. Bei Nichteinhaltung werden Sanktionen verhängt.  

Risikoniveau als Klassifizierungsgrundlage 

Das Klassifizierungssystem des EU-KI-Gesetzes passt die regulatorischen Anforderungen an das Risikoniveau der unterschiedlichen KI-Systeme an.  

Hochriskante KI-Systeme 

KI-Technologien, die für Infrastruktur, Beschäftigung und Strafverfolgung entscheidend sind, unterliegen strengen Anforderungen, bevor sie eingesetzt werden können, einschliesslich Transparenzverpflichtungen, Datenqualitätsgarantien und menschlicher Aufsicht. 

KI-Anwendungen mit geringem bzw. minimalem Risiko 

Für KI-Systeme, die ein geringeres Risiko darstellen, sieht das Gesetz weniger belastende regulatorische Anforderungen vor. Das soll Innovationen ermöglichen, indem sichergestellt wird, dass KI-Entwickler neue Anwendungen entwickeln und erproben können, ohne sich mit unnötigen regulatorischen Hürden auseinandersetzen zu müssen.  

Verbotene Praktiken 

KI-Anwendungen, die inakzeptable Risiken oder ethische Bedenken mit sich bringen, wie z. B. die biometrische Identifizierung in Echtzeit in öffentlichen Räumen, und Systeme, die menschliches Verhalten manipulieren, sind verboten.  

Überregulierung? 

Das Gesetz hat jedoch auch Kritiker auf den Plan gerufen, welche äusserten, dass eine Überregulierung die Innovationen durch die KI hemmen könnte und dass die Durchsetzung eines so umfassenden Gesetzes kompliziert sei. Auch sollten Teile des Gesetzes klarer formuliert werden.

(ID:50075377)