Company

EU Artificial Intelligence Act: Was wird relevant beim Einsatz von KI in Unternehmen?

Fabian Kretschmann, Emily Meutzner

5.5.2023

Titelbild zum Blogbeitrag EU AI Act - Was wird relevant beim Einsatz von KI in Unternehmen?

Was ist der EU AI Act?

Der EU AI Act ist eine geplante Gesetzgebung der Europäischen Union, welche im April 2021 durch die Europäische Kommission präsentiert wurde. Die Gesetzgebung beinhaltet Regulierungen sowie einheitliche Bestimmungen für den Einsatz von Künstlicher Intelligenz (KI) in der Europäischen Union (EU). 

Vollständig überschrieben wird der Gesetzesvorschlag als "Verordnung des Europäischen Parlaments und des Rates über Künstliche Intelligenz". Ziel des Vorschlags ist die Gewährleistung klarer ethischer und rechtlicher Dimensionen von KI, sowie der Schutz von Rechten und Sicherheit der Bürger:innen sowie Verbraucher:innen.

Die Regulierung sieht vor, KI-Systeme in vier Risikokategorien einzuordnen: 

  • inakzeptables Risiko 
  • hohes Risiko
  • begrenztes Risiko
  • minimales oder kein Risiko

Ausgehend von der Einschätzung des Risikos werden spezifische Anforderungen an das jeweilige System gestellt. 

Abbildung der vier Risikokategorien für KI Systeme

Was reguliert der EU AI Act?

Der EU AI Act ist ein Rechtsinstrument, welches die Regulierung von künstlicher Intelligenz  in der EU harmonisieren soll. Es wird darauf abgezielt, KI-Anwendungen in der EU sicherer und ethischer zu gestalten und das Vertrauen der Bürger:innen in KI zu stärken.

Der EU AI Act regelt verschiedene Aspekte der KI-Anwendungen:

Zulassung und Konformität: Es werden Bestimmungen zur Zulassung und Konformität von KI-Systemen definiert, welche in bestimmten risikoreichen Bereichen eingesetzt werden. Dies sind beispielsweise kritische Infrastrukturen, Bildung und Rechtswesen. Anforderungen an die Qualität, Sicherheit und Zuverlässigkeit von KI-Systemen werden festgelegt.

Transparenz und Rechenschaftspflicht: Die Transparenz und Nachvollziehbarkeit von KI-Systemen wird verpflichtend festgeschrieben. Dies umfasst die Pflicht, Nutzer:innen über die Existenz von KI-Systemen zu informieren und ihnen die Möglichkeit zu geben, Entscheidungen von KI-Systemen zu verstehen und anzufechten.

Datenschutz und Privatsphäre: Integriert sind ebenso Bestimmungen zum Schutz personenbezogener Daten und zur Einhaltung der Datenschutz-Grundverordnung der EU (DSGVO). Es ist festgelegt, dass KI-Anwendungen die Privatsphäre und die Rechte von betroffenen Personen respektieren müssen.

Diskriminierung und Bias: Der Einsatz von KI-Anwendungen, die aufgrund von rassistischen, ethnischen oder anderen diskriminierenden Merkmalen zu unfairer Behandlung führen können, wird durch den EU AI Act verboten. Er legt auch Anforderungen an die Überwachung und Minimierung von Bias in KI-Systemen fest.

Governance und Verantwortlichkeit: Es werden die Verantwortlichkeiten der Hersteller:innen, Händler:innen und Benutzer:innen von KI-Systemen festgelegt und ein Rahmen für die Governance von KI-Anwendungen etabliert, einschließlich der Einrichtung von nationalen KI-Kompetenzzentren und der Benennung von KI-Beauftragten.

Wen betrifft der EU AI Act? Was wird für Unternehmen relevant?

Der EU AI Act ist darauf ausgelegt, die verschiedenen beteiligten Anspruchsgruppen, welche in Verbindung zu KI stehen, zu regulieren. 

Übersicht der Anspruchsgruppen und deren Aufgaben laut EU AI Act

Welche Chancen und Risiken bringt der EU AI Act für Unternehmen?

Der EU AI Act bildet sowohl Potentiale als auch Herausforderungen ab, mit denen sich Unternehmen, die KI herstellen, zukünftig auseinandersetzen müssen. Einige der relevantesten Aspekte werden dabei folgende sein:

📈 Chancen des EU AI Act für Unternehmen

Vertrauen und Akzeptanz: Durch die Definition allgemeiner Anforderungen mittels EU AI Act können Hersteller:innen von KI das Vertrauen und die Akzeptanz ihrer Kund:innen und Nutzer:innen stärken. Es wird für mehr Transparenz gesorgt, welche die geschäftliche Entwicklung von KI-Hersteller:innen nachhaltig verbessert. 

Innovation: Der EU AI Act fördert die Entwicklung von vertrauenswürdigen, sicheren und zuverlässigen KI-Systemen. Dies kann dazu beitragen, dass KI-Hersteller:innen innovative Technologien und Lösungen entwickeln, die den Anforderungen des Marktes und der Gesellschaft entsprechen. Bei frühzeitiger Umsetzung der Anforderungen kann dieser somit Hersteller:innen und Händler:innen einen Wettbewerbsvorteil verschaffen.

🤔 Risiken des EU AI Act für Unternehmen

Kosten: Aufgrund der Adaption von aktuellen Bestandslösungen können zusätzliche Ausgaben notwendig werden, um die Anforderungen des EU AI Act zu erfüllen. Insbesondere kleine und mittlere Unternehmen (KMUs) können durch zusätzliche Kosten eine Benachteiligung erfahren.

Hemmnisse und Einschränkungen der Entwicklung von KI: Unternehmen, welche KI entwickeln, sehen sich vor Herausforderungen, den Anforderungen des EU AI Act zu genügen. Somit kann es möglicherweise zur Entwicklung weniger innovativer Technologien und Lösungen kommen. Zusätzliche Anforderungen bedingen häufig ebenso eine verlangsamte Entwicklung. 

Haftung: Der EU AI Act sieht auch vor, dass Hersteller:innen von KI-Systemen für Schäden haftbar gemacht werden, die durch ihre KI-Systeme verursacht werden. Es entstehen somit  erhöhte Haftungsrisiken.

Ungewissheit: Auch Unternehmen, welche KI nutzen, sind in der Pflicht, KI-Systeme und verbundenes Risiko eigenständig zu bewerten, dies zu dokumentieren und entsprechend zu kommunizieren. Bei Verstößen sind entsprechende Strafen zu erwarten, die somit zu einer Verunsicherung gegenüber dem Einsatz führen. 

Abwanderung: Unternehmen laufen Gefahr, potentielle Fachkräfte zu verlieren, welche in Länder abwandern, in denen die Herstellung von KI weniger bis kaum reguliert ist. Des Weiteren können Abhängigkeiten von anderen Unternehmen in Ländern entstehen, welche größere Entscheidungsspielräume besitzen. 

Mit der fortwährenden aktuellen Arbeit und Spezifikation der Regulierungen, welche von der EU vorgesehen sind, bleiben die konkreten Handlungsverpflichtungen, ebenso wie Möglichkeiten zur Zertifizierung noch abzuwarten in den nächsten Monaten. Für die EU ist ein wichtiges strategisches Ziel des EU AI Acts auch die Entwicklung zum internationalen Leuchtturm-Projekt für den technologischen Einsatz von KI. Um mit den rasanten Entwicklungen am internationalen Markt bestehen zu können, ist ein zeitnahes Fortführen des Gesetzesentwurfs abzusehen. 

In Deutschland werden darüber hinaus auch die Rahmenprojekte zur nationalen Regulierung durch die Bundesverbände und Ethikräte einen weiteren wichtigen Beitrag leisten.

Danke! Deine Nachricht ist bei uns angekommen! 

Neuste Beiträge

Research Projects

elevait als Partner im Projekt DIDYMOS

elevait ist Teil des mFUND Projekts DIDYMOS des Bundesministerium für Digitales und Verkehr, welches die Digitalisierung und Optimierung des Betriebs von Straßentunneln durch den KI-gestützten Aufbau digitaler Zwillinge zum Ziel hat.

mehr lesen...
Company
Tech

Beyond Words: A Glimpse into the Development Challenges of Our Text Annotation Tool

elevait's web application team gives you an introduction to their custom Text Annotation Tool which allows to train and frequently retrain models. Get an insight into the tool's development from an UX integration and development perspective.

mehr lesen...
Company

Entmystifizieren wir die Begriffe: Wo liegt der Unterschied zwischen KI und Automatisierung?

Den Unterschied zwischen KI und Automatisierung zu verstehen, hilft insbesondere bei der Identifikation der passenden Lösungen. Wo grenzen sich die individuellen Anwendungen gegeneinander ab und gibt es Gemeinsamkeiten?

mehr lesen...