Ein Beitrag von Freya Michel

1. Einführung

Die Digitalisierung lässt Europa den Puls der Zeit spüren. Die EU möchte Vorbild einer digitalen modernen Gesellschaft sein. Dabei spielt Künstliche Intelligenz (KI) zur aktuellen Zeit eine große Rolle. Doch diese Technologie ist nicht unumstritten.  

Auf politischer Ebene stellt sich die Frage, wie man diese Technologie unter ethischen Gesichtspunkten werten sollte.

KI ist in Europa von strategischer Bedeutung und hat sich zu einem bedeutenden Motor der wirtschaftlichen Entwicklung herausgebildet. Dabei handelt es sich schon lange nicht mehr um entfernte Zukunftsvisionen. KI wird schon heute eingesetzt und soll nun noch verstärkt entwickelt werden. Mit Hilfe dieser Technik können Lösungen für gesellschaftliche Herausforderungen entwickelt werden – beispielsweise in Bereichen wie der Sicherheit von Kraftfahrzeugen, in der Landwirtschaft, der Gesundheitsversorgung, der Behandlung von Krankheiten, für Lösungsansätze zum Energieverbrauch und Klimawandel oder dem Management finanzieller Risiken.

Mit dem zunehmenden Einsatz dieser Technik muss sich die Politik und Wirtschaft jedoch auch zunehmend mit den Auswirkungen auf sozioökonomischen, rechtlichen und ethischen Bereichen befassen.[1]  Die Digitalisierung geht Hand in Hand mit neuen Herausforderungen für die Zukunft der Arbeit und stellt die Menschheit immer wieder vor neue Fragen. Der Einsatz dieser Technologie stößt immer wieder auf Misstrauen bei den Menschen.

Um Vertrauen in der Bevölkerung aufzubauen und die Akzeptanz zu stärken, hat die EU eine Strategie auf den Grundwerten und Menschenrechten basierend entwickelt.[2]

2. Wie definiert die Europäische Kommission KI konkret?

Eine zentrale Frage ist zunächst, wie die Europäische Kommission Künstliche Intelligenz definiert.

„Künstliche Intelligenz (KI) bezeichnet Systeme mit einem „intelligenten“ Verhalten, die ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen. KI-basierte Systeme können rein softwaregestützt in einer virtuellen Umgebung arbeiten (z.B. Sprachassistenten, Bildanalysesoftware, Suchmaschinen, Sprach- und Gesichtserkennungssysteme), aber auch in Hardware-Systeme eingebettet sein (z.B. moderne Roboter, autonome Pkw, Drohnen oder Anwendungen des ,Internet der Dinge‘).“[3]

3. Erfordernis von Reglementierungen

Bürgerinnen und Bürger sind zum Teil besorgt um ihre Sicherheit, denn KI könnte auch für unbeabsichtigte kriminelle Zwecke missbraucht werden. Es stellt sich die Frage, wie viele Daten preisgegeben werden sollten, wie viel auch ungewollt gespeichert und verwendet wird. Die Kommission sieht es daher als unumgänglich, eine breitere Akzeptanz von KI durch Vertrauen unter den EU-Bürgern zu schaffen. Die EU-Kommission hat dafür zur vertieften Beschäftigung mit dem Thema Ethik und Künstliche Intelligenz eine unabhängige Expertengruppe, die „High-Level Expert Group on Artificial Intelligence“ (AI HLEG), einberufen, um sich mit vertrauenswürdigem Einsatz von KI in Europa zu beschäftigen.

4. Europäische ethische Leitlinien für KI

Nach neun Monaten Arbeit hat die Expertengruppe am 26. Juni 2019 anhand von 33 Kriterien die „Ethischen Leitlinien für eine vertrauenswürdige Künstliche Intelligenz“ aufgestellt. Ende 2018 wurden bereits Zwischenergebnisse veröffentlicht im sogenannten „Weißbuch“. 
 

a.    Kernstück des „Weißbuchs“ – „Vertrauen“ in die Technologie

Bei der Entwicklung und Implementierung von KI sieht die AI HLEG als besonders wesentlich an, dass der Mensch im Mittelpunkt stehen muss. Dieser muss Vertrauen in die KI-Systeme haben, was wiederum drei Voraussetzungen hat.

                                          i.    Lawful AI – Einklang mit dem geltenden Recht

KI-Systeme dürfen nur eingesetzt werden, wenn sie mit dem geltenden Recht korrespondieren. Besonders sind hier die EU-Grundrechtecharta, die Antidiskriminierungsrichtlinien, die Menschenrechte und die Gesetze der Mitgliedsstaaten von Bedeutung.

                                        ii.    Ethical AI – Beachtung von ethischen Prinzipien

Gerade in Zeiten von Industrie 4.0 und dem Internet der Dinge wandelt sich die Technologie in rasender Geschwindigkeit. In dieser Geschwindigkeit ist es dem Gesetz kaum möglich, Schritt zu halten, so dass bei der Weiterentwicklung zunächst auf ethische Prinzipien zurückzugreifen ist.

                                       iii.    Robust AI – KI muss beständig sein

Es ist wichtig, dass KI auch in unerwarteten Situationen berechenbar bleibt. Dies ist auch in sozialer Hinsicht notwendig. Dieses Feld wird jedoch von den Leitlinien nicht abschließend behandelt und bleibt somit noch offen.[4] 

b.    Einbeziehung der Öffentlichkeit

Um diese Thematik nicht nur einer Expertengruppe zu überlassen, sondern sicher zu stellen, sie von verschiedensten Perspektiven zu beleuchten, um ein umfängliches Bild zu bekommen und jegliche Aspekte zu berücksichtigen, beschloss die Kommission die Öffentlichkeit zu konsultieren. An der sechsmonatigen öffentlichen Diskussionsrunde beteiligten sich mehr als 1200 Teilnehmer aus den unterschiedlichsten Interessengruppen an der  Weiterentwicklung dieser Leitlinien.[5] Die rege Teilnahme an der öffentlichen Konsultation spreche für das Interesse der Bevölkerung an dem künftigen politischen Rahmen für KI in Europa und auch international, sagte EU-Binnenmarktkommissar Thierry Breton.[6] Am 17. Juli 2020 wurde das Ergebnis dieser Umfrage von der Expertengruppe vorgelegt. „Der Beitrag der Expertengruppe und die wertvollen Beiträge von Bürgern, Experten und Interessenvertretern werden in unsere Arbeit an einem ausgewogenen Rahmen einfließen, mit dem jeder in der Wertschöpfungskette, einschließlich kleinerer und mittlerer Unternehmen, von den Vorteilen der KI profitieren kann.“[7]

Basierend auf dem „Weißbuch“ und der Auswertung der Umfrage wurden wiederum sieben Kernanforderungen[8] von der Expertengruppe herausgearbeitet:

• Vorrang menschlichen Handelns und menschlicher Aufsicht
• Technische Robustheit und Sicherheit
• Privatsphäre und Datenqualitätsmanagement
• Transparenz
• Vielfalt, Nichtdiskriminierung und Fairness
• Gesellschaftliches und ökologisches Wohlergehen und
• Rechenschaftspflicht

An dieser Leitlinie soll sich der Einsatz von KI in Europa orientieren. Im Einklang mit den politischen Leitlinien soll das Vertrauen in die Technologie gestärkt und der Einsatz von KI vorangetrieben werden.

Hierfür wurde eine Checkliste für vertrauenswürdige KI „ALTAI“ (Assessment List for Trustworthy AI) ausgearbeitet, anhand derer Unternehmen und Entwickler ihre KI-Systeme überprüfen können. Ein Prototyp dieses webbasierten Tools ist bereits verfügbar.[9]    

 

5. Einsatz von KI in Europa

Mit einem besorgten Blick in Richtung China ist es den Europäern größtenteils ein Anliegen, dass der Einsatz von intelligenter Technologie keine Überhand in der Öffentlichkeit nimmt.[10] Rechtlich muss auf Videoüberwachung in Europa stets hingewiesen werden. Gerade in Kombination mit einer Echtzeitanalyse von Gesichtszügen bestehen große Bedenken hinsichtlich Datenschutzes und Privatsphäre. Bei solchen Videoaufnahmen mit Echtzeitanalyse besteht nach der DSGVO das Recht auf Widerspruch zu einer Profilerstellung (Art. 21 Abs. 1 DSGVO).

Auch im Haushalt und Arbeitsalltag wird zunehmend auf Sprachassistenten zurückgegriffen, welche mittels Machine Learning in der Lage sind, aus unübersichtlichen Datenmengen Verknüpfungen zwischen den Informationen herzustellen und beispielsweise Werbung zielgerichtet auf die Interessen des Nutzers abzustimmen. Hier stellt sich die Frage, ob diese Entwicklung einen Mehrwert bietet, weil wir weniger mit persönlich irrelevanter Werbung konfrontiert werden, oder ob es sich vielmehr um einen starken Eingriff in unsere Privatsphäre handelt.

6. KI und Recht

Wie kann das Gesetz mit dem Fortschritt der Technologie „schritthalten“?

KI und Recht arbeiten interessanterweise auf recht ähnliche Art und Weise: beide schauen auf zurückliegende Ereignisse, um Regeln für künftige Situationen abzuleiten.[11] Trotzdem ist es wichtig, dass sich KI und Recht nicht gegenseitig im Hinblick auf Innovationen im Weg stehen. Die EU hat bereits den Stein für eine vertrauenswürdige Implementierung von KI in Form der Leitlinien ins Rollen gebracht. Nun ist es an den Mitgliedstaaten und dem Privatsektor, diesen geschaffenen Rahmen zu füllen.

Für die Implementierung von KI unter Beachtung der ethischen Leitlinie in der Praxis regt die „europäische Strategie zur künstlichen Intelligenz“ an, öffentliche und private Investitionen in KI bis 2030 auf 20 Mrd. Euro jährlich zu erhöhen.[12]

7. Ausblick

Innovationsgeist gilt es weiterhin zu fördern. Und doch muss auf der anderen Seite darauf geachtet werden, gesetzliche Rahmen zum Schutze des Datenschutzes für künftige Entwicklungen auch bereits im Voraus abzustecken. Recht ist bekanntermaßen wert- und traditionsgebunden und bewegt sich nur langsam. Das ist in diesem Bereich kaum möglich. Ein schnelles Reagieren, um Möglichkeiten zu schaffen, aber auch präventiv womöglich nicht revidierbare Eingriffe zu vermeiden, ist hier besonders wichtig. Künstliche Intelligenz wird die Rechtspraxis in vielen Bereichen in den kommenden Jahren grundlegend verändern. 

KI bringt eine innovative Chance für die EU und die einzelnen Mitgliedstaaten und wird doch weiterhin eine Herausforderung darstellen. Daten sind das Öl des 21. Jahrhunderts – und mit diesem sensiblen Rohstoff ist auch in Zukunft große Vorsicht geboten.

[1] Europäische Kommission, Artificial Intelligence, https://ec.europa.eu/digital-single-market/en/artificial-intelligence.

[2] Europäische Kommission, Mitgliedstaaten und Kommission arbeiten gemeinsam an Förderung künstlicher Intelligenz „Made in Europe“, https://ec.europa.eu/commission/presscorner/detail/de/IP_18_6689.

[3] Europäische Kommission, Artificial Intelligence, https://ec.europa.eu/digital-single-market/en/artificial-intelligence.

[4] Ausführlicher ist darüber hier zu erfahren: Europäische Kommission, Ethics guidelines for trustworthy AI, https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai/.

[5] Europäische Kommission, Künstliche Intelligenz: Ethik-Checkliste veröffentlicht – 1200 Beiträge zu Konsultation zum Weißbuch, https://ec.europa.eu/germany/news/20200717-kuenstliche-intelligenz-ethik-checkliste-veroeffentlicht-1200-beitraege-zu-konsultation_de.

[6] Ebd.

[7] Ebd.

[8] Europäische Kommission, Eine Definition der KI: Wichtigste Fähigkeiten und Wissenschaftsgebiete, https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_de.pdf.

[9] Das Tool ist zu finden unter: https://altai.insight-centre.org/Identity/Account/Register.

[10] Petring, Jörn, WirtschaftsWoche:  Chinas Sozialkreditsystem: Für Unternehmen geht es um “Leben oder Tod“, https://www.wiwo.de/politik/ausland/chinas-sozialkreditsystem-fuer-unternehmen-geht-es-um-leben-oder-tod/24949180.html.

[11] Toews, Rob, AI Will Transform The Field Of Law, Forbes: https://www.forbes.com/sites/robtoews/2019/12/19/ai-will-transform-the-field-of-law/#584177837f01.

[12] Europäische Kommission, Neue ethische Leitlinie für Künstliche Intelligenz vorgelegt, https://ec.europa.eu/germany/news/20190626-ethische-leitlinien-fuer-kuenstliche-intelligenz-vorgelegt_de.