Entschließung der 97. Konferenz der unabhängigen Datenschutzaufsichtsbehörden
des Bundes und der Länder
Hambacher Schloss, 3. April 2019
Hambacher Erklärung zur Künstlichen Intelligenz
Sieben datenschutzrechtliche Anforderungen
Systeme der Künstlichen Intelligenz (KI) stellen eine substanzielle Herausforderung für Freiheit und
Demokratie in unserer Rechtsordnung dar. Entwicklungen und Anwendungen von KI müssen in demo
kratischrechtsstaatlicher Weise den Grundrechten entsprechen. Nicht alles, was technisch möglich und
ökonomisch erwünscht ist, darf in der Realität umgesetzt werden. Das gilt in besonderem Maße für den
Einsatz von selbstlernenden Systemen, die massenhaft Daten verarbeiten und durch automatisierte
Einzelentscheidungen in Rechte und Freiheiten Betroffener eingreifen. Die Wahrung der Grundrechte ist
Aufgabe aller staatlichen Instanzen. Wesentliche Rahmenbedingungen für den Einsatz von KI sind vom
Gesetzgeber vorzugeben und durch die Aufsichtsbehörden zu vollziehen. Nur wenn der Grundrechtsschutz
und der Datenschutz mit dem Prozess der Digitalisierung Schritt halten, ist eine Zukunft möglich, in der
am Ende Menschen und nicht Maschinen über Menschen entscheiden.
I. Künstliche Intelligenz und Datenschutz
„Künstliche Intelligenz“ (auch „KI“ oder „Artificial Intelligence“ – „AI“) wird derzeit intensiv diskutiert, da
sie neue Wertschöpfung in vielen Bereichen von Wirtschaft und Gesellschaft verspricht. Die Bundesre
gierung hat eine KI-Strategie veröffentlicht, mit dem Ziel, Deutschland an die Weltspitze der Entwicklung
von KI zu bringen. „AI made in Germany“ soll gleichzeitig dafür sorgen, dass auch bei weitreichendem
Einsatz Künstlicher Intelligenz die Grundwerte und Freiheitsrechte, die in Deutschland und der EU gelten,
weiterhin die prägende Rolle für unser Zusammenleben spielen. Die unabhängigen Datenschutzaufsichts
behörden des Bundes und der Länder begrüßen diesen Ansatz der grundrechtsverträglichen Gestaltung
von KI ausdrücklich.
Eine allgemein anerkannte Definition des Begriffs der Künstlichen Intelligenz existiert bisher nicht. Nach
dem Verständnis der Bundesregierung geht es bei KI darum, „technische Systeme so zu konzipieren, dass
sie Probleme eigenständig bearbeiten und sich dabei selbst auf veränderte Bedingungen einstellen kön
nen. Diese Systeme haben die Eigenschaft, aus neuen Daten zu „lernen“ […].“1
KISysteme werden beispielsweise bereits in der Medizin unterstützend in Forschung und Therapie
eingesetzt. Schon heute sind neuronale Netze in der Lage, automatisch komplexe Tumorstrukturen zu
erkennen. KISysteme können auch genutzt werden, um Depressionserkrankungen anhand des Verhaltens
in sozialen Netzwerken oder anhand der Stimmmodulation beim Bedienen von Sprachassistenten zu
erkennen. In den Händen von Ärzten kann dieses Wissen dem Wohl der Erkrankten dienen. In den falschen
Händen jedoch, kann es auch missbraucht werden.
Auch zur Bewertung von Bewerbungsunterlagen wurde bereits ein KISystem eingesetzt, mit dem Ziel, frei
von menschlichen Vorurteilen zu entscheiden. Allerdings hatte das Unternehmen bislang überwiegend
männliche Bewerber eingestellt und das KISystem mit deren erfolgreichen Bewerbungen trainiert. In der
Folge bewertete das KISystem Frauen sehr viel schlechter, obwohl das Geschlecht nicht nur kein vorgege
benes Bewertungskriterium, sondern dem System sogar unbekannt war. Dies offenbart die Gefahr, dass in
Trainingsdaten abgebildete Diskriminierungen nicht beseitigt, sondern verfestigt werden.
1 BTDrs. 19/1982 zu 1., Die Datenethikkommission der Bundesregierung hebt ergänzend als wichtige
Grundlagen für KI die Mustererkennung, das maschinelle Lernen und Methoden der heuristischen Suche,
der Inferenz und der Handlungsplanung hervor (Empfehlungen der Datenethikkommission für die Strategie
Künstliche Intelligenz der Bundesregierung, 9.10.2018; ).
Tätigkeitsbericht zum Datenschutz für 2019
17