vectorfusionart - stock.adobe.co
Was Unternehmen zur KI-Verordnung der EU wissen sollten
Wirtschaftsverbände, Verbraucherschützer und Datenschützer sehen Änderungsbedarf bei der geplanten KI-Verordnung der EU. Viele Unternehmen könnten direkt betroffen sein.
Die geplante KI-Verordnung der EU soll sicherstellen, dass die Europäerinnen und Europäer dem vertrauen können, was eine KI zu bieten hat (siehe auch Der Artificial Intelligence Act der EU und der Datenschutz). Doch Kritiker vermissen die notwendige Klarheit in den Vorgaben, befürchten eine Rechtsunsicherheit und hohe Aufwände bei der Umsetzung der Regeln für künstliche Intelligenz.
Wie bedeutsam die KI-Regulierung durch die EU für die Wirtschaft sein wird, betont zum Beispiel auch der Landesbeauftragte für den Datenschutz und die Informationsfreiheit (LfDI) Rheinland-Pfalz, Professor Dieter Kugelmann: „Die Ausgestaltung der KI-Verordnung wird unmittelbaren Einfluss auf Rheinland-Pfalz haben: Zum einen setzen vor allem größere Unternehmen wie John Deere und BASF bereits auf künstliche Intelligenz.
An welchen Stellen sie in Zukunft neue Wege beschreiten, wird auch von den rechtlichen Rahmenbedingungen innerhalb der EU abhängen. Zum anderen wird in Rheinland-Pfalz vielfältige KI-Forschung betrieben – am Deutschen Forschungszentrum für künstliche Intelligenz (DFKI) in Kaiserslautern, dem Fraunhofer-Institut für Techno- und Wirtschaftsmathematik (ITWM), dem Fraunhofer-Institut für Experimentelles Software Engineering (IESE) sowie an den verschiedenen Universitäten und Hochschulen.“
Es lohnt sich deshalb, die geplante KI-Verordnung der EU weiter genau im Blick zu behalten.
Digitalwirtschaft warnt vor verfrühter Regulierung
Aus Sicht des BVDW ist vertrauensvolle und innovationsfreudige künstliche Intelligenz ein wesentlicher Standortfaktor für Europa und seine Wirtschaft. Die Einhaltung europäischer Werte und Grundsätze ist dabei von höchster Relevanz und der Mensch – sowie die Auswirkungen auf ihn – sollten bei allen Bestrebungen im Fokus stehen“, erläutert Achim Himmelreich, Vizepräsident des Bundesverbands Digitale Wirtschaft (BVDW) e. V.
Der BVDW befürwortet grundsätzlich einen europaweiten Ansatz im Umgang mit künstlicher Intelligenz, wirft jedoch zugleich die Frage auf, ob eine solche einheitliche Verordnung, wie sie nun vorgelegt wurde, das geeignete Mittel ist, um KI in Europa sinnvoll und gewinnbringend zu gestalten.
Eine umfassende Grundregulierung erscheint aus Sicht des BVDW vor dem Hintergrund laufender wissenschaftlicher und wirtschaftlicher Entwicklungen verfrüht. Zudem sei fraglich, ob eine derartige Verordnung überhaupt umsetzbar ist und dadurch Rechtssicherheit geschaffen werden kann. Das Ziel, eine erste umfassende Grundregulierung für KI zu schaffen, erscheine somit als sehr ambitioniert.
„Die Details der Verordnung legen aus Sicht des BVDW offen, dass ein horizontaler Ansatz, der für jegliche KI-Anwendungen gilt, bei der Vielfalt der Funktionsweisen und Einsatzgebiete von KI massive Schwierigkeiten und Rechtsunsicherheiten mit sich bringt“, erörterte Himmelreich.
Wunsch nach mehr branchenspezifischen KI-Regeln oder Ausnahmen
Der Bundesverband Medizintechnologie, BVMed, zum Beispiel begrüßt in seiner Stellungnahme zum Entwurf eines „Artificial Intelligence Act“ (AIA) der Europäischen Kommission die Bemühungen zur Harmonisierung von Regelungen zur künstlichen Intelligenz grundsätzlich.
Im Bereich der Medizin und Gesundheitsversorgung sollte aber eine Überregulierung der KI-Anwendungen unbedingt vermieden werden, „damit der Patientenzugang zu hochinnovativen KI-Medizinprodukten gewährleistet bleibt“, so BVMed-Geschäftsführer Dr. Marc-Pierre Möll. Die neue EU-Medizinprodukte-Verordnung (MDR) biete bereits ein sehr hohes Level an Sicherheit und Qualität für Patientinnen und Patienten.
Der Medizinproduktebereich sei einer der am intensivsten regulierten und harmonisierten Produktsektoren in der EU. „Die Unternehmen sollten deshalb nicht zusätzlich verpflichtet werden, Aufwände für eine KI-Regulierung zu tätigen, wenn bereits im Rahmen der MDR die in einer KI-Verordnung geforderten Mindestanforderungen erfüllt oder überschritten werden“, so der BVMed.
Es gibt aber auch Stimmen, die für bestimmte Branchen schärfere Vorgaben für den Einsatz von KI wünschen. Der Verbraucherzentrale Bundesverband (vzbv) kritisiert, dass der AIA Verbraucherinnen und Verbraucher nicht wirksam vor KI-Systemen schütze, die erheblichen wirtschaftliche Schäden verursachen könnten, etwa im Bereich Versicherungen. Außerdem schaffe er kaum Transparenz für Verbraucher und überlasse die Kontrolle hochriskanter KI-Systeme weitgehend den Anbietern selber.
Der Vorschlag schütze Verbraucher nicht wirksam vor dem Einsatz von Emotionserkennungssystemen und Persönlichkeitsanalysen durch private Stellen, so der vzbv. So sollten etwa vermeintliche Lügendetektoren oder Systeme zur Emotionserkennung untersagt werden, wenn sie die Schwächen Einzelner (wie Schmerzen, Müdigkeit oder Veranlagung zu Spielsucht) zum kommerziellen Vorteil der Anbieter ausnutzen.
Die Verwendung biometrischer Identifikationssysteme in öffentlich zugänglichen Räumen durch private Stellen sollte untersagt werden – etwa, wenn „smarte Brillen“ im öffentlichen Nahverkehr Passanten identifizieren, erklären die Verbraucherschützer.
Künstliche Intelligenz muss dem Menschen dienen
Auch die Datenschützer haben sich mehrfach zu der geplanten KI-Verordnung der EU zu Wort gemeldet. „Das Verbot des Einsatzes von KI zur Massenüberwachung in dem Verordnungsvorschlag ist zu begrüßen, aber es sollte geschärft werden“, so der Landesdatenschutzbeauftragte Prof. Kugelmann. „Technologien zur automatisierten Gesichtserkennung sollen in der EU unter bestimmten Voraussetzungen tatsächlich zulässig sein. Der Entwurf sieht Ausnahmen für den Einsatz entsprechender Gesichtserkennungs- und Stimmerkennungssoftware vor, obwohl gerade in diesem Bereich ein besonders großes Missbrauchspotenzial besteht.“
Es wird noch viel Arbeit nötig sein, bis der Vorschlag der Europäischen Kommission einen gut funktionierenden Rechtsrahmen hervorbringt, der die geltenden Regeln zum Datenschutz wie etwa die Datenschutz-Grundverordnung beim Schutz der grundlegenden Menschenrechte wirksam ergänzt und gleichzeitig KI-Innovationen fördert, erklärte der Bundesdatenschutzbeauftragte Prof. Ulrich Kelber. „Es stellen sich grundlegende Fragen, die nur in einem breiten gesellschaftlichen Dialog sinnvoll zu beantworten sind. Außerdem muss das Zusammenspiel der neuen KI-Verordnung und bestehendem Recht, insbesondere der Datenschutz-Grundverordnung sowie Fragen der Ausgestaltung von Aufsicht und Rechtsdurchsetzung der neuen KI-Vorgaben geklärt werden“, so Prof. Kelber.
Forderung nach genauerer Definition, aber auch Zweifel an Notwendigkeit
Die noch laufende Diskussion rund um den geplanten Artificial Intelligence Act (AIA) der Europäischen Kommission zeigt sehr deutlich, als wie wichtig KI gesehen wird und wie entscheidend das richtige Ausmaß einer Regulierung ist.
Dabei reichen die Forderungen von einer genaueren Definition von KI bis hin zu der Aussage, dass man an sich keine KI-spezifische Regulierung brauche.
So sagt zum Beispiel der ZVEI (Zentralverband Elektrotechnik- und Elektronikindustrie e.V.), der aktuell sehr breite Anwendungsbereich der geplanten Verordnung sollte kritisch hinterfragt werden. Basierend auf dem aktuellen Verordnungsentwurf würden nicht nur KI-Anwendungen, sondern auch herkömmliche Datenanalysesoftware umfasst werden, die auf statistischen Konzepten basiert.
Zum anderen erklärt zum Beispiel der Digitalverband Bitkom, KI biete riesige Chancen. Diese Chancen sollten nicht durch ein Übermaß an Sonderregulierung verstellt werden. Vielmehr müssten die in den jeweiligen Lebensbereichen geltenden Gesetze und Regeln auch für KI-Lösungen konsequent angewandt werden. Gesetzgebung sollte technologieneutral und innovationsfreundlich sein. Eine an den ohnehin sehr weiten KI-Begriff anknüpfende Regulierungen sei nicht sachgerecht, so Bitkom.
Ein Mitverfolgen der Diskussion zur KI-Regulierung in der EU und eine aktive Beteiligung daran erscheint deshalb geboten, für alle Interessengruppen. Die möglichen Folgen eines AIA in der EU können nicht überschätzt werden.
