Verantwortungsvolle KI by Design: Der KI Grenzen setzen

Der Imperativ verantwortungsvoller KI

KI-Systeme müssen nicht nur Vertrauenswürdigkeit und Security gewährleisten, sondern auch weltweit aufkommende Vorschriften einhalten. Das EU KI Gesetz, das im März 2024 vom Europäischen Parlament verabschiedet wurde, ist wegweisend und verfolgt einen risikobasierten Ansatz, um KI-Systeme zu regulieren. Für Systeme mit hohem Risiko gelten strenge Anforderungen, während für Systeme mit geringem Risiko weniger Kriterien gelten. Bestimmte Anwendungen wie Social Scoring, die als inakzeptables Risiko gelten, sind generell verboten.

Allgemeine KI-Modelle wie ChatGPT und DALL-E werden entsprechend klassifiziert – Anbieter müssen dann zusätzliche Verpflichtungen eingehen. Dazu gehören intensive Bewertungen und Cybersicherheitsmaßnahmen. Das EU AI Office kontrolliert, dass Unternehmen diese Vorschriften einhalten, führen Untersuchungen durch und konsultieren mit unabhängigen Experten, wenn notwendig. Daher ist es für Organisationen unerlässlich, diese Risiken anzugehen und robuste Rahmenwerke richtliniengesteuerter Leitplanken aufzubauen – unterstützt durch fortschrittliche Technologien. Andernfalls drohen allen Beteiligten Reputationsverluste, hohe Strafen, kostspielige Rechtsstreitigkeiten und irreparabler Schaden.

Umgang mit Risiken der KI-Technologien

Um KI-Risiken effektiv anzugehen, ist es entscheidend, ihre Quellen zu verstehen: Daten (Input), KI-Modelle (Verarbeitung) und Nutzung/Verbrauch (Output). Der Fokus auf diese drei Aspekte ist unerlässlich, um Risiken möglichst gering zu halten.

1. Daten: Es muss unbedingt sichergestellt werden, dass die für das Training von KI-Modellen verwendeten Daten genau, repräsentativ und frei von Verzerrungen sind. Darüber hinaus muss es angemessene Datenschutz- und Sicherheitsklassifizierungen und -kontrollen für die zum Training, zur Validierung und zum Testen der KI-Modelle verwendeten Daten geben. Ordnungsgemäße Data-Governance-Praktiken helfen dabei, genauere, fairere und sicherere KI-Systeme zu schaffen.
2. KI-Modell: Um Vertrauen in KI-Systeme zu schaffen, müssen Kriterien für die Modellbewertung wie Genauigkeit, Relevanz, Erklärbarkeit und Fairness festgelegt werden. Darüber hinaus ist es wichtig, robuste Sicherheitsmaßnahmen, Zugriffsmanagement und Datenschutztechniken (zum Beispiel PII-Maskierung und Verschlüsselung) zu implementieren. So sind KI-Modelle vor Angriffen geschützt. Gleichzeitig lässt sich so ihre Robustheit und Integrität gewährleisten.
3. Nutzung und Verbrauch: Unternehmen sollten ein zentrales Inventar aller KI-Initiativen implementieren, das alle Modelle kontinuierlich kontrolliert. Im Zusammenspiel mit Moderationsschichten, die über der KI liegen, ist gewährleistet, dass die Ergebnisse ethisch vertretbar sind und den etablierten Standards entsprechen. Damit sind die Vertrauenswürdigkeit und Zuverlässigkeit von KI-gesteuerten Lösungen gesichert.

Leadership Alignment und Governance etablieren

Der Aufbau eines robusten Rahmens für verantwortungsbewusste KI beginnt damit, dass die Unternehmensleitung involviert ist und alle Pläne unterstützt. Wenn verantwortungsbewusste KI für jeden Einzelnen im Unternehmen zur obersten Priorität wird, ermöglicht dies die Grundlagen von Responsible by Design (RbD). Der nächste Schritt ist, eine Governance-Struktur innerhalb des Unternehmens, zum Beispiel ein KI-Kompetenzzentrum (Center of Excellence, CoE), festzulegen und die Richtlinien zu den Leitplanken und Grundsätzen von Responsible AI festzulegen. Das Governance-Gremium kontrolliert alle KI-bezogenen Funktionen und Entwicklungen. Es schaut außerdem darauf, dass diese Initiativen die festgelegten Richtlinien einhalten.

Aufbau richtliniengesteuerter Technologie- und Prozessleitplanken

Sobald das Governance-Gremium eingerichtet ist und die Richtlinien definiert sind, sind Organisationen in der Lage, Kontrollen und Überprüfungsprozesse über den gesamten KI-Lebenszyklus hinweg zu implementieren. Allerdings haben Unternehmen oft Schwierigkeiten, die richtigen Governance-Funktionen zu identifizieren und zu implementieren. Interne KI-Governance-Gremien sollten Prozess- und technische Leitplanken einrichten, die auf den folgenden Prinzipien basieren:

• Vertrauen: Ist gewährleistet, dass Daten, KI-Modelle/Systeme und ihre Ergebnisse erklärbar, genau, reproduzierbar und nachvollziehbar sind, wird Vertrauen gewonnen und gestärkt. Die Organisation muss außerdem Fähigkeiten in den Bereichen Daten- und Modellkarten, Klassifizierung und Kennzeichnung, Qualitätsvalidierung und Berichterstattung, Abstammung und Marktplatzlösungen aufbauen.
• Ethik: KI-Entscheidungen müssen fair und unvoreingenommen sein. Nur so lässt sich gewährleisten, dass sie die Sicherheit von Menschen, Umwelt und Wirtschaft nicht beeinträchtigen – und auch die Grundrechte sowie die menschliche Autonomie schützen. KI-Systeme sollten für alle Mitarbeiter zugänglich sein, und diese müssen durch Schulungen und Kompetenzentwicklung für KI sensibilisiert werden.
• Datenschutz: Der Datenschutz jedes Einzelnen erfordert, Fähigkeiten und Leitplanken aufzubauen, beispielsweise um personenbezogene Daten zu erkennen und zu taggen oder Technologien, die den Datenschutz verbessern. Personenbezogene Daten zu minimieren, gehört ebenso dazu wie Schutz, Benachrichtigung und Einwilligungsmanagement insgesamt.
• Compliance: Aufbau gesetzeskonformer, konformer und überprüfbarer KI-Systeme durch geeignete Prozesskontrollen wie Scannen des regulatorischen Umfelds, Folgenabschätzungen, Risikokategorisierung und Maßnahmen zur Risikominderung, IP-Audit und -Schutz sowie Compliance-Bewertung.
• Security: Für ein widerstandsfähiges, robustes KI-System sind proaktive Security-Maßnahmen in Echtzeit notwendig. Dazu gehören beispielsweise Echtzeit-Bedrohungserkennung und -Warnungen, Schutz vor Inferenz und prompter Injektion sowie Zugriffs- und Berechtigungskontrollen.

Einfluss der sich weiter entwickelten Regulierungs- und Politiklandschaft 

Die KI-Regulierungs- und Richtlinienlandschaft entwickelt sich weltweit und branchenübergreifend rasch weiter. Unternehmen müssen diese Veränderungen beobachten und auf dem Laufenden sein. Sie sollten beispielsweise regelmäßig gründliche Folgenabschätzungen durchführen. So lässt sich sicherstellen, dass ihre Strategien und Rahmenbedingungen flexibel genug sind, um Änderungen, die sich aus neuen Vorschriften und Richtlinien ergeben, zu berücksichtigen. Vorschriften wie das EU-KI-Gesetz beeinflussen die KI-Strategie und -Operationen bereits in erheblichem Maße. 

„Bei verantwortungsvoller KI geht es nicht nur darum, Vorschriften einzuhalten, sondern auch um den Aufbau einer nachhaltigen Zukunft, in der die Technologie die Menschheit auf ethische und effiziente Weise unterstützt. Durch eine einheitliche Führung, Governance-Strukturen und eine kontinuierliche Kontrolle lässt sich das Potenzial von KI nutzen.“

Gaury Bhandari, Infosys

Vor dem Inkrafttreten von Datenschutzvorschriften wie der Datenschutzgrundverordnung (DSGVO) implementierten Unternehmen beispielsweise häufig grundlegende Kontrollen für den Schutz personenbezogener Daten – und ließen dabei manchmal Datenschutzaspekte außer Acht, um Geschäftsziele zu erreichen. Diese Regularien enthielten jedoch strenge Anforderungen, die die Basis für Lösungen wie die Erkennung von personenbezogenen Daten, Zustimmungsmanagement, Maskierung und Verschlüsselung sind. Mit der zunehmenden Verbreitung von KI-Anwendungsfällen und -Applikationen entwickeln sich auch die rechtlichen Anforderungen weiter.

Gleichgewicht zwischen Innovation und Governance

Mit großer Macht kommt große Verantwortung – dieses Sprichwort trifft auch auf KI zu. Unkontrolliert könnte KI zu katastrophalen Ergebnissen führen. Daher ist eine KI-Governance enorm wichtig, um ein kontrolliertes Wachstum zu gewährleisten. In der Praxis sollten Initiativen, die den Grundprinzipien des Unternehmens widersprechen, ein No-Gosein.

Bei verantwortungsvoller KI geht es nicht nur darum, Vorschriften einzuhalten, sondern auch um den Aufbau einer nachhaltigen Zukunft, in der die Technologie die Menschheit auf ethische und effiziente Weise unterstützt. Durch eine einheitliche Führung, Governance-Strukturen und eine kontinuierliche Kontrolle lässt sich das Potenzial von KI nutzen. Darüber hinaus müssen Vorschriften eingehalten werden – diese entwickeln sich in den nächsten Jahren kontinuierlich weiter. Gleichzeitig gilt es auch, sich gegen Risiken abzusichern. Dies erfordert Engagement, aber das Ergebnis – ein vertrauenswürdiges, innovatives und widerstandsfähiges Unternehmen – ist die Mühe wert.

Über den Autor:
Gaurav Bhandari ist Associate Vice President im Bereich Datenanalytik und KI bei Infosys. Er unterstützt Kunden hinsichtlich ihrer Datenverwaltung, einschließlich Datenstrategie, Data Governance, Stammdatenverwaltung und Datenschutz. Seine Interessen fokussieren sich auf KI und Datenschutz. Bhandari arbeitet weltweit mit Kunden zusammen, um Datenschutzprozesse, -richtlinien und -verfahren zu planen, zu entwickeln, zu implementieren und zu kontrollieren. Er ist vom enormen KI-Potenzial überzeugt. Für Bhandari sind Datenschutzbelange ein zentraler Aspekt bei der Konzeption, der Entwicklung, dem Einsatz und der Kontrolle von KI.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.