Open Source: KI-Souveränität für europäische Firmen

Regulatorische Anforderungen innerhalb der EU

Die Europäische Union verfolgt einen umfassenden Ansatz zur Regulierung von künstlicher Intelligenz, um den Schutz der Bürgerrechte sicherzustellen. Zwei zentrale Regelwerke prägen hierbei das regulatorische Umfeld für KI:

• EU AI Act (KI-Gesetz): Der EU AI Act, der voraussichtlich ab 2024 in Kraft treten wird, zielt darauf ab, KI-Anwendungen auf Grundlage ihres Risikopotenzials zu regulieren. 
• Datenschutz-Grundverordnung (DSGVO): Die DSGVO ist die wichtigste Datenschutzregelung der EU, die auch auf KI-Systeme angewendet wird, insbesondere in Bezug auf den Umgang mit personenbezogenen Daten. 

Open-Source-KI-Modelle bieten europäischen Unternehmen, wenn es um die Einhaltung regulatorischer Vorgaben geht, eine Reihe von Vorteilen. Zum einen in Bezug auf Transparenz und Nachvollziehbarkeit. Da der Quellcode von Open-Source-Modellen öffentlich zugänglich ist, können Unternehmen tiefere Einblicke in die Funktionsweise der KI gewinnen. Dies erleichtert es, die Anforderungen des EU AI Acts an Transparenz zu erfüllen, da die Unternehmen den Code anpassen und nachvollziehbare Audits durchführen können. Darüber hinaus bieten Open-Source-Modelle die Möglichkeit, die Modelle an die spezifischen Compliance-Bedürfnisse des Unternehmens anzupassen. Das erleichtert es, Datenschutzanforderungen wie die Pseudonymisierung oder Anonymisierung von Daten sicherzustellen, wie es die DSGVO fordert.

Eine aktive Zusammenarbeit innerhalb der Open-Source-Community gewährt Einblick in die neusten Entwicklungen und stellt Best Practices bereit, die Unternehmen bei der Einhaltung regulatorischer Anforderungen unterstützen. Firmen können auf eine große Anzahl von Plug-ins und Erweiterungen zurückgreifen, die darauf abzielen, ethische und gesetzliche Anforderungen umzusetzen, etwa im Bereich des BIAS-Managements oder des Datenschutzes.

Weiterhin reduzieren Open-Source-Modelle die Abhängigkeit von kommerziellen Anbietern und Lizenzgebühren. Unternehmen können Open-Source-Modelle in ihre Systeme integrieren und so gleichzeitig sicherstellen, dass sie die Kontrolle über ihre Daten und deren Verarbeitung behalten, was besonders im Hinblick auf die DSGVO wichtig ist. So tragen Open-Source-KI-Modelle dazu bei, dass europäische Unternehmen die strengen Anforderungen der EU proaktiv umsetzen und gleichzeitig flexibel auf sich ändernde rechtliche Rahmenbedingungen reagieren können. 

Nachhaltigkeit und Umweltverantwortung

Der ökologische Fußabdruck von KI-Modellen wird immer schon kritisch betrachtet, insbesondere hinsichtlich des Energieverbrauchs, Nachhaltigkeit und CO2-Bilanz. So erfordert beispielsweise das Training großer KI-Modelle enorme Mengen an Strom, vergleichbar mit dem Verbrauch einer kompletten Kleinstadt. Und dieser Energiebedarf wächst exponentiell, je größer und komplexer die Modelle werden. Auch nach erfolgtem Training benötigen KI-Modelle weiterhin große Mengen an Energie. Bei Millionen täglicher Interaktionen von Nutzern summiert sich dies schnell zu einem erheblichen Bedarf. Neben dem Stromverbrauch ist auch der Wasserverbrauch ein Problem. Rechenzentren, in denen KI-Modelle gehostet werden, benötigen große Mengen Wasser zur Kühlung.

Um diese Auswirkungen zu minimieren, arbeitet die KI-Industrie mit Hochdruck an einer Verbesserung der Energieeffizienz. Zu den Strategien gehören neben der Optimierung von Hardware, die Nutzung erneuerbarer Energiequellen, die Entwicklung energieeffizienterer Algorithmen sowie der Bau von Rechenzentren in Regionen mit saubereren Stromnetzen. Fortschritte bei der Hardware, wie effizientere Chips und Kühlsysteme, tragen ebenfalls dazu bei, den ökologischen Fußabdruck der KI zu reduzieren. Und natürlich bleibt das Pflanzen von Bäumen als Kompensation ebenfalls ein Dauerbrenner, gilt allerdings angesichts des gigantischen Verbrauchs als nicht realistisch umsetzbar.

Auch in Bezug auf Nachhaltigkeit bieten Open-Source-KI-Modelle einige signifikante Vorteile im Vergleich zu kommerziellen Modellen. Unternehmen haben bei Open Source die Wahl, ihre Infrastruktur in Rechenzentren zu betreiben, die etwa nur Strom aus erneuerbaren Energien beziehen. Hierbei haben Cloud-Infrastrukturen im Vergleich zu lokalen (On-Premise) Servern deutlich die Nase vorn. Cloud-Anbieter betreiben hochoptimierte Rechenzentren, die durch Lastverteilung und Virtualisierung eine weitaus höhere Effizienz erreichen. Das bedeutet, dass weniger Energie pro Recheneinheit benötigt wird, da die Server stets so ausgelastet sind, dass ihre Kapazität voll genutzt wird. Dies ist im Gegensatz zu On-Premise-Servern, die häufig ungenutzte Ressourcen haben und dennoch Strom verbrauchen, ein wesentlicher Vorteil. 

Die Flexibilität und Souveränität von Open-Source-KI-Modellen bieten Unternehmen und Entwicklern zudem die Möglichkeit, insbesondere beim Training gezielt zu steuern, wann und wie viel Rechenleistung benötigt wird, das sogenannte Demand Shaping. Dabei kann die Arbeitslast entsprechend den verfügbaren Ressourcen und dem Energieangebot optimiert werden. Besonders bei variabler Energieverfügbarkeit, wie sie bei erneuerbaren Energien (Solar- oder Wind) auftritt, lässt sich der Stromverbrauch an die Phasen anpassen, in denen mehr grüne Energie verfügbar ist. 

„ Open Source ermöglicht es Unternehmen, flexibel auf Veränderungen im Markt zu reagieren, indem sie ihre KI-Lösungen schnell anpassen und weiterentwickeln können. Dies führt zu kürzeren Innovationszyklen und einer höheren Agilität gegenüber neuen Markterfordernissen. Diese Anpassungsfähigkeit ist besonders wertvoll in spezialisierten Sektoren.“

Stefan Rotsch, AOE GmbH

Da Open-Source-KI-Modelle volle Transparenz – im Gegensatz zu den meist recht zugeknöpften kommerziellen Modellen – bieten, ist das Environmental, Social, and Governance Reporting bei der Nutzung eigener Rechenzentren oder spezialisierter Cloud-Anbieter ebenfalls einfacher. Unternehmen haben direkten Zugriff auf die Infrastruktur und können so detaillierte Daten über den Energieverbrauch, die verwendeten Energiequellen und die resultierenden Emissionen sammeln. Sie sind in der Lage, detaillierte Berichte über die CO2-Bilanz ihrer Lösungen zu erstellen, was bei der Einhaltung von Nachhaltigkeitsrichtlinien sowie bei der Berichterstattung an Aufsichtsbehörden oder Stakeholder von Vorteil ist.

Risiken und Herausforderungen bei der Nutzung von Open-Source-Modellen

Wie das Sprichwort sagt: Wo Licht ist, ist auch Schatten., birgt ein Einsatz von Open-Source-Modellen auch Risiken, die es gilt, aktiv zu managen, um Nachteile zu vermeiden. Betrachten wir die Kehrseite(n) der Medaille:

Open-Source-Software ist generell anfälliger für das Ausnutzen von Sicherheitslücken, da der Quellcode öffentlich zugänglich und somit das Risiko höher ist, dass zu einer Lücke auch entsprechende Exploits gefunden und ausgenutzt werden. Daher ist es umso wichtiger, Releases mit Security Fixes so schnell wie möglich zu installieren. Weiterhin helfen bewährte Maßnahmen und Prüfwerkzeuge aus dem Cyber-Security-Baukasten, wie regelmäßige Sicherheitschecks, der Einsatz von automatisierten Tools zur Schwachstellenanalyse und der regelmäßige Austausch von Patches und Updates, dabei, diese Lücken zu schließen und das Risiko zu minimieren. Der Einsatz von Open-Source-Technologien erfordert demnach, dass Unternehmen im Hinblick auf Cybersicherheit, proaktiv am Puls der Zeit bleiben.

So attraktiv Open-Source-KI auch kostenseitig ist, Anwender müssen meist ohne formellen kommerziellen Support bei der Nutzung auskommen, was zu Herausforderungen bei Wartung und Weiterentwicklung der Modelle führen kann. Unternehmen sind daher stark auf  interne Teams mit entsprechenden Fachkenntnissen angewiesen oder auf die Community, was die Lösung von Problemen verlangsamen könnte. Und: Ohne Fachkenntnisse geht bei der Implementierung und dem Management von Open-Source-KI ohnehin nichts, da ohne entsprechendes Know-how die Anwendung ineffizient sein oder Fehler enthalten könnte. Alternativ gibt es aber auch Geschäftsmodelle, bei denen man entweder eine Software als Open Source nutzt oder sich durch den Erwerb von Premium-Lizenzen mit umfassendem Support zusätzliche Vorteile sichern kann.

An dieser Stelle kann der Einsatz eines professionellen Dienstleisters die Lücke schließen, insbesondere angesichts des zunehmenden Fachkräftemangels im Bereich IT. Externe Experten bringen nicht nur das notwendige Fachwissen mit, sondern auch aktuelle Best Practices und branchenspezifische Erfahrung, was für eine effiziente und sichere Implementierung von KI-Lösungen von großem Vorteil ist. So können Unternehmen flexibel auf neue Herausforderungen reagieren, ohne interne Ressourcen langfristig binden zu müssen. 

Eine weitere Herausforderung bei Open-Source-KI-Modellen ist die Sicherstellung der Modellqualität und dabei die Vermeidung sogenannter BIAS (Verzerrungen). Da Open-Source-Modelle häufig auf sehr großen Datensätzen, die von der Community beigetragen werden, basieren, kann es leicht zu Verzerrungen kommen. Grund hierfür ist, dass eine derartige Masse von Trainingsdaten auch immer gesellschaftliche Vorurteile widerspiegelt. KI-Modelle reproduzieren unbewusst diese Muster. Daher gilt es, Modelle möglichst mit diverseren und repräsentativeren Datensätzen zu trainieren und gleichzeitig spezielle Methoden zur BIAS-Detektion zu implementieren.

Um die Fähigkeit von KI-Systemen besonders im Hinblick auf genaue und kontextbezogene Antworten zu verbessern, setzen wir bei AOE auf Retrieval-augmented Generation (RAG). RAG ist ein Ansatz in der KI, der zwei leistungsstarke Technologien kombiniert: Information Retrieval und Generative Modelle. Wie funktioniert das genau? Zunächst wird bei einer Anfrage ein Suchprozess gestartet, der relevante externe Informationen aus einer Datenbank, einem Dokumentenspeicher oder dem Internet abruft. Dies erfolgt durch spezielle Modelle oder Algorithmen, die darauf ausgelegt sind, die relevantesten Textausschnitte oder Daten zu finden, die zur gestellten Frage passen. Anschließend verwendet ein Generatives Modell die abgerufenen Informationen, um auf der Basis dieser Quellen eine kohärente und präzise Antwort zu erstellen. Durch diesen zusätzlichen Kontext kann die KI fundiertere Antworten geben, da sie nicht nur auf ihr internes Modellwissen, sondern auch auf aktuelle oder spezifische Informationen aus externen Quellen zurückgreift. Solche Anwendungen können dann auch mit sogenannten Custom AI Agents über Schnittstellen agieren, weitere Businesslogiken enthalten, ein Gedächtnis nutzen und auch die Stärken verschiedener Modelle miteinander kombinieren. Custom AI Agents wird eine hohe Relevanz für die Umsetzung einer KI- Strategie in Unternehmen zugeschrieben – denn sie können sehr kontextspezifisch und individuell  in ganz verschiedenen Bereichen der Wertschöpfung eingesetzt werden.

Strategische Vorteile dank Open-Source-KI für europäische Unternehmen

Europäische Unternehmen können in vielerlei Hinsicht von einem Einsatz von Open-Source-KI-Lösungen profitieren. Sie reduzieren ihre Abhängigkeit von nicht-europäischen Tech-Giganten und fördern so die digitale Souveränität Europas. Gleichzeitig profitieren sie von mehr Kontrolle über ihre Daten und Technologien und sind so in der Lage, regulatorische Anforderungen wie zum Beipiel die europäische Datenschutzgrundverordnung (DSGVO) einzuhalten. Durch den offenen Zugang zu KI-Technologien werden Forschung und Entwicklung in Europa vorangetrieben. Universitäten, Forschungsinstitute und Unternehmen können kollaborativ auf denselben Technologien aufbauen, was das technologische Know-how in Europa stärkt.

Open Source ermöglicht es Unternehmen, flexibel auf Veränderungen im Markt zu reagieren, indem sie ihre KI-Lösungen schnell anpassen und weiterentwickeln können. Dies führt zu kürzeren Innovationszyklen und einer höheren Agilität gegenüber neuen Markterfordernissen. Diese Anpassungsfähigkeit ist besonders wertvoll in spezialisierten Sektoren wie der Automobilindustrie, der Gesundheitsbranche oder der Fertigung, wo individuelle Anforderungen eine Schlüsselrolle spielen. Auch können durch Open-Source-Ansätze einzelne Modelle besser wiederverwendet werden. Ihre Flexibilität und vollständige Transparenz hilft Unternehmen bei der Verbesserung ihres ökologischen Fußabdrucks. So macht Open Source KI zugänglicher, nachhaltiger, sicherer und vertrauenswürdiger – und hilft Unternehmen, viele KI-bezogene Herausforderungen zu bewältigen.

Warum Souveränität wichtig ist und wie sich Open-Source-KI von geschlossenen KI-Modellen unterscheidet, können Sie im ersten Teil zum Thema KI-Souveränität nachlesen.

Über den Autor:
Stefan Rotsch ist Solution Architect bei der AOE GmbH. Rotsch besitzt umfangreiche Kenntnisse in der Entwicklung und Architektur komplexer Softwareprojekte. In seiner Rolle als Solution Architect bei der AOE GmbH konzentriert er sich darauf, Kunden und Entwicklungsteams von der ersten Idee bis zum erfolgreichen Go-Live zu begleiten. Sein Fokus liegt dabei besonders auf nachhaltigen und ressourcenschonenden Lösungen. Mit seiner langjährigen Expertise in der Entwicklung komplexer Webapplikationen, insbesondere im Telekommunikations-bereich, analysiert und entwirft er maßgeschneiderte Softwarelösungen. Stefan teilt sein reichhaltiges Wissen über agile Softwareentwicklungsprozesse nicht nur innerhalb seiner Projekte, sondern auch durch Artikel, Vorträge auf Konferenzen und Bar Camps sowie in Schulungen, wodurch er einen wertvollen Beitrag zur Fachgemeinschaft leistet.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.