Enterprise Search gibt generativer KI einen sicheren Rahmen

Generative KI halluziniert

Eine der größten Gefahren droht durch Halluzinationen. Immer wieder werden Fälle bekannt, in denen Systeme wie ChatGPT vermeintliche Fakten einfach erfinden. Der Grund dafür liegt in ihrer Funktionsweise. Wenn generative KI einen Text erzeugt, tut sie das Wort für Wort und fügt dabei als nächstes das am wahrscheinlichsten sinnvolle Wort hinzu. Ob die Wörter der Wahrheit entsprechen, ist nicht sicher – es ist lediglich mehr oder weniger wahrscheinlich. So kommt es zu Texten, die falsche Informationen enthalten, was aber durch die formale Perfektion der Texte für den Anwender oft gar nicht erkennbar ist.

Zudem bestehen Risiken in Sachen Datenschutz und Datensicherheit, ganz zu schweigen von ungeklärten Urheberrechtsaspekten. Die Nutzung eines wo auch immer in der Cloud betriebenen Sprachmodells birgt die Gefahr in sich, dass dort sensible Unternehmensdaten landen, die dort nicht hingehören – Zusicherung des Cloud-KI-Anbieters hin oder her, dass mit den Daten nichts gemacht wird. Dies stellt einen Kontrollverlust bei Compliance und Sicherheit dar, der genau zu betrachten ist.

Generative KI in bewährte Strukturen integrieren

Ein Anwendungsgebiet, das es Unternehmen und Behörden erlaubt, diese Risiken zu beherrschen, ist Enterprise Search. Möglich ist das durch die Integration der generativen KI in die bereits vorhandenen und bewährten Strukturen der unternehmensweiten Suche. Enterprise Search hat nämlich bereits alle relevanten Datenquellen integriert und macht diesen konsolidierten Informationsschatz nun für die KI sinnvoll nutzbar.

Die generativen Modelle agieren nicht losgelöst, denn im Rahmen von Enterprise Search ist es nicht ihre Aufgabe, Antworten auf beliebige Fragen zu geben. Stattdessen verarbeiten sie die Treffer, die von der Unternehmenssuche auf herkömmliche Weise ermittelt werden, weiter – und zwar in Form von Zusammenfassungen oder Antworten auf Fragen zu diesen Treffern. Dabei verwenden sie nur Informationen aus organisationseigenen Daten, die faktisch korrekt sind, wodurch das Risiko für Halluzinationen sinkt.

„Unternehmen und Behörden kennen ihre Prozesse selbst am besten und können ausloten, wie sie individuell am meisten von der Kombination aus Enterprise Search und generativer KI profitieren.“

Franz Kögl, IntraFind

Da die Trefferlisten bereits rechtegeprüft sind, enthalten die Zusammenfassungen und Antworten außerdem automatisch ausschließlich Informationen, für die der jeweilige Nutzer auch zugriffsberechtigt ist. Somit ist Datenschutzverstößen vorgebeugt. Zudem stehen Unternehmen und Behörden Open-Source-basierte generative Modelle zur Verfügung, die Transparenz gewährleisten und von Organisationen auch in ihren eigenen Rechenzentren ausgeführt werden können, wenn sie hohe Compliance- und Sicherheits-Anforderungen haben.

Zahlreiche nützliche Use Cases möglich

Im Rahmen von Enterprise Search eröffnet sich Unternehmen und Behörden dadurch ein nutzbringender und sicherer Einsatz von generativer KI. Sie können prägnante Zusammenfassungen aus Suchergebenissen wie umfangreichen Berichten, Präsentationen oder elektronischen Akten inklusive der kompletten Quellenangaben erzeugen lassen. Zusätzlich haben sie die Möglichkeit, Chats zu implementieren, mit denen die Endanwender in einen Dialog mit den Suchergebnissen treten, indem sie Fragen dazu stellen und Antworten erhalten.

Von diesen Möglichkeiten können Unternehmen und Behörden an vielen Stellen profitieren:

• Gefundene Texte und Informationen lassen sich wesentlich schneller rezipieren und die User Experience der Enterprise Search verbessert sich weiter.
• Das Question Answering erreicht ein neues Niveau. Dies gilt sowohl für interne organisatorische Anfragen als auch für Chats mit Kunden oder Bürgern.
• Unternehmen und Behörden optimieren ihr Wissensmanagement. Das gesammelte Know-how wird einfacher zugänglich, neue Mitarbeiter lassen sich schneller einarbeiten und das Wissen ausgeschiedener Kollegen kann effizienter an ihre Nachfolger weitergegeben werden. 
• Industrieunternehmen verbessern ihren Service. Servicemitarbeiter haben bei Kundenproblemen die Möglichkeit, sich die Lösungen aus umfangreichen technischen Dokumentationen durch Zusammenfassungen und Nachfragen schnell zu erschließen.
• Behörden können einen Vermerkassistenten implementieren, der Sachbearbeiterinnen und Sachbearbeitern bei der Erstellung von Aktenvermerken unterstützt. Die generative KI fasst dazu den Sachverhalt zusammen, während die Beurteilung und abschließende Bewertung weiterhin in der Verantwortung der Sachbearbeiterinnen und Sachbearbeiter liegen.

Organisationen kennen ihre Prozesse am besten

Das sind lediglich einige Beispiele für die zahlreichen potenziellen Use Cases. Generative KI eröffnet der Unternehmenssuche immense Möglichkeiten und Organisationen vielfältige Anwendungsgebiete. Unternehmen und Behörden kennen ihre Prozesse selbst am besten und können ausloten, wie sie individuell am meisten von der Kombination aus Enterprise Search und generativer KI profitieren. In jedem Fall haben sie die Möglichkeit, das volle Potenzial ihrer Daten auszuschöpfen, die Effektivität der Wissenssuche zu optimieren, neue Use Cases für Wissensmanagement zu erschließen und ihre Produktivität zu steigern.

Über den Autor:

Franz Kögl ist Vorstand bei IntraFind in München, einem Spezialisten für Enterprise Search und KI.

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.