Kalawin - stock.adobe.com
Wie Azure OpenAI Service und Azure KI Search funktionieren
Azure OpenAI Service und Azure KI Search erlauben es Anwendern, KI-Dienste mit Unternehmensdaten zu verknüpfen. Wir zeigen, was die Services leisten.
Unternehmen können mit Azure KI Search (ehemals Azure Cognitive Search) und Azure OpenAI Service KI-Dienste verwenden, die firmeneigene Daten verarbeiten, zum Beispiel mit einem Chatbot wie ChatGPT. Neben den eigenen Daten kann Azure KI Search auch Daten, die in Microsoft 365 gespeichert sind, zum Beispiel in SharePoint Online, verarbeiten.
Der Vorteil: Anwender können ChatGPT und andere KI-Dienste mit eigenen Daten einsetzen und gleichzeitig ist sichergestellt, dass die Daten unter der Kontrolle des Unternehmens bleiben. Azure KI Search mit Azure OpenAI Service integrieren dabei das Sprachmodell GPT-4 (und neuere Modelle), um Antworten zu erstellen.
Durch die Weiterentwicklung von Azure KI Search und OpenAI Service können auch die Funktionen für den Einsatz im Unternehmen ständig verbessert und erweitert werden.
Azure KI Search im Unternehmeneinsatz
Mit Azure KI Search können Unternehmen leistungsstarke Suchfunktionen in ihre eigenen Anwendungen integrieren, die auf maschinellem Lernen basieren und die eigenen Unternehmensdaten durchsuchen. Die Suchergebnisse sind daher von hoher Qualität. Damit können Entwickler eigene Suchmaschinen für Unternehmen programmieren, die alle Daten eines Unternehmens intelligent durchsuchen.
Azure KI Search kann zudem Bilder analysieren, Sprache verarbeiten und moderne Suchschnittstellen anbieten. Damit liefert Azure KI Search mit seinen Suchindizes die wichtige Datenbasis, die generative KI-Dienste und damit Chatbots nutzen können, um die Prompts der Nutzer richtig zu beantworten. Entwickler zapfen hierfür im ersten Schritt alle Datenquellen, die mit einem Chatbot durchsucht werden sollen, an Azure KI Search an. Dabei kann es sich sowohl um Daten in der Cloud als auch um lokale Daten handeln.
Das ist vor allem in Kombination mit einem Chatbot wie ChatGPT nützlich. Damit können Anwender Prompts schreiben, für die Azure KI Search die Unternehmensdaten durchsucht und eine Antwort generiert.
Unternehmensdaten mit Azure KI Search und ChatGPT erschließen
Die Integration von Azure KI Search in ChatGPT bietet Unternehmen eine gute Möglichkeit, große interne Datenbestände zugänglich und verwertbar zu machen. Durch diese Kombination können spezifische Informationen aus großen Datenbeständen schnell und präzise abgerufen werden. Azure KI Search bietet die Indizierung unterschiedlichster Datenquellen wie Dokumente, E-Mails und Datenbanken. Die Integration mit ChatGPT ermöglicht die Abfrage dieser indizierten Informationen mittels natürlichsprachlicher Anfragen.
Dadurch müssen sich Mitarbeiter nicht manuell durch Archive oder Datenbanken navigieren, sondern können direkt über entsprechende Oberfläche darauf zugreifen. Darüber hinaus ermöglicht es die KI-gestützte Analyse von ChatGPT, komplexe Anfragen zu verstehen und relevante Antworten zu generieren, was die Informationsbeschaffung beschleunigt und vereinfacht. Die Kombination beider Technologien führt zu einer verbesserten Informationsverarbeitung und -bereitstellung im Unternehmen, wodurch Entscheidungsprozesse optimiert können.
Retrieval-Augmented Generation (RAG) in Azure KI Service und Azure KI Search
Die Kombination aus Azure KI Search und einem Chatbot des Azure OpenAI Service ermöglicht es Unternehmen, Anwendungen nach dem Retrieval-Augmented-Generation-Ansatz zu entwickeln, die mit wachsenden Herausforderungen kontinuierlich weiterentwickelt werden können. Retrieval-Augmented Generation (RAG) bietet ein passendes Modell für die Informationsverarbeitung und Wissensgenerierung in diesem Umfeld. Durch die Kombination von Information-Retrieval-Technologien (Retrieval) und Sprachgenerierungssystemen (Generation) können komplexe Anfragen präzise beantwortet und Inhalte mit hoher Relevanz und Genauigkeit generiert werden. Retrieval-Augmented Generation ermöglicht es, umfangreiche Datenbanken und Informationsquellen zu durchsuchen, um relevante Daten zu extrahieren.
Diese werden dann von Spracherzeugungsalgorithmen verwendet, um kohärente, informative und kontextbezogene Antworten zu erzeugen. Diese Technologie findet Anwendung in Bereichen wie Kundenbetreuung, Inhaltserstellung, Forschung und Datenanalyse. Die Fähigkeit, dynamisch auf die neuesten Informationen zuzugreifen und diese in die Antwortgenerierung einzubeziehen, macht Retrieval-Augmented Generation zu einem leistungsfähigen Werkzeug für Organisationen, die mit großen Datenmengen arbeiten und schnell auf sich verändernde Informationslandschaften reagieren müssen.
Die Kombination von KI Search und Azure OpenAI Service ermöglicht den Einsatz von Large Language Models (LLM), die nicht ständig neu trainiert werden müssen. Sind die Daten einmal angebunden, kann Azure KI Search sie schnell verknüpfen und mit dem Chatbot verbinden. Dies reduziert die Kosten und den Zeitaufwand für die Integration der Daten in das System. Neue Modelle stehen unmittelbar zur Verfügung und müssen nicht langwierig trainiert werden.
Einstieg in Azure KI Search
Um ein Projekt zu erstellen, können Entwickler im ersten Schritt die Datenquellen, die das System durchsuchen soll, mit Azure KI Search verbinden. Anschließend erstellt der Cloud-Dienst den Suchindex. Der Suchindex kann als Datenquelle für den Chatbot verwendet werden, den der Entwickler über den Azure OpenAI Service aufbaut.
Die Daten können wiederum über Azure OpenAI Service mit dem Chatbot verknüpft werden. Dazu kann bei der Erstellung eines neuen Chatbots im Portal Azure KI Search als Datenquelle und der passende Index ausgewählt werden. Der Chatbot kann diese Daten bei der Abarbeitung seiner Prompts nutzen und darauf basierend Antworten generieren.
