LangChain

Was ist LangChain?

LangChain ist ein Open-Source-Framework, das es Softwareentwicklern, die mit künstlicher Intelligenz (KI) und maschinellen Lernen arbeiten, ermöglicht, Large Language Models (LLM) mit anderen externen Komponenten zu kombinieren, um LLM-gestützte Anwendungen zu entwickeln.

LangChain zielt darauf ab, leistungsstarke LLMs wie GPT-3.5 und GPT-4 von OpenAI mit einer Reihe externer Datenquellen zu verknüpfen, um Anwendungen für die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) zu erstellen und von deren Vorteilen zu profitieren. Es wird auch zur Erstellung von Schnittstellen verwendet, die menschenähnliche Antworten erzeugen und Fragen beantworten.

Entwickler, Softwareingenieure und Datenwissenschaftler mit Erfahrung in den Programmiersprachen Python, JavaScript oder TypeScript können die in diesen Sprachen angebotenen LangChain-Pakete verwenden.

LangChain wurde 2022 von den Mitbegründern Harrison Chase und Ankush Gola als Open-Source-Projekt veröffentlicht.

Warum ist LangChain wichtig?

LangChain ist ein Framework, das den Prozess der Erstellung generativer KI-Anwendungsschnittstellen vereinfacht. Entwickler, die an diesen Arten von Schnittstellen arbeiten, verwenden verschiedene Tools, um fortschrittliche NLP-Apps zu erstellen; LangChain rationalisiert diesen Prozess. Beispielsweise müssen LLMs auf große Mengen an Big Data zugreifen, sodass LangChain diese großen Datenmengen so organisiert, dass sie leicht zugänglich sind.

Darüber hinaus werden GPT-Modelle (Generative Pre-Trained Transformer) anhand von Daten trainiert, die bis zu einem bestimmten Zeitpunkt, dem sogenannten Wissensstichtag (Knowledge Cutoff Date), verfügbar sind. Während Modelle häufig aktualisiert werden, um ihren Stichtag zu verlängern, kann LangChain KI-Modelle direkt mit Datenquellen verbinden, um ihnen uneingeschränkt Wissen über aktuelle Daten zu vermitteln.

Was sind die Vorteile von LangChain?

LangChain bietet verschiedene Vorteile, darunter die folgenden:

• Open-Source- und Community-Vorteile. Als Open-Source-Framework lebt LangChain von Beiträgen und der Zusammenarbeit der Community und ist auf Plattformen wie GitHub leicht zugänglich. Entwickler können Innovationen vorantreiben, indem sie auf eine Fülle von Ressourcen, Tutorials, Dokumentationen und Support von anderen LangChain-Nutzern zugreifen.
• Modulares Design. Die modulare Architektur von LangChain ermöglicht es Entwicklern, Komponenten für spezifische Anforderungen zu kombinieren, anzupassen und zu individualisieren.
• Vereinfachte Entwicklung. LangChain bietet eine standardisierte Schnittstelle, die es Entwicklern erlaubt, einfach zwischen verschiedenen LLMs zu wechseln, Arbeitsabläufe zu optimieren und die Komplexität der Integration zu reduzieren. So können sie beispielsweise mit minimalen Code-Änderungen zwischen LLMs von Anbietern wie OpenAI oder Hugging Face wechseln.
• Umfunktionierte LLMs. Mit LangChain können Organisationen LLMs für domänenspezifische Anwendungen ohne erneute Schulung umfunktionieren, sodass Entwicklungsteams Modellantworten mit proprietären Informationen, wie zum Beispiel Zusammenfassungen interner Dokumente, verbessern können. Der RAG-Workflow (Retrieval-Augmented Generation) verbessert die Antwortgenauigkeit weiter und reduziert Modellhalluzinationen der generativen KI, indem relevante Informationen während des Prompts eingeblendet werden.
• Interaktive Anwendungen. LangChain ermöglicht interaktive Anwendungen durch Echtzeit-Kommunikation mit Sprachmodellen. So können beispielsweise mit seinen modularen Komponenten interaktive Anwendungen wie Chatbots und KI-Assistenten erstellt werden, die Benutzer in Echtzeit einbinden.

Welche Funktionen bietet LangChain?

LangChain bietet folgende Features, die sicherstellen, dass die verschiedenen Komponenten, die für eine effektive NLP-Anwendung erforderlich sind, reibungslos funktionieren:

• Modellinteraktion. Dieses Modul, auch Modell I/O genannt, ermöglicht es LangChain, mit jedem Sprachmodell zu interagieren und Aufgaben wie die Verwaltung von Eingaben in das Modell und die Extraktion von Informationen aus dessen Ausgaben auszuführen.
• Prompt-Vorlagen. LangChain enthält Prompt-Templates, die es Entwicklern ermöglichen, strukturierte Prompts für LLMs zu erstellen. Diese Vorlagen können Beispiele enthalten und Ausgabeformate spezifizieren, was reibungslosere Interaktionen und genauere Antworten der Modelle erlaubt.
• Datenverbindung und -abruf. Daten, auf die LLMs zugreifen, können mit diesem Feature transformiert, in Datenbanken gespeichert und aus diesen Datenbanken abgerufen werden.
• Chains. Die Verwendung von LangChain zum Erstellen komplexerer Apps kann andere Komponenten oder sogar mehr als ein LLM erfordern. Dieses Modul verknüpft mehrere LLMs mit anderen Komponenten oder LLMs. Dies wird als LLM-Chain (Kette) bezeichnet.
• Agenten. Mit den Agenten können LLMs die besten Schritte oder Maßnahmen zur Problemlösung festlegen. Die Funktion koordiniert eine Reihe komplexer Befehle an LLMs und andere Tools, damit diese auf bestimmte Anfragen reagieren.
• Speicher. Das Speichermodul hilft einem LLM, sich den Kontext seiner Interaktionen mit Benutzern zu merken. Je nach spezifischer Verwendung kann einem Modell sowohl ein Kurzzeit- als auch ein Langzeitgedächtnis hinzugefügt werden.
• Retrieval-Modul. LangChain unterstützt die Entwicklung von RAG-Systemen mit Tools zum Umwandeln, Speichern und Abrufen von Informationen, um die Antworten von Sprachmodellen zu verbessern. Dadurch können Entwickler semantische Darstellungen mit Worteinbettungen erstellen und diese in lokalen oder Cloud-Vektordatenbanken speichern.

Was sind LangChain-Integrationen?

LangChain erstellt Anwendungen in der Regel durch die Integration von LLM-Anbietern und externen Quellen, in denen Daten gefunden und gespeichert werden können. So kann LangChain beispielsweise Chatbots oder Frage-Antwort-Systeme erstellen, indem es ein LLM mit Datenquellen oder -speichern integriert, darunter relationale oder Graphdatenbanken, Textdateien, Wissensdatenbanken oder unstrukturierte Daten. Dadurch kann eine App Texteingaben von Benutzern verarbeiten und die besten Antworten aus einer dieser Quellen abrufen. In diesem Sinne nutzen LangChain-Integrationen die aktuellste NLP-Technologie, um effektive Apps zu erstellen.

Weitere potenzielle Integrationen sind Cloud-Storage-Plattformen wie Amazon Web Services (AWS), Google Cloud und Microsoft Azure sowie Vektordatenbanken. Eine Vektordatenbank kann große Mengen hochdimensionaler Daten – wie Videos, Bilder und Langtexte – als mathematische Darstellungen speichern, die es einer Anwendung erleichtern, diese Datenelemente abzufragen und zu suchen.

Wie man Prompts in LangChain erstellt

Prompts dienen als Eingaben für das LLM, die es anweisen, eine Antwort zurückzugeben, die oft eine Antwort auf eine Anfrage ist. Diese Antwort wird auch als Ausgabe (Output) bezeichnet. Ein Prompt muss korrekt entworfen und ausgeführt werden, um die Wahrscheinlichkeit einer gut geschriebenen und genauen Antwort von einem Sprachmodell zu erhöhen. Deshalb ist Prompt Engineering eine aufstrebende Wissenschaft, die in den letzten Jahren mehr Aufmerksamkeit erhalten hat.

Prompts können in LangChain-Ausführungen einfach mit einem Prompt-Template generiert werden, das als Anleitung für das zugrunde liegende LLM dient. Prompt-Templates können in ihrer Spezifität variieren. Sie können so gestaltet werden, dass sie einem Sprachmodell einfache Fragen stellen. Sie können auch verwendet werden, um einem Sprachmodell eine Reihe expliziter Anweisungen mit genügend Details und Beispielen zu geben, um eine qualitativ hochwertige Antwort zu erhalten.

Mit der Programmiersprache Python verfügt LangChain über eine vorgefertigte Prompt-Vorlage, die in Form von strukturiertem Text vorliegt. Um diese zu verwenden, sind die folgenden Schritte erforderlich:

1. Installieren Sie Python. Es muss eine aktuelle Version von Python installiert sein. Sobald das Python-Shell-Terminal geöffnet ist, geben Sie den folgenden Befehl ein, um nur die Mindestanforderungen von LangChain für dieses Beispiel zu installieren:

pip install langchain

2. Integrationen hinzufügen. LangChain erfordert in der Regel mindestens eine Integration. OpenAI ist ein Paradebeispiel. Um die LLM-Programmierschnittstellen von OpenAI nutzen zu können, muss ein Entwickler ein Konto auf der OpenAI-Website erstellen und den API-Zugriffsschlüssel abrufen. Installieren Sie dann mithilfe des folgenden Codeausschnitts das Python-Paket von OpenAI und geben Sie den Schlüssel für den Zugriff auf die APIs ein:

pip install openai
from langchain.llms import OpenAI
llm = OpenAI(openai_api_key=„...“)

3. Importieren Sie die Prompt-Vorlage. Sobald diese grundlegenden Schritte abgeschlossen sind, muss die Prompt-Template-Methode von LangChain importiert werden. Der unten gezeigte Codeausschnitt erledigt dies:

from langchain import PromptTemplate
prompt_template = PromptTemplate.from_template(
 "Tell me an {adjective} fact about {content}."
)
prompt_template.format(adjective=„interesting“, content=„zebras“)
"Tell me an interesting fact about zebras."

In diesem Szenario würde das Sprachmodell die beiden Eingabevariablen – adjective und content – nehmen und eine Tatsache über Zebras ausgeben.

Wie man Anwendungen in LangChain entwickelt

LangChain wurde für die Entwicklung von Apps entwickelt, die auf Sprachmodellfunktionalität basieren. Es gibt verschiedene Möglichkeiten, dies zu tun, aber der Prozess umfasst in der Regel die folgenden Schlüsselschritte:

1. Einrichten der Umgebung. Der erste Schritt besteht darin, LangChain mit allen erforderlichen Abhängigkeiten zu installieren. Darüber hinaus sollten Entwickler sicherstellen, dass sie Zugriff auf eine LLM-API wie OpenAI haben, und den API-Schlüssel für die Integration erhalten.
2. Definieren Sie die Anwendung. Ein Anwendungsentwickler muss zunächst einen spezifischen Anwendungsfall für die Anwendung definieren. Dazu gehört auch die Festlegung des Umfangs, einschließlich der Anforderungen wie erforderliche Integrationen, Komponenten und LLMs.
3. Erstellen Sie die Funktionalität. Entwickler verwenden Prompts, um die Funktionalität oder Logik der beabsichtigten App zu erstellen.
4. Passen Sie die Funktionalität an. Mit LangChain können Entwickler ihren Code ändern, um eine angepasste Funktionalität zu erstellen, die den Anforderungen des Anwendungsfalls entspricht und das Verhalten der Anwendung bestimmt.
5. LLMs feinabstimmen. Es ist wichtig, das passende LLM für den Job auszuwählen und es so abzustimmen, dass es den Anforderungen des Anwendungsfalls entspricht.
6. Daten bereinigen. Durch die Verwendung von Datenbereinigungstechniken werden saubere und genaue Datensätze sichergestellt. Es sollten auch Sicherheitsmaßnahmen zum Schutz sensibler Daten ergriffen werden.
7. Testen. Durch regelmäßiges Testen von LangChain-Apps wird sichergestellt, dass sie weiterhin reibungslos funktionieren.

LangChain versus LangSmith

LangChain und LangSmith spielen spezifische Rollen in der Landschaft der LLM-Anwendungen. Das LangChain-Framework unterstützt Entwickler bei der Erstellung von LLM-gestützten Anwendungen, indem es Tools anbietet, mit denen sich komplexe Workflows erstellen und verschiedene Komponenten integrieren lassen.

Die LangSmith-Plattform konzentriert sich auf Überwachung, Testen, Debugging und Bewertung dieser Anwendungen in der Produktion, um sicherzustellen, dass sie zuverlässig und effizient funktionieren.

Im Wesentlichen unterstützt LangChain die Erstellung von Anwendungen, während LangSmith deren Betriebsmanagement und Qualitätssicherung verbessert.

LangChain versus LangGraph

Ähnlich wie LangChain und LangSmith ist auch LangGraph ein Framework für LLMs. LangChain bietet eine Standardschnittstelle für die Erstellung einfacher Anwendungen und Workflows unter Verwendung linearer Ketten und Abrufabläufe.

Im Gegensatz dazu baut LangGraph auf LangChain auf, indem es zyklische Graphen ermöglicht, die die Entwicklung komplexer, zustandsbehafteter und Multi-Actor-Anwendungen erleichtern. Diese Funktion ermöglicht eine bessere Kontrolle über Interaktionen, einschließlich bedingter Pfade und Möglichkeiten für menschliches Eingreifen, wodurch sich LangGraph für die fortgeschrittene agentenbasierte Softwareentwicklung eignet.

Beispiele und Anwendungsfälle für LangChain

Die LLM-basierten Anwendungen, die mit LangChain erstellt werden können, lassen sich auf mehrere fortgeschrittene Anwendungsfälle in verschiedenen Branchen und vertikalen Märkten anwenden, wie z. B. die folgenden:

• Chatbots für den Kundenservice. LangChain ermöglicht fortgeschrittenen Chat-Anwendungen die Bearbeitung komplexer Fragen und Benutzertransaktionen. Diese Anwendungen können den Kontext eines Benutzers während eines Gesprächs auf die gleiche Weise wie ChatGPT verstehen und aufrechterhalten. KI wird häufig eingesetzt, um das Kundenerlebnis und den Kundenservice zu verbessern.
• Programmierassistenten. Mit LangChain ist es möglich, Programmierassistenten zu erstellen. Mithilfe von LangChain und der API von OpenAI können Entwickler ein Tool erstellen, das Menschen im Technologiebereich dabei unterstützt, ihre Programmierfähigkeiten zu verbessern und die Produktivität zu steigern.
• Gesundheitswesen. KI hat auf verschiedene Weise Einzug in das Gesundheitswesen gehalten. LLM-zentrierte LangChain-Anwendungen unterstützen Ärzten bei der Diagnose. Sie automatisieren auch routinemäßige, sich wiederholende Verwaltungsaufgaben, wie zum Beispel die Planung von Patiententerminen, sodass sich die Mitarbeiter im Gesundheitswesen auf wichtigere Aufgaben konzentrieren können.
• Marketing und E-Commerce. Unternehmen nutzen E-Commerce-Plattformen mit LLM-Funktionalität, um Kunden besser anzusprechen und ihren Kundenstamm zu erweitern. Eine Anwendung, die das Kaufverhalten von Verbrauchern und Produktbeschreibungen verstehen kann, kann Produktempfehlungen und überzeugende Beschreibungen für potenzielle Kunden generieren.
• Zusammenfassungen. LangChain kann dabei unterstützen, große Textmengen in prägnante Zusammenfassungen zu verdichten. Dies ist besonders nützlich in Bereichen wie Journalismus, Forschung und Content-Erstellung, in denen schnell auf wichtige Informationen zugegriffen werden muss.
• Datenanreicherung. LangChain kann Daten verbessern, indem neue Daten generiert werden, die den vorhandenen Daten ähneln. Dazu gehört auch die Erstellung von Variationen der Daten durch Paraphrasierung oder leichte Änderung ihres Kontexts. Die Datenanreicherung ist nützlich für das Training von Modellen für maschinelles Lernen und die Entwicklung neuer Datensätze.
• Medienanpassung. LangChain kann der Unterhaltungsindustrie helfen, indem es die Synchronisierung und Untertitelung von Inhalten ermöglicht und Filme und Fernsehsendungen einem breiteren Publikum zugänglich macht. Dies verbessert das Zuschauererlebnis und erweitert die internationale Reichweite der Inhalte.