Künstliche Intelligenz muss von Menschen getestet werden

Künstliche Intelligenz (KI), ihre enormen Möglichkeiten, die ihr innewohnenden Risiken und ihre insgesamt tiefgreifenden Auswirkungen auf potenziell jede Branche sind das große Thema der Gegenwart.  Obwohl die Technologie keineswegs neu ist – KI ist schon seit Jahrzehnten ein fester Bestandteil unseres Lebens –, ist das Neue ihre wachsende Beliebtheit beim Massenpublikum und die Bereitschaft der Menschen, KI-Lösungen anzunehmen und zu nutzen.

Doch trotz der Begeisterung für die Technologie gibt es viele Beispiele, die zeigen, dass KI noch lange nicht perfekt ist. Es gibt bereits zahlreiche Geschichten, in denen die generierten Inhalte und Antworten von harmlos falsch bis hin zu ernsthaft voreingenommen, schädlich oder hasserfüllt reichten. KI-gesteuerte Lösungen erfordern riesige Datenmengen, und wenn diese Daten voreingenommen, unzureichend oder anderweitig fehlerhaft sind, werden die Ergebnisse diese Fehler widerspiegeln. 

Ein Beispiel für dieses Problem sind Inhalte, zum Beispiel von Chatbots, die von großen Sprachmodellen (Large Language Models, LLMs) erstellt werden, welche mit unzureichenden Daten entwickelt wurden. Je nachdem, mit welchen Daten das LLM trainiert wurde, ist es möglicherweise nicht in der Lage, umgangssprachliche Sprache oder Akzente zu verstehen. Infolgedessen können die Antworten des Chatbots variieren – von einfach nur falsch bis hin zu potenziell beleidigend. Das ist eine schreckliche Benutzererfahrung, die verheerende Folgen haben kann, insbesondere bei Anwendungen im Bereich der psychischen Gesundheit oder der Medizin. 

Voreingenommenheit ist ein weiteres Problem. Die zweite jährliche Umfrage von Applause zu Chatbots, KI und Sprachanwendungen, die im März 2023 veröffentlicht wurde, untersuchte die Stimmung in Bezug auf KI-gestützte Chatbots und intelligente Sprachassistenten. Bei der Befragung zu generativer KI-Technologie wie ChatGPT äußerten 86 Prozent der mehr als 5.000 Befragten Bedenken gegen den Einsatz der Technologie aufgrund möglicher Antwortverzerrungen.

Wie kann man also schlechte oder schädliche Ergebnisse verhindern und die KI in die Lage versetzen, alle Menschen besser zu verstehen? Die Antwort ist einfach: Testen.

Bevor eine KI- oder Machine-Learning-Anwendung ein großes Publikum erreicht, sollte sie auf Herz und Nieren geprüft werden. Während der Algorithmus lernt, können voreingenommene oder falsche Schlussfolgerungen verstärkt werden, ohne dass die KI ihre Fehler bemerkt. Daher ist es wichtig, dass echte Menschen die Feinheiten der Verzerrung oder des Kontexts bewerten.

Testen, um Bias zu verhindern

Indem Algorithmen strengen Tests unterzogen werden, können verbesserungswürdige Bereiche identifiziert, die Modellleistung verbessert und zuverlässige und unverfälschte Ergebnisse gewährleistet werden. Der Testprozess sollte reale Szenarien und verschiedene Benutzerinteraktionen umfassen, die Einblicke in die Fähigkeiten und Grenzen des Algorithmus liefern. Der Testumfang muss an die Bedürfnisse des jeweiligen Modells angepasst werden. Ziel ist eine Überprüfung der funktionalen Fähigkeiten, der Genauigkeit der Antworten, Prüfung auf Verzerrungen/unangemessene Inhalte, Einhaltung der benutzerdefinierten Richtlinien und Feedback zur Erfahrung.

Um Verzerrungen zu reduzieren, kann beispielsweise mit Unterstützung eines externen Anbieters auf eine erweiterte globale Datenerfassungsinfrastruktur zurückgegriffen werden. Ein unabhängiger Anbieter kann Daten aus diversen Quellen sammeln und hat oft umfassendere und vielfältigere Datensätze für das Training der LLMs und generativen KI als ein einzelnes Unternehmen.

Beim Testen gibt es drei große Bereiche, auf die geachtet werden sollte. Genauigkeit und Vertrauen, Bias und unangemessene Inhalte, sowie die Einhaltung ethischer und gesetzlicher Vorschriften.