AlienCat - stock.adobe.com
Wie Analytics-Teams ethische Grundsätze befolgen
Unternehmen kommen nicht umhin, für Data-Mining- und Analytics-Anwendungen ethische Grenzen festzulegen. Diese ethischen Regeln müssen aber auch befolgt werden.
KI-Technologien und andere Advanced Analytics Tools erleichtern es Datenanalysten, wertvolle Informationen über Kunden, Patienten und andere Personen zu verwenden. Doch allzu oft stellen Unternehmen laut Donald Farmer, Berater bei TreeHive Strategy, ihre KI- und Analytics-Projekte nicht auf den ethischen Prüfstand.
Im Zeitalter der EU-Datenschutz-Grundverordnung (EU-DSGVO) und anderer Datenschutzgesetze ist die Missachtung einer Datenethik keine gute Geschäftspraxis, warnt Farmer. „Das muss sich ändern. IT- und Analytics-Teams sollten sich von grundlegenden Ethikregeln leiten lassen und vom Management motiviert werden, diese Regeln in die Praxis umzusetzen.“
Geschieht dies nicht, läuft ein Unternehmen Gefahr, die Grenzen beim Data Mining und bei der Nutzung personenbezogene Daten zu überschreiten – und das ist in der Regel nicht das Ergebnis eines schändlichen Plans. „Die wenigsten Leute verfolgen wirklich hinterhältig Pläne – sie geraten einfach nur blind in diese Dinge hinein“, erklärt er und fügt hinzu, dass Analytics-Anwendungen oft „unvorhergesehene Folgen“ haben.
Als Beispiel nennt er Smart TVs, die mit Heimnetzwerken verbunden sind, wie es heute durchweg üblich ist. Diese TVs können überwachen, ob die Zuschauer die Werbespots in den Sendungen ansehen, und überprüfen, ob sie dann auf die Website eines Werbetreibenden gehen. Wenn man diese Information aber für Marketingzwecke verwendet, dürfte das viele Kunden als unangemessen empfinden.
Shawn Rogers, Senior Director of Analytic Strategy and Communications bei Tibco Software, nennt ein anderes Beispiel. Er verweist auf ein Testprogramm, das der Einzelhändler Nordstrom 2012 startete. Nordstrom wollte über die Wi-Fi-Signale der Kundenmobiltelefone die Wege der Besucher in seinen Geschäften verfolgen. Nachdem der Nordstrom-Plan publik wurde, beschwerten sich Kunden darüber – und das Unternehmen beendete schließlich das Tracking 2013.
„Ich denke, Transparenz, Genehmigung und Kontext sind in diesem Bereich wichtig“, sagte Rogers während einer Sitzung über Datenethik auf dem Pacific Nordwest BI & Analytics Summit 2019 – einer jährlichen Veranstaltung, die eine kleine Gruppe von Beratern und Führungskräften von Softwareanbietern zusammenbringt, um Trends in den Bereichen Business Intelligence, Analytics und Datenmanagement zu diskutieren.
KI-Algorithmen führen zu neuen ethischen Fragen
Die Transparenz bei der Nutzung von Analysedaten wird laut Farmer durch die zunehmende Einführung von KI-Tools und Machine-Learning-Algorithmen erschwert. Immer öfter erweitern – oder ersetzen – Unternehmen die menschliche Analyse-Arbeit durch „algorithmisches Engagement“, wie der Berater es ausdrückt. Aber automatisierte Algorithmen sind für den Anwender oft eine Blackbox.
Mike Ferguson, Geschäftsführer des britischen Beratungsunternehmens Intelligent Business Strategies, sagt, dass die Rechtsabteilung eines Finanzdienstleisters, mit der er zusammenarbeitet, ein Projekt zur Automatisierung des Kreditgenehmigungsprozesses beendet hat. Der Grund dafür war, dass die Data Scientists, welche die Deep-Learning-Modelle für die Analyse entwickelt hatten, nicht richtig erklären konnten, wie die Modelle funktionieren.
Und das ist nach Fergusons Erfahrung kein Einzelfall. „Es kommt in Organisationen immer häufiger zu Streitigkeiten zwischen den Rechts- und den Data-Science-Teams“, sagt er. Er fügt noch hinzu, dass die hohen Geldbußen bei DSGVO-Verletzungen Unternehmensjuristen dazu bringt, Analytics-Anwendungen genauer zu untersuchen. Infolgedessen konzentrieren sich Data Scientists mehr darauf, KI erklärbar zu machen – und so die Nutzung von Algorithmen besser zu rechtfertigen.
„Der Trend zu einer stärkeren Überprüfung ist eher auf rechtliche Bedenken als auf ethische Fragen zurückzuführen“, erläutert Ferguson. Er ist jedoch auch der Ansicht, dass beide miteinander verbunden sind, und dass die Möglichkeit von Analytics-Teams, ungehinderten Zugang zu Datensätzen zu erhalten, sowohl aus rechtlichen als auch ethischen Gründen zunehmend in Frage gestellt wird.
„Es ist ziemlich klar, dass die Juristen die Datenverwaltung in den Mittelpunkt stellen“, erklärt er. „Wir sind von einem Bottom-up-Ansatz, bei dem jeder Daten erfasst und damit irgendetwas macht, zu einem Top-down-Ansatz übergegangen.“
Jill Dyché, eine unabhängige Beraterin mit Sitz in Los Angeles, erwartet, dass die erklärbare KI in den nächsten Monaten „weniger eine Option, sondern ein Muss wird.“
Ethikkodex zu wenig für die Datenanalyse
„Um auf der richtigen Seite der Datenethik-Diskussion zu bleiben, braucht es mehr als nur die Einführung eines Ethik- und Verhaltenskodex für Mitarbeiter“, sagt Farmer. Er zitiert hierzu den 64-seitigen Ethikkodex von Enron, der das Energieunternehmen nicht davon abhielt, sich an dem berüchtigten Buchhaltungsbetrug zu beteiligen, der zum Bankrott und schließlich zum Verkauf seiner Assets führte. Farmer geht davon aus, dass solche Kodizes wenig Wirkung haben, um ethische Fehltritte in der Analytik zu verhindern.
„Ein Ethikkodex allein bringt absolut nichts“, sagt der Berater. „Er könnte sogar guten ethischen Praktiken im Weg stehen, da die Leute nur darauf hinweisen und sagen: Wir haben das geregelt.“
Stattdessen empfiehlt er IT- und Analytics-Managern, einen regelbasierten Ansatz für die Datenethik zu wählen, der auf alle drei Phasen von Analyseprojekten angewendet werden kann: den Forschungsprozess im Vorfeld, das Design und die Entwicklung von Analyseanwendungen sowie die Bereitstellung und Nutzung der Anwendungen.
