«Wir prüfen mit KI täglich 2,5 Millionen Dokumente auf Reputationsrisiken für Firmen»

Das Schweizer Unternehmen RepRisk prüft ESG-Risiken von Unternehmen mit einer Kombination aus künstlicher und menschlicher Intelligenz. Wie das konkret funktioniert und weshalb menschliche Expertise essenziell für künstliche Intelligenz ist, erläutert CEO und Mitgründer Philipp Aeby im Interview.

Wie können Investoren und Unternehmen prüfen, welche Reputationsrisiken in ihrem Portfolio oder ihrer Produktionskette lauern? ESG-Risiken (Environmental, Social and Governance) sind Faktoren, die nicht nur aufgrund gesetzlicher Vorgaben ausgewiesen werden müssen, sondern auch für Investitionen eine kritische Rolle spielen. Für eine realistische Einschätzung benötigt es neutrale Daten und ein System, das diese gewaltigen Datenmengen automatisiert auswerten kann. Ein Fall für künstliche Intelligenz – und RepRisk.

Philipp Aeby, was genau macht RepRisk?

Wir untersuchen, was Firmen im Bereich ESG machen und wo die Risiken liegen. Dabei geht es um Themen wie Umweltverschmutzung, Menschenrechte oder Bestechung. Unsere Erkenntnisse werden für einen Sorgfalts-Prüfungsbericht (Due Diligence) benötigt, etwa über Kunden von Banken, Portfoliounternehmen von Vermögensverwaltern oder über die Lieferanten eines multinationalen Konzerns.

Unsere wichtigsten Kunden sind Finanzinstitute, die wissen wollen, wie es um einen Geschäftspartner, Lieferanten oder um eine Investition steht. Das Stichwort hier ist das Identifizieren und Vorbeugen von Reputationsrisiken.

ESG gewinnt an Bedeutung, auch durch neue Regulatorien und Gesetze. Da hatten Sie wohl einen guten Riecher mit Ihren Dienstleistungen?

Ich muss kurz einen Schritt zurück machen. In der ersten Phase 2006 war das eine sehr technische Dienstleistung, die Credit Officer oder Risiko-Officer im Banking gebraucht haben. Die Nachfrage war getrieben durch Weltbankstandards aus den 90er-Jahren.

Dann haben Investoren das Thema entdeckt. Wir konnten schon 2008 den ersten Investor als Kunde gewinnen, der in über 9000 Firmen investiert hat. Er wollte wissen, welche in Kinderarbeit oder Bestechungsvorwürfe verwickelt waren. Aber es war immer noch ein Nischenthema. Der Boom kam erst mit den nachhaltigen Anlagen, dem ESG-Investing.

Wenn heute ein Unternehmen von ESG oder Nachhaltigkeit spricht, muss es offenlegen, was es damit meint. Und das ist die dritte Phase, in der Firmen unsere Daten benötigen. Davon sind wir begeistert, denn heute reichen Versprechen nicht mehr, sondern Handlungen sind gefordert, was letztlich für alle Marktteilnehmer Vorteile bringt.

Deshalb blicken wir optimistisch in die Zukunft. Erstens gibt es immer mehr Gesetze, die regeln, wie Firmen ihr Geschäft betreiben. Und gleichzeitig finden technologische Entwicklungen statt, die zu mehr Transparenz führen. Das wird eine Verbesserung bei der Nachhaltigkeit bringen.

Von Ihrem fachlichen Hintergrund her war es nicht unbedingt naheliegend, dass Sie ein Unternehmen gründen, das die Reputationsrisiken von Unternehmen bewertet. Wie kam es dazu?

Es war auch eine Portion Glück dabei. Ursprünglich bin ich Klimatologe und Umweltphysiker und hatte meine Zukunft eher in der akademischen Welt gesehen. Aus persönlichen Gründen entschied ich mich jedoch, ins Consulting zu wechseln statt als Postdoc in den USA zu forschen.

Diese Erfahrung war unglaublich spannend und hat meinen Horizont erweitert, entsprach aber nicht ganz meinen Vorstellungen. Deshalb wechselte ich zu einem grossen US-Pharmaunternehmen. Dort lernte ich viel, aber das war noch immer nicht das Richtige. Dann erfuhr ich 2005 von einer kleinen Consultingfirma in der Schweiz, die mit einer Grossbank darüber diskutierte, wie man die Due Diligence für Börsengänge verbessern kann. Es ging darum, Daten zu nutzen, um beispielsweise illegale Abholzungen und gefälschte FSC-Zertifikate zu erkennen und diese Informationen in den IPO-Unterlagen festhalten, um spätere Klagen zu vermeiden.

Diese visionäre Idee der Bank faszinierte mich. Ich wusste sofort, dass ich in diesem Bereich etwas aufbauen wollte. Transparenz zu schaffen interessierte mich besonders, weil dies letztlich dazu führt, dass Unternehmen verantwortungsvoller mit Menschen, Mitarbeitenden und der Umwelt umgehen.

Mit welchen Informationen arbeiten Sie für Ihre Analysen?

Wir analysieren viele sehr schwerwiegende Vorkommnisse, wie illegale Abholzungen oder Verschmutzungen des Amazonas. Aus diesem Grund haben wir von Anfang an gesagt, dass wir dazu Quellen benötigen, die unabhängig von den involvierten Firmen sind. Das sind zum Beispiel journalistische Beiträge oder Berichte von NGOs und Regierungsbehörden – wir analysieren heute rund 150 000 Quellen.

So sehen wir schnell, wenn ein Vorfall eskaliert. Beispielsweise, wenn eine Lokalzeitung über ein Sklavenschiff in der Fischerei in Thailand schreibt und die «South China Morning Post» das Thema aufnimmt. Das nennen wir eine Quelleneskalation. Das sind wichtige Frühwarnsignale für unsere Kunden, die schnelles Handeln ermöglichen.

Sie verarbeiten eine Unmenge an Dokumenten in unterschiedlichen Sprachen. Wie finden Sie da die relevanten Informationen?

Wir verarbeiten etwa 2,5 Millionen Dokumente pro Tag in über 20 Sprachen. Wir haben mit Stichworten angefangen, beispielsweise ob ein Text das Wort «Kinderarbeit» enthält. Zusätzlich haben wir geprüft, ob eine Firma oder ein Infrastrukturprojekt erwähnt wird. Also untersuchten wir Dokumente auch auf Stichworte wie Kohlenmine, Fabrik oder Strassenbau. Zusätzlich musste das Dokument noch ein negatives Sentiment aufweisen. Für diese Art der Sprachanalyse gab es schon 2007 gute Algorithmen.

Unser Glück ist, dass wir über die Jahre Zehntausende von Dokumenten mit Labels versehen haben – von Biodiversitätsverlust über Zwangsarbeit bis zu Geldwäscherei. Und dies auch auf Thailändisch, Portugiesisch und Chinesisch. Damit hatten wir Daten in guter Qualität, um unsere Modelle zu trainieren. Dadurch können jetzt sehr präzise Risiken identifizieren und klassifizieren.

Wir trainieren unsere Modelle für eine bestimmte Aufgabe und betreiben sie auf unseren eigenen Systemen. Zudem kombinieren wir unsere Trainingsdaten mit LLMs (Large Language Models). Durch dieses so genannte Finetuning gewinnen unsere Modelle an Präzision und Qualität, da sie auf menschlicher Expertise basieren. Das ist absolut faszinierend.

Das braucht viel Know-how. Wie stellen Sie das nötige Fachwissen sicher?

Wir machen alles selbst. Wir haben seit jeher Know-how für Big Data auf der Software-Development-Seite, das Data Engineering. Zudem haben wir ein Team aufgebaut mit Machine Learning Engineers und Data Scientists. Für uns war das Verbinden von menschlicher mit künstlicher Intelligenz von Anfang an eine Notwendigkeit, um die grossen Datenmengen bewältigen und die Qualität sicherstellen zu können.

Dass uns das gelungen ist, haben wir auch der Community zu verdanken, in der viel Wissen geteilt wird. Dadurch können wir unglaublich viele Entwicklungen selbst umsetzen. Bezeichnenderweise haben wir immer noch mehr Software-Entwickler als Maschine-Learning-Ingenieure.

Sie setzen aber immer noch auf Menschen, die die Resultate prüfen. Was ist die Rolle dieser Analysten?

Die Analysten prüfen, ob die Modelle einen Text richtig interpretieren. Wenn beispielsweise ein Wallstreet-Journalist über die Inauguration von Präsident Trump geschrieben und dabei einen Korruptionsfall erwähnt hat sowie ein positives Gegenbeispiel: Dann könnte es passieren, dass die KI das Gegenbeispiel ebenfalls als Korruptionsfall einordnet. Es ist die Aufgabe der Analysten, solche Fehlinterpretationen zu erkennen und den Halluzinationen von künstlicher Intelligenz vorzubeugen.