Swisscom Digital Lab: sichere KI für die Zukunft

Im Digital Lab forscht Swisscom an Lösungen mit künstlicher Intelligenz, die die eigenen Prozesse verbessern helfen, aber auch Kunden zugutekommen. Im zweiten Teil des Interviews sprechen die beiden Leiter Daniel Dobos und Dominik Temerowski über KI-gestützte Anwendungen und über die verschiedenen Aspekte der Sicherheit bei KI.

Der Weg von der Metro-Haltestelle der EPFL zum Swisscom Digital Lab ist gewissermassen auch eine Zeitreise. Vorbei am Musée Bolo, das sich liebevoll der Computergeschichte und damit der Vergangenheit widmet, führt der Weg zu den Räumlichkeiten des Digital Labs in die Zukunftsforschung. Im als Open Space konzipierten Lab können die Ideen frei fliessen. Und in konkreten Projekten münden, von denen Swisscom Kunden in vielfältiger Weise profitieren. Der zweite Teil des Interviews mit den Leitern des Digital Labs, Dominik Temerowski und Daniel Dobos, befasst sich mit den konkreten Anwendungen von (generativer) KI – und damit, welche Rolle Cybersecurity in diesem Umfeld spielt.

In welchen Bereichen der künstlichen Intelligenz legt das Digital Lab die Schwerpunkte?

Dominik Temerowski: Ganz generell wollen wir mit KI die Qualität der Swisscom Dienstleistungen und die Erfahrungen unserer Kunden im Kundenservice wie auch in der Nutzung unserer Dienstleistungen verbessern. Wir arbeiten beispielsweise mit den Bereichen Netz, Marketing, Sales und weiteren Konzernfunktionen zusammen. Mit den hier entwickelten Innovationen sind wir bei vielen KI-Themen von Swisscom dabei.

Daniel Dobos: Es gibt zwei, drei Bereiche, in denen wir im Moment häufig angefragt werden. Ein Beispiel sind medizinische Lösungen. Da forschen wir zusammen mit der EPFL und mit Spitälern in der Schweiz, aber auch mit internationalen Organisationen. Hier geht es beispielsweise darum, wie man einen Chatbot, der medizinische Fragen beantwortet, sicher umsetzen kann. Die EPFL hat gerade jetzt die neusten Ergebnisse vorgestellt zu einem solchen Open-Source-Modell namens Meditron. Experten schätzen, dass es auf medizinische Fragen ungefähr so gut antwortet wie ein Mediziner mit fünf bis sieben Jahren Berufserfahrung.

Was uns interessiert ist, wie wir eine solche Anwendung sicher umsetzen können, ohne medizinische Daten preiszugeben, und dass sie später von Einsatzkräften auch in kritischen Situationen benutzt werden kann. Wie wir unser 5G-Netz so einsetzen können, dass selbst in Ausnahmesituationen die Verbindung zu solchen Systemen bestehen bleibt, die irgendwann Teil der kritischen Infrastruktur werden. Im Vordergrund steht also weniger die Funktionalität, sondern mehr die sichere Nutzung solcher Systeme.

Gibt es konkrete Beispiele für (generative) AI-Anwendungen, die das Digital Lab entwickelt hat?

Dominik Temerowski: Gemeinsam mit unseren Kolleg*innen, die sich bei Swisscom mit conversational AI beschäftigen, haben wir die Chatbot-Builder-Plattform entwickelt. Wenn du früher eine Frage zu technischen, personellen, rechtlichen oder anderen geschäftlichen Themen hattest, hast du jemanden angerufen. In der Vergangenheit wurden täglich unzählige Anrufe und E-Mails getätigt, um Antworten auf solche Fragen zu erhalten. Das führte zu stundenlangem Suchen und war ineffizient.

Mit Chatbot Builder können Abteilungen ihren eigenen Chatbot erstellen. Sie laden Benutzerhandbücher und andere Daten auf die sichere Plattform hoch, damit der Chatbot allgemeine Fragen beantworten kann. Jetzt können die Kolleg*innen den Chatbot fragen, anstatt zeitraubende Anrufe zu tätigen, und so die Arbeit an die KI abgeben und Zeit und Kosten sparen. Mit unserer Chatbot-Builder-Plattform wird Swisscom jeden Tag effizienter.

Mit Chatbots werden wir effizienter. Aber sie ändern mit ihrem grossen «Wissen» doch auch die Art, wie wir mit Informationen umgehen?

Daniel Dobos: Das ist etwas, was wir uns auch genau anschauen. Wir haben eine Studie gemacht zusammen mit einer Fachhochschule, in der wir untersuchen, wie die Benutzung von generativen KI-Tools unsere Arbeit verändert. Die Studie geht der Frage nach, wie sich die Gedächtnisleistung ändert, wenn man Tools wie ChatGPT benutzt. Da gab es viele Studien dazu, als das Internet aufkam, weil die grosse Befürchtung war, wenn man jetzt alles nachschlagen kann, warum lohnt es sich noch überhaupt zu merken, wer Romeo und Julia geschrieben hat oder wer der Präsident von Bolivien ist. Diese Studien deuten darauf hin, dass Menschen sich weniger gut an gesuchte Informationen erinnern können, wenn sie erwarten, dass sie in Zukunft Zugang zu diesen Informationen haben werden. Stattdessen wissen sie eher, wo sie diese finden können.

Was passiert, wenn wir uns jetzt an solche Tools wie persönliche künstliche Intelligenz-Assistenten gewöhnen? Wird das so weitergehen, dass wir uns nichts mehr merken oder andere Informationen behalten? Solche Aspekte schauen wir uns an in der Forschung, mit Auswirkungen auf die Arbeit oder auf Arbeitsweisen.

Ein wichtiges Thema bei den Large-Language-Modellen ist die Sicherheit, also beispielsweise, dass ein Chatbot nicht halluziniert oder Trainingsdaten preisgibt. Welchen Stellenwert hat Cybersecurity im Digital Lab?

Daniel Dobos: Die Verbindung zwischen künstlicher Intelligenz und Cybersecurity ist ein wichtiges Thema. Das schauen wir gemeinsam mit unseren Cybersecurity-Kolleg*innen an und auch in Zusammenarbeit mit den Forschungszentren ETH Zürich und EPFL. Alle sprechen davon, dass man gemeinsames Red-Teaming machen soll mit den Sprachmodellen. Also KI-Lösungen auf Herz und Nieren zu testen mit dem Ziel, sie absichtlich in Situationen zu bringen, wo sie entweder die Sicherheit oder die Privatsphäre verletzen.

Aber wie man das macht, mit dieser Frage sind selbst die Forschenden überfordert. Die KI-Forschenden sagen uns, sie verstehen Cybersecurity nicht gut genug, sie verstehen gerade so die Modelle. Und die Cybersecurity-Leute sagen uns, sie verstehen Cybersecurity, aber sie verstehen diese Large-Language-Modelle noch nicht.

Da sind wir dabei, Gruppen zu formen, in denen wir die Learnings aus den letzten Jahren Cybersecurity-Entwicklung zusammenbringen. Besonderen Wert legen wir darauf, wie man kollaborativ zusammenarbeitet, über verschiedene Firmen und Organisationen hinweg. Dieses Wissen verbinden wir mit den Erfahrungen aus dem Bereich künstliche Intelligenz. So können wir neue Teams formen, die beide Expertisen haben und erkunden, wie man diese beiden Welten zusammenbringt. Das passt natürlich bestens zu Swisscom, wo Cybersecurity und künstliche Intelligenz beides Fokus-Themen sind.

Jetzt geht es ja nicht nur um die Sicherheit der Modelle. Gerade bei der Verarbeitung von Unternehmensdaten kommt die Datensicherheit ins Spiel: Was ist, wenn die Daten zwingend in der Schweiz verarbeitet und gespeichert werden müssen?

Daniel Dobos: Diese Thematik sehen wir zum Beispiel auch im Legal-Umfeld. Wir beschäftigen uns gerade damit, wie KI Übersetzungen machen kann für Juristen und Anwaltskanzleien, die ihre Daten nicht ausserhalb der Schweiz haben dürfen. Hier können wir auf Angebote wie die Swiss AI Platform setzen. So können wir sicherstellen, dass die Datenhaltung in der Schweiz erfolgt, die GPUs in der Schweiz sind und alles vollständig dem Schweizer Recht unterliegt.

Ähnlich präsentiert sich die Situation für manche Banking-Anwendungen. Überall, wo die Datenhaltung und Verarbeitung in der Schweiz vorgeschrieben ist, geht es nicht nur darum, ob ein bestimmtes Modell die Aufgaben in einer genügenden Qualität erledigen kann. Sondern auch, dass die Daten die Schweiz nie verlassen.

Der Markt für KI-Services wird von wenigen grossen Anbietern dominiert. Welche Rolle kann Swisscom in diesem Umfeld wahrnehmen?

Dominik Temerowski: Als Swisscom können wir in den Bereichen Vertrauen, Präzision und Vielsprachigkeit eine signifikante Rolle spielen. Wir schauen zusammen mit Schweizer Forschenden, wie wir Modelle aufbauen und nutzen sowie gleichzeitig das Vertrauen der Benutzenden in die Technologie stärken können. Data Privacy ist da ein wichtiger Aspekt: Wie können wir Modelle bauen, die personalisiert Empfehlungen geben, aber ohne die Datensicherheit und die Data Privacy zu gefährden. Mit dem Vertrauen in unsere Schweizer Werte und der Präzision bietet sich eine einmalige Chance, solche Modelle anzubieten.

Die Gesprächspartner

Dr. Daniel Dobos ist Research Director bei Swisscom. Er verantwortet die Beziehungen zu Universitäten, Fachhochschulen und andere Forschungseinrichtungen. Gemeinsam mit Mitarbeitenden aus allen Geschäftsbereichen von Swisscom entwickelt er mit seinem Team Lösungen, die aktuelle Forschungs- und Technologieentwicklungen zum Wohle von Swisscom Kunden einsetzen. Zuvor hat er Forschungs- und KI-Datenanalyse-Projekte beim Forschungszentrum CERN und bei den Vereinten Nationen geleitet.

Dominik Temerowski ist Director AI & Innovation bei Swisscom. Gemeinsam mit den Geschäftsbereichen von Swisscom entwickelt er mit einem Team von Data Scientists und Machine Learning Engineers KI-basierte Innovationen, die messbaren Mehrwert für das Unternehmen schaffen. Zuvor verantwortete er das Partnermanagement im Geschäftskundenbereich von Swisscom und zuvor der Deutschen Telekom, jeweils mit Fokus auf die digitale Transformation von B2B-Kunden.

Swisscom Digital Lab: die Quelle für KI-Innovationen

Im Digital Lab forscht Swisscom an Lösungen mit künstlicher Intelligenz, die die eigenen Prozesse verbessern helfen, aber auch Kunden zugutekommen. Im ersten Teil des Interviews…