Shift 2019 – Mensch, Maschine, Mobilität

Sibylle Trenck, SBB Mitarbeiterin User Experience, blickt auf die Shift-Konferenz zurück und plädiert für den verantwortungsvollen Umgang mit Kundendaten.

Vertreter der SBB und anderen ÖV-Unternehmen an der Shift 2019.
Vertreter der SBB und anderen ÖV-Unternehmen an der Shift 2019.

Ende Februar fand in Zürich die erste Shift-Konferenz des Centre for Digital Responsibility (CDR) statt. Das Thema lautete «Business ohne Grenzen? Vertrauen und Akzeptanz digitaler Geschäftsmodelle.» Kuratiert wurde die Konferenz von Cornelia Diethelm, Gründerin des CDR, Direktorin der Shifting Society AG und Dozentin für Digitale Ethik an der HWZ Hochschule für Wirtschaft Zürich.

Vertreter der Mobilität der Zukunft und Teilnehmer der Shift 2019 auf einen Blick: v.l.n.r. Mario Schegner (SBB), Sibylle Trenck (SBB), Mirjam Bütler (VöV), Pierre-Alain Michel (BLS), Oliver Hofer (SBB), Thomas Robinson (SBB), Florence Leyvraz (SBB), Patrick Comboeuf (Crypto Advisory Group GmbH) und Sarah Stiefel (SBB)

Die Besucherinnen und Besucher, die den grossen Saal im X-TRA in Zürich bis auf den letzten Platz füllten, hörten in entspannter Atmosphäre den renommierten Referenten zu. Diese gaben spannende bis kontroverse Einblicke in den aktuellen Stand zum Umgang und Nutzen von Kundendaten in einem Zeitalter, in dem Automatisierungsprozesse und digitale Geschäftsmodelle intensiv weiterentwickelt werden.

Erfolgreiche Kundenbindung

Markus Gross (Direktor von Disney Research) war einer der ersten Referenten. Disney Research analysiert Gesichtsemotionen mit Hilfe von Künstlicher Intelligenz und Visual Computing, um die Mimik von Menschen in animierte Bilder zu übertragen. «Die Zuschauer erwarten emotionale Verbundenheit. Wir sind schon sehr nahe an der Realitätstreue», so Markus Gross. Von der ETH wurde hierfür das System «Medusa» entwickelt, welches bereits als digitaler Standard in Hollywood eingesetzt wird.

Datenstrategien in Unternehmen

In einer der Podiumsdiskussionen ging es darum, ob sich ethische Standards in Systeme integrieren lassen. Zwei Drittel der Daumen zeigten nach unten bei der Kurzumfrage von Moderatorin Patrizia Laeri. Doch Marc Holitscher (National Technology Officer von Microsoft Schweiz) war etwas anderer Meinung: «Es braucht den gesellschaftlichen Diskurs über Leitplanken. Doch sobald diese festgelegt sind, kann man sie abbilden.»

Die Politik ist von der Digitalisierung und dem Umgang mit Daten vollkommen überfordert.

Judith Bellaiche, Kantonsrätin Kanton Zürich

Die drei weiteren Referenten Judith Bellaiche (Kantonsrätin Kanton Zürich), Marcel Blattner (Chief Data Scientist bei Tamedia) und Nicolas Passadelis (Head of Data Governance von Swisscom) sahen noch viele Herausforderungen in diesem Bereich, da automatisierte Entscheidungen oft diskriminierend oder rassistisch wirken könnten und automatisierte Ethik nur dann sinnvoll sei, wenn der Mensch einen Nutzen davon habe. «Ich finde es beunruhigend, wenn man ethische Probleme mit Tools lösen will und so die Verantwortung ein Stück weit auf die Technologie überträgt», meint Marcel Blattner zum Thema. Und Judith Bellaiche ist der Ansicht: «Die Politik ist von der Digitalisierung und dem Umgang mit Daten vollkommen überfordert. Sie ist regelrecht gelähmt.» Bei der Swisscom wird die Strategie verfolgt, dass der Umgang mit Daten verantwortungsvoll in die Mitarbeiterkultur mit zusätzlichen Compliance-Massnahmen verankert werden soll.

Kundenerwartungen

Weitere Beiträge dazu, wie Technik das Kundenverhalten verändert, gab es unter anderem von Anne Scherer (Lehrstuhl für Marketing und Marktforschung an der Universität Zürich). Kunden reagieren extremer im positiven wie auch im negativen Sinne, wenn sie eine Dienstleistung von einer Maschine entgegennehmen: «Rückblickend werden sowohl gute als auch schlechte Begegnungen mit Unternehmen positiver bewertet, wenn sie mit einem Menschen stattfanden.» Melanie Schefer Bräker (Head of Customer Care bei Swisscom) präsentierte ein Praxisbeispiel zur biometrischen Stimmerkennung zur Identifizierung der Kunden beim Telefon-Support. Die Erfolgsquote liegt bei 85 Prozent und man spare durchschnittlich rund 30 Sekunden pro Anruf.

Umgang mit Daten

Das Thema «Vertrauen und Misstrauen bei der Nutzung von Künstlicher Intelligenz» wurde anschaulich in einer der Breakout-Sessions behandelt. «Die Debatte muss hin zu mehr Vertrauen in die Technologien», so Adrienne Fichter (Redakteurin beim Republik Magazin). Zum Beispiel sollten unter anderem Instanzen für Beschwerden und Berufung geschaffen werden, die Technik-Terminologien müssen verständlich für Laien und Endanwender sein und Interessierten sollte das Testen, Verstehen und Evaluieren des Systems ermöglicht werden. 

Sibylle Peuker (User Experience Architect, Partnerin bei Zeix) brachte auf den Punkt, dass ein Algorithmus oft nur eine in Code gegossene Meinung ist, und konstatierte: «Für die Entwicklung vertrauenswürdiger Technologie braucht man Empathie und kritisches Denken.» Sie zeigte das Bias-Problem anhand von Amazon auf, welches Männer beim Recruiting-Prozess bevorzugte.

Patrick Labud (Mitglied CTO-Board bbv Software Service) legte den Fokus auf Designverantwortung und Ethik bei neuen Produkten und Dienstleistungen und merkte an, dass die SBB mit Experimenten in kleinen Schritten, zum Beispiel via Preview Apps auf dem richtigen Weg sei, um die Akzeptanz der Nutzer frühzeitig zu messen.

Dies war nur ein kurzer Einblick in die Shift-Konferenz, weitere Themen wurden unter anderem im Artikel «2019: Digitale Geschäftsmodelle auf dem Prüfstand» (SATW) und «Mensch vs. Maschine – Wo braucht es Grenzen?» (inside-it.ch) besprochen.

Was haben wir mitgenommen?

Von der SBB waren Kolleginnen und Kollegen mit unterschiedlichen Blickwinkeln vor Ort, um neue Erkenntnisse zum Umgang mit und Nutzen von Kundendaten zu erhalten. 

Sarah Stiefel, Lead Digitale Transformation und Kommunikation, fasst zusammen: «Die Shift 2019 beschäftigt sich mit einem fundamental wichtigen Thema unserer Zeit, das nicht nur aus Business-Perspektive relevant ist, sondern gesellschaftlich für uns alle als Kundinnen und Kunden und Bürgerinnen und Bürger. Digitale Ethik in datenbasierten Geschäftsmodellen.» In ihrer SBB-Rolle ist es ihr wichtig zu wissen, wo wir als «Digital Community Schweiz» bei diesem Thema stehen, worüber und wie zu diesem Thema aktuell der Dialog geführt wird und wie sie mit Impulsen in ihrem Einflussbereich dazu beitragen kann, dass wir uns «gemeinsam in eine faire und transparente Richtung entwickeln». 

Auch für das Solution Center für multimodale Mobilität steht das Thema im Fokus. Oliver Hofer, Strategische Frühaufklärung NMD, ergänzt: «In Zeiten täglicher Meldungen von Datenmissbrauch und -manipulationen finde ich es sehr wichtig, dass die Digital Responsibility thematisiert und diskutiert wird. Meine wichtigste Erkenntnis ist, dass es Unternehmen zunehmend schwieriger haben werden, die Balance zwischen Geschäftszielen und fairem Umgang mit dem Kunden zu finden und diese auch zu erklären. Einen Datenschutzverantwortlichen zu benennen und eine Governance zu haben wird mittelfristig nicht ausreichen. Die Shift 2019 hat hier wichtige Pionierarbeit geleistet – ich freue mich auf die nächste Ausgabe.»

Unsere Aufgabe ist es, nicht nur den technischen Aspekt oder den Business-Nutzen zu berücksichtigen, sondern auch die Auswirkungen, die diese Technologie auf den Endbenutzer und sein Wohlbefinden haben kann.

Florence Leyvraz, Projektleiterin Augmented und Virtual Reality SBB

Florence Leyvraz, Projektleiterin Augmented und Virtual Reality, ist es ein Anliegen, dass «die SBB den Datenschutz oder Schutz der Privatsphäre nicht nur bei den Kunden, sondern auch bei den internen Mitarbeitern beachten muss. Der Einsatz von Technologien wie etwa Augmented Reality hängt beispielweise auch vom Vertrauen in die Technologie ab. Wenn sich die Mitarbeiter während ihrer Arbeit ständig kontrolliert fühlen, wird diese Technologie nicht akzeptiert werden. Unsere Aufgabe ist es, nicht nur den technischen Aspekt oder den Business-Nutzen zu berücksichtigen, sondern auch die Auswirkungen, die diese Technologie auf den Endbenutzer und sein Wohlbefinden haben kann.» Aus ihrer Sicht ist es insbesondere wichtig, wie die Algorithmen trainiert werden und in welcher Qualität die Daten vorliegen, die wir hierfür einsetzen. Des Weiteren ist den Kunden oftmals nicht bewusst, dass ihre Daten aufgenommen werden, etwa beim Opt-Out-Verfahren (z.B. «Stimme als Passwort» bei Swisscom). Sie ist davon überzeugt, dass Opt-In daher viel transparenter ist und sofern die ethischen Grenzen überschritten sind, Unternehmen bereit sein müssen, Projekte zu stoppen (z.B. KI-Chatbot Tay bei Microsoft und Recruiting-Prozess bei Amazon).

Für Mario Schegner, Leiter Lenkung Lokpersonal Zürich a.i., Ereignismanager Lenkung Lokpersonal, als Mitarbeiter und mehrheitlicher End-User war die Shift 2019 ein wertvoller und informativer Einblick in die Welt der digitalen Ethik: «Aus erster Hand habe ich erfahren, dass namhafte Firmen und deren Mitarbeiter sich intensiv mit der Entwicklung, Herausforderung und Risiken in der virtuellen Welt beschäftigen. Ich konnte einen Teil meines Vertrauens stärken – sehe aber für die Zukunft als grosse Herausforderung, alle End-User für die Ethik und das Verhalten im Netz fit zu machen und zu schulen. Arbeitsgruppen aus Vertretern der Mitarbeiter, Vorgesetzten, Entwickler und Ethiker sollten in Unternehmen – auch bei der SBB – Strategien und Schulungen definieren. Datenschutz-Massnahmen sind von zentraler Bedeutung – für uns als SBB, wie auch für mich als Mitarbeiter persönlich. Transparenz und Eigenbestimmung sollten hier miteinander einhergehen. Das Fazit lautet für mich: Die Informationen aus der Shift 2019 wären für viele Mitarbeiter der SBB eine wertvolle Ergänzung zum Verhalten in der täglichen Arbeit und im privaten Umgang mit den sozialen und digitalen Medien.»

Aus Sicht der User Experience unterstütze ich den Aufruf zum transparenten Umgang mit Kundendaten und den explorativen Ansatz, neue Kundenerlebnisse sowie datenbasierte Prozesse und neue Technologien für Mitarbeitende zu testen, um die Akzeptanz im Umgang mit künstlicher Intelligenz sicherzustellen sowie die Grenzen bei digitalen Geschäftsmodellen auszuloten. Zudem sollten unsere Kunden selbst entscheiden können, welche Daten sie dem Unternehmen zur Verfügung stellen möchten und welche auch nicht, damit das Vertrauen in die Marke SBB weiterhin gewährleistet ist: Zustimmung und Transparenz über den Verwendungszweck sind wichtiger, als die Daten ohne Bedingungen freizugeben. Im Zuge der multimodalen Mobilität werden neue Kundenerwartungen auf uns zukommen und das Kundenverhalten wird sich schrittweise verändern. Um das Thema digitale Ethik im Unternehmen zu verankern und einen bewussten Umgang damit zu ermöglichen, sollten interdisziplinäre Teams aus Psychologen, KI-Entwicklern, Data Scientists, Business Analysten, Beratern, Customer und User Experience Experten sowie Kommunikations-, Compliance- und Datenschutzbeauftragten zusammenarbeiten, um die konstruktivsten Lösungen aus unterschiedlichen Perspektiven zu generieren.

 

SBB Mitarbeitende berichten

Unter «SBB Mitarbeitende berichten» erscheinen auf SBB News in losen Abständen Beiträge von Mitarbeitenden. Diese kommen aus verschiedenen Divisionen und Konzernbereichen. In der The-menwahl sind sie frei. Möchtest auch du über deine Arbeit bei der SBB berichten? Dann melde dich bei sarah.stiefel@sbb.ch.