Internationales Verkehrswesen (72) 2 | 2020 60 TECHNOLOGIE Interview „Ich glaube nicht an eine absolute Digitalisierung“ An der Digitalisierung auch im Verkehrsbereich scheint kein Weg vorbei zu führen, und doch ist sie ein echtes Ja-aber-Thema. Das zeigt sich einmal mehr an der Diskussion um die sogenannte Corona-App, die mithilfe von Bewegungsdaten warnen soll, wenn positiv getestete Menschen in der Nähe sind. Wer kann aber vorhersagen, ob die zunehmende Digitalisierung fast unmerklich unseren Alltag bestimmt? Lassen sich die Auswirkungen auf Gesellschaft und Privatheit überhaupt realistisch einschätzen? Fragen von Eberhard Buhl an den Informatiker Prof. Dr. Edy Portmann, der am Human-Centered Interaction Science and Technology (IST) Institut der Universität Freiburg im Üechtland in der Schweiz lehrt. Herr Prof. Portmann, Mobilität gilt als Grundrecht. Doch die gewohnte, eher intuitive Weise des Unterwegsseins stößt vor allem zur Rushhour in Städten oft an ihre Grenzen. Die Digitalisierung des Verkehrs soll es richten. Werden wir also unsere Mobilität von morgen Algorithmen überlassen müssen? Edy Portmann: Schauen Sie, ich bin ein Smart-City-Forscher, der die Menschen ins Zentrum der Digitalisierung unserer Städte sowie Regionen stellen will. Dazu gestalten mein Team und ich am Human-IST Institut der Universität Freiburg in der Schweiz transdisziplinär unsere „komplexe Zukunft mit intelligenten Maschinen“, wie es Joichi Ito in seinem Manifest „Resisting Reduction“ aufzeigt. Transdisziplinär bedeutet hier, dass wir unter Einbezug der Wirtschaft, der Öffentlichen Hand sowie der Gesellschaft, über akademische Disziplinen wie beispielsweise Psychologie, Soziologie sowie Design und Technik hinausgehen. Und um das zu tun, greifen wir vielfach auf naturinspirierte Methoden und Modelle zurück. Unsere Natur liefert uns nämlich ein wunderbares Modell eines komplexen, adaptiven Systems. Ein erstes Verständnis für solch komplexe adaptive Systeme wurde im Santa Fe Institute von John Holland und Murray Gell- Mann entwickelt. Es sollte als Paradigma für die Gestaltung künstlicher, naturinspirierter Intelligenz und somit smarter Städte und Regionen dienen, die unter anderem auf urbanen Daten und maschinellem Lernen aufbauen. Aber zurück zu Ihrer Frage: Im Jahr 2015 prognostizierte „The Guardian“, dass wir 2020 zu permanenten Rücksitzfahrern werden. Das Jahr ist hier, aber die selbstfahrenden Autos sind es - noch - nicht. Sie können heute ein Auto kaufen, das automatisch für Sie bremst, Ihnen hilft Ihre Spur zu halten oder eines, dessen Autopilot hauptsächlich das Fahren auf der Autobahn beherrscht. Alternativloses Überlassen der Mobilität sähe anders aus - nicht wahr? Alternativlos muss vielleicht nicht sein, dass aber ein Algorithmus in manchen Dingen, etwa Reaktionsschnelligkeit, den Menschen um Längen schlägt, erscheint ja unstrittig. Welche Vorteile können uns real daraus erwachsen - und müssen es auch, um das Vertrauen menschlicher Nutzer zu erlangen? Im Jahre 1987 entwickelte Ernst Dickmanns an der Universität der Bundeswehr in München das erste selbstfahrende Auto. Es konnte auf einer normalen Straße mit 90 Kilometern pro Stunde fahren. Seither sind mehr als 30 Jahre verflossen und dabei hat sich in der Algorithmik viel getan, aber selbstfahrende Autos sind - noch - nicht wirklich da. Trotz sehr großer Anstrengungen namhafter Automobilbauer sind vollständig autonome Autos immer noch außer Reichweite. Und das liegt wohl nicht nur an den Algorithmen sowie deren Sicherheit, Präzision oder Effizienz, sondern an der Akzeptanz durch die Menschen. Neben dem Potenzial von Künstlicher Intelligenz, die laut Rolf Pfeifer mehr ist als nur Algorithmik, stellt sich nämlich immer die Frage, ob wir diese Technologien auch wollen. Als Bankomaten aufkamen, lehnten viele von uns diese noch ab; heute geht es nicht mehr ohne sie. Sie wurden zur Gewohnheit, weil wir über die Zeit lernten, diesen Maschinen zu vertrauen. Die Macht der Gewohnheit prägt nämlich unseren Alltag - sei es unsere Arbeit, das Konsumverhalten oder den Kontakt mit anderen Menschen. Ob das Maschinellem Lernen und Künstlicher Intelligenz im Mobilitätseinsatz auch gelingt, wird die Zeit zeigen. Unabhängig davon ist es wohl keine schlechte Idee, sich mit dieser neuen Mobilität zu beschäftigen. Denn wer frühzeitig mit ihr Erfahrungen sammelt, wird wohl auch von dieser profitieren. Und wer kann einem so digitalisierten Verkehrsumfeld unter dem Strich wirklich profitieren? Das ist eine schwierige Frage, denn sie hängt mit der Technikakzeptanz der Menschen zusammen. Aber wie kriegt man diese Akzeptanz hin? An meinem Institut beschäftigen wir uns auch damit, möglichst alle zu Nutznießern der Digitalisierung zu machen. Unseres Erachtens braucht es dazu eine ganzheitliche, transdisziplinäre Herangehensweise. So brauchen wir womöglich neue Erfolgsbeteiligungsmodelle wie Louis Kelso‘s „Employee Stock Ownership Pläne“ (ESOP). Diese Modelle ermöglichen auch Mitarbeitenden Eigentumsrechte. Indem wir in der Digitalisierung das Kapital „demokratisieren“, können wir allen Menschen neue Perspektiven geben und diese so von der Technik überzeugen. In Zukunft sollten wir wohl alle Mitmenschen am Erfolg neuer Verkehrslösungen beteiligen, sonst sind Widerstände vorprogrammiert. Als Beispiel: Sie fahren für mein Taxiunternehmen und ich komme mit der - aus Ihrer Sicht „dummen“ - Idee, autonome Autos anzuschaffen. Sie sehen den Nutzen dieser Technologie - noch - nicht und nehmen diese als Bedrohung wahr. Sind Sie aber am Unternehmen mit Aktien am Erfolg beteiligt, ist diese Idee - aus Ihrer Sicht - plötzlich nicht mehr so dumm, denn Sie verdienen nun nicht bloß einen Lohn, sondern verdienen auch an den selbstfahrenden Autos. Und wenn Sie smart sind und das Bedürfnis Ihrer Kundschaft nach menschlicher Interaktion erfassen, dann mixen Sie nun im Fond Ihres Taxis Cocktails und verdienen so zusätzlich. So könnten ESOP-Modelle helfen, unser Kapital zu demokratisieren und dadurch alle am Erfolg zu beteiligen. Dies kann uns die Angst vor der Digitalisierung nehmen. Ich hoffe deshalb sehr, dass wir solche Modelle ausloten, um uns dementsprechend alle zu Internationales Verkehrswesen (72) 2 | 2020 61 Interview TECHNOLOGIE künftigen Nutznießern des digitalisierten Verkehrs zu machen. In so einem Umfeld werden wir uns dabei vermutlich in „smarten“ Ökosystemen immer stärker von Einzelkämpfern zu Teamplayern verändern. Spätestens hier kommt ja die Datenfrage ins Spiel: In Produktion und Logistik ist es oft schon üblich, Bauteile oder Sendungen mittels Sensoren zu tracken und die gesamte Lieferkette transparent zu machen. Das erscheint sinnvoll, sobald aber personalisierte Daten mit ins Spiel kommen, etwa bei Bestellungen oder gar Gesundheitsdaten, erscheint Vorsicht geboten. Lässt sich überhaupt hinreichend klären, wer solche Daten besitzt oder besitzen darf und wer das Sammeln, Analysieren und Nutzen kontrollieren soll? Moderne Dienste und Produkte sammeln Unmengen von Daten, was Shoshana Zuboff als Überwachungskapitalismus bezeichnet. Sie stört sich an der Kollision mit Werten wie Freiheit, Demokratie und Privatsphäre. Laut Jaron Lanier und Glen Weyl kann die Vormacht dieser Art des Kapitalismus aber überwunden werden. Dazu sollten wir die heutigen Überwachungskapitalisten für ihre - gegenwärtig noch - Gratisdienste bezahlen, sie uns aber im Gegenzug für die Verwendung unserer Daten. Gegenwärtig werden ihre Dienste und Produkte nämlich von Drittfirmen finanziert, die wir nicht kennen, die uns aber manipulieren. Das hat nicht nur Auswirkungen auf unsere Märkte, sondern auch auf unsere Demokratie, da diese Firmen anhand unserer Daten nicht nur uns sehr gut kennen, sondern laut Lanier, Weyl und Zuboff auch immer mehr versuchen, uns - etwa mit Maschinellem Lernen und Künstlicher Intelligenz - zu steuern. In ihrem Entwurf einer digitalen Gesellschaft schreiben Lanier und Weyl, dass wir „alle Urheberrechte unserer persönlichen Daten, die es ja tatsächlich nur gibt, weil es uns gibt, besitzen sollten“. Um diesen Entwurf umzusetzen, schlagen sie vor, Intermediäre zu schaffen, die sich vermittelnd um unsere Datenangelegenheiten kümmern, und denen wir vertrauen können. Ich stehe hinter diesem originellen Entwurf, in welchem in Europa etwa öffentliche Infrastrukturanbieter als Intermediäre dienen könnten, welche die Privatheit unserer Daten regulatorisch berücksichtigen. Dieser könnte dann auch mit ESOP-Varianten kombiniert werden. Das wäre doch ein neuer, digitaler Leistungsauftrag für die Post und Co. - oder nicht? Jedenfalls klingt die Idee nach dem Königsweg zu vollkommener Sicherheit, aber ist dieses Versprechen - wiederum dank Künstlicher Intelligenz - überhaupt erfüllbar? Seit den alten Griechen, die perfekte Quadrate und vollkommene Kreise mathematisch darlegten, ist der Westen auf der Suche nach hundertprozentiger Sicherheit. Doch leider gibt es dies nicht und das Versprechen ist so nicht erfüllbar. Aber zum Glück gibt es Alternativen aus dem Osten. So stehen beispielsweise das japanische Wabi-Sabi-Konzept, das von der Schönheit des Imperfekten, Unvollkommenen und Vergänglichen ausgeht, und das taoistische Yin-Yang-Konzept, das eine gleichwertige und symbiotische Dynamik sowohl in uns wie auch in unserem Universum betont, im Kontrast zu unserem westlichen Denken. Wir sollten also besser damit beginnen, von KI-Systemen, die mittels Autonomie intelligent werden, zu sprechen. Statt unsere analogen Gehirne mit perfekter Technologie zu vergleichen, sollten wir besser künstliche Intelligenzen in spe nach diesen imperfekt und approximativ arbeitenden Denkapparaten schaffen. Das wäre nicht nur natürlicher, sondern auch ehrlicher. Angenommen, das schaffen wir. Sind autonom intelligente KI-Systeme uns dann generell „wohlgesonnen“, also objektiv? Mit anderen Worten: Wie lang wird es wohl dauern, bis der Mensch die KI in seinem Sinne korrumpieren wird, um mehr Macht oder wirtschaftliche Vorteile zu gewinnen? Bereits heutige Künstliche Intelligenz ist befangen. Ein Beispiel: „Falsche Freunde“ bei LinkedIn, die ihre Schulden nicht oder zu spät begleichen, könnten Ihnen selbst einen Kredit verunmöglichen. Dank Maschinellem Lernen ordnet die KI von LinkedIn Sie nämlich möglicherweise der Klasse „kreditunwürdig“ zu. Da das vermeintliche Gratismodell unserer Überwachungskapitalisten aus dem Silicon Valley, zu denen ich hier LinkedIn einfach einmal dazuzähle, auf Verkauf gelernter Modelle an Dritte - die Ihnen nicht bekannt sind - basiert, besteht die Möglichkeit, dass auch Ihre Hausbank diese KI-Modelle gekauft hat und anhand dieser Entscheidungen trifft. Ergo: Die in den Diensten dieser „Kapitalisten“ - aber auch des chinesischen Sozialkreditsystems, das Wohlverhalten belohnt - stehende KI will nicht für Sie, sondern für ihre Eigner Vorteile erlangen. Darum braucht es meines Erachtens erklärbare Künstliche Intelligenz sowie interaktives Maschinelles Lernen, das den Menschen ins Zentrum stellt. Diese kollaborativen Methoden beziehen den Menschen in den Lernprozess der KI mit ein und erhöhen so unter anderem die Transparenz und die Nachvollziehbarkeit dieser Systeme. Solche emergenten Technologien werden es uns erlauben, erkannte Falschdaten in einer Interaktion mit der KI zu korrigieren. Das verhindert zwar nicht vollumfänglich, dass boshafte Menschen KI-Systeme korrumpieren, aber zumindest bedeutet es einen Schritt nach vorne in die richtige Richtung. Mit Blick auf menschzentrierte Systeme entwickeln wir an unserem Human-IST Institut gemeinsam mit öffentlichen Infrastrukturanbietern solche „demokratischeren“ KI-Systeme. Kann denn angesichts der schieren Datenfülle - Big Data mal als Schlagwort - überhaupt jemand außer vielleicht dem Programmierer erkennen, ob Al- Prof. Dr. sc. inf. Edy Portmann … … ist Professor für Informatik und Förderprofessor der Schweizerischen Post am Human- IST Institut der Universität Freiburg (CH). Zu seinen transdisziplinären Forschungsschwerpunkten zählt das Thema Cognitive Computing sowie die Anwendung dessen auf Städte. Er studierte Wirtschaftsinformatik, Betriebs- und Volkswirtschaftslehre und promovierte in Informatik. Er war u.a. bei Swisscom, PwC und EY tätig. Zudem forschte er an den Universitäten Singapur, Berkeley und Bern. edy.portmann@unifr.ch Internationales Verkehrswesen (72) 2 | 2020 62 TECHNOLOGIE Interview gorithmen fehlerhaft oder manipuliert sind, ob Daten missbraucht werden? Oder wird das Versprechen von höherer Sicherheit und Transparenz nicht schon durch die Datenflut ad absurdum geführt? Das kann meines Erachtens niemand vollständig garantieren. Es gibt allerdings approximative Methoden, beispielsweise aus der Spieltheorie, die ein allmähliches Herantasten an die sinnbildlichen Asymptoten von Optimierung, Sicherheit und Transparenz erlauben. Herbert Simon zeigte auf, dass man Faustregeln brauchen könnte, um in einer unsicheren Welt an Entscheidungen herangehen zu können. Das erlaubt, nach Ergebnissen, die „gut genug“ sind, Ausschau zu halten. Unsere Städte und Regionen vertrauen immer mehr auf Daten, die als Grundlage eines Maschinellen Lernens dienen. Aber das komplexe, adaptive Stadtsystem -respektive jenes unserer Regionen - ist nicht durch Daten, Maschinelles Lernen oder Künstliche Intelligenz alleine fassbar. Es gilt auch hier, gegen Reduzierung einzutreten. Und wie ich zuvor bereits feststellte, benötigen wir dazu wohl ein naturinspiriertes Update unserer technischen Systeme. Für Nachhaltigkeit gegenüber uns sowie unserer Umwelt braucht es meines Erachtens eine naturinspirierte Mathematik, Ingenieur- und Wirtschaftswissenschaft, die mit Vagheit und Unsicherheit umgehen kann und dadurch den Bau autonomer Organismen erlaubt. Unsere Systeme sollten meiner Meinung nach nicht mit traditionellen, quantitativen und analytischen Techniken alleine untersucht werden. Mit zunehmender Komplexität nimmt nämlich unsere Fähigkeit, präzise und dennoch bedeutende Aussagen machen zu können, so stark ab, dass sich Präzision und Relevanz gegenseitig ausschließen. Ihre im Raum stehende Frage lässt keine belastbaren Abwägungen mehr zu, insofern sie nur auf traditioneller Datenanalyse beruhen. Jede exakte, quantitative Analyse menschlicher Systeme ist mit Vorsicht zu genießen, denn hohe Komplexität ist unvereinbar mit absoluter Ja-Nein- Präzision. Daher können wir wohl immer weniger feststellen, ob ein Algorithmus fehlerhaft oder manipuliert worden ist, oder ob Daten missbraucht wurden. Es gibt ja auch die Gegenströmung. Einige Wissenschaftler wollen „Menschen so schnell wie möglich aus dem Verkehr ziehen“ und autonom intelligenter werdenden Systemen das Feld komplett überlassen. Koppeln wir damit die digital-abstrakte Welt ab von einer analog-physischen Welt, die der Mensch „begreifen“ kann? Auch das ist eine schwierige Frage, die ich nicht abschließend beantworten kann. Aus der Sicht eines angewandten Philosophen könnte man sagen, dass sich die selbstfahrenden Autos erst einmal im hektischen Verkehr moderner Stadtwelten behaupten sollen. Die Frage, die hier Luciano Floridi stellt, ist, ob wir die künftigen Städte und Regionen für autonome Autos optimieren wollen. Er veranschaulicht dies am Beispiel mit dem roombafreundlichen Wohnzimmer, in dem man die Couch gewechselt hat, damit der Staubsaugerroboter nun auch unter dem Sofa saugen kann. Wenn man aber die Städte und Regionen nicht für autonomes Fahren optimiert, gibt es meines Erachtens noch offene Fragen, die vor der flächendeckenden Einführung beantwortet werden müssen. Wie erkennt das Auto den Kontext beziehungsweise die Semantik seiner Umgebung? Wie macht es den Unterschied zwischen einem in die Straße hängenden Blatt einer Pflanze und dem in die Fahrbahn springenden Kind aus? Wann bremst es? Immer? Ein selbstfahrendes Auto erkennt höchstens eine Ampel als Auslöser einer Aktion - und das ist sein Problem. Es nimmt die Umwelt nur durch ein Guckloch wahr, wir Menschen aber spüren diese, nehmen sie mit all unseren fünf Sinnen wahr. Die Komplexität dieser Sensorik geht einvernehmlich mit der Komplexität unseres Gehirns einher. Um das zu erforschen, sollten wir also als Metapher eben besser „analoge elektronische Organismen“ als „Digitaltechnologie“ verwenden. In jedem Fall besteht doch aber die Möglichkeit, dass wir am Ende sehenden Auges und ohne Widerstand eine wesentliche Errungenschaft westlicher Gesellschaften freiwillig aus der Hand geben: unsere Entscheidungsfreiheit … … hoffentlich nicht. Ich bin der starken Überzeugung, dass Europa hier aufstehen und den Humanismus verteidigen sollte. Wir Europäer entwickelten nach der Aufklärung Demokratien und föderale Strukturen, die es besonders in Zeiten der Digitalisierung und Maschinenintelligenz zu verteidigen gilt. Wir sollten uns mit frischen Ideen zum einen dem Überwachungskapitalismus und zum anderen dem chinesischen Sozialkreditsystem widersetzen. Hubert Österle charakterisiert solche Ideen als Basis seines „Life Engineering“. Generell sollten wir den Menschen und dessen Glück wohl - wieder - ins Zentrum unserer Entwicklungen stellen und nicht etwa Daten, Maschinelles Lernen oder Künstliche Intelligenz. Es geht doch vielmehr darum, dass wir in unserer europäischen Antwort einen Weg aufzeigen können, wie wir Menschen und Computer so miteinander verbinden, dass sie sich gemeinsam intelligenter verhalten, als es jemals ein Mensch, eine Gruppe oder ein Computer getan hat. Wir sollten zu „mehr Lebensqualität dank maschineller Intelligenz“ finden, wie es Österle formuliert. Gibt es aus heutiger Sicht überhaupt noch Alternativen zur „alternativlosen Digitalisierung“ unserer Welt - oder sind hoch zivilisierte Gesellschaften womöglich längst nicht mehr „analog“ organisierbar? Wie ich bereits darlegte, glaube ich nicht an eine absolute Digitalisierung. Diese steht heute noch oftmals für eine reduzierende Denkweise unserer westlichen Gesellschaft. Wir werden im Verlauf der Zeit feststellen, wo uns die Digitalisierung und in ihr ruhende KI-Systeme tatsächlich Mehrwert bringen - und wo nicht. Eventuell ist dabei das Analog das neue Digital. In der Künstlichen Intelligenz sehe ich nämlich die Nachhaltigkeitsbestrebungen gefährdet. Denn um starke KI-Systeme mit menschenähnlicher Intelligenz mittels heutiger Herangehensweisen zu bauen, benötigen wir wohl zu viel Energie. Wo unser Gehirn etwa 20 Watt Energie braucht, brauchen Supercomputer oftmals das Tausendfache. Ich glaube, hier müssen wir in Anbetracht endlicher Ressourcen zwingend auf eine naturinspirierte Herangehensweise umschwenken. Letzten Sommer etwa verbrachte ich in Ecuador, wo ich das „Sumak Kawsay“-Prinzip der indigenen Bevölkerung mit dem Hintergedanken einer Übertragung in unsere Smart Cities erforschte. Als zentrales Prinzip dieser Denkweise, welche Anknüpfungspunkte zu unserem westlichen Modell einer nachhaltigen Entwicklung hat, kennzeichnet dieses nämlich einen suffizienteren Weg zwischen kalifornischem Überwachungskapitalismus und chinesischem Sozialkreditsystem. Es zielt, grob gesagt, auf materielle, soziale und spirituelle Zufriedenheit aller Mitglieder einer Gemeinschaft, jedoch nicht auf Kosten anderer und nicht auf Kosten der natürlichen Lebensgrundlagen. Sumak Kawsay kann, wie es etwa in der ecuadorianischen Verfassung heißt, als „Zusammenleben in Vielfalt und Harmonie mit der Natur“ interpretiert werden. Wenn es uns gelingt, unser von den Griechen geerbtes Binärdenken zu einem Denken in naturinspirierte Organismen weiterzuentwickeln, so glaube ich, sollte diese indigene Denkweise auch in unseren intelligenten Städten und Regionen und deren Verkehr angewandt werden können. ■