Rainer Mühlhoff: Warum ist für dich der KI-Hype in der Autoindustrie Zeichen von Verzweiflung und nicht von Kompetenz?

Wenn dir diese oder auch eine andere Folge gefällt, lass´ gern eine Bewertung da und/oder supporte mich per Ko-Fi oder PayPal. Meinen wöchentlichen Newsletter gibt es bei steady. Mein zweites Buch „Raus aus der AUTOkratie – rein in die Mobilität von morgen!“ kann ab sofort vorbestellt werden. Ich freue mich, wenn du das machst, denn das hilft nischigen Sachbüchern wie dem meinen, wahrgenommen zu werden. Ihr wisst schon: Kapitalismus – Carpitalism – und dann erst das Paradies für alle. Ich habe grad damit begonnen, für alle Podcasts auch Transkripte bereit zu stellen, auf dass noch mehr Menschen, die nicht so gern hören oder nicht so gut hören können, an meinen Inhalten teilhaben.

Rainer Mühlhoff ist der erste Professor mit der Denomination „Ethik der Künstlichen Intelligenz“ in Deutschland. Ethik ist für ihn eine Reflexion von Menschen und Gesellschaft über das, „was wir uns antun mit unserem Verhalten“, da Entwicklung von Technik immer starke gesellschaftliche Auswirkungen hat. Sie prägen unsere Realität, sie prägen unser Denken, sie prägen Machtstrukturen. Rainer ist es wichtig, dass Machine-Learning-Systeme immer auch als soziotechnische Systeme analysiert werden müssen. So ist der kommerzielle Einsatz von künstlicher Intelligenz eben nicht künstlich – und auch nicht sonderlich intelligent –, sondern beruht auf den gewohnten Machtstrukturen, indem Klickarbeiter:innen für die notwendigen Eingaben sorgen, aber auch Nutzende die KI trainieren. Bestes Beispiel: Captchas. Was aber auch zeigt: Die KI ersetzt nicht die menschliche Intelligenz, sondern ist von dieser zurzeit noch beschränkt.

Für seinen Fachbereich in Osnabrück nimmt er genau diesen Blickwinkel in den Fokus, erfreulicherweise gibt es aktuell auch viel Nachfragen nach Ethik der KI, da diese bisher oft außer Acht gelassen wurde. Viele KI-Unternehmen finanzieren sogar Institute mitfinanzieren, die diese Forschung machen. Das nennt sich dann Ethics-Washing, eine Form von PR-Arbeit, um zu zeigen, dass gesellschaftliche Verantwortung übernommen wird. Einziger Beweggrund dahinter: härtere Regulierungsvorhaben zu verhindern. Die Forschung in Osnabrück ist jedoch staatlich finanziert und damit unabhängig. Was für Rainer enorm wichtig ist: „Ethik ist für uns oder ethische Fragen sind für uns immer Machtfragen. Wer profitiert davon, wer nicht? Was sind die verdeckten Interessen? Welche Diskriminierungsformen hat zum Beispiel der Effekt von einer Technologie? Was sind Ausbeutungs-, neue Ausbeutungsmechanismen, gerade im digitalen Kapitalismus? Welche vulnerablen Gruppen werden ausgebeutet?“ KI-Technologie wird von großen Unternehmen gemacht, die wirtschaftlichen Interessen unterliegen und in einem globalen Macht-und Wertschöpfungszusammenhang stehen.

Das Problem: Bei KI-Technologie ist das allgemeine Bewusstsein noch nicht hoch, auch weil Anbieter:innen der Technologie nicht offensiv mit ihren Produkten auftreten, sondern sich als nützliche App tarnen oder andere virtuelle Services, die das Leben vereinfach oder so eine große Marktdurchdringung haben, dass es unmöglich erscheint, „als Einzige:r“ diese nicht zu nutzen. Nutzungsbedingungen liest sich kein Mensch durch, so stimmen wir dem Datensammeln und Daten der Verwendung unserer Daten für weitere Zwecke zu, ohne das Ausmaß zu begreifen. Rainer empfindet daher die Ethik-Arbeit, die seine Forschung anbietet, als Bewusstseins-Bildungsarbeit. Sie erforschen die Hintergründe und klären auf, ohne vorzuschreiben, was Nutzende mit diesem neuen Wissensstand tun sollen. Diese Entscheidung obliegt jedem Menschen selbst. Der erste Schritt von so einem Bewusstseins-Bildungsprogramm sei der, sich zu vergegenwärtigen, dass man es immer mit einem Geschäftsmodell zu tun hat. Wenn also eine Leistung, eine App kostenlos nutzbar ist, zahlen Nutzende dennoch – zumeist mit sehr persönlichen Daten. Zum Teil sogar mit den Daten Dritter, die wir als Telefonnummern oder Fotos auf unseren Smartphones haben.

Warum werden diese Daten gesammelt? Vor allem, um Unterschiede zwischen Menschen erkennen zu können. Für noch individualisiertere Werbung oder Verteuerung eines Versicherungsvertrages aufgrund der Vorerkrankungen einer Person. Auch in den ersten Stufen eines Bewerbungsprozesses kommt immer öfter nur KI zum Zuge, um den Prozess zu beschleunigen. Deuten die Daten hier an, dass eine Person eine psychische Krankheit, erfolgt eben keine Einladung zum Jobbewerbungsgespräch. „Perfiderweise“, so Rainer, „kann es auch sein, dass die Quittung andere Menschen bekommen. Daten, die wir zur Verfügung stellen, werden insbesondere dafür benutzt, andere Menschen als Abweichler:innen zu erkennen.“ Ihr kennt ihn alle, den Satz: „Ich habe nichts zu verbergen, sollen sie doch meine Daten haben, sollen sie doch die Klarnamenpflicht einführen.“ Es braucht die Daten von den 100 Millionen Menschen, die sich für normal halten, um die Menschen, die wirklich was zu befürchten dhaben, im Unterschied dazu zu erkennen. „Das heißt, mit dem, was wir da machen, schaden wir vor allem dem Kollektiv, also richten gesellschaftlichen Schaden an. Schaden, der sich nicht nur in unserer eigenen Rechnung materialisiert, sondern in der Rechnung potenziell anderer und schwächerer.“

Ein Begriff ist hier die prädiktive Analytik. Das sind die Anwendungen von KI, Dinge, die man über Menschen nicht weiß, weil diese es aus Gründen veschweigen oder schlicht selbst nicht wissen, vorauszusagen. Dazu gehören z. B. religiöse Zugehörigkeit, politischen Ansichten, sexuelle Orientierung als bewusst zurückgehaltene Information und Disposition zu Krebs, psychischen Erkrankungen über Verhaltensdaten „herauszulesen“, auch wenn Betroffene diese Diagnosen noch nicht mal bekommen haben. In den USA ist der Preis für eine Krankenversicherung individuell nach solchen Risikoabschätzungen bemessbar. In Deutschland der Preis für eine Kfz-Versicherung. Da gibt es Tarife, bei denen man seinen Social-Media-Account für Auslesung melden oder sogar ein Messgerät im Auto mitführen muss, dass das Fahrverhalten dokumentiert. Für diesen Tarif zahlt man zunächst weniger Beitrag. Mit KI wird dann ein Profil über das Risikoverhalten entwickelt und der Preis der Versicherungen billiger oder teurer gemacht.

Für Rainer wirkt es seitens der Autoindustrie, insbesondere der deutschen und europäischen, sehr verzweifelt, dass man, ohne sich vorher damit ernsthaft beschäftig zu haben, jetzt unbedingt KI aufbauen muss. Denn diese Industrie hat für ihn schon die Digitalisierung an sich verschlafen. Der einzige Autohersteller, der das von vornherein umarmt hat, ist Tesla. „Tesla bedient sich wie ein Smartphone und hat die gleiche Software wie ein Smartphone, sondern es ist auch wie ein Smartphone vollgestopft mit Sensoren, die ihre Daten ständig auf Server laden. Tesla loggt alles, was um das Auto herum passiert und was im Auto drin passiert, ständig mit. Das Tesla-Smartphone auf Rädern, in das wir uns hineinstecken.“ Das ist eine Entwicklung, die laut Rainer deutsche Automobilhersteller kognitiv überhaupt nicht verstehen, im Gegenteil. Anstatt intuitive Systeme zu entwickeln braucht es Bedienungsanleitungen. Das nennt Rainer in Anlehnung an den Turbo-Kapitalismus Turbo-KI-ismus, der da nicht intrinsisch motiviert gefahren wird bei der deutschen und europäischen Automobilindustrie, sondern weil man seinen Investoren was bieten muss, das verspricht, dass die Industrie nicht von Tesla überrollt wird.

Eine qualitativ hochwertige KI-Anwendung im Mobilitätsbereich sieht Rainer im dezentralisierten Management von Verkehrsflüssen. Die Routenplanung von Google Maps ist viel besser als frühere Systeme, die auf Kartenbasis arbeiteten, weil Google direkt vom Server in Echtzeit informieren kann. Warum? Weil jedes einzelne Smartphone mit seinem GPS-Modul eine Messsonde ist, die angibt, wie schnell man gerade durch welche Straße fährt. Routenführung ist somit auch ein Plattformkapitalismus-Phänomen. Wenn das aus anderen Quellen wie die eines Datenkonzernes käme, so Rainer, wäre das ein gutes Tool, um den Verkehr effizienter, umweltfreundlicher und ressourcensparsamer zu gestalten. Er zweifelt jedoch daran, dass das geschieht, denn dafür bräuchte es Regulierung.

Autohersteller setzen KI aktuell eher für die Individualisierung des privat besessenen Pkw ein. Personalisierte Werbung, die uns das Auto zuschneidet. Auch hier stecken riesige Summen gesammelter Daten dahinter, von Kund:innen, die bereits Autos kauften und fuhren

Es ist jetzt an uns, ob wir eher dystopischen Szenarien oder Verbesserung von Mobilität bekommen. Schwarmbasierte Mobilität, Mobilität on Demand, kann den öffentlichen Nahverkehr ergänzen. Das würde die Anzahl herumstehender Autos drastisch reduzieren. „Wenn man das Ganze clever macht, würde man Leerfahrten vermeiden, also das Auto, was dich abholt, das bringt auf den Weg zu dir noch jemand anderem an sein Ziel. Wenn das keine Autos sind, sondern vielleicht kleine Busse, dann kann man Fahrten bündeln, also dann wird halt noch jemand anderes abgeholt, der einen ähnlichen Weg hat wie du. Das ist eine richtig gute Vision von einem öffentlichen Nahverkehr. Ich würde nicht sagen, dass wir keine S-Bahnen und Züge mehr haben sollten, aber man wird nicht vollständig auf die individuelle Route verzichten können. Nicht jeder kann bis zur S-Bahn-Haltestelle gehen, nicht jeder hat eine S-Bahn-Haltestelle in akzeptabler Reichweite, im ländlichen Raum schon gar nicht.“ Die Daten, die es dafür braucht, sind laut Rainer unheimlich wertvolle, sehr sensible Daten, die sehr viel über die Menschen sagen. Wo fahren sie hin, was ist ihr nächstes Ziel, was ist der Endpunkt einer Fahrt. Schon aus diesen drei Punkten, so Rainer, kann man eindeutig identifizieren, ob ich einer Subkultur angehöre, einer Religionsgemeinschaft, einer Minorität, ob ich in einer Gaybar war, auf welche Demos ich gehe, wo ich einkaufe, zur Schule gehe, ob ich die Schule geschwänzt habe. Wenn man da nicht reguliert, wie man so etwas baut, wird es grunddystopisch, eine verlängerte Datensammelinfrastruktur von Digitalunternehmen. Es würde schon helfen, wenn diese Daten nicht zweitverwertet werden dürfen. Aber das wird eine hohe Hürde, weil der regulatorische Wille dazu aktuell nicht vorhanden ist. Aktuell die Idee von selbstfahrenden Autos nämlich laut Rainer nicht dahin, dass wir kein Auto haben mehr müssen, sondern die Idee sei, dass das Auto immer noch 23 Stunden, 47 Minuten am Tag am Straßenrand steht und als Besitzprivileg funktioniert.

Die bessere Vision ist für Rainer das Sharing Autonomous Driving auf einer Qualitätshöhe, die keine spezielle Fahrspuren braucht oder Kinder überfährt, die über die Straße gehen. Da könnten Bereiche definier werden, wo diese Autos nicht hineinfahren. Mit dem Platz, den man gewinnt, sollte es wieder zu komplett autofreien Zonen übergehen, die Begegnungsflächen schaffen, während der Verkehr auf Hauptachsen gebündelt wird. Das ist für Rainer die größte Herausforderung, dass wir gar keine positive Bezugnahme auf den öffentlichen Raum mehr haben, weil uns das in den letzten 120 Jahren verloren gegangen ist. Den Raum vor der Haustür, den öffentlichen Raum, als positive Lebensqualität stiftenden Bereich wahrzunehmen, als Begegnungsbereich, Ort zum Flanieren, zum Zeitverbringen, zum Austausch, für die ungeplante Begegnung.

Das sieht man auch an den Shoppingmalls, privatisierten öffentlichen Räume mit privaten Hausregeln, die sich rein kommerziellen Interessen unterordnen und Menschen ausschließen, die kein glaubhaftes Konsuminteresse mitbringen.

Wenn ihr mehr über die Arbeit von Rainer erfahren wollt, könnt ihr das unter www.RainerMühlhoff.de.

Seine Forschung widmet sich u. a. einer Frage:

Was ist eigentlich KI?

Hier stellen die Forschenden die These dar, dass KI-Systeme auf den Daten, die wir alle jeden Tag produzieren, beruhen. Dass KI gar nicht möglich wäre, ohne unsere Bereitschaft durch die Benutzung technischer Dienste, Apps, Smartphones, Daten zu generieren. Dass diese künstliche Intelligenz gar nicht im Rechenzentrum existiert, sondern eher eine technologisch gut orchestrierte Schwarmintelligenz ist, zu der jeder von uns kleine Beiträge, jeden Tag kleine Beiträge leistet. Diese Perspektive soll ermöglichen, diese sehr mächtige Vision von KI zu dekonstruieren und und zu zeigen, dass wir einen sehr großen Hebel haben, wie viel von diesen Systemen wir ermöglichen. Denn wenn wir unseren Daten oder uns selber und unsere Lebensräume nicht mehr zur Verfügung stehen, dann wird es diesen Systemen nicht mehr so recht möglich sein. Und auf der Seite von Regulierungsvorschlägen, da arbeiten wir vor allem sehr stark zu Regulierungslücken, die sich gerade jetzt auch im Kontext der KI-Verordnung noch ergeben. Genau, da kann man auch einiges zu nachlesen auf der Homepage.