Was der Eintopf meiner Grosstante uns über KI sagt

Ein Gastblog auf ethix vom 10. Dezember 2018:

Meine 80-jährige Grosstante macht einen leckeren Eintopf und sie ist flott mit ihrem Tablet unterwegs. Aber dass sie über künstliche Intelligenz (KI) nachdenkt, hatte ich nicht erwartet. Darum überrumpelte sie mich vor zwei Wochen, als sie mich fragte, ob ich denn keine Angst vor der KI hätte.

Der Begriff 'Künstliche Intelligenz' ist Fluch und Segen zugleich. Ein Segen, weil er abstrakte Themen wie Daten, Digitalisierung und Informationsverarbeitung anthropomorphisiert und so selbst Interesse, Sorgen und Fragen meiner Grosstante weckt. Ein Fluch, und das entgegnete ich ihr, weil er all diese Themen zu einem Eintopf verkocht und am Ende niemand mehr recht weiss, was eigentlich drin ist. Wer aber die Zutaten nicht kennt, kann weder abschätzen, ob das Gericht ihm gut bekommen wird, noch wie man die Rezeptur verändern sollte, damit es einem besser schmeckt. Als Leiter des AI-Teams bei Reatch, einem grassroots ThinkTank, durfte ich in den letzten eineinhalb Jahren mit vielen verschiedenen Menschen über das Thema KI reden. Was werfen diese Menschen in den KI-Eintopf? Welche Themen versammeln sich unter dem Begriff KI?

Breite Meinungsvielfalt zu «künstlicher Intelligenz»

Meine Tante gehört zur grossen Gruppe der besorgten Bürgerinnen und Bürger. Sie fragen sich, ob ihr Job sicher ist, was sie ihren Kindern beibringen sollen und, je nach ScienceFiction-Film Konsum, ob die Menschheit dem Untergang geweiht sei. Die KI wird dabei vor allem als ein roboterhaftes Wesen mit Intentionen und übermenschlichen Fähigkeiten wahrgenommen. Tatsächlich beschäftigt sich auch eine Reihe von Philosophinnen und Philosophen und zunehmend auch Mathematikerinnen und Mathematiker hauptberuflich mit dieser Vorstellung von KI. Unter dem Begriff 'AI Safety' versuchen Nick Bostrom oder Thomas Metzinger die Frage zu klären, wie die Menschheit eine ihr weit überlegene KI kontrollieren und mit den richtigen Wertvorstellungen anreichern kann. Während das Thema AI Safety unter KI-Forschern keine besondere Rolle spielt, beackern es beispielsweise Organisationen aus dem Umfeld der Effektiven Altruisten mit grossem Eifer, in Zürich z.B. der AI-Alignment Reading Club oder in Oxford das Future of Humanity Institute. In diesen Kreisen steht KI oft synonym für den perfekten rationalen Entscheider, eine Art Homo Ökonomikus, der seine Fähigkeiten rücksichtslos und mit wachsender Geschwindigkeit ausbaut, weil dies fast immer rational ist, egal, welches finale Ziel er anstrebt.

Haltung von Unternehmen zu «künstlicher Intelligenz»

Auch Unternehmen interessieren sich brennend für KI, aber ihr Zeithorizont ist viel kürzer, als der der Philosophinnen und Philosophen. Entsprechend bedeutet der Begriff KI für sie vor allem eines: Automatisierung. Dabei scheint in erster Linie Unsicherheit zu herrschen, wie auf Automatisierung reagiert werden soll. Unternehmen wissen nicht, ob ihr Geschäftsmodell morgen von Amazon oder einem kleinen KI-basierten Startup untergraben wird. Einige verfügen über potenziell wertvolle Daten, doch können sie diese ohne die raren 'AI-Talents' nicht auswerten. Und selbst wenn sie es könnten, ist der Business-Case nicht automatisch in Sicht. Besser stehen grosse Firmen wie Bosch, Siemens oder die SBB da. Ihr Geschäftsmodell mit Sensoren oder Infrastruktur versorgt sie mit erstklassigen Daten und sie besitzen starke Forschungsabteilungen, die damit auch etwas anfangen können. Sie können KI direkt aus Daten lernen lassen, um Produktvorschläge oder Prozesse effizienter zu machen. Die Unsicherheit betrifft aber nicht nur Geschäftsmodelle, sondern auch gesetzliche Regulierung. Wenn Googles Assistent von Suizidgedanken erfährt, soll er die Polizei informieren? Der Schutz der Privatsphäre muss gegen unterlassene Hilfeleistung abgewogen werden. Das Startup daedalean beispielsweise baut KI-Piloten für Personen-Quadrokopter. Aber ob diese Idee letztlich zum Fliegen kommt, hängt entscheidend von der Gesetzgebung ab.

Politik und «künstliche Intelligenz»

Mit solchen Beispielen kommt eine entscheidende Gruppe ins Spiel: Die Politikerinnen und Politiker. Wenn diese von KI reden, dann vor allem im Sinne einer ominösen, technologischen Revolution, die alle Bereiche der Gesellschaft durchdringt. Diese Bereiche lassen sich nicht mehr sauber trennen: Geostrategie, Wirtschaftsförderung und die Frage der Umverteilung hängen enger zusammen denn je. Die europäischen Staatsoberhäupter wollen auf keinen Fall weiter hinter die USA und China zurückfallen, was sich an Frankreichs 1,5 Mrd. Euro schwerer KI-Initiative oder dem kürzlich veröffentlichten KI-Plan der deutschen Bundesregierung zeigt. Doch KI ist ein zweischneidiges Schwert. Es ist unklar, ob und wieviele Arbeitsplätze erfolgreichen Künstlichen Intelligenzen zum Opfer fallen und wie viele fatale Fehler KI verschulden werden. Eines steht fest: ohne gesellschaftlichen Rückhalt wird KI nicht prosperieren, auch wenn es die politische Strategie gerne so hätte. Das Spannungsfeld zwischen Innovation und gesellschaftlicher Akzeptanz spiegelt sich bereits in zahlreichen kleinen politischen Entscheidungen wieder: Wem gehören die Daten? Wer haftet für Straftaten von KI? Soll KI besteuert werden?

Politikerinnen und Politiker sind beileibe keine KI-Experten. Wie sollen sie diese Fragen beantworten? Fabian Molina, SP-Nationalrat aus dem Kanton Zürich, brachte die Rolle der Politik auf den Punkt: als «unwissender Entscheider» sei es seine «wichtigste Aufgabe, gut zuzuhören». Dieses offene Ohr bietet eine grosse Chance für die Wissenschaft. Allerdings sehen viele Wissenschaftlerinnen und Wissenschaftler, die mit oder an KI forschen, das nicht so. KI setzen sie schlichtweg mit maschinellem Lernen gleich, also Statistik mit grossen Datenmengen. Ihnen geht es vor allem darum, die Konvergenz von Algorithmen oder die Qualität von Vorhersagen zu verbessern. Darin liegt ihre Expertise - nicht in Politik. Wissenschaftlerinnen und Wissenschaftler produzieren einen so vielseitigen KI-Werkzeugkasten, dass sie unmöglich zu allen Anwendungen eine fundierte Meinung entwickeln können. Einige prominente Köpfe machen sich für die Entwicklung von ethischer KI stark, aber für die meisten bleibt KI vor allem ein Marketing-Hype rund ums Machine Learning.

Obwohl jede dieser Gruppen dem KI-Begriff eine eigene Würzung gibt, besteht der Eintopf doch im Wesentlichen aus drei Fragen. Als Bürger und Philosophinnen fragen wir uns, welche Rolle der Mensch in der Welt spielt und spielen soll; als Bürgerinnen, Politiker und Unternehmerinnen, wie wir intelligente Informationsverarbeitung nutzenmaximierend in unsere Gesellschaft integrieren; und als Wissenschaftler, wie diese Informationsverarbeitung noch intelligenter gemacht werden kann. Zu viele Köche verderben den Brei, so heisst es. Wenn wir diese drei Zutaten wahllos zu einem Eintopf verkochen, schmeckt man nichts mehr raus. Genau so ist es, wenn alle über KI reden, ohne sich klar zu machen, dass verschiedene Gruppen verschiedene Dinge damit meinen! Und dies sieht auch meine Grosstante so: Bei einem guten Eintopf, findet sie, ist es wichtig, dass man erkennen kann, was die Zutaten waren.