Frau Prof. Grimm: Künstliche Intelligenz hat keine Moral. Wie wichtig ist es deshalb, lernenden Algorithmen ethische Verhaltensweisen beizubringen?

Das ist ein hochaktuelles Thema, mit dem wir uns als Gesellschaft beschäftigen müssen. Durch die Digitalisierung und Künstliche Intelligenz verändert sich unser Leben fundamental und unumkehrbar. Das betrifft vor allem das Verhältnis von Mensch und Maschine. Lernende Maschinen können auf der Basis von großen Datensätzen – Big Data –   zunehmend autonome Entscheidungen treffen, zum Beispiel beim automatisierten, vernetzten Fahren, bei Personalentscheidungen oder Finanztransaktionen. Ebenso stellen sie Prognosen an, zum Beispiel, ob wir einen Herzinfarkt erleiden oder unseren Kredit bezahlen werden. Für uns stellt sich eine Vielzahl ethischer Fragen, die unsere Selbstbestimmung, unsere Verantwortung und die Kontrolle der Maschinen betreffen. 

Es gibt bereits Gender-Debatten bei KI. Amazon wurde zum Beispiel vorgeworfen, in einem KI-gesteuerten Selektionsprozess von Bewerbern männliche Kandidaten zu bevorzugen. Auf Ethik übertragen: Welche Moralvorstellungen sollen für eine KI gelten?

Entscheidend ist der Datensatz, also der Korpus, anhand der die KI trainiert wurde. Wenn der Datensatz diskriminierend und rassistisch ist, dann wird auch das Ergebnis entsprechend ausfallen. Die KI kann nur so gut sein, wie ihr Meister oder ihre Meisterin. Ebenso wäre es gut, wenn es mehr weibliche KI-Entwickler gäbe, um auch die Use Cases und Anwendungsszenarien auf weibliche und männliche Bedürfnisse auszurichten. KI sollte zwar werte-basiert entwickelt werden, aber nicht mit einer bestimmten Moral. Denn wer kann schon von sich behaupten, er habe die „richtige“ Moral? Vielversprechender ist ein Capabilty-Ansatz. Dabei geht es darum, den Menschen durch Technik ein würdevolles Leben zu ermöglichen.

Sie forschen aktuell zum Thema „Ethics by Design in autonomen Fahrzeugen“. Um welche wissenschaftlichen Fragen geht es dabei?

Der Ansatz, mit dem ich mich gerade intensiv beschäftige, ist „Narrative Ethics by Design“. Ethics by Design bezeichnet ein Forschungsfeld, in dem es darum geht, ethische Prozesse bei der Konstruktion, Entwicklung und Gestaltung von Technologien zu implementieren und deren mögliche Konsequenzen zu antizipieren. Beispielsweise befassen wir uns beim automatisierten Fahren damit, wie die Privatsphäre im Fahrzeug gewährleistet werden kann, auch wenn es Mikrofone und Kameras gibt. Lokale Datenspeicherung, Anonymisierung oder Löschung der Daten können hier Optionen sein. Im Wesentlichen handelt es sich um den Ansatz einer angewandten Ethik, der eine werteorientierte Technologie zum Ziel hat. Mithilfe von Geschichten, die sich Menschen erzählen und die auch als Zukunftsstorys entwickelt werden, lässt sich der Prozess des Ethics by Design effektiv umsetzen. Wie beim Internet der Dinge geht es bei vielen digitalen Anwendungen um die Frage, ob wir – noch – Vertrauen in die Technologie haben. Studien zeigen, dass die Verbraucher von den Unternehmen zunehmend erwarten, dass sie Technologien verantwortungsbewusst und ethisch gestalten und einsetzen.  

Welche Fragestellung ist in diesem Zusammenhang aus Ihrer Sicht besonders interessant?

Die drei wichtigsten Fragen sind: Kann ich die KI noch kontrollieren? Respektiert die KI meine Privatsphäre? Und: Ist die KI überprüfbar und sicher? Wenn diese Fragen für den Konsumenten oder in der Markenführung beantwortet werden, ist das vertrauensbildend. Und Vertrauen ist ein hohes Gut.

Werden ethische Fragen die Markenführung in einer zunehmend digitalisierten Welt dauerhaft beeinflussen?

Menschen bringen Marken relativ viel Vertrauen entgegen, mehr als Politikern und Journalisten. Allerdings kann Vertrauen auch schnell verloren gehen. Ich denke, dass in Zukunft von einer Marke sehr viel häufiger eine bestimmte „Haltung“ erwartet wird. Allerdings muss dann das Narrativ der Marke glaubwürdig und authentisch sein und im gesamten Engagement der Marke zum Ausdruck kommen. Eine Feigenblatt-Ethik oder ein „Ethical Washing“ sind hier kontraproduktiv.

Wird die umfassende Erörterung ethischer Fragen bei Entwicklung und Einsatz von KI wirklich ein Wettbewerbsvorteil sein? Oder werden Länder, die hier strenge Maßstäbe anlegen wollen, ins Hintertreffen geraten?

Der Treibstoff für KI sind Daten. China zum Beispiel hat hier einen eindeutigen „Vorteil“, da es keinen Datenschutz gibt und die Regierung Überwachungstechnologien nach gusto einsetzen kann, es somit einen riesigen Markt für diese KI-Anwendungen gibt. 

Aber: Innovative wertebasierte Geschäftsmodelle, die sich nicht an China oder dem Silicon Valley orientieren, könnten eine europäische Alternative sein. Das klingt jetzt für einige sicherlich utopisch. Aber „KI Made in Europe“ kann im Sinn eines nachhaltigen digitalen Wirtschaftens Vertrauen in technologische Anwendungen erzeugen. Vertrauensvolle Produkte können ein Qualitätsmaßstab sein, der einen Wettbewerbsvorteil bietet. Wie vor 40 Jahren, als das Umweltbewusstsein Fahrt aufnahm, stehen wir heute auch wieder an einem Wendepunkt: Wir müssen uns entscheiden, ob wir mehr datenökologische Verantwortung übernehmen oder das digitale Ökosystem kannibalisieren wollen.

Das Interview führte Helmut van Rinsum

Prof. Dr. Petra Grimm ist Professorin für Medienforschung und Kommunikationswissenschaft an der Hochschule der Medien Stuttgart. Sie ist dort Leiterin des Instituts für Digitale Ethik und Ethikbeauftragte der Hochschule der Medien. Ihre Forschungsschwerpunkte sind «Digitalisierung der Gesellschaft», «Ethics and Privacy by Design», «Mediennutzung von Kindern und Jugendlichen» sowie «Medien und Gewalt». Prof. Grimm ist Preisträgerin des Landeslehrpreises Baden-Württemberg und Mit-Herausgeberin der Schriftenreihe Medienethik.

Prof. Grimm ist auch Referentin des beyond-talk am 28. März in Zürich. Der von der Agentur Martin et Karczinski veranstaltete Abend trägt den Titel: „Künstliche Intelligenz und Ethik – Markenführung in einer digitalisierten Welt“.