„Reines Maschinenlernen ist blanker Unsinn“

„Künstliche Intelligenz und Wir“ ist ein sehr umfassendes Werk: Was war der Impuls für das Projekt?

Seit 2017 leite ich die Studiengruppe Technikfolgenabschätzung der Digitalisierung (SG DIGIT) der Vereinigung Deutscher Wissenschaftler e.V. In der SG DIGIT arbeiten 35 Menschen, darunter 18 Professoren sowie 13 Informatiker. Das Buch ist ein Produkt dieser Studiengruppe und folgt unserem ersten, 2021 erschienenen Buch „Wie wir leben wollen“. Wir wollten ein deutschsprachiges KI-Standard-Fachbuch werden, das modular in alle Studiengänge einfließen kann, in denen es Kurse/Seminare zu KI gibt. Darüber hinaus wollten wir uns über das Buch aktiv an der wissenschaftlichen und gesellschaftlichen Diskussion beteiligen, in welche Richtung die dritte Generation Künstlicher Intelligenz weiterentwickelt werden sollte.  

Auf den ersten Seiten beschreibst Du, dass das Buch einen „Panoramablick“ liefern soll. Welche Lücke wolltest Du damit schließen?

Das Buch gibt einen umfassenden Überblick über wichtige Themenbereiche der technischen Entwicklung von KI und ihrer Anwendung in wesentlichen wirtschaftlichen und gesellschaftlichen Feldern. Dieser Ansatz ist in der KI-Literatur kaum vertreten. Entweder werden sehr spezifische technische oder anwendungsorientierte „Waschzettel“-Bücher veröffentlicht, die aufgabenspezifisch unerlässlich, aber oft sehr oberflächlich und unkritisch geschrieben sind oder genau das Gegenteil, unwissenschaftliche KI-Bücher werden ohne viel Sachkenntnisse geschrieben, um die eigene ideologische Haltung zu äußern oder um einfach Geld zu verdienen. Uns ist es gelungen, ein wissenschaftlich fundiertes, und auf dem neuesten Stand seiendes, konstruktiv-kritisches KI-Fachbuch zu schreiben, in welchem die vielen Möglichkeiten, aber auch die Grenzen du Gefahren der KI-Nutzung erläutert werden. Gleichzeitig ist es als Open Access-Publikation für jeden Menschen mit Deutschkenntnissen kostenlos lebar. 

KI verändert, wie wir Krieg führen

Das Werk vereint Beiträge aus Informatik, Philosophie, Ökonomie, Ethik und Sicherheitspolitik. Wie viel Koordinationsarbeit erforderte dieses transdisziplinäre Format?

Wir brauchten für das Buch rund 18 Monate, um alle Kapitel in perfekter Qualität zu finalisieren. Es war aufwendig, den roten Faden durch alle Kapitel in gut verstehbarer Form durchzuziehen.

Das Buch hat bereits sehr hohe Downloadzahlen erreicht. Woran liegt Deiner Einschätzung nach das große Interesse?

Wir sind selbst überrascht und sehr stolz, dass wir in den ersten zwei Monaten eine Viertelmillion Downloads des Buches haben. Wir haben mit einem Erfolg gerechnet, aber das sprengt unsere Vorstellungskraft. Das Buch ist eines der erfolgreichsten Fachbücher im deutschsprachigen Raum überhaupt. Das liegt natürlich am Thema KI, aber auch an unserem sehr spezifischen Ansatz, technische, Anwendungs- und politische Themen zu verknüpfen – das interessiert die Menschen! Dazu kommt noch das herausragende Autoren Line-up: Die Namen vieler Autoren sind bekannt und machen in der Summe das Buch ebenfalls außergewöhnlich.

Standardwerk zu KI: 250.000 Downloads in den ersten beiden Monaten

Im Einleitungskapitel beschreibst Du KI als Technologie, die in „eine neue Epoche“ führt und globale Machtverschiebungen beschleunigt. Was genau meinst Du damit?

KI verändert schon als nackte Technologie einfach alles! Die Art wie wir produzieren wird genauso verändert, wie die Art wie wir lernen und lehren. Die Art wie wir Krieg führen wird genauso verändert wie die Art wie Menschen – vor allem in Ostasien – Sex haben. Wie das Smartphone verändert KI auch uns in umfassendem Sinne. In der KI-Ära gibt es die USA und die V.R. China als dominierende Weltmächte, die technologisch, wirtschaftlich und militärisch die Welt beherrschen. Dann gibt es die Europäische Union und Russland und einige wenige andere, die noch in der einen oder anderen Weise mitspielen und dann gibt es den Rest der Welt. In der multipolaren Welt, die gerade im Entstehen ist, gilt wieder offen und ohne Scham das Recht des Stärkeren, der sich das Recht auf territoriale Einflusssphären nimmt. KI schafft die technischen Voraussetzungen hierzu und beschleunigt die Entwicklung.

Wenn Du die zentralen Aussagen des Buches auf drei Punkte verdichten müsstest: Was sollten Leserinnen und Leser unbedingt mitnehmen?

1.    Reines Maschinenlernen ist gefährlicher Unsinn: Wir brauchen die neurosymbolische KI, die die Stärken der regelbasierten KI mit denen der neuronalen Netzwerke verbindet und wir brauchen den Menschen immer als Letztentscheider.

2.    Wir müssen in Deutschland mehr investieren, um KI, auch in Verbindung mit Quantencomputing, weiter zu entwickeln und müssen unsere Regulierungswut begrenzen.

3.    Umgekehrt müssen wir als EU unser Gewicht einsetzen, damit KI weltweit umfassend reguliert und das Vorsorgeprinzip beachtet wird. Vor allem darf KI nicht in militärischen Kommandoketten oder in der Nähe von Massenvernichtungswaffen eingesetzt werden. Aber auch in anderen gesellschaftlichen Feldern brauchen wir weltweit mehr Regulierung.

Der Mensch darf sich nicht entmündigen lassen

 Welche Erkenntnisse der Mitautoren haben Dich inhaltlich am meisten überrascht?

Ich fürchte keine, da wir ja alle Themen ausgiebig in unserer Studiengruppe diskutiert haben!

Gibt es auch Erkenntnisse, die den Einsatz von KI im Bereich Medien und Marketing betreffen?

Das sind ja zwei sehr verschiedene Bereiche: KI im Marketing ist von zentraler Bedeutung. Nicht nur durch das Design-Thinking und die Integration von KI in andere agile Methoden wird KI schnell weiter an betrieblicher Bedeutung gewinnen. Nahezu alle multinational agierenden Unternehmen und zunehmend auch KMU investieren massiv in KI-Tools, um ihre Produkte besser kommunizieren und vermarkten zu können. KI wird also alle Marketing-Bereiche durchziehen und zunehmend dominieren. Wir werden auch dieses Thema in der Studiengruppe verstärkt begleiten und bieten dazu Kurse und Vorträge an.  

KI in den Medien bedeutet, dass immer mehr „Content“ durch agentische KI-generiert wird, der auf Plausibilität und im Hinblick auf Urheberrechte zu prüfen ist und der unbedingt mit neuen, kreativen, menschlichen Ideen kombiniert werden sollte, um zu verhindern, dass die Produkte zunehmend grenzdebil werden. Das Anwendungsspektrum KI-basierter Inhalte umfasst dabei von schulisch genutzten games über Kulturerzeugnissen, zum Beispiel Opern oder Gemälde, bis hin zur Universitätslehre alle Ebenen der Bildungs- und Pressearbeit.

Im Schlusskapitel heißt es, dass KI unseren Gestaltungsraum enorm erweitert, gleichzeitig aber nur dann einen gesellschaftlichen Fortschritt ermöglicht, wenn der Mensch die Kontrolle behält und klare Regeln vereinbart werden. Warum muss das betont werden?

Weil auch unterhalb der Schwelle einer Superintelligenz KI ein äußerst machtvolles Werkzeug ist, müssen Menschen immer die volle Kontrolle behalten und KI in Zukunft transparenter und nachvollziehbarer werden. Wenn die KI beispielsweise eine bestimmte Krebs-Therapie vorschlägt, der Arzt aber einer anderen den Vorzug gibt, dann muss der Arzt sich zukünftig vermutlich dafür rechtfertigen, warum er nicht der Empfehlung der KI gefolgt ist. Das führt zu einer gefährlichen Entwicklung, in der der Mensch sich schrittweise immer weiter entmündigt – das darf nicht passieren!  Deshalb müssen Verantwortlichkeiten und Haftungsfragen eindeutig geregelt sein.

Interview: Helmut van Rinsum

Frank Schmiedchen (Foto) ist Wirtschaftswissenschaftler (FU Berlin) und hat seit 1999 als höherer Bundesbeamter und Diplomat Deutschland in internationalen Verhandlungen in der UNO und der EU vertreten. Zuvor hatte er den Lehrstuhl für Internationale Wirtschaftspolitik an der Päpstlich-Katholischen Universität Ecuadors in Ambato inne. Seit 1992 lehrte er an verschiedenen Berliner Hochschulen und an der FU Berlin VWL und BWL. Seit 2017 leitet er die VDW-Studiengruppe TA Digitalisierung, mit der er die Bücher „Künstliche Intelligenz und Wir“ (2025), „The World we want to live in“ (2022) und „Wie wir leben wollen“ (2021) herausgegeben hat.