Wenn heute von Künstlicher Intelligenz die Rede ist, klingt das nach Hightech, Zukunft und unbegrenzten Möglichkeiten. Doch schon einer der frühen Pioniere der Informatik, Joseph Weizenbaum, hat eindringlich davor gewarnt, die Macht von Computern zu überschätzen – oder sie gar als Ersatz für menschliche Verantwortung zu betrachten.
Sein Werk steht am Anfang einer kritischen Auseinandersetzung, die von der Wissenschaftlerin Kate Crawford in jüngster Zeit weitergeführt wurde. Beide zeigen auf: Künstliche Intelligenz ist keine neutrale Technologie, sondern zutiefst verwoben mit Politik, Wirtschaft und Macht.
Joseph Weizenbaum – der widerwillige Pionier
Joseph Weizenbaum (1923–2008) war ein deutsch-amerikanischer Informatiker, der in den 1960er Jahren am renommierten Massachusetts Institute of Technology (MIT) lehrte und forschte. Dort entwickelte er zwischen 1964 und 1966 ein Programm, das weltbekannt wurde: ELIZA.
ELIZA war einer der ersten Chatbots – freilich in einer sehr einfachen Form. Das Programm arbeitete mit Schlüsselwörtern und standardisierten Satzmustern. Die bekannteste Version, «DOCTOR», simulierte eine psychotherapeutische Gesprächssituation. Gab der Nutzer einen Satz ein, griff ELIZA ein Schlüsselwort heraus und stellte eine Rückfrage nach vorgefertigtem Muster. Wer etwa schrieb «Ich bin traurig», bekam die Antwort «Warum sind Sie traurig?» – eine simple Umkehrung, die verblüffend wirkte.
Das Überraschende war weniger die Technik als die Reaktion der Menschen. Viele glaubten, ELIZA «verstehe» sie tatsächlich. Sie schrieben dem Programm Empathie und Intelligenz zu. Weizenbaum prägte dafür später den Begriff «ELIZA-Effekt»: Menschen neigen dazu, Maschinen mehr Bewusstsein zuzuschreiben, als sie tatsächlich besitzen.
Gerade diese Erfahrung machte Weizenbaum skeptisch. Während andere KI-Pioniere wie John McCarthy oder Marvin Minsky euphorisch die «Denkkraft» von Maschinen betonten, stellte Weizenbaum die Frage nach den Grenzen. 1976 veröffentlichte er sein Buch Computer Power and Human Reason, in dem er warnte: Computer sollten nicht dort eingesetzt werden, wo moralische Urteilsfähigkeit verlangt ist.
Weizenbaum sprach von einer «programmierten Gesellschaft», die Gefahr laufe, menschliche Entscheidungen an Maschinen zu delegieren. In seinem Spätwerk Inseln der Vernunft im Cyberstrom (2006) erinnerte er zudem daran, dass Computer nicht aus einem neutralen Forschungsdrang entstanden sind, sondern «im Krieg geboren» wurden – und von Beginn an eng mit militärischen Interessen verbunden waren.
Die Militarisierung der Technik
Dieser Hinweis war kein Zufall. Schon im Zweiten Weltkrieg entstanden die ersten elektronischen Rechenmaschinen in militärischem Kontext – für Ballistik, Kryptographie und Atomforschung. Nach 1945 wurden grosse Teile der Informatik und später der KI-Forschung durch militärische Budgets finanziert.
Die US-Behörde DARPA (Defense Advanced Research Projects Agency) gilt bis heute als eine der zentralen Förderstellen für bahnbrechende Entwicklungen – vom Internet über GPS bis zu autonomen Drohnen. Die Logik dahinter ist klar: Wer technologische Vorherrschaft hat, sichert sich auch geopolitische Macht.
Weizenbaum kritisierte, dass dadurch ein Bereich, der das menschliche Leben erleichtern könnte, systematisch in die Richtung militärischer Anwendungen gedrängt werde. Diese kritische Linie hat in den letzten Jahren die australische Informatikerin Kate Crawford aufgenommen – allerdings mit einem erweiterten Blick, der über das Militär hinaus auch Rohstoffe, Arbeit und Kapital einbezieht.
Kate Crawford und der «Atlas der KI»
Kate Crawford veröffentlichte 2021 ihr Buch Atlas of AI, das 2022 auf Deutsch erschien (Atlas der KI – Macht, Politik und die planetaren Kosten der künstlichen Intelligenz). Der Untertitel deutet es an: Crawford versteht KI nicht nur als eine technische Disziplin, sondern als industrielles und politisches Projekt.
Ihre zentrale These lautet: Künstliche Intelligenz ist weder künstlich noch intelligent.
Stattdessen ist KI «verkörpert und materiell». Sie wird möglich durch eine komplexe Kette von Voraussetzungen:
- Natürliche Rohstoffe wie seltene Erden und Metalle, die für Rechenzentren und Chips benötigt werden.
- Energie in gigantischen Mengen, um die Rechenprozesse und Datenspeicherung aufrechtzuerhalten.
- Menschliche Arbeit, oft in prekären Bedingungen, etwa beim Annotieren von Trainingsdaten oder beim Abbau der Rohstoffe.
- Politische und soziale Strukturen, die bestimmen, welche Projekte gefördert und welche Anwendungen zugelassen werden.
Crawford beschreibt KI-Systeme als ein «Register der Macht». Sie sind nicht neutral, sondern spiegeln die Interessen derjenigen wider, die sie finanzieren und kontrollieren. In ihrer Sicht sind es derzeit vor allem US-amerikanische Technologiekonzerne, Milliardäre und mit dem Militär verbundene Institutionen, die die Richtung vorgeben.
Calculating Empires – Technologie und Macht seit 1500
Diese Perspektive hat Crawford gemeinsam mit Vladan Joler in einer Ausstellung eindrücklich sichtbar gemacht. Unter dem Titel «Calculating Empires» zeigten sie in Venedig eine Serie grossformatiger Tafeln, die den Zusammenhang von Technologie und Macht seit dem Jahr 1500 darstellen.
Der US-Journalist Seymour Hersh, bekannt durch seine Enthüllungsreportagen, stiess zufällig auf diese Ausstellung. Er beschreibt, wie dort die Geschichte der Waffen nachgezeichnet wird – von Schiesspulver über Atombombe bis hin zu Mikrodrohnen und Cyberkrieg. Für Hersh war die Botschaft klar: Wenn die Muster der Vergangenheit fortgeführt werden, droht irgendwann ein totaler Atomkrieg.
Er war so beeindruckt, dass er sich eingehend mit Crawfords Buch beschäftigte. Ihre Diagnose, dass KI ein Spiegel von Macht- und Herrschaftsstrukturen sei, habe ihn überrascht – aber auch überzeugt.
Die politische Dimension von KI
Crawford betont: KI ist kein rein technischer Bereich. Sie ist zugleich soziale Praxis, Institution, Infrastruktur, Politik und Kultur. Sie schreibt:
«Um zu verstehen, wie grundlegend politisch KI ist, müssen wir über neuronale Netze und statistische Mustererkennung hinausgehen und stattdessen fragen, was optimiert wird, für wen und wer darüber entscheidet.»
Das klingt abstrakt, doch Beispiele sind zahlreich:
- Gesichtserkennungssysteme werden in einigen Ländern vor allem zur Überwachung eingesetzt. Wer entscheidet, wer überwacht wird – und mit welchen Folgen?
- Algorithmen im Finanzwesen optimieren Renditen – aber auf Kosten von Arbeitsplätzen oder ökologischen Schäden.
- Sprachmodelle wie Chatbots werden trainiert auf bestehenden Textmengen – und reproduzieren damit oft die Vorurteile und Ungleichheiten, die in diesen Daten enthalten sind.
Crawford weist auch darauf hin, dass der Begriff «Künstliche Intelligenz» selbst problematisch ist. In der Fachwelt ist eher von Maschinellem Lernen die Rede. Der glamouröse Begriff «KI» werde meist dann benutzt, wenn es um Schlagzeilen, Investoren oder Marketing gehe.
Für sie bezeichnet «KI» weniger ein einzelnes Verfahren, sondern eine «massive industrielle Formation», die Arbeit, Kapital und Politik umfasst.
Von Weizenbaum zu Crawford – eine Linie der Kritik
Trotz des zeitlichen Abstands von rund fünfzig Jahren verbindet Weizenbaum und Crawford ein gemeinsamer Gedanke: KI ist nicht das, was sie auf den ersten Blick scheint.
- Weizenbaum warnte, dass Maschinen keine moralischen Entscheidungen treffen dürfen und dass ihre Entwicklung eng mit militärischen Interessen verknüpft ist.
- Crawford zeigt, dass KI-Systeme auf einer materiellen Basis von Ressourcen, Arbeit und Kapital beruhen und bestehende Machtstrukturen verstärken.
Beide Stimmen entzaubern den Mythos einer «intelligenten Maschine», die autonom und neutral agiere. Stattdessen rücken sie die Verantwortung des Menschen ins Zentrum: Wer setzt diese Systeme ein, zu welchem Zweck – und mit welchen Konsequenzen?
Schlussgedanke
Die Diskussion über Künstliche Intelligenz ist älter, als viele denken. Schon in den 1960er Jahren fragte Joseph Weizenbaum, ob wir bereit seien, Verantwortung an Maschinen abzugeben. Heute, im Zeitalter von Sprachmodellen, autonomen Drohnen und gigantischen Rechenzentren, gewinnt diese Frage eine neue Dringlichkeit.
Kate Crawford erinnert uns daran, dass KI nicht im luftleeren Raum existiert. Sie ist angewiesen auf Rohstoffe, Arbeit, Energie – und sie wird gesteuert von Kapital und Macht. Künstliche Intelligenz ist daher nicht nur ein technisches Phänomen, sondern ein gesellschaftliches.
Wer über KI spricht, darf sich nicht allein an neuronalen Netzen oder Algorithmen festhalten. Die eigentliche Frage lautet: Welche Interessen stecken dahinter – und wie wollen wir als Gesellschaft damit umgehen?
Guter Artikel. KI wird auch von Menschen und Interessen programmiert. Grüsse aus Europa. Peter