Die KI und ich

Louis Chude-Sokei ist Leiter der African American & Black Diaspora Studies an der Boston University. Im Spannungsfeld von Science-Fiction und Fragen der „Technopoesis“ hat sich Chude-Sokei über die Jahre eingehend mit den Zusammenhängen von Schwarzen (musikalischen) Gegenkulturen, Afrofuturismus und digitalen Technologien befasst. Ein besonderes Augenmerk gilt dabei auch den Möglichkeiten einer „anarchischen KI“, zu deren Erforschung Chude-Soke ein eigenes Website-Projekt (https://anarchic.ai/) eingerichtet hat. Im Rahmen dessen entstand auch eine Zusammenarbeit mit dem Elektronikduo Mouse on Mars (AAI, 2021).
Sein jüngstes Buch Floating in a Most Peculiar Way. A Memoir ist 2021 bei Houghton Mifflin Harcourt erschienen. 2023 hat der Verlag Matthes & Seitz eine Sammlung seiner Essays unter dem Titel Technologie und Race. Essays der Migration auf Deutsch publiziert. Das folgende Interview wurde am/vom Robotics Institute der Carnegie Mellon University in Pittsburgh geführt.

CMU Robotics: Fällt Ihnen ein KI-System ein, das erfolgreich in der Öffentlichkeit kommuniziert wurde?

Louis Chude-Sokei: In der westlichen Science-Fiction ist KI Teil jener langjährigen Tradition, die Technologie in erster Linie als etwas betrachtet, das dem Menschen feindselig gegenübersteht. In diesem Kontext war KI nie mehr als eine zunehmend bedrohlichere Präsenz, die in diesen Kulturerzählungen eine Gefahr für die Zentralität des Menschen, seines Bewusstseins und seiner Souveränität darstellte. Während Musiker*innen dieses Gefühl nicht teilten, taten Schriftsteller*innen und Filmemacher*innen dies umso mehr. Zumindest nutzen sie häufig ebenjene Ängste aus, auf die, wenn man ehrlich ist, Genreerzählungen wie Science-Fiction seit dem 19. Jahrhundert bauen.
Als ich das Thema KI für mich entdeckte, war die Kommunikation darüber in der Science-Fiction fast immer negativ. Es mag auch Sci-Fi-Geschichten gegeben haben, in denen die KI gut war, ich kann mich jedoch an keine erinnern. Es klang alles ziemlich schlimm. Interessant fand ich auch die Darstellung von KI in einigen dieser Texte als eine Art rebellische Gottheit – eine neue Art von Gottesfigur, die eine Bedrohung für ältere religiöse Narrative bedeutet. Einige dieser Sci-Fi-Autor*innen ließen KI neben bzw. als Obatala¹ oder westafrikanische Gottheiten erscheinen – ich denke da natürlich an William Gibson, aber auch an Emma Bull. Und so war es der religiöse Kontext, der, so cool er auch gewesen sein mag, auf die grundlegenden Ängste vor Technologie oder technischem Wandel noch einen „rassischen“ bzw. kulturübergreifenden Aspekt draufgepackt hat.
Auch mir fällt tatsächlich keine Science-Fiction ein, die KI bei meinen ersten Erfahrungen damit auf positive Art eingeführt hätte. Ich weiß aber von ein paar Autor*innen, die versucht haben, die KI zu zähmen. Nalo Hopkinson zum Beispiel, in deren Roman Midnight Robber die KI gewissermaßen zu einer mütterlichen afrozentrischen Figur wird – doch ich finde nicht, dass die Science-Fiction es im Sinn der zuvor gestellten Frage besonders erfolgreich geschafft hätte. Was ihr hingegen gelungen ist, ist, einer Kultur neue Bilder einer alten Angst einzupflanzen. Was für mich allerdings auch der Anlass war, darüber nachdenken, dass race in westlichen Erzählungen über Angst vor Technologie eine sehr zentrale Rolle spielt. Beide Ängste – die vor race und die vor Technologie – vermischen sich hier und verstärken einander.
In der Musik ist das besser gelungen, denn bei Musiker*innen hat KI zu einem Gefühl der Ermächtigung geführt – zumindest bei jenen, denen der Wechsel zum Digitalen leichtgefallen ist. Die meisten Musiker*innen, die ich kenne, haben sich von MIDI oder einem zentralen Ordnungsprinzip nicht an den Rand gedrängt gefühlt. Tatsächlich reagierten Kritiker*innen, beispielsweise der elektronischen Musik, als diese in den 1980er-Jahren immer beliebter wurde, ganz ähnlich wie bei KI: „Es fehlt an Persönlichkeit, das bist nicht wirklich du, es fehlt die Kreativität, sie wird alles übernehmen.“ Dabei fühlten sich die Musiker*innen total verbunden mit ihrem Sound und den neuen, durch Technologie geschaffenen Beziehungen. Man konnte nicht darauf, aber damit spielen. Und das war für mich entscheidend. Deshalb sind mir wohl all diese unterschiedlichen Herangehensweisen an das, was man KI nennen könnte, aufgefallen. Und auch wenn das entpersonalisierte, finstere Modell einer Gottheit der Konzerne mittlerweile dominiert, hege ich immer noch die leise Hoffnung oder den Glauben, dass vernakuläre Schwarze Kulturen mit diesem Modell der KI anstellen können, was Schwarze und vernakuläre Kulturen bereits mit früheren Technologien getan haben.

CMU Robotics: Wie haben KI-Systeme die Art und Weise verändert, wie Menschen arbeiten?

Chude-Sokei: Auch hier bin ich hin- und hergerissen zwischen den Darstellungen von KI und der realen KI – die Unterscheidung fällt mir schwer, da ich immer noch viel über die reale KI lerne. Gleichzeitig beschäftigen sich sogar Leute, die an KI arbeiten oder sich darauf festgelegt haben, oft nur mit der Vorstellung von KI, jedoch nicht mit ihrer tatsächlichen Realität oder Möglichkeit.
Die meisten Präsentationen von KI beinhalten das Versprechen einer Welt ohne Arbeit infolge von Vollautomatisierung. Was angesichts der verheerenden Auswirkungen von Maschinen und Robotern auf die gesamte Arbeitnehmerschaft natürlich die Frage aufwirft, ob Erstere auch Steuern zahlen werden. Es ist dies ein Versprechen, in dem auch viel Angst mitschwingt, vor allem, weil die Rechte in Amerika es geschafft hat, die Bedrohung durch die Automatisierung durch vertrautere Ängste vor Migrant*innen und Minderheiten zu verschleiern. Ich schätze aber, dass die PR der Unternehmen für die meisten gut funktioniert: Die KI wird Dinge für uns erledigen und Arbeitskraft ersetzen. Die Auswirkungen einer Welt ohne Arbeit oder einer Arbeitnehmerschaft ohne Arbeit hat es dagegen noch nicht in den öffentlichen Diskurs über KI und Automatisierung geschafft.
Seit dem 19. Jahrhundert ist die Geschichte der Arbeit und ihr Verhältnis zur Technologie durchzogen von Manipulationen unternehmerischer oder kapitalistischer Macht, bei denen Maschinen häufig gegen Arbeitskräfte ausgespielt wurden. Allerdings kann ich von der Sklaverei (Schwarze als Maschinen) bis hin zur Industrialisierung (Maschinen als Schwarze) kein durchgängiges Technologienarrativ erkennen. Ich sehe nur konstante Störungen zwischen jenen Kräften, die Technologie einsetzen, und jenen Arbeitskräften, die sich dieser Technologie entweder widersetzen oder sie für andere Zwecke einsetzen. Und natürlich wird das Versprechen, dass Arbeit für das Leben im Westen eine weniger zentrale Rolle spielen wird, durch die Erzählung ausgeglichen, dass Arbeit woandershin ausgelagert wird, um so die Fiktion von schweißlosen Maschinen bzw. einer blutlosen Technologie zu bewahren. Mit anderen Worten, die Vorstellung, dass körperliche Arbeit aus unserer öffentlichen Wahrnehmung von neuen Technologien mitunter zu verschwinden scheint, lässt den Eindruck entstehen, es sei insgesamt weniger Arbeit nötig. Dabei wird diese lediglich woanders stattfinden und einfach weniger sichtbar sein. Dabei sind auch die Mengen an Kraft/Energie und Ressourcen, die nötig sind, um diese Technologie nicht nur zu generieren, sondern ihre menschlichen Kosten und ihre Arbeitskosten unsichtbar zu halten, gigantisch! All diese Dinge verkomplizieren das gefällige modernistische Narrativ, das da lautet: je mehr Technologie, desto mehr Automatisierung, desto mehr Freizeit.

CMU Robotics: Können Sie uns ein KI-Tool oder eine Software nennen, die Macht vom Menschen auf das System überträgt?

Chude-Sokei: Wie gesagt, in meiner Forschung zum Thema Science-Fiktion ist KI fast immer mit Unternehmen, dem Militär oder Großinstitutionen verbunden. Oder sie hat Zugriff auf unsere Informationen und daher auf unheilvolle Weise auch auf uns, quasi den wichtigsten Ort des Machttransfers, nach dem hier gefragt wird.
Was die Tools angeht, so wissen wir, dass es Algorithmen gibt, die bestimmen, ob ich einen Bankkredit bekomme oder nicht. Das ist ziemlich erschreckend, wenn man bedenkt, dass hier mit Datensätzen gearbeitet wird, in die alle erdenklichen Vorurteile eingeschrieben sind – nicht nur rassistische. Seit der Wirtschaftskrise 2008 wächst auch bei Menschen ohne Fachwissen das Bewusstsein dafür, dass diese Kräfte der Wissensproduktion (denn das sind sie) für ihr Handeln nicht zur Rechenschaft gezogen werden. Oder aber wir erkennen unsere eigene Verantwortung dafür nicht an, dass wir ihnen unsere Macht so billig überlassen (oder einfach schenken). Dies zu registrieren oder zu erkennen, übersteigt bei Weitem unsere Fähigkeiten.
Nehmen wir die Gesichtserkennung, die inzwischen schon einiges an Aufmerksamkeit auf sich gezogen hat: Wie agiert diese in Bezug auf People of Color, vor allem auf Schwarze Männer? Natürlich werden die Tools ständig weiter perfektioniert, was man aber nur mitbekommt, wenn sie wieder einmal einen wirklich unangenehmen Fehler gemacht haben. Dabei funktioniert die Übertragung von Macht vom Menschen auf das System doch genau so: über das endlose Beschaffen von Informationen von und über uns Menschen. Es geht um unsere Gewohnheiten, Fehler und Irrtümer, all die unbewussten Zwischentöne, von denen wir nie gedacht hätten, dass sie sich zu Geld machen oder als Waffe einsetzen lassen, was das Vertrauen der Öffentlichkeit in diese Systeme nicht gerade stärkt. Aber genau das passiert auf dem Weg vom Roboter zur KI, vom Körper zum Körperlosen. Die meisten Menschen denken bei KI an eine Art dezentralisiertes Bewusstsein in den weit verzweigten Macht-, Wissens- und Finanzsystemen, und als Mensch fällt es schwer, das zu begreifen. Für derartiges Wissen steht uns als Methode nur die Science-Fiction oder die Religion zur Verfügung. Wir haben nicht viele Ausdrucksmöglichkeiten, um einer dezentralisierten Macht Handlungsmacht zuzuschreiben.

CMU Robotics: Sehen Sie in der Aussicht auf maschinelle Autonomie einen Wert?

Chude-Sokei: Wäre ich ein „Macher“ oder Verkäufer, würde ich unzählige Formen von Wert erkennen, wenn ich nach unbezahlter Arbeit oder Vollautomatisierung suche (einmal angenommen, diese wäre möglich), sofern sich das für mich wirtschaftlich und soziokulturell als vorteilhafter erweist – auf jeden Fall! Geht es jedoch um den metaphysischen Wert, so bin ich dem gar nicht so abgeneigt, schließlich gehöre ich zu den Leuten, die akzeptieren, dass diese Dinge eine gewisse Unvermeidbarkeit besitzen. Da ich aber in der Frage, ob maschinelle Autonomie außerhalb von Science-Fiction möglich ist oder nicht, noch unentschieden bin, würde ich lieber über Wert im Allgemeinen reden. Ich bin sicher, dass Wert geschaffen werden kann und auch wird, auch wenn wir das heute vielleicht noch nicht erkennen. Eine wunderbare Sache, die ich infolge der Diaspora bzw. von Science-Fiction oder Schwarzen in der Musikproduktion gelernt habe, ist, dass die Intention der Macher*innen nicht mit der der Nutzer*innen oder der Maschine übereinstimmen muss.
Es gibt diesen bekannten Spruch von William Gibson: „Die Straße findet für alles eigene Verwendungen.“ Mich hat das immer fasziniert, weil eine beliebige Schwarze Person überall auf der Welt das gesagt haben könnte. Mehrwert entsteht dort, wo Dinge raubkopiert und neu verdrahtet werden. Ein einfaches Beispiel dieser Art von Mehrwert mit ziemlich rassistischem bzw. „klassistischem“ Beiklang ist die Tatsache, dass wir wissen, dass Schwarze in der Vergangenheit nicht genug Anerkennung für ihre technischen Neuerungen in der Musikproduktion bekommen haben. Ein Grund, warum bestimmte Software- oder Hardwarehersteller ihre Soundfunktionen angepasst haben, war, dass Schwarze oder Braune Kids gesagt haben: „Wir brauchen den Bass im roten Bereich, ohne Verzerrungen“ oder „Wir brauchen ein breiteres Klangfeld.“ Und dann haben sie all diese verrückten Sachen gemacht, auch mit Drum Machines, Synthesizern und Plattentellern. Das ist ein konkretes Beispiel, wie auf der Straße mit Technologie gearbeitet und ein Mehrwert geschaffen wird. Ich könnte ewig fortfahren mit der karibischen Kultur und dem, was da passiert ist, wie sie mit ihren hausgemachten Neukonfigurationen von Soundtechnologie unser Musikhören verändert haben. Wir sollten also aus der Science-Fiction und dem echten Leben wissen, dass Menschen mit diesen Maschinen unterschiedliche Dinge anstellen werden – ich weiß, das wird passieren, auch in den unterschiedlichen Kontexten von KI.

CMU Robotics: Führt dies zu einer Neuverhandlung der Machtverhältnisse?

Chude-Sokei: Es ist ein Aushandeln, aber auch eine Form des Widerstands. Es geht zunächst um ein Anerkennen, dass mir diese seltsame Sache auferlegt worden ist, eine eigene Form der Wertschöpfung, weil es aus diesem anderen Raum der sozioökonomischen und kulturellen/ethnischen Macht kommt und repräsentiert, was immer es repräsentiert. Doch wir können das hernehmen und in etwas anderes verwandeln. Hier wird also tatsächlich etwas verhandelt, was auch der Grund dafür ist, dass mir diese Dinge insgesamt weniger Sorge bereiten. Ich weiß, dass all das niemals so funktionieren wird, wie man es sich vorstellt, und dass die Geschichten, die wir uns darüber erzählen, niemals so geschehen werden. Glaubt diesen ganzen Hype bloß nicht!
Für mich war die Zeit in Nigeria diesbezüglich sehr inspirierend. Man kennt die Computerfriedhöfe dort und in Ghana wahrscheinlich aus Dokumentarfilmen. Kids zu beobachten, die von älteren Jungs lernen, die wiederum von älteren Männern lernen, die schon jahrzehntelang auf diesen Computerfriedhöfen leben – das hat mich umgehauen. Unglaublich, wozu sie ohne Bildung in der Lage sind. Wenn ich so etwas sehe, sehe ich einen großen technologischen Bereich, dem vom Zentrum keine Aufmerksamkeit geschenkt wird. Aber ich gehe davon aus, dass genauso wie, sagen wir, die Firma Roland sich darauf einstellen musste, was mit ihren Drum Machines in Brooklyn passiert ist, Apple eines Tages auf etwas reagieren wird, was die Jungs in Ghana – die Sakawa-Jungs – mit Computern anstellen, oder was aus Nigeria bzw. Südafrika kommen könnte. Und dann werden wir nach und nach neue Bedingungen dieses Ausverhandelns sehen.

CMU Robotics: Wir würden die Unterhaltung gern auf die möglichen Fallstricke der maschinellen Autonomie lenken – uns gefällt ihr Optimismus in den zuvor genannten Beispielen, aber vielleicht können Sie ein wenig auf existierende apokalyptische und postapokalyptische Narrative eingehen.

Chude-Sokei: Darüber habe ich nur in praktischer Hinsicht nachgedacht, und meine Antwort dazu fällt nicht so toll aus, weil ich mir nur überlegt habe, wie viel Wert maschinelle Autonomie für jemand anderen schafft. Wie gesagt weiß ich nicht, ob maschinelle Autonomie überhaupt möglich ist – so wie ich auch den Upload von menschlichem Bewusstsein für unmöglich halte. Wenn ich aber die Tatsache, dass bestimmte Dinge autonomer werden, als unvermeidlich akzeptiere, dann akzeptiere ich auch die Unvermeidlichkeit, dass immer mehr Maschinen mit immer weniger von mir selbst operieren. Ich sehe andauernd, wie das passiert, wir vergessen nur irgendwie den Prozess dahinter. Menschliches Vergessen ist dafür ebenso wichtig wie das maschinelle Gedächtnis. Wir vergessen, wie sehr wir bereits darin verfangen sind, und wenn wir irgendwann merken, wie viel davon längst keine Zukunftsmusik mehr ist, wird Panik aufkommen – aber dann ist es zu spät.
Wenn wir über die Fallstricke der maschinellen Autonomie nachdenken, so scheint mir die problematische Datennutzung durch Unternehmen, die zunehmend auf KI setzen, eine viel dringlichere Realität zu sein als irgendwelche „Roboteraufstände“ oder die „Machtübernahme von Maschinen“. Nicht Skynet bereitet mir Sorgen, sondern Google. Meiner Ansicht nach haben sich die alten Narrative der technologischen Apokalypse abgenutzt, sie sind ungenau geworden. Wir brauchen neue Erzählungen, in denen die Apokalypse alltäglich, banal und immer da ist. Zum Glück gibt es davon immer mehr. Von daher besteht für mich kein großer Unterschied zwischen der Angst vor, sagen wir, KI-gesteuerten autonomen Waffensystemen und den etwas vertrauteren Ängsten vor einer KI-gesteuerten Finanzwelt.

CMU Robotics: Wie sollte man autonomen Systemen, die ansonsten Schaden anrichten würden, Verantwortung auferlegen?

Chude-Sokei: Im Grunde heißt das: „Wer ist schuld?“ Dabei stellt sich doch vielmehr die Frage: „Wen verklage ich?“ Wenn ich mir beispielweise die Auseinandersetzung über selbstfahrende Autos anhöre, so scheint es, als seien Tote bis zu einem gewissen Maße unvermeidlich, und man fragt sich: „Wenn ein Mensch fährt, sind es im Vergleich dann mehr oder weniger Tote?“ Doch worum es meiner Meinung nach hier gehen sollte, ist ein anderer Aspekt, nämlich: „Ist der Tod akzeptabler, wenn ein Mensch ihn verursacht, als wenn es eine Maschine tut?“ Ich schätze, die meisten würden dies bejahen, weil dann eine Schuldzuschreibung möglich ist. Wir wissen, wen wir verklagen und für wen wir weinen müssen. Bei Maschinen verteilt sich dies auf die zuständigen Netzwerke, so dass Tod und Schuld noch weiter außerhalb der Reichweite menschlicher Kontrolle rücken.
Verantwortung zuzuweisen, ist kein einfaches Unterfangen, denn es eröffnet stets auch Wege zur Vermeidung von Schuld und Vorwürfen. Niemand glaubt, dass wir in Bezug auf selbstfahrende Autos eine Wahl haben werden, man wird sie uns einfach aufoktroyieren. Das gilt für all diese Systeme. Und dieses grundlegende Machtungleichgewicht wird meiner Meinung nach all unsere Beziehungen prägen. Hätte ich die Möglichkeit, mit Leuten zu reden, die unmittelbar mit KI und dieser Art von Technologie betraut sind, würde ich ihnen sagen: „Eure Herausforderung besteht darin, einen Weg zu finden, die Menschen frühzeitig einzubinden, damit KI nicht immer als etwas rein Abstraktes wahrgenommen wird.“ Niemand hat für die Algorithmen gestimmt, die sich mit Immobilien, Finanzen, Bewertungen etc. befassen – niemand! Sie wurden einfach eingeführt und dann fragmentiert und in all diese anderen Formen von interessanten Technologien aufgeteilt. Niemand hat für sie gestimmt, und niemand geht davon aus, dass sie einer Zustimmung bedürfen. Wenn wir sie uns also nicht ausgesucht und auch nicht für sie gestimmt haben, warum sollten wir sie dann beschuldigen oder verantwortlich machen, wenn sie Schaden anrichten?

Das komplette Interview wurde veröffentlicht in: Invernomuto, Black Med. Mailand 2022.