Weisheit des Nichtwissens und dekoloniale KI

KI ist auf verschiedene Weise tief mit der Kolonialität der Macht verwoben. Die Kolonialität der Macht prägt nicht nur die politische und ökonomische Sphäre, sondern auch die Orte der Wissensproduktion, der Wahrnehmung, des Gefühls und der Imagination.

typewriter writes "artificial intelligence"

Letzten Sommer besuchte ich meine Großeltern, die in einem Dorf im anatolischen Teil der Türkei leben. Ich fragte meinen Großvater, was „Europa“ für ihn bedeutet; was die ersten Worte, Symbole, Bilder sind, die ihm in den Sinn kommen, wenn ich „Europa“ sage. Er antwortete sofort: „Fortschritt, Technologie, Intelligenz, harte Arbeit...“ und fügte hinzu: „Wir sind korrupt und nicht fleißig genug. Deshalb sind wir zurückgeblieben.“ Ich spürte einen Stich im Herzen, aber ich lächelte.

Es gibt nichts Entmächtigenderes und Entkräftenderes als zu glauben, dass mit der eigenen Kultur, der eigenen Erziehung und der Art und Weise, die Welt zu kennen, zu fühlen und ihr einen Sinn zu geben, etwas von Natur aus falsch ist. So wie mein Großvater denkt, dass die Europäer oder der Westen eine fortschrittliche Wirtschaft haben, weil sie wissen, dass sie die Technologie auf ihrer Seite haben, und dass sie fleißiger und moralisch überlegener sind als andere?

Doch es fehlt ein Teil in der Geschichte meines Großvaters. Einer, der den globalisierten Narrativen von Modernität und Kolonialität widerspricht. Es ist eine Geschichte von globaler Ausbeutung, Extraktion, Rassismus, Kapitalismus, dualistischem Denken und Hegemonie. Es ist die Geschichte dieses unsichtbaren Netzes aus natürlichen Ressourcen und Generationen rassifizierter menschlicher Arbeit, welches die glänzenden Versprechungen von Effizienz hält, die durch technologischen Fortschritt vermarktet werden.

Auch im Mainstream-Diskurs um Technologien der Künstlichen Intelligenz (KI) fehlt diese Geschichte sehr oft. KI existiert in einem sozio-technischen System[1], das unweigerlich mit dem Sozialen interagiert und von diesem geformt wird. Sie ist nicht nur eine wissenschaftliche Disziplin und ein Unternehmen, sondern hat auch ihre eigene Mythologie[2]: „AI’ is best understood as a political and social ideology rather than as a basket of algorithms. The core of the ideology is that a suite of technologies, designed by a small technical elite, can and should become autonomous from and eventually replace, rather than complement, not just individual humans but much of humanity.[3]

KI und koloniale Macht

KI ist auf verschiedene Weise tief mit der Kolonialität der Macht verwoben. Die Kolonialität der Macht prägt nicht nur die politische und ökonomische Sphäre, sondern auch die Orte der Wissensproduktion, der Wahrnehmung, des Gefühls und der Imagination. In KI-Ökosystem(en) verstärken sich wissenschaftliches Wissen, technologische Erfindungen und unternehmerischer Profit gegenseitig und führen zu Konsolidierungen politischer und ökonomischer Macht. Das Wirtschaftssystem, in das KI eingebettet ist, ist eines des extraktiven Kapitalismus. Es formt die Ziele, Produktionsweisen, Arbeitsformen und die Verteilung von Reichtum und Macht um diese Technologie herum.

In ihrem derzeitigen Stadium wird KI in Skaleneffekte, also möglichst geringer Input, aber viel Output, und digitale Plattformen hineingeboren. Große Tech-Unternehmen akkumulieren eine kritische Masse durch enorme Skalenerträge und Netzwerkeffekte. Dies führt zu einer Zentralisierung digitaler Infrastrukturen, auf denen ein beträchtlicher Teil der kommerziellen und verschiedenen Arten von Aktivitäten aufbaut. Die derzeitige Reichweite und Macht dieser großen Tech-Unternehmen erinnert an Imperien, nur dass sie jetzt neben natürlichen Ressourcen und rassifizierter Arbeit auch Daten aus anderen Teilen der Welt extrahieren. 

Der vorherrschende Diskurs mystifiziert KI als eine eigenständige, abstrakte Technologie. Die populäre Vorstellungswelt fixiert sich auf die Technologie und ignoriert dabei all die natürlichen und materiellen Ressourcen sowie die menschliche Arbeit, die KI überhaupt erst möglich machen. Kate Crawford und Vladan Joler zeigen in „Anatomie eines KI-Systems“[4] alle materiellen Ressourcen, menschliche Arbeit und Daten, die für den Lebenszyklus eines einzigen Amazon Echo von der Produktion bis zur Entsorgung benötigt werden. Dazu gehört der Abbau von Erdmineralien wie Lithium zur Herstellung der Hardware, eine riesige Infrastruktur wie das Internet, die Arbeit von Datenetikettierern und mehr. Menschliche Arbeit ist nicht nur für die Veredelung, den Zusammenbau, die Verteilung und den Transport der physischen und virtuellen Komponenten eines Systems unerlässlich, sondern auch die Verbraucher*innen leisten kontinuierlich Arbeit, indem sie Daten generieren und letztlich helfen, die Systeme zu verbessern.[5]

Daten als ultimative Quelle des Wissens

Das zunehmende Vertrauen auf Daten als ultimative Wissensquelle erzwingt eine neue epistemologische Ordnung, die auf der Datafizierung/ Kommodifizierung von allem basiert. Die wichtigsten Trainingsdatensätze für maschinelles Lernen (NMIST, ImageNet, Labelled Faces in the Wild, etc.) stammen aus Unternehmen, Universitäten und militärischen Einrichtungen des globalen Nordens.[6]  Sozial konstruierte Kategorien von race  und Geschlecht sind binär in Datenklassifizierungssystemen und Taxonomien zementiert, was soziale, politische und ökonomische Implikationen in der Machtverteilung solcher Kategorien untermauert. Ausgestoßene , minorisierte Körper und Subalterne, die nicht in die Klassifizierungen und kolonialen Taxonomien passen, sind algorithmischer Gewalt und Diskriminierung ausgesetzt.

Dekoloniale KI

Die Darstellung der Kolonialität von KI ist umfangreich und komplex. In „Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence“[7] geben Shakir, Png und Williams einen umfassenden Überblick über die Orte der Dekolonialität in der KI. In ähnlicher Weise entwickelt Ricaurte in „Data Epistemologies, The Coloniality of Power, and Resistance“[8] ein theoretisches Modell zum Verständnis der Kolonialität von Macht in Daten. Diese wissenschaftliche Tätigkeit trägt sicherlich zu dem bei, was Adolfo Albán Re-Existenz: „a strategy of questioning and making visible the practices of racialization, exclusion and marginalization, procuring the redefining and re-signifying of life in conditions of dignity and self-determination, while at the same time confronting the bio-politic that controls, dominates, and commodifies subjects and nature[9] nennt.

Allerdings ist Dekolonialität auch nicht frei von Widersprüchen und Fragen. Zum Beispiel läuft die Sprache der Dekolonialität Gefahr, kooptiert zu werden: „How to write (produce) without being inscribed (reproduced) in the dominant white structure and how to write without reinscribing and reproducing what we rebel against.[10]  Oder was bleibt von AI übrig, wenn sie dekolonial ist? Drängt dies Dekolonialität notwendigerweise in die scheinbar entgegengesetzten Positionen der Technologieverweigerung und/oder der unvermeidlichen Kooption? Ich höre die gewünschte Idee der Reinheit und die Binaritäten von kolonial vs. dekolonial, die mein Verstand mit diesen Fragen produziert. Ich versuche zu widerstehen und mich daran zu erinnern:  „there is no proprietor or privileged master plan for decoloniality[11] und versuche die Hybridität und Komplexität der Dinge zu schätzen.

Anstatt den Drang des modernen Verstandes nach Gewissheit, Hierarchie und vorgefertigten Antworten aufzugeben, kann Dekolonialität als ein kontinuierlicher Prozess und eine Praxis gesehen werden, die nicht nur epistemologisch, sondern auch emotional, spirituell und kontextuell ist. Es geht darum, situierte Muster des Anderen aufzubauen: zu leben, zu reflektieren, zu analysieren, zu theoretisieren, zu handeln und zu verlassen, was aufgebaut (und kooptiert) wurde, um neu zu beginnen. Es geht darum, das Leben in den Mittelpunkt zu stellen: „The decolonial option [...] starts from the idea that ‘the regeneration of life shall prevail over [the] primacy of recycling the production and reproduction of goods.’[12]

Die Weisheit des Nichtwissens

Mein Großvater ist ein Bauer, sein Vater war ein Imam und ebenfalls Bauer. Mein Großvater war nicht auf einer weiterführenden Schule, er ist nicht durchdrungen von der wertvollsten Art von Wissen für die Moderne/Kolonialität. Als ich ihm erklärte, wie KI in der Landwirtschaft zur Erkennung von Krankheiten und zur Vorhersage von Jahreszeiten eingesetzt wird, schien er nicht sehr interessiert zu sein. Denn er weiß, dass, was auch immer er tut, wenn es in diesem Jahr heftigen Hagel gibt, bedeutet das, dass sie einen wichtigen Teil ihrer Ernte verlieren könnten. Die Gefahr von Ernteverlusten ist immer präsent, aber ich habe ihn nie gesehen, wie er sich trotzig über die Kräfte der Natur beschwert hat - so wie er es über die Kräfte des Kapitals tut.

Diese spirituelle Demut und die persönliche Beziehung meiner Großeltern zur Natur und zum Boden lehrten mich, dass es Weisheit gibt, nicht im modernen/kolonialen Sinne zu wissen. Das ist ziemlich kontraintuitiv für den modernen/kolonialen Verstand und seine Technologien, da er die Illusion von Kontrolle verkauft, die durch Wissen erlangt wird. An diesem Punkt geht es nicht darum, mehr zu wissen; es geht darum, die sich ständig verändernde Natur des Lebens zu respektieren, indem man andere Arten des Wissens anerkennt. In „The Left Hand of Darkness“ sagt Ursula K. Le Guin: „To learn which questions are unanswerable, and not to answer them: this skill is most needful in times of stress and darkness.“

 

[1] Johnson, Deborah G., and Mario Verdicchio. 2017. ‘Reframing AI Discourse’. Minds and Machines 27 (4): 575–90. https://doi.org/10.1007/s11023-017-9417-6.

[2] Crawford, Kate et al.  2014. ‘Critiquing Big Data: Politics, Ethics, Epistemology | Special Section Introduction’. International Journal of Communication.

[3] Lanier, Jaron. 2021. "AI Is An Ideology, Not A Technology". Wired. https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/.

[4] Kate Crawford and Vladan Joler, “Anatomy of an AI System: The Amazon Echo As An Anatomical Map of Human Labor, Data and Planetary Resources,” AI Now Institute and Share Lab, (September 7, 2018) https://anatomyof.ai

[5] Ebd.

[6] Pasquinelli, Matteo, and Vladan Joler. n.d. ‘The Nooscope Manifested Artificial Intelligence as Instrument of Knowledge Extractivism’, 23.

[7] Mohamed, Shakir, Marie-Therese Png, and William Isaac. 2020. "Decolonial AI: Decolonial Theory As Sociotechnical Foresight In Artificial Intelligence". Philosophy & Technology 33 (4): 659-684. doi:10.1007/s13347-020-00405-8.

[8] Ricaurte, Paola. “Data Epistemologies, The Coloniality of Power, and Resistance.” Television & New Media 20, no. 4 (May 2019): 350–65. https://doi.org/10.1177/1527476419831640.

[9] Adolfo Albán Achinte, “¿Interculturalidad sin decolonialidad? Colonialidades circu-
lantes y prácticas de re-existencia,” in Diversidad, interculturalidad y construcción de ciudad, ed.
Wilmer Villa and Arturo Grueso (Bogotá: Universidad Pedagógica Nacional/Alcaldía Mayor, 2008), 85–86. Retrieved from Mignolo, Walter D, and Catherine E Walsh. 2018. On Decoloniality. Duke University Press.

[10] Gloria Anzaldúa, Light in the Dark, Luz en lo Oscuro: Rewriting Identity, Spirituality, Reality, ed. Analouise Keating, 7 (Durham, NC: Duke University Press, 2015). Retrieved from Mignolo, Walter D, and Catherine E Walsh. 2018. On Decoloniality. Duke University Press, 20-21.

[11] Ibid. 108.

[12] Bhambra, Gurminder K. "Postcolonial and Decolonial Reconstructions." Connected Sociologies. London: Bloomsbury Academic, 2014. 137. Bloomsbury Collections.