Stuck: The Deep Inertias of Large Language Models and How to Digress

Zusammenfassung für eine akademische Arbeit: Große Sprachmodelle (Large Language Models oder LLM) sind nach der Veröffentlichung von ChatGPT in den öffentlichen Fokus gerückt. Unermessliche Mengen an Ressourcen werden nun in die Erforschung und Entwicklung dieser Technologien gesteckt. Die Behauptung, dass sie eine Revolution auslösen werden, verursacht eine Pandemie von Angst und Hype. Trotz dieses Gefühls, auf sich schnell wechselndem Boden zu stehen, leiden LLMs jedoch unter tiefen Trägheiten. Sie operieren innerhalb von zähen historischen Hartnäckigkeiten, die durch systemische, kommerzielle und ideologische Verstrickungen mit extraktiven Tendenzen verursacht werden. Darüber hinaus werden die Outputs der Technologien zunehmend als Daten für das Training derselben verwendet, was sie in eine in sich geschlossene Schleife verwickelt. LLMs sind besonders schlecht geeignet, um solche Herausforderungen zu bewältigen, denn indem sie verallgemeinerte Muster reproduzieren, die aus den Daten interpoliert werden, verwischen sie die situativen und historischen Spezifika und wirken als Motoren der Ahistorizität. Diese Studie lädt daher zum Abschweifen ein, um vom vorgesehenen Kurs abzuweichen und sich auf die Interpretation des Philosophen Masaya Chiba von Deleuze zu stützen. Er betont die Entkoppelung als Gegenmittel zur Illusion, alles als Daten zu verbinden, was die Technologien und diejenigen, die sie verwenden, immobilisiert und sie daran hindert, sich anders zu formen.

Large Language Models (LLM) have exploded into public attention after the release of ChatGPT. Astronomical amounts of resources are now being plunged into researching and developing these technologies that are touted to bring a revolution, causing a pandemic of fear and hype. Despite this sense of standing on rapidly shifting ground, however, LLMs suffer from deep inertias. They operate within sticky historical obduracies caused by systemic, commercial, and ideological entanglements with extractive propensities. Moreover, their outputs are increasingly used as data for training, lodging them into a closed loop. LLMs are particularly ill-suited to tackle such challenges because in reproducing generalized patterns interpolated from the data, they muddle the situational and historical specificities, acting as engines of ahistoricity. This study thus invites digression, to veer away from the appointed course, relying on philosopher Masaya Chiba's interpretation of Deleuze that emphasizes disconnection as an antidote to delusions of connecting everything as data, which immobilize the technologies and those who use it, preventing them from taking shape otherwise.

Schriftlicher Teil der künstlerischen Abschlussarbeit

118