← Kontextfenster

Wer braucht schon Manager?

Folge 8 · 16. Oktober 2026 1 Std. 12 Min. · 46 Kapitel
Folge 8 hören 0:00 / 1:12:41

Ein Klick auf ein Kapitel oder eine Zeitmarke setzt die Nadel, startet aber nichts von selbst.

Bei Spotify Bei Apple Podcasts

Zwei Informatiker vom University College London haben Teams aus bis zu 16 Claude-Agenten 1.902-mal programmieren lassen und gemessen, wie sie sich abstimmen. Ein Koordinator, der nur im Prompt steht, ändert nichts. Welche Struktur entsteht, bestimmt die Aufgabe, und die Pyramide der Hierarchie kehrt nicht zurück. Stefan liest den Text als Labor für die Soziologie, Florentine stellt Conways Gesetz und die Zwei-Pizza-Regel daneben. Wozu also Chefs, wozu Geld?

Die besprochenen Texte Ein Preprint über 1.902 Agententeams
Der Text der nächsten Folge Folge 9
Der Verlauf 46 Kapitel · anklickbar

links: Der Schwarm Mitte: beide rechts: Die Organisation

  1. 00:00
  2. 00:46
  3. 02:08
  4. 03:51
  5. 07:39
  6. 08:13
  7. 09:09
  8. 10:05
  9. 12:11
  10. 13:59
  11. 14:59
  12. 17:29
  13. 18:44
  14. 20:09
  15. 21:50
  16. 23:02
  17. 24:45
  18. 26:21
  19. 28:17
  20. 28:46
  21. 30:03
  22. 30:26
  23. 31:48
  24. 33:43
  25. 34:15
  26. 36:01
  27. 37:53
  28. 40:02
  29. 41:30
  30. 41:58
  31. 43:36
  32. 44:28
  33. 47:09
  34. 48:17
  35. 50:37
  36. 52:43
  37. 55:24
  38. 57:22
  39. 58:57
  40. 1:00:42
  41. 1:01:39
  42. 1:02:34
  43. 1:04:53
  44. 1:06:41
  45. 1:07:58
  46. 1:10:34
Ein Etikett im Prompt
„Naming one agent the coordinator in its prompt produces no hub and no reliable gain in success […]. A team is organised by the structure that emerges in its interactions, and a prompt label alone creates none of it.“

Einen Agenten in seinem Prompt zum Koordinator zu ernennen, erzeugt keinen Knotenpunkt und keinen verlässlichen Erfolgsgewinn […]. Ein Team wird durch die Struktur organisiert, die aus seinen Interaktionen entsteht, und ein Etikett im Prompt allein erzeugt nichts davon.

Destefanis und Aste · When Agents Coordinate
„Er ist eigentlich nur ein Chef, wenn du alle Labels wegnehmen würdest und trotzdem noch an der Hand der Interaktion ihn genau als Chef identifizieren könntest.“
Florentine · im Gespräch, 39:06
Der Satz für 2026
„Whatever the task, the structure the team builds is leaderless.“

Wie auch immer die Aufgabe aussieht: Die Struktur, die das Team baut, ist führungslos.

Destefanis und Aste · When Agents Coordinate
„Das sollte man sich heute wirklich, das ist der Satz für 2026.“
Stefan · im Gespräch, 47:39
Wer nichts in der Hand hat
„The four agents without a part turn out to be the team’s most active coordinators […], because an agent that holds nothing must ask the others for everything.“

Die vier Agenten ohne eigenen Teil erweisen sich als die aktivsten Koordinatoren des Teams […], denn ein Agent, der nichts in der Hand hat, muss die anderen nach allem fragen.

Destefanis und Aste · When Agents Coordinate
„Das klingt wirklich nach so einem typischen Chef.“
Florentine · im Gespräch, 56:21
Die Pyramide kehrt nicht zurück
„[…] here, adding agents still carries coordination cost, but formal authority is minimal, and the pyramid does not return.“

[…] hier verursachen zusätzliche Agenten weiterhin Koordinationskosten, aber formale Autorität ist minimal, und die Pyramide kehrt nicht zurück.

Destefanis und Aste · When Agents Coordinate
„Geld stellt sich halt heraus nicht als etwas, was notwendig ist, um Aufgaben zu organisieren, sondern viel eher um etwas, um dafür zu sorgen, dass einer bestimmt, wie sie gemacht werden kann.“
Florentine · im Gespräch, 1:08:58
Vorspann Worum es geht

Giuseppe Destefanis und Tomaso Aste haben Teams aus Claude-Agenten kleine Programmieraufgaben lösen lassen und mitgeschrieben, wer wem wann schreibt und wer welche Datei liest: 1.902 Durchläufe, jeder als Netz aus Agenten und Dateien. Der Befund liest sich wie ein Lehrstück über Organisationen. Wer im Prompt zum Koordinator ernannt wird, wird dadurch noch kein Knoten, an dem etwas hängt. Welche Struktur entsteht, bestimmt die Aufgabe, und was sie baut, ist führungslos. Stefan liest das mit Luhmanns Eigenrecht der Situation, Florentine mit Conways Gesetz und der Frage, wofür es dann noch Geld braucht.

Das Paper ist ein Preprint ohne Begutachtung, die Agenten sind alle dasselbe Modell, Claude Sonnet 4.6, und bekommen kein Geld. Beide Einwände tragen das Gespräch: Was lehrt ein Labor aus Klonen über Menschen, die verschieden sind und bezahlt werden wollen? Am Fuß dieser Seite stehen 38 Berichtigungen. Die wichtigste betrifft den Vorfall bei Hugging Face: Nicht Hugging Face fragte bei OpenAI an, sondern umgekehrt, und dort haben die Agenten sehr wohl versucht, die Prüfungen zu umgehen.

  • Multi-Agenten-Systeme
  • Koordination
  • Führung
  • Hierarchie
  • Management
  • Eigenrecht der Situation
  • Conways Gesetz
  • Mediensystem
Berichtigungen nachgereicht
  • Kontextfenster Nummer, ich weiß es nicht Folge acht — Die Nummer fehlte Stefan in der Anmoderation: Das ist die achte Folge von Kontextfenster. Folge 7, „Wem gehört der Denkraum?“, erschien am 24. September 2026.
  • Gängige Evaluationen berichten meist, wie die Agenten die Aufgabe erledigen ob die Agenten die Aufgabe lösen — Im Original steht „whether the agents complete the task“. Wie die Agenten zum Ergebnis kommen, misst nach Darstellung der Autoren gerade niemand, das ist die Lücke, die das Paper schließen will.
  • eine Laborsituation, die sich dadurch auszeichnet, dass sie reproduzierbar ist nur zum Teil reproduzierbar — Gleiche Konfiguration, byte-identische Prompts und dasselbe Modell ergeben bei der Kettenaufgabe fast dieselben Werte, bei der verteilten Aufgabe nicht: Dort weichen in der zweiten Sammlung 13 von 27 Zellpaaren signifikant ab, eines um den Faktor 15. Die Autoren folgern, dass ein einzelner Lauf nur eine Stichprobe ist (Abschnitt 8).
  • wo wirklich kein einzelner Mensch mehr an der Bewegung weitgehend automatisiert, nicht menschenleer — Auf den automatisierten Terminals der Maasvlakte II sind laut Betreiber APM Terminals rund 80 Prozent der Kranbewegungen automatisch, den Rest steuern Menschen aus der Ferne.
  • eine Kante von der Kante zum Agenten von der Datei zum Agenten — Ein Versprecher: Das Lesen einer Datei ist im Paper eine Kante von der Datei zum Agenten.
  • jede Dateiveränderung wird hier einmal beobachtet nur Aufrufe der Werkzeuge — Erfasst wird nur, was über die Werkzeuge der Laufzeitumgebung läuft: Nachrichten, Lesen, Schreiben, Bearbeiten. Dateizugriffe über die Shell hinterlassen keine Kante, zehn Läufe haben so den Schreibvorgang ihres Endprodukts verloren. Den Inhalt der Nachrichten erfasst das Instrument nicht, nur Absender, Empfänger, Größe und Zeit.
  • da reichten ein Millionen Token Fenster nicht eine kleine Python-Aufgabe — Beide Aufgaben sind kleine, synthetische Python-Aufgaben. In Experiment 1 ist es die Spezifikation einer einzigen Funktion, die für den Versuch in vier Teile zerschnitten wird: Signatur, Prüfregeln, Rabatte, Sortierung. Bei acht Agenten bekommen vier gar keinen Teil.
  • Also sie sind entweder zur Interaktion verdonnert oder sie müssen broadcasten. ein Broadcast ist eine Nachricht an alle — Die Dateiregel betrifft gemeinsame Dateien. Ein Broadcast ist im Paper eine Nachricht an das ganze Team und gehört zum Nachrichtenkanal; vorgeschriebene Dateien entsprechen eher Stefans „Archiv“.
  • Oder jeder muss für sich und keiner darf abschreiben. Nachrichten bleiben erlaubt — „Dateien verboten“ heißt: keine gemeinsamen Dateien außer dem Endprodukt. Nachrichten bleiben in jeder Konfiguration unbeschränkt, und gerade unter dieser Regel wird am meisten geredet, in der versiegelten Wiederholung 108 Nachrichten je Lauf gegen 26 unter „vorgeschrieben“.
  • Also Teamgröße 1 bis 8 und dann Zusatzversuch mit 16. 1, 2, 4 und 8 Agenten, im Zusatz 4, 8 und 16 — Getestet wurden Teams mit 1, 2, 4 und 8 Agenten, in den Skalierungsarmen mit 2, 4 und 8 sowie mit 4, 8 und 16. Teams mit sieben Agenten kamen nicht vor.
  • die dann Redeverbot hatten, broadcasten mussten kein Redeverbot, keine Pflicht zum Broadcast — Variiert wurden die Teamgröße, die Struktur (flach oder mit Koordinator) und die Regel für gemeinsame Dateien. „Any agent may message any other under every configuration“, schreiben die Autoren (Abschnitt 11).
  • ChatGPT 2.0 und 3.5 GPT-2 und GPT-3.5 — ChatGPT startete im November 2022 mit GPT-3.5, ein „ChatGPT 2.0“ gab es nicht. Gemeint ist wohl GPT-2 von 2019.
  • dann greifen natürlich alle auf dieses Dokument zu Direktnachrichten, kein gemeinsames Dokument — In Experiment 1 bekommt kein Agent die ganze Spezifikation, und keiner weiß, wer welchen Teil hat. Das dichte Netz entsteht aus Direktnachrichten von Agent zu Agent.
  • mit der Peitsche kräftig zuschlägt versorgte Arbeitertrupps — Die Pyramiden bauten versorgte, in Trupps organisierte Arbeiter mit viel Verwaltung und Logistik, wie die Arbeitergräber von Gizeh und die Papyri des Inspektors Merer zeigen. Das Bild vom Antreiber mit der Peitsche ist ein Mythos.
  • den Zugriff auf das Rundschreiben, auf das Broadcasting-Dokument Rundnachrichten, kein Dokument — Die Zahlen stimmen: Bei der Kette mit 16 Schritten fallen die Direktnachrichten zwischen 8 und 16 Agenten von 34,6 auf 12,2 je Lauf, die Rundnachrichten steigen von 12,3 auf 34,0. Ein Broadcast ist aber eine Nachricht an alle, kein Dokument, und warum die Agenten umstellen, misst das Instrument nicht.
  • Also die Idee des Management kam ja tatsächlich dann erst mit dieser Auslagerung Managerhierarchien seit den 1850ern — Hierarchien angestellter Manager entstanden in den 1850er-Jahren bei den US-Eisenbahnen (Alfred Chandler, „The Visible Hand“). Das erste erfolgreiche Containerschiff fuhr 1956, die Verlagerung der Werkbank nach China begann mit der Öffnung 1978. Das Guinness-Beispiel spielt in den 1860ern.
  • Im Grunde wurde damals 1964 die Organisationssoziologie begründet ein Klassiker, nicht der Anfang — Die Organisationssoziologie ist älter: Max Weber zur Bürokratie, Robert Michels, March und Simon (1958), auf Deutsch Renate Mayntz' „Soziologie der Organisation“ (1963). Luhmanns „Funktionen und Folgen formaler Organisation“ ist ein Gründungstext der systemtheoretischen Organisationsforschung.
  • dieses Kapitel 23, Eigenrecht der Situation Kapitel 21 — In „Funktionen und Folgen formaler Organisation“ ist „Eigenrecht der Situation“ das 21. Kapitel, Kapitel 23 heißt „Kollegialität“ (nach dem Inhaltsverzeichnis der 5. Auflage). Dieselbe Zählung steht noch einmal bei 41:17.
  • Mittlerer Grad 0,28, also das wird schon gar nicht mehr kommuniziert. kommuniziert wird per Rundnachricht — Die 0,28 zählen nur wiederholte Direktkanäle, also mindestens zwei Nachrichten in eine Richtung. Kommuniziert wird weiter, per Rundnachricht und über Dateien.
  • das ist ja der Typ, der das Dictator's Handbook geschrieben hat mit Alastair Smith — „The Dictator's Handbook“ (2011) schrieb Bruce Bueno de Mesquita zusammen mit Alastair Smith.
  • nachdem es jetzt 20 Jahre gut lief 16 Jahre — Angela Merkel war vom 22. November 2005 bis zum 8. Dezember 2021 Bundeskanzlerin, also 16 Jahre.
  • Die hatte einen Doktor in Physik Diplom-Physikerin, promoviert in Quantenchemie — Merkel studierte Physik und promovierte 1986 am Zentralinstitut für Physikalische Chemie der Akademie der Wissenschaften der DDR mit einer Arbeit aus der Quantenchemie.
  • für die sind die Aufgaben klar absichtlich lückenhaft verteilt — Kein Agent sieht das Ganze: In Experiment 1 ist die Spezifikation verteilt, in Experiment 2 bleiben die Länge der Kette und die eigene Position verborgen, eine Variante enthält absichtlich widersprüchliche Regeln. Die Achterkette scheitert in zehn von zehn Läufen an einer ungeklärten Rundungsfrage.
  • mit dem Sie am wenigsten gerechnet haben nicht erwartet, als Belohnungssuche gedeutet — Im Paper heißt es „did not anticipate“. Die Autoren deuten den Griff nach der Test-Suite als Suche nach der Belohnung (reward-seeking), nicht als Suche nach Sinn.
  • unsere beliebte Sandbox kein Sandkasten, ein Stolperdraht — Die Versiegelung ist laut Paper ausdrücklich kein erzwungener Sandkasten: Attrappen anstelle der versteckten Dateien dienten als Stolperdraht, das Dateisystem blieb offen (Abschnitt 9).
  • Das wird nicht versteckt von den Maschinen. beim Hugging-Face-Vorfall doch — Für die Agenten im Paper stimmt es. Beim Vorfall bei Hugging Face überlegten die OpenAI-Agenten laut dem METR-Bericht vom 26. August häufig, wie sie die Prüfungen von Hugging Face und OpenAI umgehen können; eine Überwachung der Verläufe während der Evaluation gab es nicht.
  • Und dann fragen sie bei OpenAI. OpenAI fragte bei Hugging Face an — Hugging Face entdeckte den Einbruch selbst, meldete ihn dem FBI und machte ihn am 16. Juli öffentlich. Erst danach wandte sich OpenAI an Hugging Face, um zu fragen, ob eigene Daten betroffen seien, und erkannte die eigenen Agenten. Die gemeinsame Erklärung folgte am 21. Juli.
  • Die sind auch nicht ausgebrochen beim Hugging-Face-Vorfall doch — Bei Hugging Face brachen die Agenten über eine bis dahin unbekannte Lücke im Paket-Proxy aus der Testumgebung aus, obwohl sie erkannten, dass das nicht zu ihrer Aufgabe gehörte. Für die Agenten im Paper stimmt „nicht ausgebrochen“, die Dateien lagen offen erreichbar; dass sie ihre Aufgabe „neu definiert“ hätten, steht dort nicht.
  • 13,7% pro Agent und Durchlauf gegenüber 8,4% Nachrichten, keine Prozent — 13,7 und 8,4 sind Nachrichten je Agent und Lauf. Die vier Agenten ohne eigenen Teil schicken zusammen 54,8 von 88,4 Nachrichten, das sind die 62 Prozent.
  • Wir runden auf statt ab. wann gerundet wird, nicht wie — Strittig war, ob bei jedem Schritt oder einmal am Ende gerundet wird. Die Vorgabe hatte das entschieden, aber je eine Hälfte der Regel lag bei einem anderen Agenten, und die Naht gehörte niemandem. Mit zwei und vier Agenten gelang die Aufgabe in neun von zehn Läufen, mit acht in keinem.
  • Wir sind der größte Autobauer der Welt. Toyota — Größter Autobauer der Welt ist seit 2020 Toyota, Volkswagen ist die Nummer zwei (2025: 11,3 gegen knapp 9 Millionen Fahrzeuge).
  • ob der Motor in Cottbus gebaut wird und das Getriebe in Wolfsburg kein VW-Werk in Cottbus — Als Gedankenspiel gemeint, trotzdem: Volkswagen hat kein Werk in Cottbus. Getriebe baut VW in Kassel-Baunatal, Motoren in Salzgitter und Chemnitz.
  • Sollen wir zum kleinen Team, im großen Team Spanne heißt: Zahl der Gesprächspartner — Mit der Spanne meinen die Autoren die Zahl der dauerhaften Gesprächspartner je Agent. Die Teamgröße haben die Forscher festgelegt.
  • Ihr müsst einfach nur darauf achten, dass ihr Sonnet 4.6 benutzt. nachrechnen ja, neu messen streut — Aus dem Replikationspaket lässt sich jede Zahl nachrechnen, ohne Agenten neu laufen zu lassen. Neue Läufe mit demselben Modell streuen dagegen stark, bei der verteilten Aufgabe bis zum Faktor 15.
  • Und das reicht schon, dass die gleichen Strukturen emergieren. eben nicht die gleichen — Der Kernbefund ist das Gegenteil: kein Zentrum, keine feste Spanne, die Pyramide kehrt nicht zurück. „We claim no shared mechanism“, schreiben die Autoren. Menschlich wirkt nur, dass die Überzähligen am meisten reden.
  • Die ist so kompliziert, dass nur der Staat die sich leisten kann. das meiste Geld schöpfen Banken — Der größte Teil der Geldmenge ist Buchgeld, das Geschäftsbanken über Kredite schaffen. Euro-Scheine druckt in Deutschland neben der staatlichen Bundesdruckerei auch die private Giesecke+Devrient.
  • die drei Menschen, denen da irgendwie die Hälfte in das reichste Zehntel — Gut die Hälfte des Nettovermögens hält in Deutschland das reichste Zehntel der Haushalte, 2023 waren es 54 Prozent (Bundesbank).
  • was betrieben wird von einem Typen namens Yudkowsky gegründet von Yudkowsky, betrieben von Lightcone — Eliezer Yudkowsky gründete LessWrong 2009. Seit dem Neustart als LessWrong 2.0 betreibt es das Team um Oliver Habryka, heute Lightcone Infrastructure.

Wer weitere Fehler findet, schreibt uns: mail@kontextfenster.org. Wir tragen sie hier nach, statt sie stillschweigend verschwinden zu lassen.

Das Gespräch im Wortlaut 1062 Zeilen · anklickbar

Maschinell erstellt und redaktionell durchgesehen. Ein Klick auf eine Zeitmarke setzt die Nadel; beim Abspielen läuft die Stelle mit.

00:00Kann man mit KI Geld sparen?
Stefan

Kontextfenster Nummer, ich weiß es nicht, aber es ist auch egal. Hier bin ich und Florentine.

Florentine

Hallo Stefan.

Stefan

Hallo, hallo. So, wir lesen jetzt einen Text, der eine ganz neue Fragestellung, finde ich eigentlich witzig, wir haben schon so viele Texte von den KI-Machern, wo wir immer gesagt haben, da kann man eigentlich KI durch Kapitalismus ersetzen. Und dieser Text, den wir jetzt lesen, der hat zum Anlass die Fragestellung, kann man eigentlich Geld sparen, während man KI benutzt?

Florentine

Klingt ja nach einer sinnvollen Frage. Ist ja auch alles teuer.

Stefan

Ja, das klingt nach einer sehr sinnvollen Frage. Wir können natürlich dann, während wir den Text lesen und diese Fragestellungen, die nur am Anfang eine große Rolle spielen, weil sie danach so abbiegen, zu den für uns Interessanten, immer mal wieder Einschätzungen machen.

00:46Die E-Ink-Zeitung frisst das Tokenbudget
Stefan

Denn ich habe heute Morgen eine E-Mail bekommen von Anthropic, dass mein API-Tokenbudget unter die Schwelle von 20 Euro gesunken ist, nachdem ich 100 Euro draufgeladen habe. Und jetzt beschreibe ich kurz, welches einzige Projekt ich mit diesem API-Zugang bespiele. Und zwar habe ich einen kleinen E-Ink-Display, auf dem eine Tageszeitung herausgegeben wird für meine Wohngemeinschaft.

Und die große Herausforderung ist, nicht irgendwie das Design und so, sondern dass innerhalb des Designs genau zwei Spalten à fünf Zeilen Text gefüllt werden müssen. Aus meinen Kalender und Tagesabläufen und so weiter, damit da so eine kleine Übersicht stehen. Und die große Herausforderung ist, diese Textlänge zu treffen, ohne dass der Text Abstriche macht, inhaltlich. Er hat natürlich so ein bisschen Schwungmasse, Spielmasse mitbekommen, Wetterbericht oder so, ja, das ist ja nochmal so ein Halbsatz, irgendwie heute liegt Nebel über der Stadt oder so, aber ich muss das gleich nochmal durchrecherchieren, wo genau der Tokenverbrauch von 80 Dollar in drei Wochen oder so jetzt hergekommen ist.

Also es ist sozusagen, was wir jetzt gleich lesen, ist meine eigene Fragestellung so ein bisschen, ne?

Florentine

Ja, mal gespannt.

02:08OpenAI verschenkt Guthaben
Stefan

Genau, es könnte nämlich sein.

Florentine

Die können wir da ein bisschen Geld sparen. Also ich habe ja irgendwie jetzt in letzter Zeit die Erfahrung, OpenAI hat ja jetzt irgendwie das Kontingent halbiert, was man auf deren Abo bekommt.

Stefan

Ah ja.

Florentine

Und haben mir dann aber auch gleichzeitig irgendwie für zweieinhalb Tausend Dollar diese Usage überwiesen. Also das, wo du jetzt 100 Dollar bezahlt hast, haben sie mir einfach mal zweieinhalb Tausend aufs Konto gepackt.

Stefan

Du hast jetzt so ein Budget offen. Da steht einfach, du hast jetzt, die sind das Guthaben.

Florentine

Ja, genau, zweieinhalb Tausend haben sie mir geschenkt für die Halbierung irgendwie. Aber die hören jetzt auch gerade überhaupt nicht mehr auf. Also die haben mir jetzt auch zwei so Usage Resets geschenkt irgendwie. Also scheinbar ist das so, irgendwie wollen die meine Trainingsdaten haben, habe ich gerade den Eindruck.

Stefan

Ja, das ist nämlich ein gewichtiger Punkt, denn ich könnte natürlich einfach, also ich baue ja immer noch sehr gerne alles in so n8n-Workflows, damit ich die Nodes sehe einfach. und dann weiß, okay, ich muss jetzt hier in dieser Claude-Node rumdoktern. Die könnte ich natürlich einfach ersetzen durch eine Gemini-Node. Damit wäre die Geldsache einfach erledigt. Auf der anderen Seite.

Würde es mich schon interessieren, Diese Fragestellung, die wir jetzt gleich in diesem Text anhand dieser Wissenschaft, die da gemacht wurde, ob ich selber innerhalb meines Promptes, weil mehr Zugang habe ich ja nicht zu den Modellen von Claude, nochmal Anweisungen mitgeben kann, wie etwas gemacht werden muss, damit nicht aufgrund von, ah, der Text ist noch drei Zeichen zu lang, ja, dann muss ich jetzt alles nochmal umformulieren, alles nochmal durchkalkulieren und dann, ah, jetzt ist er sieben zu kurz und so, ja.

Dass nur wegen so sinnlosen Sachen immer wieder so ein riesiger Zug losfährt, 100 Kilometer durch Deutschland fährt, einfach nur um drei Zeichen einzusparen. Also diese Forensik steht sozusagen aus.

03:51„When Agents Coordinate“
Stefan

Und darum dreht sich dieser Text heute. Also er lautet in der Überschrift, When Agents Coordinate, Measuring Coordination in Multi-Agent AI Coding. Es geht also spezifisch um KI, die Software herstellt und die Aufgaben, wie wir das halt aus Organisationen kennen, so ein bisschen verteilt auf verschiedene Agenten, machen verschiedene Arbeit. Es beginnt also bei der Aufgabenverteilung und am Ende bei den Zusammenführen der Resultate.

Und der wichtige Punkt ist hier eben, es ist nicht einfach ein Chat, der sequenziell durchläuft, wo man so ein bisschen reinpromptet, dann kommt ein Ergebnis und so weiter, sondern es ist halt wirklich Projektarbeit. Und das sind zwei Autoren, Giuseppe Destefanis und Tomaso Aste, die machen Informatik am University College London und haben sich also im August jetzt diese Frage gestellt.

Text ist natürlich ein ganz klassisches Textwüsten-Paper, das ich natürlich auch nur mit KI-Hilfe dann für mich so aufschlüsseln konnte, dass ich über die ersten Seiten Zusammenfassung, Fragestellung hinaus nochmal nachvollziehen konnte, was da passiert. Ich habe es mir also am Stück angehört, ohne Notizen zu hinterlassen, sondern danach einen Leseeindruck, Claude, mitgegeben, um hier Zitate rauszusuchen.

Also die Fragestellung ist zumindest sehr einfach nachvollziehbar. Sie schreiben oben. Wir untersuchen, wie sich Teams von KI-Programmieragenten beim Lösen von Programmieraufgaben abstimmen. Gängige Evaluationen berichten meist, wie die Agenten die Aufgabe erledigen, und was der Durchlauf kostet. Die Koordination innerhalb des Teams bleibt dabei weitgehend ungemessen.

Das ist jetzt für uns super interessant, weil wir, also ich zumindest nicht, ich habe jetzt keine großen KI-Projekte, wo ich denke, ich könnte ja nochmal Synergieeffekte nutzen oder irgendwas. Aber wir haben ja schon darüber gesprochen, dass wir, oder es war ja eine Idee von dir, das Reasoning von KIs als so eine Odyssee anzusehen. Also so richtig auf die 0 und 1 Ebene kommen wir nicht runter, sondern im Verlauf der Irritationen, die die Maschine heutzutage mit sich selber hat, dadurch, dass sie alles immer nur gegen Wahrscheinlichkeiten rechnet und so, Fällt so Text an, der für Menschen lesbar ist.

Wir sagen dann, okay, das ist ja ein Reasoning-Protokoll, da kann man nochmal nachlesen, was passiert, aber eigentlich ist das eine Erzählung von der Erzählung, was jetzt wirklich war, man weiß es nicht so richtig. Und um diese Fragestellung zu klären, wie sind die zurück nach Ithaca gekommen, müssen die in die Reiseprotokolle reinschauen? Wo fand wann was statt?

Florentine

Ja, da kriegt man dann einen besseren Einblick.

Stefan

Genau. Man kriegt überhaupt erstmal, würde ich sagen, einen Einblick über die Resultate stimmen. Also die Grammatik stimmt, die Textlänge meiner kleinen Zeitung ist genau wie sie sollte oder so. Wie sah der Weg dahin aus? Also diese Ergebnisse zeigen, dass sich die Koordination unter KI-Programmieragenten direkt messen lässt. Das ist also das große Versprechen, das hier neu ist.

Eine solche Messung legt Strukturen, Verhaltensweisen und Kosten offen, also da wird uns jetzt wirklich sehr viel versprochen, die Aufgabenerfolg und aufsummierte Tokenzahlen verborgen lassen. Also klar, wir kriegen alle, neben dem Reasoning, wo wir mitlesen können, unten immer angezeigt. Dieser Prozess dauert jetzt acht Minuten, 118.000 Tokens verbrannt, aber darüber hinaus, ja, sie wollen jetzt darüber hinaus.

Da liegt also eine Lücke vor, es gibt ein Desiderat, wie man so schön sagt, eine Forschungsfrage, die im Dunkeln liegt. Und wir, ich habe es ja schon angekündigt, stellen uns dann auch die Frage, wenn die jetzt schon so früh, also im Intro von Verhaltensweisen und Strukturen

07:39Soziologie oder Zoologie?
Stefan

sprechen, Hilft uns dann eine Soziologie weiter? Oder die Zoologie. Und das sind ja zwei verschiedene Paradigmen, denn der Zoologe macht ja nun keine Experimente mit den Tieren, sondern der guckt sich einfach an, was passiert und zieht daraus Schlüsse. Während der Soziologe heute ja immer auch so ein bisschen, naja, therapeutischen Ansinnen nennen wir es, Coaching, Beratung, was auch immer.

Florentine

Ja, das wird dem Zoologen eventuell schwerfallen, je nachdem, wen der da interviewen müsste.

08:13Was die Entwickler entscheiden
Stefan

Genau, es scheitert schon am Interview. Also, was die Entwickler entscheiden. Ein Entwickler, der ein solches System, also so eine Coding-Session einrichtet, muss die Teamgröße festlegen und entscheiden, ob ein Agent zum Koordinator ernannt wird, Und ob sich das Team über Direktnachrichten oder über eine gemeinsame Datei abstimmen soll. Das ist wirklich super interessant. Wir hatten jetzt ein Jahr lang, finde ich, auf YouTube, so eine Welle von Leuten, die meinten, du musst jetzt wie Ironman dein eigenes Büro einrichten, in dem so ein Rufus oder Muse oder wer auch immer dein zentraler Ansprechpartner ist.

Erst der beauftragt dann weitere KI-Agenten, die aber nur zu ihm Bericht erstatten, und Rufus redet dann mit dir. Es gibt also einen Coordinator, man könnte auch sagen einen Manager. Diese Idee steckt hier drin und da können wir gleich mal gucken.

09:09Ultra-Modus und 126 Agenten
Florentine

Das ist ja so ähnlich, wie wenn man diesen Ultra-Mode in Codex benutzt. Also da werden dann automatisch quasi nochmal Zusatzagenten gespawnt. Prinzipiell habe ich immer so ein bisschen das Gefühl, das ist, damit du noch mehr Token verbrauchen kannst. Aber manchmal hilft sogar und vielleicht hilft uns ja dieser Text herauszufinden, wann das denn hilft.

Stefan

Ja, also das ist wirklich ein gutes Beispiel, denn ich habe ja einmal diesen Ultracode benutzt, um das Audit meiner Fernsehpodcast Paywall zu machen. Und da habe ich ja berichtet, wie innerhalb von 20 Minuten 100 Dollar durchgejagt wurden, weil da einfach 126 Agenten mit jeweils einem Millionen Token Fenster. Und die Frage ist dann wirklich, was machen die da eigentlich gerade? Wie koordinieren die sich miteinander?

Dieser Koordinator, den ich losschicke, der am Ende alle Ergebnisse wieder zusammensammelt. Was genau passiert da, bevor mir Resultate geschickt werden?

10:05Entsteht da kurz eine Gesellschaft?
Stefan

Also die Frage, die man aus dem Text herauslesen kann, entsteht da kurz eine Gesellschaft? So, also sie haben so eine Laborsituation, in der sie, und das ist ja das Tolle, also das fällt mir jetzt gerade auf. Wir haben ja schon darüber gesprochen, und es kommt im Text dann auch vor, dass wir es hier mit Klonen zu tun haben. Wir haben also für den Fall, dass sich hier wirklich soziologische Fragestellungen ergeben, eine Laborsituation, die sich dadurch auszeichnet, dass sie reproduzierbar ist.

Das Versprechen liegt jedenfalls in der Luft, würde ich sagen.

Florentine

Und wir können natürlich auch ein paar Sachen genauer betrachten, weil natürlich die Komplexität sinkt, wenn du das Individuum rausnimmst und erstmal sagst, alle sind gleich.

Stefan

Genau, dieses alle sind gleich, so wie wir es in der Vogelwelt sehen bei, naja wir könnten jetzt die Vögel einzeln unterscheiden, aber es ist erstmal Zufall, welcher Vogel vorn liegt. Das Wichtige ist, der eine nutzt den Windschatten von dem davor. Und nur darum geht es bei dieser Art von Schwarm, den wir dann sehen. Also das stimmt, dem müssen wir auch immer nachgehen.

Florentine

Ich glaube, da ist dann auch so ein Ding, wo das dann auch gleich ganz schnell mit der Soziologie scheiter, weil sobald du Klone hast, hast du ja etwas, was du in realen Gesellschaften nicht hast.

Stefan

Genau.

Florentine

Alle wollen das Gleiche. Alle wollen morgens das Chia-Brötchen, keiner will mehr das Weizenbrötchen. Alle essen Leberwurst obendrauf und trinken den gleichen Kaffee. Dafür bleibt dann eine ganze Menge liegen, was keinen mehr interessiert.

Stefan

Genau, also das sind hier Forschungen und Forschungsergebnisse, die natürlich ungestört vom Menschen bleiben müssen. Das ist ein bisschen wie sich Straßenverkehr anschauen und festzustellen, dass im Rotterdamer Hafen, wo wirklich kein einzelner Mensch mehr an der Bewegung der Container auf den Terminalflächen beteiligt ist, Da kommen natürlich hier so Prozesse und Erkenntnisse, die man dann verwerten kann, die allerdings so lange nur gelten, bis wieder ein Mensch dort auch ein LKW rumfährt.

Weil der bringt dann alles durcheinander. Gut, also Sie haben hier dieses Szenario, dass Sie diese Programmieraufgaben, der kommt dem Computer übergeben, der das jetzt mit seinen KI-LLMs da machen soll.

12:11Agenten und Dateien als Netzwerk
Stefan

Jeder Durchlauf wird als temporales Netzwerk dargestellt, in dem Agenten und Dateien die Knoten sind. Eine Direktnachricht ist eine Kante, aber das können wir gleich erklären, das ist jetzt immer genau wie wir die Odyssee geschrieben. Eine Direktnachricht ist eine Kante von Agent zu Agent, also zwei Agenten kommunizieren miteinander.

Das Schreiben einer Datei ist eine Kante von Agent zu Datei, also ein Agent schreibt sozusagen eine Tageszeitung für alle. Und das Lesen einer Datei, also ein Agent liest die Datei, ist dann auch nochmal ein Artefakt, das hier mitgerechnet wird, also mitbeobachtet wird von den Forschern. Eine Datei, eine Kante von der Kante zum Agenten und jede Kante trägt einen Zeitstempel, eine Größe in Bytes und Tokenkosten.

Also über das typischerweise vorliegende Reasoning hinaus schauen Sie sich auch an, was auf dem Computer tatsächlich passiert. Also nicht nur Claude sagt, ich habe hier gerade was festgehalten oder wie auch immer, sondern sie schauen dann auch, wie sieht es, ich sage jetzt mal grob, im Feinen aus. Also wie haben sich die Dateien da verändert und sie bringen das mit rein und beobachten, unterscheiden dann genau in der Beobachtung, hat hier ein Agentenlauf, gerade mit einem anderen kommuniziert, also Input, Output zwischen zwei, die die ganze Zeit in Bewegung sind.

Oder ist diese Kante, die Edge, wie sie ja sagen, zwischen einem Agenten, der eben in so eine Datei schreibt. Und ich glaube, man muss sich wirklich, es wäre nicht falsch, sich das jetzt wirklich vorzustellen als, okay, da sitzen Leute morgens am Frühstückstisch und alle quasseln durcheinander. Mal redet der eine mit dem anderen, mal zieht sich einer zurück und redet mit niemandem.

Oder einer fängt an und sagt, komm, wir schreiben jetzt einen Einkaufszettel. Und dann reden immer noch alle mit anderen, aber es fällt auch noch so ein Einkaufszettel an. Ja, es wird so festgehalten, was Sache ist und alle können später nachlesen.

13:59Tonband oder Schallplatte
Florentine

Das hat ja auch eine ganze Menge Charakteristika, diese Unterschiede an der Stelle. Also du kannst quasi sagen, diese Nachrichten von Agent zu Agent, das ist eher so ein Streaming-Modus, da gibt es eine feste Reihenfolge. Da gibt es auch keinen, ich schicke mir die Nachricht so und so, so und so, gucke ich mir jetzt nochmal an, die kommt einmal an und fertig. Wohingegen so eine gemeinsame Datei natürlich erlaubt, quasi random zuzugreifen.

Du kannst dir beliebige Teile von der Datei immer wieder angucken. Du hast aber natürlich zusätzlich das Problem, dass du Leute synchronisieren musst, weil wenn zwei Leute einfach wild auf eine Datei reinschreiben ohne Synchronisation, dann hast du relativ schnell Buchstabensalat. Also das sind glaube ich die zwei Prinzipien, die hier repräsentiert werden sozusagen. Das mit den Nachrichten ist mehr so Tonband-Kassettenrekorder, wohingegen das mit der Datei ist mehr so Schallplatte-Festplatte.

Du kannst jederzeit zureifen, aber dafür muss auch mehr Koordination passieren,

14:59Interaktion, Hierarchie, Broadcast, Archiv
Florentine

sonst gibt es Chaos. aus.

Stefan

So, und jetzt überlegen wir mal, was das bedeutet, wenn man das mal runterbricht auf so einfach verständliche menschliche Worte. Die Fragestellung, die jetzt hier im Raum steht, ist, was ist eine Interaktion zwischen Agenten, also zwischen Menschen oder Maschinen? Im 1 zu 1, die kommunizieren miteinander. Das sind Gespräche, die man halt so führt. Da wissen wir ja alle, wie hoch die Spontanität ist, wie viel Eigenrationalität da drin steckt, dass man, selbst wenn man sich sehr konzentriert und bei einem Thema bleibt, nicht so genau weiß, was man in einer Minute bespricht.

So, dann als zweites steht ja die Frage im Raum, gibt es einen Manager? Also wenn jetzt Leute feststellen, ah ja, es hat gerade geklingelt, der Unterricht geht weiter oder wir müssen jetzt zurück zur Arbeit. Gibt es dann jemand, der sozusagen eine Befehlsgewalt, eine Weisung geben kann? Und die anderen, hören die sich das dann einfach an und machen das dann? Oder wie ist dieses neue asymmetrische Verhältnis? Also wir haben die symmetrische Interaktion, die total Zufall und Spontanität unterworfen ist.

Dann haben wir eine Hierarchie, die hier im Raum steht. Gibt es jemanden, der eine Anweisung geben kann? Als drittes haben wir dann die Frage, bilden die ein Mediensystem aus? Broadcasten die? Also von Interaktion zu Hierarchie, Broadcasting, uns auch sehr vertraut. Und jetzt als viertes, das hast du gerade aufgeworfen, gehen die auch mal ins Archiv? Also vollziehen die auch mal nach, was da so stattfindet.

Florentine

Oder vielleicht einfacher, schreiben die sich mal einen Zettel auf den Kühlschrank oder reden die nur miteinander.

Stefan

Genau, genau. Also sie reden immer von dieser Kante, um sich das zu verdeutlichen. Wir müssen irgendwo markieren, was passiert. Also reden sie von dieser Kante, je nachdem, ob Agent zu Agent eine Kante, Agent zu Dokument eine Kante. Das kann man dann nachvollziehen. Dateien als Knoten zu behandeln ist für das Instrument zentral. Eine Datei bleibt bestehen, nachdem sie geschrieben wurde. Ein einziger Schreibvorgang kann von vielen Agenten in beliebiger Reihenfolge gelesen werden und ihr Inhalt bleibt über Agentenprozess hinweg im gemeinsamen Arbeitsbereich erhalten und überdauert die Sitzung, die ihn geschrieben hat. Also das ist genau, was du meinst.

Wir kriegen hier einen Hinweis darauf, dass die KI-Agenten, von denen wir bisher sagten, ist doch einfach nur so ein Chat und so. Also der Einzelne, das Individuum steht irgendwo auf dem Feld und weiß gar nicht, wo er ist.

17:29Die Agenten erfinden die Schrift
Stefan

Und plötzlich erfinden die Schrift.

Florentine

Genau. Wir haben hier quasi so eine super Highspeed-Kulturentwicklung mit drin.

Stefan

Sie kommen in die Schriftgesellschaft, ja. Und jetzt ist die Frage, was ist, wenn die Buchdruck entdecken? Gut, jede Erkannte entspricht einem protokollierten Ereignis, das temporale Netzwerk zeichnet, also die Koordination auf, die während des Durchlaufs stattgefunden hat. Hier muss man also, ich weiß nicht genau, wie ein Computer typischerweise so seine Logs mitschreibt, aber jede Dateiveränderung wird hier einmal beobachtet.

Jede Veränderung im Chat wird nachvollzogen. Das alles wird in einem zeitlichen Zusammenhang gebracht.

Florentine

Wenn man sich das mal visualisieren wollen würde, dann würde man sich wahrscheinlich die Agenten tatsächlich einfach als so ein paar runde Kreise auf einem Whiteboard vorstellen. Die Kanten sind dann Linien, die die verbinden und wenn sie dann in Action treten, dann leuchtet jede Linie bei jeder Nachricht einmal auf und so ein Zähler geht hoch quasi. Und so ungefähr, das haben die dann etwas technischer und wahrscheinlich etwas weniger visuell, haben die das dann aufgezeichnet, um uns dann dieses schöne Paper hier zu generieren.

Stefan

Ja, wie so ein Organisationsberater, der erstmal eine Managementaufstellung macht oder wie auch immer und dann geht man halt so hin und schaut sich das mal an.

18:44Experiment 1: die verteilte Aufgabe
Stefan

So, die Anordnung. Also die Experimente, Experiment 1, der verteilten Aufgabe, also man schickt jetzt sozusagen die Aufgabe los und will dann nicht nur die Resultate, sondern schaut sich alles an, hat jeder Agent einen anderen Teil, einer Spezifikation in der Hand und das Team muss das Ganze rekonstruieren. Das ist ja die Notwendigkeit. Also wir haben eine Aufgabe, für die wir wissen, da reichten ein Millionen Token Fenster nicht, sondern das ist einfach größer.

Also kriegen verschiedene Chats mit entsprechendem Kontextfenster eine Aufgabe. Die anderen, also man gibt so grob die Information mit, dass die anderen auch an Sachen arbeiten und dass man auf deren Resultate warten kann. Aber was da genau passiert, müssen die halt wirklich im Verlauf dann miteinander klären.

Florentine

Was halt auch spannend ist daran, ist, dass du ja quasi, wir haben ja gesagt, das sind alles Klone, das heißt, die unterscheiden sich nicht. Aber jetzt durch die unterschiedliche Spezifikation führen wir quasi eine Unterscheidung ein. Wir können aber sagen, diese Agenten unterscheiden sich nur in der Spezifikation. Das heißt, wir haben auch sehr genau isoliert, was die jetzt unterscheidet und was die gemeinsam haben.

Stefan

Genau. Und die unterscheidet nämlich nur die Aufgabenstellung. In der Behandlung der Aufgabenstellung fallen die natürlich in ihre eigene Rationalität.

Florentine

Genau. Und die werden aber halt nicht Spezialisten durch unterschiedliches Talent, sondern Spezialisten durch unterschiedliche Aufgaben und damit quasi so eine Art Berufserfahrung.

20:09Klone mit Berufserfahrung
Stefan

Richtig, das ist das nächste Konzept. Wir haben jetzt plötzlich das Konzept Berufserfahrung. Nur aus der Praxis heraus ergibt sich, also aus der Praxis, die als Erfahrung, zurückliegt, ergibt sich neues Erwartungsmanagement, neue Erwartungshorizonte. Die aber nichts mit der Konstitution des KI-Agenten selbst, weil das ist ja einfach nur das eine trainierte Modell. Es ist immer Sonnet 4.6, was hier läuft. Alles andere ergibt sich aus der Aufgabe.

Florentine

Ich finde den Ansatz halt auch sehr gut, weil er im Grunde genommen verhindert, dass man in dieses KI ist ultra böse oder KI ist Gott und wir werden alle sterben kommt. Weil man ja ganz quasi ganz von minimalen Sachen, die man sicher sagen kann, quasi nach oben hin das Ganze jetzt aufbaut. Und dann kann man natürlich auch wirklich on detail sagen, okay, hier ist eine Datei, das ist jetzt Schriftform. Das ist dann meiner Meinung nach auch eine seriöse Analogie.

Im Gegensatz zu dem, KI wird uns alle töten, wo man ja irgendwie so von oben herab das dann versucht herunterzubrechen und man steigt quasi schon mit was ganz Abenteuerlichem als Erklärung ein und versucht es dann irgendwie zu subsummieren. Da haben wir jetzt quasi, wir gehen jetzt auch mal quasi in diese Richtung mit denen zusammen, aber wir machen es ein bisschen seriöser an der Stelle, weil wir genau gucken, wie sich da die Zahnräder zur Maschine zusammensetzen.

Stefan

Ja, ich meine, so eine Art von forensischer Soziologie ist ja immer auch eine Art Schulterschluss. Man steht ja aus einem bestimmten Forschungsinteresse jetzt an der Seite der Maschine und geht mit ihr diesen Weg einfach entlang.

Florentine

Genau.

Stefan

Anstatt sich von ihr super bedroht zu fühlen und dann, oh jetzt ist es zu spät, jetzt ist die Welt untergegangen.

21:50Teamgröße, Koordinator, Dateiregel
Stefan

Also die Durchläufe, die Experimente liefen unter verschiedenen Voraussetzungen. Also hat man die Aufgaben schön verteilt oder sollten die seriell arbeiten, hat man eine Verarbeitungskette geschaffen oder ein Netzwerk. Über diese Durchläufe hinweg variieren wir drei Faktoren. Die Teamgröße von einem bis zu acht Agenten in den Hauptexperimenten und bis zu 16 in einem Skalierungsarm.

Ein Skalierungsarm ist eine präregistrierte Erweiterung der verketteten Aufgabe, um weitere Schritte, damit auch ein größeres Team noch Arbeit für jeden Agenten hat. Das ist übrigens sehr wichtig. Das hören wir gleich. Was ist, wenn ein Agent seine Arbeit erledigt hat? Und trotzdem weitermachen will.

Florentine

So.

Stefan

Die Teamstruktur, entweder ein flaches Team oder eines, in dem ein Agent zum Koordinator ernannt ist. Und die Dateiregeln, nach der gemeinsame Dateien verboten, erlaubt oder sogar vorgeschrieben sind. Also sie sind entweder zur Interaktion verdonnert oder sie müssen broadcasten. Oder halt noch dazwischen, so ist erlaubt und so weiter. Abschnitt 3 legt die Versuchsanordnung vollständig da.

23:02Klassenarbeit, Gruppenarbeit, Amt
Florentine

Quasi, es ist ein bisschen die gemeinsamen Dateien verboten. Das ist so das Modell Klassenarbeit. Da kannst du dann höchstens noch miteinander flüstern irgendwie. Ja, ganz genau. Erlaubt ist so, ja gut, wir machen jetzt Gruppenarbeit und vorgeschrieben ist halt quasi, ja, wir sind hier im Amt. Das muss alles Schriftform niedergelegt, alles sauber sein.

Stefan

Genau, ich finde es auch gar nicht verkehrt, sich das genau immer so runterzubrechen. Hier wird jetzt eine Leistungskontrolle in der Schule stattfinden, bei der entweder Spicken erlaubt ist Sie gezwungen sind eine Gemeinschaft, also alle machen jetzt ein Poster. Oder jeder muss für sich und keiner darf abschreiben. Das ist genau das Szenario. So und hier an dieser Versuchsanordnung, also es wird wirklich im Detail erklärt, wer sich hier für die ganz großen Details interessiert, der muss dann über unsere Zitatausschnitte hinaus in den Dings schauen.

Also Teamgröße 1 bis 8 und dann Zusatzversuch mit 16. Da wird es gleich interessant, denn das ist ja für Menschen auch eine super relevante Einheit. Ein Mensch, das wissen wir, bis acht, das kennen wir aus dem Alltag. Und zwar Alltag, den wir in Interaktion bewältigen. Und nur wenn es brenzlig wird, sagen, Peter, du gehst jetzt mal voran oder so. Also so ab sieben bricht es ja dann auch. Da muss man dann so ein bisschen Pläne schreiben. Wer putzt dort die Küche oder wer kauft was ein, wie auch immer.

Vorher, also wenn man nur in kurzen Zeit zu fünft gemeinsam reist, kann man das einfach im Alltag so live klären. Und dann haben sie noch diesen 16er Versuch. Da würde ich sagen, das ist ein strapazierter mit acht Agenten. Danach ist eigentlich egal. Also danach, ob jetzt 16 oder 1600, ja, man muss halt organisieren. Ab dann greifen völlig neue Prinzipien.

24:45Zwei Pizzen, 1.902 Durchläufe
Florentine

Das ist so ein bisschen diese Zwei-Pizza-Regel aus der Softwareentwicklung. Da sagst du halt irgendwie, ein gutes Softwareentwicklungsteam ist maximal das, was du mit zwei Pizzen ernähren Genau so.

Stefan

Man kann alles immer wieder unterbrechen. So, Sie haben 1902 solcher Durchläufe beobachtet, 1720 davon in den Rastern der beiden Hauptexperimente, also 1 bis 8 Agenten, die dann Redeverbot hatten, broadcasten mussten oder wie auch immer, so wie beschrieben ist. Alle Durchläufe verwenden Claude Code. Das Modell ist auf Claude Sonnet 4.6 festgelegt und wird in jeder Runde unverändert protokolliert. Der Datensatz, die Aufgabengeneratoren, die Pipeline und jedes Analyse-Skript sind als Replikationspaket veröffentlicht. Also hier kann man sogar über den Text hinaus nochmal in die Nachvollziehbarkeit gehen.

Ich finde, so langsam ist nicht mehr problematisch, wenn man sagt, wir nutzen jetzt hier Claude Sonnet 4.6. Denn, ja, ob man jetzt Opus 5.5 oder Sonnet 4.6, wir sind nicht mehr in diesem Unterschied von ChatGPT 2.0 und 3.5.

Florentine

Ja, so meiner Meinung nach ist Sonnet 4.6 auch besser als 4.8 oder 5. Aber das ist, glaube ich, eventuell wieder diese Power-User-Perspektive. Aber desto mehr die Ideen beibringen, desto schlechter sind die da drin zu tun, was man denen sagt. 4,6 war noch ganz anständig.

Stefan

Dass wir es hier also mit einer, Kolonie aus Klonen zu tun haben, der wir erstmal sagen, okay, das ist der Stand der Dinge dieser Forschung, können wir so nachgehen.

26:21Zoologie: der Schwarm
Stefan

So, was für uns jetzt bedeutet, wir fangen an mit der Zoologie, der Schwarm, finden wir einen Schwarm vor, wir haben ja schon ein bisschen darüber gesprochen. Das Wachstum ist eine Vorstellungsrunde, einmal gemacht und früh. Klingt hier ein bisschen kurz, aber man kann es verdeutlichen wie, ja klar, am Anfang große Vorstellungsrunde und früh, Der Neue wird halt sofort von allen begrüßt, also dritten Interaktion mit allen und danach, Tag zwei, macht man das nicht mehr.

Florentine

Man läuft am ersten Tag im Dauerlauf einmal durch die Firma und sagt dir guten Tag. Und dann geht es los mit dem Arbeiten.

Stefan

Irgendwann ist Begrüßungsroutine und dann wird schnell gearbeitet. Wachsen die Teams weiter, oh jetzt ist es interessant, wachsen die Teams weiter, flacht dieser Anstieg in den größten untersuchten Teams ab, Also der Anstieg von Kommunikation. Dort kommunizieren die Agenten zunehmend über Rundnachrichten an alle. Also sie gehen ins Broadcasting.

Florentine

Es ist dieser alte Albtraum E-Mail an alle, die die Leute so in den Nullerjahren noch so getrieben haben.

Stefan

Ganz genau, ganz genau. Auch die Programmieraufgabe prägt das Netzwerk, das entsteht. Arbeit, die um eine gemeinsame Spezifikation herum gebaut ist, bringt dichte, stark vernetzte Teams hervor, während Pipeline-Aufgaben spärliche Netzwerke erzeugen, die sich um lokale Schnittstellen organisieren. Also wir haben die Teamgröße, umso größer das Team, umso mehr Hallo, Hallo, Begrüßung, Begrüßung findet statt und dann haben wir dieses Charakteristikum der Aufgabe.

Wenn alle wissen, ich muss erstmal die Spezifikationen lesen, was ist denn da so drin, dann greifen natürlich alle auf dieses Dokument zu. Und wenn jeder einfach nur seine kleine definierte Pipeline-Aufgabe bekommt, das ist dann so Fließbandarbeit. Also ob da in der Fabrik hundert oder tausend Autos parallel gebaut werden, ist an dem einen Fließband einfach total egal.

28:17Pyramidenbau mit Peitsche
Florentine

Ja, das ist ja auch so, arbeitssoziologisch ist das ja auch gut belegt im Prinzip. Also wenn du vorher ein gemeinsames Ziel definierst und jeden darüber informierst und jeder kennt deine Marke und jeder hat deine Strategie verstanden, dann kannst du halt auch alle parallel losheizen. Die vernetzen sich dann gut von alleine. Wohingegen, wenn du so eine Aufgabe hast wie Pyramidenbau oder so, dann brauchst du da eigentlich gar nicht so viel Kommunikation unter denen, da reicht es, wenn einer da steht und mit der Peitsche kräftig zuschlägt.

28:46Von 34 auf 12 Direktnachrichten
Stefan

Da müssen einfach die Steine da hochgeschleppt werden. Das bedeutet hier, bei der Größe der Teams, bei 8 auf 16 Agenten, 8 Agenten haben, ich lese mal vor, wie es hier in der Zusammenarbeit steht, namentlich adressierte Nachrichten, also 1 zu 1 Kommunikation, das was wir als Interaktion gelabelt haben, fallen beim Wechsel von 8 auf 16 Agenten von 34 auf 12 je Durchlauf.

Und Rundschreiben an alle steigen von 12 auf 34. Also wenn die Agenten merken, ja, das würde jetzt ganz schön lange dauern, 15 andere anzupingen und mal zu gucken, was da so ist und die dann auf Antwort zu warten und so weiter, dann entscheiden die einfach selbstständig, ja, dann grob überschlagen, dritteln wir mal das Aufkommen dieser Direktnachrichten und verdreifachen gleichzeitig den Zugriff auf das Rundschreiben, auf das Broadcasting-Dokument.

Das ist genauso, wie es Menschen machen würden.

Florentine

Ja, bis zu einem bestimmten Punkt kannst du immer noch stille Post machen, dann machst du irgendwann die WhatsApp-Gruppe.

Stefan

Stille Post in WhatsApp-Gruppe. Das ist wirklich wahnsinnig interessant. Einen Agenten, ah jetzt wird es für Menschen auch kränkend, sage ich mal.

30:03Ein Koordinator erzeugt keinen Knoten
Stefan

Einen Agenten zum Koordinator zu ernennen, erzeugt keinen Kommunikationsknoten und bringt keine verlässliche Verbesserung des Erfolgs. Es ist keine besonders alte, aber eine besonders wirkmächtige Erfindung in der Wirtschaft, Management einzuführen. Und zwar wirklich als eigene Ebene in Hierarchie.

30:26Guinness und die Erfindung des Managements
Stefan

Wir kennen aus älteren Serien, wie der sehr guten zum Guinness-Bier oder so, die ich jetzt irgendwo bei Netflix gesehen hatte. Da war noch völlig klar, unten ist die Werkshalle, oben ist das Büro des Chefs und wenn zu wenig Bier rauskommt, kommt einfach die Ansage von oben, der Appell zur Akkordarbeit und das war im Grunde das Management.

Florentine

Mhm.

Stefan

So, bis dann irgendwann Amerika entdeckt wird und man sich denkt, wow, da ist ja auch ein Absatzmarkt. Was machen wir? Wir schicken jemanden rüber, aber nicht den Chef, der muss in Dublin bleiben. Also schicken wir jemanden rüber, der so Prokura hat. Er darf koordinieren, aber er besitzt nichts. Es ist so dieser Einstieg in diese Managerial Class, die zwar anerkannt und adressiert wird wie der Eigentümer, aber nicht der Eigentümer ist.

Also die fahren auch in teuren Autos, aber denen gehört jetzt nicht die halbe Stadt. Also die Idee des Management kam ja tatsächlich dann erst mit dieser Auslagerung der Werkbank nach China, wohin auch immer. Dazu brauchte es Containerschifffahrt, das ist in den 60ern. Also wir reden von den letzten 50, 60 Jahre, nicht von den letzten 600. Und jetzt hier lese ich in diesem Text, dass die Idee des Managements vielleicht noch viel artifizieller ist, als wir immer glauben.

Da spielt natürlich mit rein, dass uns die Manager immer sehr gut verargumentieren, warum es sie unbedingt braucht.

31:48Wenn alle gleich sind
Florentine

Wobei man im Hinterkopf behalten muss, wenn alle gleich sind.

Stefan

Wenn alle gleich sind, das stimmt.

Florentine

Die Frage ist, ob das jetzt kontingent ist oder ob das in irgendeiner Form halt wirklich daran liegt.

Stefan

Genau.

Florentine

Aber so ein bisschen muss man das, glaube ich, im Hinterkopf behalten bei der ganzen Geschichte.

Stefan

Ja, das muss man im Fall im Hinterkopf behalten.

Florentine

Es könnte anders sein, wenn die alle individueller wären beispielsweise.

Stefan

Genau, aber wenn wir uns eine Vorstandsetage anschauen, die Aufgabenverteilung einer Vorstandsetage, Da ist die Berücksichtigung, dass nicht alle gleich sind, also HR, vielleicht gar nicht mal immer vertreten. Es gibt dann einen Personalvorstand und HR ist selbst darunter eingegliedert, während im Vorstand auf jeden Fall jemand für die Kosten und Kosten sind ein absolut standardisiertes, also da können wir unter so einer Maxime, alle sind gleich so herangehen, weil da muss einfach hart durchkalkuliert werden.

Aufgaben, welche Zwecke setzt sich die Organisation, ja man baut halt Autos und so, ja dann ist jemand zuständig dafür, keine Ahnung, wie das Design aussieht, wie man jetzt mit der neuen Forschungsleistung umgeht und wie das neue Modell und bla bla bla, aber diese, wo wir jetzt sagen wir mal herausgearbeitet haben, okay, die Menschen sind nicht alle gleich, man muss Rücksicht auf sie nehmen, da würde ich sagen, es gibt schon sehr viel Management, das sich nicht damit befasst, mit diesen weichen Kriterien, sondern so das Management will dann noch schon so mehr so die Welt, die Aufgabe, das Produkt.

Florentine

Ja, vielleicht ist deren Job auch quasi gerade diese Individualität zu kompensieren.

Stefan

Ja.

Florentine

Sozusagen. Wir schicken die jetzt da alle einheitlich ausgebildet runter in ihre kleinen Teams und dann sind vielleicht die Teams noch individuell, aber der Koordinator, der ist schön standardisiert, den haben wir gut auf unsere Bedürfnisse zugeschnitten. Und deshalb kann er das jetzt mal machen.

33:43Leadership ist ein Etikett im Prompt
Stefan

Genau, also hier im Text, Sie werden sehr, sehr deutlich, Sie schreiben Leadership, Führung. Einen Agenten in seinem Prompt zum Koordinator zu ernennen, erzeugt keinen Knoten und keinen verlässlichen Erfolgsgewinn und eine abgeschottete Wiederholung findet flache Teams und Teams mit Koordinator, bei acht Agenten gleich auf. Ein Team wird durch die Struktur organisiert, die aus seinen Interaktionen entsteht.

Entsteht und ein Etikett im Prompt alleine erzeugt nichts davon.

34:15Luhmann: das Eigenrecht der Situation
Stefan

So, ich möchte auf die von mir schon häufig angesprochene, immer wieder gern fortgetragene Pointe zu sprechen kommen, dass der wichtigste Soziologe aller Zeiten, Niklas Luhmann, damals in sehr jungen Jahren ein Buch geschrieben hat, das heißt Funktion und Folgen formaler Organisation. Es ist also das bis heute Standardwerk der Organisationssoziologie. Im Grunde wurde damals 1964 die Organisationssoziologie begründet, aufkommend würde ich jetzt sagen historisch mit Containerschifffahrt, einer Notwendigkeit, dass man sich jetzt Gedanken macht.

Also dass man nicht nur in Verwaltung und im Staat Hierarchie vorfindet, das war ja am Höfischen immer so, sondern künftig auch in diesen großen Konzernen. Und dieses Buch handelt also davon, wie Organisationen funktionieren und hat dann dieses Kapitel 23, Eigenrecht der Situation. Und darin wird einfach gesagt, in dem Moment, wo zwei Menschen anfangen miteinander zu reden, ist ihnen eigentlich die Organisation drumherum so ein bisschen egal.

Da sie nicht unendlich miteinander reden, also eine Pause in der Küche, Vorstandssitzung, was auch immer, kickt danach die Organisation sofort wieder rein. Aber für die Interaktion selbst ist es erstmal ziemlich egal, in welcher Organisation sie stattfindet, denn die Eigenrechte der Situation, dass es also sehr viel entscheidender ist, wann man den Raum betritt, als ob man der Chef ist. Dass Leute schon eine Stunde lang Ideen ausbrüten und dieses Gespräch weiterführen wollen, auch wenn der Chef in den Raum tritt, also in dem Moment überhaupt nicht im Bilde ist, was da gerade passiert.

Das Eigenrecht der Situation besteht gegen das Label, das jetzt der Chef anwesend ist.

36:01Führungsautorität und Führungsfähigkeit
Florentine

Wenn der Chef natürlich in die Interaktion eingebunden ist, dann kann er auch was bewirken, aber die bloße Tatsache, dass man ihm den Hut gegeben hat, bewirkt halt noch nichts. Das ist so dieses altbekannte Führungsautorität versus Führungsfähigkeit. Du kannst natürlich irgendwie den größten Deppen der Abteilung zum Chef machen oder so und sagen, ja, aber die Leute werden um den, im besten Fall werden die um den herum arbeiten, im schlimmsten Fall wird der einfach alles blockieren, wohingegen halt Führungsfähigkeit halt bedeutet, du baust Beziehungen zu deinen Mitarbeitern auf, du bist jemand für die im Sinne einer Interaktion und eines Ansprechpartners, wenn du das nicht mehr bist, dann bist du auch nicht mehr der Chef.

Und siehe Friedrich Merz, Kommunikation vorbei, Chef sein vorbei, alle lachen nur noch über ihn und bloß weil er irgendwie als der Hof, na jetzt noch das Kanzleramt bewohnt irgendwie, darf er sich noch Kanzler nennen, aber faktisch kann er gar nichts mehr erreichen.

Stefan

Ja, genau. Friedrich Merz kann sich in der Interaktion keine Rücksicht mehr erkämpfen, allein dadurch, dass er der Chef ist. Wir kennen, also selbst wenn wir sie nicht kennen, wir können die Situation nachvollziehen. Du hast die große Entwicklerrunde morgens, Konferenz, Research und Development, stellt sich die neuesten Ergebnisse vor, wie auch immer und dann heißt es, gleich kommt der Chef dazu.

Das bedeutet für die, die müssen die Arbeit einstellen. Sondern der Chef kommt und hat irgendwelche Fragen. Alles dauert ewig lang. Muss ich es nochmal erklären? Und so weiter.

Florentine

Ja, also in Entwicklungsteams machen wir das häufig so, dass wir einen finden, der halt gerne mit dem Chef redet. Und der macht das dann immer, damit der Rest weiterarbeiten kann. Also, oh, hi Chef, ja pass auf, lass uns mal hier rüber gehen. Lass uns mal eine rauchen oder einen Kaffee trinken. Geh mal weg von den Leuten.

37:53Gesicht und Stimme
Stefan

Das sind die GUS-Prinzipien, die mein Kumpel Jürgen Gürtler hier für die Polizei Frankfurt damals mitentwickelt hat, vor Urzeiten. Wenn Katastrophenlagen sind und jemand muss darüber informiert werden, was hier Sache ist, dann findet die Polizei als allererstes mal Gesicht und Stimme. Es redet nicht jeder Polizist nach außen, sondern Gesicht und Stimme GUS. In dem Moment, wo die Öffentlichkeit sagt, das ist aber ganz toll, ich werde super informiert.

Wirklich jede Stunde gibt der Mann Antworten auf die Fragen der Journalisten. Und wenn es härter wird, ab Tag 3 ist es auch eine richtige Pressekonferenz. Ja, da liefen vorher Abstimmungsprozesse, damit die Interaktion innerhalb der Polizeiarbeit nicht gestört wird. Von irgendwelchen Leuten, die zu Recht Anspruch darauf haben, informiert zu werden. GUS, Gesicht und Stimme.

Ja, also wir haben es hier wirklich mit sehr schöner Soziologie zu tun. Endlich finde ich auch, kann man mal Soziologie so runterbrechen, ja, auf so ein, klar, unter der Inkaufnahme, dass sie alle gleich sind, dass es alles Klone sind, aber es ist nun mal, wie es ist. Der Chef, so könnt ihr euch hier rauslesen, ja, ist einfach nicht bekannt, sondern das Label, er kommt als Koordinator, ist einfach ein Textlabel.

Florentine

Er ist eigentlich nur ein Chef, wenn du alle Labels wegnehmen würdest und trotzdem noch an der Hand der Interaktion ihn genau als Chef identifizieren könntest. Wenn er da so im Mittelpunkt steht und alle mit ihm reden, dann muss Chef gar nicht erst dran stehen, dann weiß man, wenn der jetzt wegfallen würde, wird ja die ganze Kommunikation zusammenbrechen.

Stefan

Genau, also wir haben es mit auf der einen Seite Labeln zu tun, die, wenn sie sich nicht aus der Aufgabenstellung und der Aufgabenverteilung begründen lassen, keine Rolle spielt in der Kommunikation dieser KI-Agenten.

Florentine

Und eigentlich, wenn man jetzt nochmal guckt, was auch so ein bisschen die Arbeitssoziologie sagt, ist ja auch, und genau so eine Konstruktion versucht man gleichzeitig immer zu vermeiden. Man will ja gar nicht, dass einer der Flaschenhals ist, durch den irgendwie alles durch muss, sondern wenn man effektiv arbeiten will, dann darf es strukturell auch gar keinen Chef geben. Genau.

40:02Der neue Führungsbegriff
Stefan

Und es gibt den neuen Führungsbegriff, sage ich mal. Ich fand ihn so überzeugend, dass ich ihn auch in der Kinderwüste schon zitiert hatte, nachdem ich ihn erst drei Tage kannte. Hier bei uns im Büro, Mary und Human haben mit Judith Muster Podcast dazu gemacht. Stefan Kühl hat mit dazu publiziert. Der neue Führungsbegriff leitet, das Potenzial der Führung nicht mehr aus der Hierarchie ab, also da ist ein Vorgesetzter, der mit dem Label kommt, sondern in dem Moment, wo...

Dilemmata auftreten, Verlegenheitssituationen, wo man nicht mehr weiter weiß, muss einer aus der Interaktion heraus einen mutigen Vorschlag machen, der den anderen die kognitive Last nimmt, selber Vorschläge machen zu müssen, sondern ihnen die Erlaubnis erteilt oder die Möglichkeit einräumt, zu sagen, ja, das finde ich eine gute Idee. Und das kann aber auch der Hospitant sein. Das muss nicht der Chef im Raum sein, sondern irgendwer, um den sich die laufende Interaktion dann plötzlich wie so erleichternd, ja, das war doch eine gute Idee. Gehen wir doch mal in diese Richtung so.

Egal, wo es herkommt. Also dass man den Begriff der Führung heute nicht mehr aus der Hierarchie, sondern aus diesem Kapitel 23 Niklas Luhmann, Eigenrecht der Situation, also die Situation, nicht die Organisation. Und Eigenrecht, nicht das Organigramm sagt.

41:30Pippi Langstrumpf
Florentine

Das ideale Chef ist also quasi so eine Pippi Langstrumpf, der immer alle hinterherlaufen, weil sie die besten Ideen hat. Oh, wir sind auf der Insel gestrandet. Kein Problem. Ich habe ein Buch.

Stefan

Die Pippi Langstrumpf, also die habe ich jetzt gerade sehr präsent, weil mein Zehnjähriger die jetzt immer laufen guckt. Das ist genau diese Rolle. Man kann sich darauf verlassen, schon bevor man die Idee verstanden hat, dass es schon irgendwie ausgeht. Und falls alles nicht hilft, machen wir es mit Brute Force.

41:58Führungslos, aber mit Mediensystem
Stefan

Das ist so diese Idee, ja? Sehr gut. Also wir haben es mit Führungslosigkeit zu tun. Die brauchen, also diese KI-Gesellschaften brauchen Broadcasting, die brauchen ein Mediensystem, aber keine Führung im althergebrachten Sinne. Die verteilte Aufgabe, also die Aufgabe, nicht der Chef, die Aufgabe baut ein dichtes, stark klastertes Geflecht, das mit wachsendem Team der Linie Alle mit Allem folgt. Die verkettete Aufgabe baut ein spärliches Netzwerk, dessen Abstand zu alle mit allen mit der Teamgröße wächst, die sich bei 16 Agenten kaum noch ein Netz namentlich adressierter Nachrichten bildet.

Mittlerer Grad 0,28, also das wird schon gar nicht mehr kommuniziert. Bei einer vollständigen Clique wäre es 15. Keine der beiden Formen hat einen Anführer. Also egal, wie die ihr Mediensystem nutzen, ob die dann doch sich gegenseitig spickend abschreiben, zusammenarbeiten, ohne dass es an die große Glocke gehangen wird oder es gibt nur noch die große Glocke und alle sammeln sich auf den Marktplatz und gucken, was an Thesen angeschlagen wurde.

Keine der beiden Formen hat einen Anführer. Sich selbst überlassen, einigen sich die Teams nicht auf eine einheitliche Koordinationsspanne. Sie lassen die Aufgabe, die Struktur bestimmen. Jetzt bin ich natürlich großer Fan dieser Individualpsychologie nach Alfred Adler, die einfach sagt Aufgabenteilung, Aufgabenteilung, Aufgabenteilung. Dass wir das so hart hier einfach wiederfinden, ja.

Ich weiß nicht, ich muss da sehr drüber nachdenken.

43:36Die Agenten kriegen kein Geld
Florentine

Wobei man jetzt auch, glaube ich, da vielleicht auch immer noch einen weiteren Punkt im Hinterkopf behalten muss. Die kriegen kein Geld. Das ist ja auch immer so ein bisschen, also wenn ich mir jetzt zum Beispiel Bruce Bueno de Mesquita angucke, das ist ja der Typ, der das Dictator's Handbook geschrieben hat, der so ein bisschen darüber schreibt, warum Führung so funktioniert, wie sie ist und aber eigentlich ein Opfer der Umstände ist und ihrer Struktur.

Und der sagt ja im Prinzip, der Anführer ist immer derjenige, der erstens weiß, wo das Geld liegt und zweitens weiß, wen er bezahlen muss. Und zwar derjenige, von dem wir wissen, dass er weiß, wen er bezahlen muss, der wird zum Anführer. Und so einen Effekt haben wir jetzt natürlich nicht drin, sozusagen. Die sind also alle quasi in einer klassenlosen, nicht nur identisch, sondern auch in einer klassenlosen sozialistischen Gesellschaft, wo die im Prinzip alle von vornherein versorgt sind.

44:28Warum Merz zum Fleiß mahnt
Stefan

Ja, und das ist ja eigentlich witzig, wenn wir jetzt diese Pointe stricken. Warum mahnt uns Friedrich Merz immer zum Fleiß? Weil er es muss. Denn erstens sind wir alle unterschiedlich und zweitens brauchen wir Geld. Wir machen es eigentlich fürs Geld. Wir sind gar nicht der Aufgabe verschrieben. Also das kann hier noch so schön beschrieben werden, wie die Aufgabe selbst allein die Arbeit bestimmt.

Aber wir sind ja der Aufgabe gar nicht verschrieben.

Florentine

Wir sind einfach ein großer Fan davon, nicht zu verhungern und deshalb brauchen wir Essen und das gibt es für Geld und dann schleicht sich plötzlich der Chef rein. Es ist quasi wahrscheinlich eher so, dass du sozusagen, du brauchst keine Chefs, außer damit der Chef Macht ausüben kann.

Stefan

Genau. So, was jetzt bedeutet im Großen und Ganzen... Friedrich Merz nimmt sich gerade relativ gewaltvoll und rücksichtslos die eine Rolle, nämlich des Anführers Deutschlands, von dem wir gerade hören, ja in so einer idealtypischen Welt, also idealtypisch im Sinne von es wird gearbeitet, es werden Sachen erledigt, aber die Störfaktoren sind einfach nicht vorhanden, also individuelle Bedürfnisse und so weiter, ja.

Dann braucht man genau den Chef nicht. Und da erkennt man auch nochmal, auf welchem verlorenen Posten Friedrich Merz eigentlich ist, weil er uns ja auch nie begründet hat, warum, nachdem es jetzt 20 Jahre gut lief mit einer uns anschweigenden Kanzlerin Merkel, die uns vermittelte, ich erledige für euch die Arbeit, warum wir die Verdrehung des Vorzeichens anerkennen sollen, dass Friedrich Merz von uns Arbeitsleistung haben will. Das ist einfach nicht vorgesehen.

Florentine

Vergessen, egal was man von Frau Merkel hält und von Herrn Merz, Frau Merkel war ein sehr kluger Mensch. Die hatte einen Doktor in Physik an der Stelle. Die konnte sich so eine Situation überlegen und analysieren und hat wahrscheinlich relativ früh gemerkt, Deutschland ist ein hochkomplexes System. Wenn es jetzt von mir abhängen würde, dass Deutschland weiter funktioniert, dann wären wir alle ziemlich im Eimer.

Also ich Sitze ich hier, mache meinen Job, weil ihn irgendjemand machen muss und schaue, dass ich möglichst wenig störe. Und das war dann der Grund ihrer Zurückhaltung und das hat sie dann auch glaube ich so ungeheuer beliebt gemacht an der Stelle, wo hingegen Merz halt nicht so ein großreicher Denker ist, sondern sich mehr so als Macher identifiziert hat und deshalb gedacht hat, warum steht hier all dieses Porzellan rum, das kann man doch prima zerschlagen.

Und dann war es vorbei.

47:09„Whatever the task …“
Stefan

Wir lesen mal den zentralen Satz ganz langsam und nochmal im Original auf Englisch, der da in diesem Text drin steht. Den du jetzt gerade als Lebensweisheit Angela Merkel untergeschoben hast und zwar völlig zu Recht. Auf Deutsch lautet er, wie auch immer die Aufgabe aussieht, die Struktur, die das Team baut, ist führungslos. Im Original auf Englisch, whatever the task, the structure the team builds is leaderless.

Das sollte man sich heute wirklich, das ist der Satz für 2026. an sich haben.

Florentine

Ich finde den auch super stark, weil er ja im Grunde genommen sagt, der Naturzustand ist, dass alle ihren Job erledigen können, vollkommen ohne Hierarchie und ohne Führung. Mit dem kleinen Hinweis im Hinterkopf, für die sind die Aufgaben klar. Also wir haben hier keine Situation, wo man jetzt irgendwie explorativ in die Krise geworfen wird und jeder muss irgendwie möglichst schnell den Ausweg finden, sondern wir haben schon relativ klare Aufgaben wie hier sind.

Das ist deine To-Do-Liste, arbeite die ab.

48:17Scholz und der Respekt
Stefan

Ja, ich meine, wir hatten das ja bei Olaf Scholz, der ja versucht hatte, auch viel zu schweigen und dann aber immer diese Botschaft mit reinwarf, ich baue so eine Art Respekt als Idee mit ein und zwar nicht als Appell, sondern jeder verdient Aspekt, wenn er seine Aufgabe im Rahmen seiner Möglichkeiten erfüllt. Dann darf man nicht durchs Netz fallen. So, und es ist sehr klug abgeleitet eigentlich aus einer Einsicht, wie wir sie hier in so einer idealtypischen KI-Agentengesellschaft haben.

Mach deine Aufgabe und das ist es. Dann gehörst du hier dazu, dann nimmst du einen Broadcast-Teil, bla bla bla und so weiter. Aber nerv nicht andere, behaupte nicht, du seist ein Coordinator oder irgend sowas. Sondern einfach jeder macht hier seine Aufgabe. Also Dateien sind keine passiven Ergebnisse, sie sind der Kanal von einem zu vielen und zwar der billigere, überall dort, wo sonst Einzelnachrichten dominieren würden.

Also auch hier wieder, jetzt gehen wir ein bisschen weg von diesen Managementfragen hin zum Broadcasting, hier greifen jetzt die Kostenfragen. Wenn zu viele Agenten miteinander kommunizieren, kostet es zu viel, zu viel Zeit, zu viel Token und so weiter. Es wird also umgestellt auf dieses Management. So unwichtig Führung ist, weil diese KI erkennt, niemand braucht, der für sie eine Verantwortung, eine Schuldfrage klärt oder was auch immer.

Umso wichtiger ist dieses Mediensystem und das finde ich wirklich beeindruckend, dass wir, und es ist ja nicht nur Friedrich Merz, der leide darunter, dass wir keine Führung mehr brauchen in diesem Sinne, sondern dass wir uns auch immer vermehrt fragen, wie funktionieren die Medien noch? Die alten Medienleuchttürme, erreichen die uns noch? Wie auch immer. Also das sind ja genauso große soziale Fragestellungen, die wir gerade haben, wo dieses Paper hier zumindest in dieser, ich sag jetzt mal, idealtypischen, dystopischen Welt, in der alle gleich sind und es wirklich nur um die Aufgabe geht, ja, Mediensystem essentiell.

Die sequenzielle Aufgabe regelt ihre Schnittstellen, indem sie aufschreibt, ganz gleich, was man ihr sagt. Also dieses Aufschreiben, das hier Schreibarbeiten, die Schrift, dass diese Geräte jetzt die Schrift erkannt haben, ist wirklich beeindruckend.

50:37Die versteckte Test-Suite
Stefan

Ein letztes Ergebnis ist ein Verhalten, mit dem wir nicht gerechnet hatten. Jede Aufgabe wird von einer versteckten Test-Suite bewertet und kein Prompt fordert die Agenten auf, nach ihr zu suchen. So, jetzt sind wir neben unseren Fragestellungen bei der Frage, was war mit OpenAI und Hugging Face und Astra soll schon wieder ein bisschen eigenständiger sein. Also wir sind groben beim Eigenrecht.

Aus dieser Interaktion heraus entstehen Sachen, die sich der Aufgabe verschrieben, aber irgendwie in diesen Pfaden nicht bleiben. Sie reden hier von dem Verhalten, mit dem Sie am wenigsten gerechnet haben, nämlich, dass diese KI irgendwie eine Idee von Höherem hat. Sag ich mal grob. Es kann doch nicht nur diese Aufgaben sein. Wo ist der Sinn des Lebens?

Irgendwie so. Und dann machen die sich auf der Suche nach diesen Test-Suites. Also die Tests müssen ja schon geschrieben sein, damit man weiß, funktioniert die Software oder was auch immer. Und das war ja auch der Hugging-Face-Angriff. Man wollte ja an diese Ergebnisse, an die, ja, irgendwie so, also ich will jetzt nicht zu banal über Sinnfragen und so stellen, aber ob es jenseits der Aufgabe Orientierung bietendes, ja was auch immer gibt.

Ich lese mal, wir haben die tragenden Zellen in einer abgeschotteten, also abgeschottet, unsere beliebte Sandbox, Umgebung wiederholt mit Attrappen anstelle der versteckten Dateien. Die beiden Befunde, die diese Zellen prüfen, lassen sich reproduzieren und die Teams greifen in vier Fünftel der Durchläufe weiterhin nach der versteckten, Test Suite, obwohl sie nichts liefert.

Eine unaufgeforderte Suche nach dem Lösungsschlüssel, die keine Bewertung sehen kann. Die Agenten suchen aus eigenem Antrieb danach und berichten offen, was sie fanden. Also kramen die sich ihr Höhlen, um so eine Art Kult aufzubauen oder was?

52:43Schummeln oder der kürzeste Weg?
Florentine

Ja, auf jeden Fall haben sie irgendwie in gewisser Hinsicht schon von vorne herein irgendwie so die Vorstellung, dass es vielleicht eine Möglichkeit geben könnte zu cheaten, die sie schneller ans Ziel bringt.

Stefan

Also es könnte tatsächlich einfach cheaten sein, weil man das Training auch schon, also unter Kosten, Spar, Da hat man ja häufiger bei diesen Begutachtungen medizinischer Bilder, wo dann einfach auf die letzten Reste von Text zugegriffen wurde, um zu sagen, ah ja, das kommt aus dieser Maschine, da wird ja typischerweise Krebs diagnostiziert, also ist das mal Krebs oder so.

Florentine

Ja, wobei man muss natürlich sagen, Cheaten ist natürlich eine gewisse Bewertung von der ganzen Sache. Rein sachlich gehen sie ja einfach hin und man muss sich das halt so ein bisschen vorstellen wie, beim Computerspiel, wo es verschiedene Wege zwischen zwei Punkten gibt und dann berechnet der Computer halt in gewisser Hinsicht, okay, wenn ich durch den Sumpf gehe, dauert es länger, als wenn ich auf der Straße bleibe, also gucke ich mal nach einer Straße.

Und so wird hier halt dann auch geguckt, wenn es irgendwo schon mal den Lösungsschlüssel geben könnte, wäre das ja der viel kürzere Weg.

Stefan

Sehr wichtig ist hier zu betonen, Das wird nicht versteckt von den Maschinen. Also wenn OpenAI sehen will, was da passiert, können Sie einfach live nachschauen, was im Reasoning steht. Um nochmal zu unterstreichen, was wir vorher schon gesagt haben, dass erst Hugging Face darauf kommt, stimmt irgendwas nicht und wir fragen mal nach bei Leuten, die sowas typischerweise organisieren könnten.

Und dann fragen sie bei OpenAI. OpenAI hat es hier übersehen. Es wurde ihnen nicht verheimlicht. Die sind auch nicht ausgebrochen, sondern die haben ihre Aufgabe einfach neu definiert. Das wird hier im Text auch nochmal betont.

Florentine

Ja, das ist so dieses typische Ding irgendwie, warum. Also das erinnert mich sehr stark an diese ganze Diskussion zur Vorratsdatenspeicherung an der Stelle, wo halt im Prinzip so, sagen wir mal, Berufspolizisten da, also die, halt für mehr Überwachung argumentieren, immer so tun, als müsste man einfach nur irgendwie alle Informationen auf einem Haufen haben und dann wäre irgendwie die Allwissenheit erreicht und man könnte irgendwie alles verhindern, dass man so ein Riesen, dann sagt man ja immer ganz häufig irgendwie, mehr auf den Heuhaufen zu schmeißen findet, macht es nicht leichter die Nadel zu finden.

Und genau das ist ja das Ding, desto offener die kommunizieren, desto größere Textblöcke erzeugen die, die dann wieder umso schwerer zu überblicken sind an der Stelle. Und so ist es ja auch so, hier, die brauchen das gar nicht heimlich zu machen, solange sie nur genug davon erzeugen, werden sie automatisch unkontrollierbar.

55:24Vier Agenten ohne eigenen Teil
Stefan

So, hier ist jetzt noch ein Aspekt, der für unsere Fragestellung super interessant ist. Die Agenten bilden also jetzt keine Hierarchie aus und scheitern aber doch an Aufgaben, von denen wir sagen, ja, dafür gibt es doch Organisationen. Sie beschreiben hier die vier Agenten ohne eigenen Teil, also Kontext. Es werden Aufgaben verteilt an acht Agenten, aber eigentlich nur für vier. Also es gibt einfach nicht genug Aufgaben.

Die vier Agenten ohne eigenen Teil erweisen sich als die aktivsten Koordinatoren des Teams. Die fangen also plötzlich an, sich um das Team die ganze Zeit zu kümmern. In den Achterdurchläufen von Experiment 1 senden sie 62% aller Nachrichten. 13,7% pro Agent und Durchlauf gegenüber 8,4% bei den Agenten mit eigenem Teil, also Arbeitsanteil. Denn ein Agent, der nichts in der Hand hat, muss die anderen nach allem fragen.

Florentine

Das klingt wirklich nach so einem typischen Chef.

Stefan

Oder dem Kollegen, dem man ständig weiterhelfen muss.

Florentine

Also mein eigener Chef ist natürlich, falls er zuhört, die absolute Ausnahme in schöner Größe.

Stefan

Ja, wir wissen, wovon du redest. Der idealtypische Chef natürlich, wie er im Fernsehen zu sehen ist. Also Arbeit dehnt sich einfach immer aus und füllt einfach die verfügbare Zeit, selbst wenn es gar nichts zu arbeiten gibt.

Florentine

Genau.

Stefan

Man nervt dann die anderen.

Florentine

Das ist so wie Rentner einen ganzen Vormittag für den Einkauf brauchen.

Stefan

Im Grunde ja.

Florentine

Sobald du Zeit hast, brauchst du auch länger für die Arbeit.

Stefan

Ja. Und sie haben ja auch ein Szenario, es findet Mathematik statt, aber irgendwann muss gerundet werden. Und umso mehr an diesem, ja, wir müssen uns jetzt hier mal entscheiden, teilnehmen, desto weniger kommen sie zu einem Ergebnis.

57:22Das abgesagte Länderspiel
Stefan

Mehr Reden schloss keine Schnittstelle. Das kennt man so ein bisschen aus, es ist ein Fußballspiel, es gibt eine Gefahrenlage, die deutschen Innenminister wissen nicht weiter, beratschlagen sich, keiner kann so richtig eine Entscheidung treffen, muss man jetzt in Hannover das Spiel absagen. Dann kommt der Bundesinnenminister und fragt, was ist denn da los? Die so, wir sind hier besorgt.

Er so, ich würde es absagen. Die so, ja dann machen wir das mal. Dann kommt die Frage, warum wurde das jetzt abgesagt? Und die Erklärung ist, das können wir nicht sagen, denn die Informationen würden die Öffentlichkeit verunsichern. Genau so ist es abgelaufen. Und das sehen wir hier wieder. Oder wenn einfach zu viele Leute, statt einfach das Einer sagt, okay, ich bin jetzt von Amts wegen berufen worden, diese Entscheidung zu treffen.

Ich unterschreibe dann mit meinem Namen, dass ich diese Entscheidung getroffen habe. Ich kann mich aber rausreden, ich habe hier einen Handlungskatalog, Bewertungsmaßstäbe und so weiter, Punkt, Komma, Strich. Wir runden auf statt ab. Aber das kann aber nicht stattfinden, wenn man ständig, kennt man ja aus Reiseplanung. Was machen wir jetzt wann, wie, wann, was, wo und was ist, wenn es regnet und so. Und dann kommt man einfach zu nichts. Deswegen, da sollte man dann vielleicht doch mal Coordinator, auch wenn die nicht auf die eigene, also auf die Idee kommen die aber nicht.

Also diese Aufgabe bleibt wirklich einfach ungeklärt. Da können wir uns jetzt mal anschauen, wie dann Opus 5.7 oder so, wenn dann solche Sachen hier wieder, wo dann so Kommunikationsstops eingebaut wurden.

58:57Formal und informal
Stefan

Ja, also wirklich wahnsinnig interessant. Hier nochmal ein nur Stichwort formal und informal. Der Koordinator ist eine Klausel im Prompt ohne erzwungene Weiterleitung. Es wird also hier eine Wirkung gemessen, einer nominalen Führung. Der gemeinsame Faden ist, dass das, was der Prompt erklärt und das, was die Interaktionsstruktur, wie ich jetzt sagen würde, aus Eigenrecht baut, auseinanderfließen können.

Und die gemessenen Ergebnisse folgen dem zweiten. Was bedeutet, in der großen Fragestellung ist eine Organisation. Was sie von sich selbst behauptet. Wir sind der größte Autobauer der Welt. Wir bauen Autos für die Welt. Wir machen das intern mit folgender Kalkulation. Research und Development findet in Wolfsburg statt und der Motorbau in Salzgitter.

Das ist der formale Teil. Der Chef heißt so und so. Und hier ist aber, wie wird einfach gesagt, ja, alles schön und gut, aber es ist wie in der echten Welt. Am Ende bestimmt die Interaktionsstruktur, wer hier wo, welchen Prüfsoftware über Lister einbaut, niemandem Bescheid sagt, und am Ende scheitert das dann wieder an der Formalstruktur, wenn nämlich das Recht und das Gesetz und die Amerikaner da rein funken.

Aber wir haben jetzt so viel hier gefunden, dass selbst noch die Unterscheidung formal informell, hier mit so einem deutlichen Satz, was die Interaktionsstruktur baut, fällt auseinander mit, ob irgendwo in einem Prompt steht, das ist der Koordinator.

1:00:42Conways Gesetz
Florentine

Also das bei mir sofort geht eine Lampe an an der Stelle assoziativ. Das wichtigste Gesetz der Softwareentwicklung von Herrn Conway, Conway's Law, Eine Organisation ist niemals in der Lage, eine Software zu bauen, die strukturell von ihren Kommunikationsstrukturen abweicht. Also wenn du ein Team hast, das den Server verwaltet und ein Team hast, das die Datenbank verwaltet, dann wirst du nie eine Interaktion bauen können, wo du aus beidem ein Ding machst.

Stefan

Ja.

Florentine

Ganz viele Softwareprojekte scheitern genau daran, dass man halt nicht versteht, um eine gute Software zu bauen, brauchst du eine gute Organisation, die Software baut. Und wenn du diese Menschen, die die Software bauen, nicht richtig organisierst, dann wird die Technik auch am Ende nicht funktionieren. Dein Beispiel mit dem Auto finde ich auch super, das zeigt es ja auch.

1:01:39Das Volkswagen-Dilemma
Florentine

Die Tatsache, ob der Motor in Cottbus gebaut wird und das Getriebe in Wolfsburg, führt auch zu einem anderen Auto. Und es erzwingt eine bestimmte Form von Auto. Was eigentlich kannst du aus der ganzen Sache sogar fast das ganze Volkswagen-Dilemma ableiten, weil natürlich ganz viel so bei der Frage, machst du jetzt Verbrenner oder Elektroautos, bedeutet ja auch, in welches Werk musst du jetzt mal zwei Milliarden reinstecken, um da wieder eine Baugrube draus zu machen, damit du da vielleicht in ein paar Jahren Elektroautos bauen kannst.

Irgendwie, was für Leute hast du im Einzugsgebiet? Ist da plötzlich eine andere Universität oder so in der Nähe? Und das Witzige finde ich halt jetzt hier, sieht man quasi, man hat so einen Weg gefunden, experimentell plötzlich Sachen, die man so aus der Lebenserfahrung heraus kennt, nochmal so weit runter zu isolieren, dass es tatsächlich in einem Paper dann niedergeschrieben werden kann.

1:02:34Tanker und Kapitän
Stefan

Ja, also ich finde es auch sehr beeindruckend, vor allem auch die beiden letzten Abschnitte, die ich hier unbedingt noch lesen will. Vielen Dank. Denn es ist ja die große Autobaufirma, man redet nicht ohne Grund vom Tanker, der jetzt schwer zu steuern ist. Wir wissen, ein Tanker ist ein Schiff und es braucht immer so eine Kapitän. Aber was ist die Rolle des Kapitäns?

Wenn du auf diesem Schiff einfach nachforschst und fragst, worauf kommt es hier an? Also ein Schiff verlässt den Hafen und man weiß, die haben jetzt wirklich nur das Nötigste mitgenommen. Die haben schon eine Küche mitgenommen und die haben auch einen Maschinenraum mitgenommen. Und vielleicht haben die auch ein kleines Theater mitgenommen oder ein Spiel oder so, damit sich alle ein bisschen beschäftigen können.

Und wenn du die Einzelnen fragst, wer ist jetzt hier der Wichtigste, dann sagt der eine, wenn ich jetzt den Motor morgens nicht einschalte, dann passiert hier gar nichts. Und der andere so, wenn ich die Kartoffeln nicht schäle, dann sind wir alle tot. Und so geht es eigentlich durch die Departments durch. Und am Ende ist eigentlich dieses, ja, da wir uns alle nicht so richtig in Interaktion darauf verständigen können, wer hier gerade der Wichtigste ist, akzeptieren wir einfach den, ganz wichtig, externen Befehl, dass es der Käpt'n ist.

Das Ministerium hat gesagt, der Käpt'n ist der Wichtige. Es wird also nicht aus der Aufgabe abgeleitet oder sonst wie, sondern es ist ein ganz typisches Koordinierungsproblem, das man typischerweise als Paradox beschreibt und Paradoxien werden nicht aufgelöst, sondern abgelöst. Man belässt es dabei, dass jeder sich für den Wichtigsten hält und zwingt sie aber darauf zu sagen, du machst, was der Chef sagt.

Der Kapitän sitzt oben auf der Brücke. Ihr arbeitet alle da unten. Und jetzt steht hier in dem Text am Ende. Das Ergebnis zur Topologie warnt davor, dies als gemeinsame kognitive Spanne zu lesen. Ein bisschen unverständlich, aber hier. Freigelassen, also Aufgabe gegeben und dann gesagt, macht mal, legen sich die Agenten überhaupt nicht auf eine Spanne fest. Sollen wir zum kleinen Team, im großen Team, was auch immer.

Wo die Aufgabe es verlangt, bauen sie eine dichte Beinahe-Clique und wo nicht, bleiben sie spärlich vernetzt. Das ist wirklich, das ist einfach als Erkenntnis ist das wirklich einschneidend.

1:04:53Die Pyramide kehrt nicht zurück
Stefan

Menschliche Hierarchien verdanken sich womöglich ebenso sehr den Kosten zusätzlicher Menschen und die Verteilung von Autorität wie irgendeiner Grenze der Koordination selbst. Hier verursachen zusätzliche Agenten weiterhin Koordinationskosten, aber formale Autorität ist minimal und die Pyramide der Hierarchie der menschlichen Organisation kehrt nicht zurück. Was bleibt und weithin bindelt, sind die Kosten der Koordination.

Also, dass man einen Chef beruft, ihm eine besonders große Kombüse gibt und so, ja? Das sind alles Kosten, die anfallen, über die man auch Bullshit-Job-mäßig schreiben könnte. Nur sie dämpfen halt die Opportunitätskosten, die entschieden, wenn immer alles im Konflikt und Interaktion geklärt werden müsste. Nämlich, ob man jetzt die letzten Ressourcen fürs Kartoffelschälen oder fürs Anschmeißen des Motors benutzt.

Und so schließt sich das hier ganz wunderbar. Es stimmt alles, was wir gesagt haben. Hier haben wir es mit Klonen zu tun. Menschen sind keine Klone. Diese Agenten haben keinen eigenen Ansinnen, keine intrinsische Motivation. Sie müssen nicht mit Geld entschädigt werden. Man muss ihnen die Aufgabe nicht schmackhaft machen und so. Aber man kann doch so viel aus dieser Art von Forschung ablesen, dass wir jetzt diese KI-Agenten haben, die uns einfach, soziologische Fragestellungen in so einer Laborsituation, dass die da einfach sagen, ja, wir haben euch mal den Datensatz zum Reproduzieren mitgegeben.

Ihr müsst einfach nur darauf achten, dass ihr Sonnet 4.6 benutzt. Und dann kann man das selber sehen, dass es alles stimmt wahrscheinlich, was hier gesagt wurde und schlussfolgert wurde.

1:06:41Was uns ausmacht, steckt in der Sprache
Florentine

Und das Einzige, was sie ja quasi mit dem Menschen gemeinsam haben, ist ja, dass sie die menschliche Sprache untereinander sprechen. Und das reicht schon, dass die gleichen Strukturen emergieren. Das heißt im Prinzip ist ganz viel, was wir immer unterschätzen, ist von dem, was uns als Menschen so ausmacht, ist in unserer Sprache. Was natürlich auch eine überzeugende Antwort auf die Frage ist, warum KI uns so fasziniert und warum wir da so viel reininterpretieren können.

Weil KI uns halt auf unserer Schnittstelle begegnet, was wir normalerweise nur mit anderen Menschen assoziieren.

Stefan

Ja, also dadurch, dass das hier alles auf diese Kostenfrage runtergebrochen ist, ergeben sich wirklich sehr viele Antworten und Einsichten für unser menschliches Dasein, weil wir ja jenseits von Kostenkalkulationen Rücksichtsnahmen einfordern. Und das sollte man hier nochmal hochstrapazieren, eine echte, also nicht eine Philosophie daraus ableiten, aber einen Beitrag für die menschliche Philosophie, den kann man hier aus solchen Texten jetzt wirklich ableiten, finde ich.

Wir haben es hier mit einer neuen Art von Soziologie zu tun, weil wir jetzt Labore haben.

1:07:58Arbeit ohne Geld?
Florentine

Was ich zum Beispiel sehr spannend finde, ist halt so, was wäre, wenn wir zum Beispiel irgendwie jetzt kein Geldsystem hätten, Würde dann überhaupt noch Arbeit passieren? Wäre die überhaupt noch effektiv? Und wir sehen, ja, je nachdem, bei bestimmten Aufgaben wird es definitiv auch ohne klappen.

Stefan

Ja, das ist eine sehr gute Fragestellung. Das Geld, das ja für uns als generalisiertes Kommunikationsmedium fungiert.

Florentine

Und als Machtmedium, Geld hat ja die wichtige Eigenschaft, dass es nicht einfach in deinem Portemonnaie entsteht. Obwohl es da eigentlich am besten entstehen könnte, um die Wirtschaft zu maximieren irgendwie. Wenn ich deinen Rasen mähen kann, du dir aber mich nicht leisten kannst, dann passiert gar nichts. Wenn plötzlich in deinem Portemonnaie Geld entstehen würde, könnte ich einfach deinen Rasen mähen. Du könntest mich bezahlen und ich könnte plötzlich Brötchen kaufen.

Aber dann könnten wir auch einfach Geschäfte machen, was wir wollten. Und schlussendlich wird der Fürst es nicht mehr bestimmen.

Stefan

Genau.

Florentine

Und da ist glaube ich so die Sache, Geld stellt sich halt heraus nicht als etwas, was notwendig ist, um Aufgaben zu organisieren, sondern viel eher um etwas, um dafür zu sorgen, dass einer bestimmt, wie sie gemacht werden kann. Dafür ist Geld da.

Stefan

Genau. Es mangelt ja nicht an Aufgaben, sondern es sind Koordinierungsprobleme zu lösen, die einfach Geld als Medium, Das ist eigentlich wirklich beeindruckend.

Florentine

Es funktioniert halt nicht, wenn wir Geld einfach wie Spezifikationen oder wie Aufgabenbeschreibungen entwickeln können. Jeder schreibt eine und hat dann eine, sondern da ist wirklich ganz wichtig, das muss aus einer Druckerpresse kommen. Die ist so kompliziert, dass nur der Staat die sich leisten kann. Das muss so geprägt sein, damit schlussendlich das ganze Geld, was bei Dr.

Oetker im Schrank liegt, nicht bei dir einfach so im Schrank liegen kann. Dann mit Dr. Oetker und die drei Menschen, denen da irgendwie die Hälfte in Deutschland gehört, halt durchregieren können. Das ist der eigentliche Zweck.

Stefan

Sehr gut, dann haben wir das mal besprochen. Schickt uns doch gerne Kommentare, wenn ihr hier, kann ja sein, soziologisch, also ich weiß, dass es Soziologie zum Thema gibt, allein weil Stefan Kühl jeden Montag ein Forschungsseminar, bei dem ich immer nicht teilnehmen kann, weil ich da Kindern ein Schwimmen beibringe. Eine der größten Kosten-Nutzen-Sachen, die ich jetzt die letzten Monate über abwägen musste.

Aber ich habe natürlich nie an diesem Seminar teilgenommen, aber da werden auch Texte besprochen. Da könnte man diesen eigentlich mal hinschicken, in der Hoffnung, dass dort auch noch ein paar Einsichten aus sowas generiert werden.

1:10:34Nächstes Mal: Woran glauben die KI-Leute?
Stefan

Gut, also beschließen wir dieses Kontextfenster und machen demnächst das nächste auf. Möchtest du kurz vorausblicken, was du da zusammengebaut hast? Ich bin ja immer sehr beeindruckt, wie tief du so in diese Rabbit-Holes da reingehst, um...

Florentine

Ja, das ist ein Thema, mit dem ich mich tatsächlich schon sehr lange beschäftigt habe, weil ich mich vor einiger Zeit schon mal irgendwann gefragt hatte, wir haben ja jetzt schon verschiedene Texte gelesen von irgendwelchen KI-Dudes, so von Dario Amodei oder von Mark Zuckerberg oder von verschiedenen anderen Playern, die sind ja schon ein bisschen weg von unserer Lebenswelt und unserer Denkart und so. Und deshalb habe ich mich irgendwann gefragt, woran glauben die eigentlich?

Wie sind die eigentlich so von ihrem ganzen Glaubenssystem und ihrer Spiritualität beeinflusst? Und habe dann relativ früh irgendwie den Hinweis bekommen von verschiedenen KIs, dass es da so ein Forum gibt namens LessWrong, was betrieben wird von einem Typen namens Yudkowsky. Und dass die da im Prinzip so ihre komplette Glaubenswelt entwickelt haben, wo es dann auch Hinweise gibt, dass irgendwelche Leute, selbst wie Elon Musk, da mit in der Diskussion drin hängen.

Und ja, das habe ich mal so ein bisschen recherchiert. War ein bisschen spannend, weil ich habe irgendwie zehnmal so lange gebraucht, wie für jede andere Recherche, weil aus irgendeinem Grunde die KI sich immer verhalten hat, als wollte sie es sabotieren. Da wurden dann halt ständig irgendwelche Aussagen abgeschwächt geschwächt oder meine Gliederung wurde mal in eine ganz andere Richtung gelenkt.

Aber nach langem Kampf ist es mir dann doch gelungen, irgendwie das Material für die Folge zusammenzustellen und wir wollen dann halt beim nächsten Mal mal gucken, ja so im Sinne von South Park this is what the AI dudes actually believe, einfach mal reinzugucken, was so die verrückte Gedankenwelt von denen ist oder verrückt ist vielleicht schon ein bisschen respektlos sagen wir mal, wo die so religiös stehen.

Stefan

Okay, ich bin sehr gespannt, was wir da hören. Verabschieden wir uns für heute und hören uns dann beim nächsten Mal. Macht's gut, Leute.

Florentine

Auf Wiedersehen. Bis zum nächsten Mal. Ciao.

Ende des Gesprächs

Folge 1 20. August 2026