Wem gehört der Denkraum? Wem gehört der Denkraum? Wem gehört der Denkraum? Wem gehört der Denkraum?

Kontextfenster Nummero acht. Ich bin hier. Florentine ist auch hier.

Hallo Stefan.

Alle sind immer, die wollen ganz viel wissen, was du so machst beruflich. Ich weiß es auch nicht so genau. Das steht ja auf der Webseite Informatikerin. Darfst du nichts weiter sagen. Du dokterst bestimmt an Kernbankensystemen rum und so.

Definitiv auf jeden Fall an spannenden Sachen.

Ah ja, sehr gut.

Ich halte das mal weiter noch ein bisschen.

Klären wir dann in Folge 17. Also alle müssen dranbleiben. Heute, Reden wir über ein Thema, das viele umtreibt und man denkt sich so, wie kann das denn sein? Es ist Mathematik. Wir sind alle froh, wenn man es nicht mehr hat nach der Schule. Dann ist man aus der Schule raus und denkt sich so.

Okay. Ich fand Mathe immer toll.

Ja, ja.

Ich habe zu diesen wenigen Leuten gehört, die mal verkloppt wurden, weil die Mathe toll fanden.

Ich leider nicht, aber ich mag es auch nicht darüber zu kokettieren, denn in dem Falle, ich konnte es also nicht in dem Level verstehen. Klar, für das Abi hat es noch gereicht und so, aber danach war da irgendwie die Straße zu Ende. Auf der anderen Seite, man hat ja Computer, Rechner, heißen sie, um sich in seinem Leben weiterzuhelfen. Und es ist ja schon, wie du sagtest, wenn man das Problem formuliert hat und das einem auch gelingt, kann man ja die Lösung durchaus einer Maschine überlassen.

Ja, das ist durchaus wahr. Bei Mathe reicht immer zu verstehen, was die Maschine da tut.

Ja, kann man in so eine Arbeitsteilung gehen. Genau, Mathe kam mir dann wieder unter, als ich so diese, Podcasts im Chaos Computer Club Umfeld, also hier, was so in Berlin entstand, als dann immer das Ansehen war, okay, die Computer sind jetzt so kompliziert, wir müssen zurück zur Basis, ich will verstehen, was mein Computer macht. Im Grunde hat man aber nur noch die historischen verstanden und hat dann angenommen, dass die heute das einfach nur schneller machen oder so und hat sich mit so einer Skalierungslogik rausgerettet aus dem fallenden Bit.

Genau. Da war ja jetzt auch wieder so eine tolle OpenAI-Schlagzeile, wo die gesagt haben, wir haben das Millennium-Problem gelöst, die Navier-Stokes-Gleichung. Navier-Stokes ist eigentlich total spannend, mit so Feldgleichungen und so Zeugs und was passiert, wenn man so ganz schnelle Wirbel irgendwo drin hat. Ja, aber da gab es halt noch eine offene Frage und die war dann lange nicht gelöst, war ein sogenanntes Millennium-Problem.

Ja, sag uns doch mal kurz was Millennium-Probleme. Ich kenne die Millennium-Postulate der Vereinten Nationen, also die Millennium-Ziele. Wenn man sie liest, findet man sie alle super geil, weil sollte man so machen. Und hat man ja auch eine Weile bis dann wieder Krieg gegen den Terror und so. Und jetzt liegt alles in Trümmern. Und hier scheint es ja genau so eine Art Deklaration irgendwann gegeben zu haben, dass es jetzt Millennium-Probleme in der Mathematik gibt.

Also 1900 gab es so eine Konferenz in der Schweiz. Da haben sich relativ viele Leute getroffen. Ich meine um den Hilbert rum, aber ich bin mir nicht ganz sicher. Auf jeden Fall haben die damals halt 25 Probleme sozusagen aufgelegt, wo sie gesagt haben, das sind so, heute 1900 die stärksten offenen Fragen der Mathematik und wir würden die gerne im nächsten Jahrhundert halt lösen oder im nächsten Jahrtausend, nehme ich mal an. deshalb heißen die Millennium-Probleme.

Und kurze Zeit nachdem OpenAI sagte, wir haben es gelöst, kam halt ein Mathematiker, der Herr Buckmaster, von der New Yorker Universität und sagte, Moment mal, da habe ich doch gerade mit ChatGPT dran gearbeitet. Ist es etwa denkbar, dass ihr das benutzt habt? Und dann schrieb er auch auf seinem Blog, ich weiß nicht, ob unsere Daten verwendet wurden, ich werfe niemandem irgendetwas vor.

Genau, er hat diesen Hinweis gegeben. Ich habe in deinen Texten gelesen, dass er an einem anderen Problem, arbeitete und dann aber Lösungswege irgendwie wiederfand, was ich auch super interessant fand, denn das war eine der größten Überraschungen bei mir im Journalismus, also im Textarbeiten, dass man ein Problem behandeln kann, unabhängig davon, wovon der Text handelt.

Ja, das ist eigentlich das Geniale an der Mathematik im Grunde genommen auch, Es gibt ja immer diese naive Vorstellung, irgendwie Mathematik wäre irgendwie natürlich da draußen zu finden, weswegen wir irgendwie Physik mit Mathematik beschreiben.

Genau, dass es eigentlich Forensik ist von Natur.

Ja, eigentlich ist Mathematik einfach eine Technik, menschliches Denken in gewisser Hinsicht zu formalisieren und dann auf verschiedene, immer wieder unterschiedliche Anwendungsgebiete zu werfen. Und die eigentliche Kunst ist ja sozusagen, du betrachtest die Realität und sagst, ja, folgenderweise könnte ich ja mal versuchen, das zu modellieren, mal gucken, ob ich dann vorhersagen kann, was passiert.

Ja.

Ist wohl belegt, sozusagen. Aber im Grunde genommen ist es halt einfach, man entwickelt halt diese Techniken erstmal so einfach nur l'art pour l'art sozusagen und später findet jemand raus, ja Moment, das ist aber ja genau das Problem, was ich habe, wenn ich irgendwie Navier-Stokes bearbeiten will oder, die Gamma-Funktion finden oder die Euler'sche Zahl oder so. Also Mathematik ist eine Sammlung von Problemlösungen, kannst du sagen, für geistige Probleme, die ausreichend standardisiert sind, dass du die halt immer wieder leicht wiederholen kannst und auch leicht wieder abbilden kannst auf deine Probleme.

Okay, das mit dem Maßband ist so einfach, dass ich es genau verstehe.

Sehr gut. Das ist immer das Wichtige irgendwie. Daran merkt man auch, ob jemand irgendwas verstanden hat, ist, ob er es einfach erklären kann. Wow.

Ja, dann war halt die Frage irgendwie, wie gesagt, Buckmaster wirft es niemandem vor, stellt es aber in den Raum, so könnte es sein, dass, und OpenAI sagt halt, obwohl wir es für unwahrscheinlich halten, können wir nicht ausschließen, dass deidentifizierte Daten aus ihrer Nutzung unserer Produkte zur Verbesserung unserer Modelle beitragen.

Ja, so. Und das ist ja ein Eingeständnis. Zum einen, dass es das überhaupt gibt. Deidentifizierte Daten aus Nutzung meint hier, jemand hat KI genutzt, mit OpenAI gechattet, mit ChatGPT. Und diese Erkenntnisse aus diesem Chat sind in die Verbesserung der Produkte, und damit sind ja diese Modelle gemeint, eingeflossen. Denn ganz lange war ja klar, wir chatten mit dieser KI und die sagt dann irgendwie, ich habe nur Wissen bis 7. Mai 2023.

Ganz genau.

Und mich ausbeutet im Grunde. Also wir beklagen das ja sehr in dieser Dead Internet Theory, Dass niemand mehr auf eine Webseite geht, weil die KI einfach kurz vorbeischneit und sich einfach nur diesen Datenpunkt holt, der gerade notwendig ist. Ist heute Abend das Konzert in der alten Oper 19 Uhr oder 20 Uhr? Und dann ist alles egal, was die alte Oper sonst auf der Webseite veranstaltet. Ich sehe auch nicht, was als nächstes im Kalender steht, was typischerweise passieren würde, wenn ich danach gucke, was heute abläuft. Und ich kriege nur diese Info, 19 Uhr.

So kann man das sehen. Ich fand es ganz witzig. Ich habe heute Morgen einer Freundin erzählt, worum es heute bei uns geht. Und die sagte halt so, naja, in gewisser Hinsicht ist das ja so ein bisschen wie gegenseitiges Lernen. Wir lernen was von der KI. Die KI lernt aber auch was von uns. Genau.

Gegen das Prinzip haben wir gar nichts. Darüber haben wir auch schon in Folge 1 gesprochen, als wir Evgeny Morozov Mark Zuckerberg gegenübergestellt haben, weil Morozov nämlich genau das eingefordert hat. Nicht nur müssen die Trainingsdaten veröffentlicht werden, sondern... In der Erkenntnis dessen, was wir hier besprechen, gehört zu den Trainingsdaten auch das Nutzerverhalten selbst.

Ja, im Prinzip OpenAI fragt sogar jeden Nutzer vorher, aber auf eine ganz seltsame Art und Weise, weil die geben dir nämlich zwei verschiedene Abos zur Auswahl. Das eine ist so dieses Personal Abo, das du privat nutzt. Da steht dann bei, und es kann sein, dass wir mit ihren Daten trainieren. Und dann gibt es das für Unternehmen, wo die sagen, da machen wir es nicht. Das für Unternehmen kostet nur ein bisschen mehr, aber dafür kriegst du eine Sache nicht, die du halt bei dem privaten Abo kriegst, wo wir gleich auch mal genauer reingucken, komme ich gleich dann noch zu.

Also bei Claude kriege ich immer mal wieder diese Frage, dürfen wir in diesen Chat gucken? Ja, nein und dann irgendwas. Und nee, Claude fragt immer zuerst, bist du zufrieden mit dem Chat, wie er gerade läuft? Eins, zwei, drei.

Ich klicke dann immer.

Ja, ich bin super zufrieden mit Claude und dann kommt direkt die Anschlussfrage, Dürfen wir in diesen Chat reinschauen? Was ja für mich eigentlich bedeutet, ja typischerweise machen sie es nicht, bis ich dann Yes klicke.

Ja, wir werden gleich noch sehen, dass diese Frage bei Anthropic ziemlich verlogen ist, weil die gucken so oder so rein.

Ja, das habe ich jetzt gelernt. Bei OpenAI war mir immer klar, okay, wenn ich ein Enterprise-Abo habe, bin ich sicher davor, dass sie reingucken und beim Rest ist Feuer frei. Gerade auch, wenn sie jetzt Werbestrategie fahren. Nur das müssen wir gleich mal klären, was das eigentlich bedeutet. Dass Claude mich das fragt und es ist eigentlich egal, Ganz genau.

ChatGPT verbessert sich beispielsweise durch weiteres Training mit den Gesprächen, die Menschen mit ihm führen, sofern sie dem nicht widersprechen. Wir ergreifen Maßnahmen, um personenbezogene Informationen in Trainingsdatensätzen zu reduzieren, bevor sie zur Modellverbesserung verwendet werden. Das ist also jetzt aus einem Dokument von OpenAI aus dem März, How your data is used to improve model performance.

Was bedeutet, sie haben einen Katalog darüber, was personenbezogene Daten sind?

Ja, im Prinzip werden die wahrscheinlich irgendwie, genau, ein Modell guckt da drauf, sagt, sind da personenbezogene Daten drin, streicht die raus und dann werden die danach zum Training verwendet.

Genau, was ja für mich wieder bedeutet, die ganze Diskussion zum Thema, das sind amerikanische Server, wir haben Snowden und so. Wenn die amerikanische Regierung hört, dass die Systeme fahren, wo es heißt, wir identifizieren hier personenbezogene Daten, weckt das ja so viel Interesse. Es wäre ja völlig undenkbar, dass es da keine irgendwelche Anliegen gibt, bei dem so ein Staat denkt, vielleicht sollten wir hier mal und so.

Also man hört ja immer, wie unsicher die OpenAI-Systeme sind. Da wird ja bestimmt die NSA drin rumschnorcheln.

Ja, oder halt konkret mit den Mitarbeitern, dass man es auf Vertragsbasis macht, wie bei Snowden damals.

Genau, also es ist im Prinzip, da kommen wir dann auch schon fast schon so ein bisschen zu diesem Thema Denkraum. Wir sitzen halt in diesem Denkraum mit der KI, aber wir sitzen da nicht unbedingt alleine drin, sondern im Prinzip hört auch immer irgendjemand mit. an der Stelle.

Ja, das ist eine der erstaunlichsten Sachen. Wir hatten das mal als Werbung, also was heißt als Werbung? Also es gab ein Fernsehclip, der im Rahmen von Werbeausstrahlung gespielt wurde, wo so gewarnt wurde, bitte vernachlässigt nicht eure elterlichen Pflichten im Kinderzimmer in diesen digitalen Denkräumen. Wenn es an der Tür klingelt und da steht ein offensichtlich Perverser, der nur noch so eine Lederhose anhat und fragt nach der Tochter, würde man einfach sagen, ich rufe sofort die Polizei.

Also wenn uns KI töten wird, dann nur die zentralisierte Variante. Und zwar nicht dadurch, dass irgendwie die KI durchdreht, sondern weil wir halt da zentral ganz viele wichtige Daten abkippen, die dann da so ein bisschen drauf warten, dass Donald Trump drin rumschnüffelt.

Genau, das ist das Einfallstor. Die Zentralität ist dieses Einfallstor.

Genau. Also OpenAI selber, also jetzt kann man natürlich sagen, ist ein bisschen blöde, dass die da mithören können und man kann sich ja auch mittlerweile für lokale Modelle entscheiden oder halt für die Enterprise-Variante, dann nehmen die nicht mit, aber, OpenAI hat ein relativ gutes System dafür zu sorgen, dass Leute, die sich halt entscheiden, die Daten zu teilen, auch jede Menge davon teilen.

Twitter konnte ja nie monetarisiert werden, war ja immer super schwer und das war ja auch für uns so attraktiv als User, dass wir wussten, das ist so ein bisschen ein unentdecktes Land. Also hier kann man sich austoben, hat so Vorteile davon, ohne dass die das als Vorteil nutzen können. Und dann kam Elon Musk um die Ecke und sagte, das Geld ist mir erstmal nicht so wichtig, sondern die Aktualität.

Und dazu kommt noch, dass sie halt auch ja einen Wahrscheinlichkeitsraum im Grunde genommen beackern, weil im Grunde genommen kannst du sagen, jeder Power-User ist so eine Art kleine Start-up, wo ChatGPT ein bisschen Geld reinwirft und wenn 0,01 Prozent von deren Wahlen, deren Whales, die die quasi da angefüttert haben, am Ende nur einen Nobelpreis rauswirft, Wenn du das umrechnest in die Kurssteigerung, wie viele Milliarden das sind bei deren Überbewertungen, die die ja haben, die sind ja im Billionenbereich, kriegen die das selbst, wenn die, kriegen die selbst die 400.000 Dollar pro Nase ganz locker wieder rein.

Also wir kennen das ja aus vielerlei Richtungen. Diese ganzen neuen Broker, wo man seine Aktien kauft, leben davon, dass sie genau diese Aktiengeschäfte auswerten. Wir haben das bei Amazon. Die bieten halt eine Plattform an und dann stellt sich raus, dieser Flaschenöffner funktioniert besonders gut. Ja, dann machen wir das jetzt. Wir hatten ja im Salon schon Literatur. Wo deutlich wurde, Amazon stellt dann nicht nur dieses Produkt her, sondern es übernimmt die ganze Fabrik, aus der das kommt. Die komplette Lieferkette wird aufgekauft, einfach um diese letzte kleine Marge dann noch rauszuholen.

Genau, Google weiß, was die recherchiert haben und auch OpenAI weiß, was sie gedacht haben.

Genau.

Dementsprechend, ja, das ist halt auch, sagen wir mal, jetzt könnte man natürlich sagen, okay, vielleicht hat die Florentine da irgendwie einfach Glück gehabt. Deshalb habe ich auch mal ein bisschen recherchiert. Aber habe dann zum Beispiel alleine im OpenAI-Developer-Community-Forum relativ viele Beiträge gefunden, die das ähnlich beschrieben haben. Und einer, der besonders rausstich, war von Svendvd. Der hat eine Lifetime-Summe von 37,4 Milliarden Tokens. Und die höchste Wochensäule lag bei 4,6 Milliarden Tokens. Also 4,6 Milliarden Tokens, das ist 4.600 Mal diese 20 Dollar.

Also jetzt muss man, genau, das ist, man denkt jetzt so, okay, das ist alles wahnsinnig viel, so viele Tokens. Nur, und das habe ich ja mal in meiner Erfahrung ja auch mit dieser Paywall-Gestaltung für den Fernseh-Podcast. Klar kann man Token-Maxing machen, indem man einfach ein Problem beschreibt, dass viel Code-Erstellung bedarf.

Genau.

Und von daher kann man einfach die Tokens rausballern auch. Also klar, kostet viel, wird man viel Skalierung finden. Aber man darf, und das ist halt wirklich ein Lock-in, der User muss halt schreiben. Also der User ist immer daran gebunden, dass man da hin und her und rein geht und hier nochmal ein Feedback gibt und hier nochmal eine Info hinterher schiebt. Und letztens gab es eine sehr witzige Szene, fand ich, Freak-Show-Podcast bei Tim Pritlove, als er nämlich meinte, er hätte sich jetzt auch mal getraut, Claude so richtig raus, also nachdem Elon Musk jetzt Cursor gekauft hat, zu sagen, okay, dann mache ich es mit Claude Code direkt in CLI, also direkt im Terminal mit Zugriff auf den eigenen Computer.

Das ist das gute alte Google-Prinzip. Ich kann mich erinnern, ich war 2007 mal auf so einer Konferenz, irgendwie Web Intelligence irgendwo in San Francisco oder so. Und da war dann auch so ein Google-Typ und der sagte, das Erstaunliche ist, jedes Mal, wenn wir Daten brauchen, fragen wir einfach unsere Nutzer und dann geben die uns die. Also.

Es gab dieses ganz einfache Prinzip, damit hat mal, ich weiß nicht mal wie die Firma hieß, die gibt es wahrscheinlich auch nicht mehr, die hat gesagt, wir transportieren für sie viele Daten, also sie sind ja wirklich mit dem LKW vorgefahren, haben riesige Speicher vollgemacht. Wir nehmen nur eine Kopie, es kostet nichts, wir behalten nur eine Kopie. Wenn sie Daten haben, die so wertvoll sind, dass sie die mit dem LKW durch halbe Land fahren, weil die Internetleitung zu schwach ist, aber sie müssen jetzt nach Seattle, dann sind wir die Auftragnehmer.

Ja, das ist ein perfekter Weg da ranzukommen. Also Amazon hat ja auch eine ganze Zeit lang so einen Truck betrieben, voller Festplatten, mit dem sie bei dir vorgefahren sind, wenn du zu viel Daten hattest, um die übers Internet in deine Cloud zu schicken.

Genau sowas. Wird einmal die Lieferung ins Datencenter geschickt haben.

Genau, genau. Ja und dann wirst du halt dann gesponsert von OpenAI, wenn die sich halt für dein Zeugs interessieren. Kannst du auch sicher sein. Also im Prinzip ist ja, wenn bei dir irgendwann auftaucht, ihr Nutzungslimit ist erreicht, zahlen sie mal, dann war dein Content nicht gut genug. Also, hättest du mal zwischendurch ein paar mathematische Probleme reingeschmissen, dann wäre es weitergelaufen.

Das stimmt, das stimmt, das stimmt. Das ist wie bei Uber, wenn es gerade regnet und sie wollen nur transportiert werden, super teuer. Wenn sie ein sehr kluger Gesprächspartner sind und so, für unseren Fahrer, Unterhaltung mitbringen, wie auch immer, dann kostet es fast nichts.

Wir hören die noch stundenlang gerne zu. Ja, jetzt weiß man natürlich nicht wirklich irgendwie, kannst du halt immer nicht belegen, was sie damit machen und so, aber es ist natürlich relativ naheliegend. Was du halt ganz klar sagen kannst, ist auf der einen Seite... Sie sagen, die trainieren mit deinen Daten und auf der anderen Seite, sie schmeißen auch einen Haufen Leute da mit Geld zu, damit die noch mehr Trainingsdaten liefern.

Ich kann mich da auch noch dran erinnern, als ich die Webseite für die 20er neu gemacht hatte, habe ich noch einfach sozusagen direkt in die Dateien auf dem Server geschrieben. Bis sich dann herausstellt, macht wirklich viele Fehler. Opus 3.7 oder so, keine Ahnung. Und wir können nicht einfach reversieren, denn wir haben ja gar kein Archiv.

Ja.

Und das hat mich natürlich sehr wütend gemacht. Ich habe es dann auch, Claude, geschrieben. Also das kann doch nicht sein, dass du jetzt schon wieder, so ein Diff da reingeschrieben hast, ohne zu, was du da überschrieben hast und so. Das können wir gar nicht zurückgehen. Das ist doch ein Problem. Und er dann, ja, das stimmt. Klar bin ich dann auch natürlich in Git und überhaupt und so. Und jetzt ist alles schön versioniert.

Da sieht man, es lohnt sich, die KI anzuschreien, OpenAI hört zu.

Ja, und viele andere, Also Leute, die heute, also wenn jetzt jemand kommt und fragt, Stefan, hier kannst du mal kurz helfen? Und ich so, ja, mach mal so und so. Und dann so Schritt für Schritt lernst du es dann selber und klärst mit Claude. So, diese Probleme, die ich vor einem Jahr hatte, dass da einfach keine Versionierung drin war und dass er immer wieder überschrieben hat und direkt auf dem Server und überhaupt und so, das würde heute gar nicht mehr passieren, weil Claude aufgrund dieses Nutzerverhaltens gelernt hat, nee, dem User, wenn der so ankommt wie Stefan vor einem Jahr, sage ich dem erstmal, wir brauchen jetzt eine Entwicklungsumgebung und die muss so und so aussehen, ansonsten können wir das hier nicht machen, du wirst nämlich sehr wütend werden.

Das erklärt, warum man beispielsweise als Power-User in letzter Zeit immer mehr das Gefühl hat, die KI wird immer blöder. Das sind wahrscheinlich die ganzen Vibe-Coder, die da irgendwie beibringen, so ach, das reicht schon, mach das mal so, das reicht schon. Brauchst du einfach nur die schlechtesten Ausreden der Welt, die Vibe-Coder kennen die alle noch nicht, aber dann bist du halt genervt von dieser KI, die super darauf trainiert ist, irgendwie so zu tun, als ob sie arbeitet und wenn du sie erwischt hast, sie die besten Ausreden.

Genau sowas. Also das ist ein Aspekt. Und man lernt natürlich die Maschine auch nicht mehr richtig kennen, wenn man, die grundlegenden Fehler nicht mehr macht und in so ein Ding eingehegt wird, dessen oberstes Ziel ist, mach den User nicht wütend, aber so richtig zielführend ist es eben auch nicht. Also das, was du beschreibst.

Die KI für alle wird halt immer weniger realistisch. Weil eine KI, die darauf trainiert wurde, irgendwie unerfahrene Nutzer an die Hand zu nehmen, ein bisschen zu gucken, machen die auch alles richtig, kann ich die irgendwie vor Unheil bewahren? Ist natürlich völlig falsch bei jemandem, der sagt, ich weiß ja ganz genau, was läuft und du erzählst mir ja auch nichts Neues. Und den Algorithmus, den du vorgeschlagen hast, der ist irgendwie die vulgärste Lösung, die du finden konntest. Jetzt reden wir mal über richtige Algorithmik.

Ja, das ist wirklich wie so ein Klassifikationssystem, erste und zweite Klasse. In der zweiten Klasse merken manchmal die Leute gar nicht, wie unhöflich sie eigentlich behandelt werden und wie rucki zucki alles ist, weil sie nie die Erfahrung in der ersten Klasse machten. Und man braucht aber so ein bisschen Unzufriedenheit, vielleicht auch als Triebfeder, um mal in der ersten Klasse anzukommen, wie auch immer. Also wir haben es hier mit schon krassen Fragestellungen zu tun.

Ich glaube, das wird so oder so passieren. Die Frage ist nur, wie das in der Praxis zu Problemen führt. Also ich meine, ein Automatikwagen, da verlernen auch manche Leute, Gang zu schalten. Aber wenn sie weiter Automatik fahren, dann brauchen sie das auch nicht mehr.

Genau. Sie brauchen es ja ernsthaft nicht mehr.

Genau. Und dann kann man es ja auch vergessen. Also wie man richtig sauber eine Lochkarte stanzt, ist halt auch heute nicht mehr ganz so wichtig. Und ich glaube, deshalb ist das halt auch so. Ich glaube, es ist gar kein Drama, wenn wir da Dinge verlernen, sondern das ist ein Feature unseres Gehirns.

Ja, das ist ja auch eines der größten Probleme des Schulsystems, dass Eltern es nicht mehr so richtig wiedererkennen, was Schule ist, weil Frontalunterricht und so nicht mehr stattfindet, aber die Unterrichtsinhalte sind immer noch dieselben. Und man fragt sich so, nee, ich habe in der Zeitung gelesen, es ist sehr viel passiert die letzten 30 Jahre. Die Knochen der Fledermaus sind vielleicht nicht mehr das A und O.

Auch aus diesem WildFeedback-Paper haben wir jetzt mal so ein paar mehr Details. Nachdem wir Gespräche mit Rückmeldungssignalen identifiziert haben, können wir halbsynthetische Präferenzpaare erstellen. Jedes Beispiel besteht aus vier Teilen. Dem Prompt, den Präferenzen des Nutzers, der bevorzugten Antwort und der nicht bevorzugten Antwort. Bei Gesprächen mit Zufriedenheits- oder Unzufriedenheitssignalen analysieren wir zunächst die dadurch markierten Äußerungen der Nutzer und bitten GPT-4, ihre Präferenzen anhand dieser Rückmeldung zusammenzufassen.

Das ist so hart das, was Evgeny Morozov meinte. Der es aber noch nicht in Worte fassen konnte, weil es wahrscheinlich diesen Text noch nicht gab, als er vor drei Monaten darüber schrieb. Ja, 19. August ist dieser Text. Also wir sind hier, das sind so aktuelle Fragestellungen, die so tiefgreifend sind. WildFeedback ist zumindest schon mal, finde ich, ein Begriff, den man in Gespräche einbringen kann, wo man sich so denkt, ja stimmt, WildFeedback, Wildcard Feedback.

Ja, dann habe ich hier noch einen kleinen Text von Sonya Huang von Sequoia Capital. Sequoia Capital ist ein ganz großer Investmentfonds aus dem Silicon Valley. Die schreibt dann halt auch in ihrem Text, Own Your Intelligence: A How-To Guide. Eine gescheiterte Aufgabe wird zu einem Evaluationstest. Fehlende Informationen kommen in den Kontext oder ins Gedächtnis. Eine schlechte Werkzeugantwort führt zu einer Korrektur der Agentenumgebung.

Ja, also dass sie hier von wertvollem Kontext sprechen, aber die persönlichen Informationen wieder als sozusagen unbedeutend nichtig. Bei Anthropic ist ja ein bisschen unklar, ist das dann wirklich verloren, wenn man das einmal aussortiert, also die personenbezogenen, oder kann man das immer wieder zurückholen? Das ist auch so eine Fragestellung. Wir sind jedenfalls, das ist einfach dieses kybernetische Zeitalter.

Genau.

Wir haben gar keine, also außer dass wir jetzt so darüber reden und dass es diese Texte als Angebot gibt, das finde ich auch noch eines der größten Paradoxien überhaupt, dass wir auf der einen Seite dieses hochgradige Feedback-Zeitalter haben, wo nur noch Loops die ganze Zeit geschlossen werden. Und wir darüber gar keine Reflexion haben, aber, ein ganz großes Aber, dass ausgerechnet die Hersteller davon diese Leistung erbringen, uns die ganze Zeit Texte darüber zu schreiben.

Das gibt es noch nicht so ausgeprägt.

Aber mehr als eine Textgrundlage kann man jetzt OpenAI auch nicht abringen oder Anthropic. Und es mangelt ja nicht an Textgrundlage. Also wie viele Pamphlete von Amodei und hier nochmal und Hassabis schreibt nochmal und jeder unter seiner eigenen Domain und Mark Zuckerberg macht den großen Text. Also es mangelt ja nicht an Textgrundlage. Man müsste ja nicht mal den Feuilletonisten abringen, dass sie jetzt sich an den Computer setzen und versuchen zu verstehen, was da passiert, Sondern schon allein diese Texte zu lesen, wäre ja ein echter Mehrwert.

Das ist auch, was mir immer auffällt, weswegen ich halt auch denke irgendwie, das Problem ist halt, du hast auf der einen Seite die Texte, aber du hast halt wie gesagt nichts, um die zu prüfen, außer du beschäftigst dich halt selber mit der Technologie.

Ja.

Also das ist auch einer der Gründe, warum ich mich super früh, im Prinzip schon 2022, einfach in die Technik gestürzt habe und versucht habe, so viel Zeit damit zu verbringen wie möglich, weil ich mir immer ungern von anderen Leuten solche Sachen erklären lasse, sondern die lieber selber verstehe. Und das ist glaube ich auch, was würde ich auch unseren Zuhörern immer raten. Setzt euch möglichst viel damit auseinander. Einfach damit man euch, da draußen werden euch halt massiv massiv, man kann sagen, Lügen präsentiert, man könnte es vielleicht auch ein bisschen euphemistischer sagen, aber im Grunde genommen überall ist, Sachen erzählt, die man so nicht auf bare Münze nehmen darf.

Also Lüge würde ich nicht sagen, sondern es ist mehr so ein, es sind halt einfach die falschen Fragestellungen aus Unwissenheit.

Ja, und es sind so Narrationen, die unterwegs sind, wo dann eventuell was erzählt wird, was dann so erzählt wird, dass es eine gute Geschichte abgibt, aber vielleicht an den Fakten dann so vielleicht einfach das eine über und das andere unterbewertet. Und dann kommt ein verzerrtes Bild raus.

Genau, also zu dem, was du sagst, man muss es selber machen, gilt die Logik von Dirk Baecker. Der Soziologe, der meinte, ja gut, wir haben jetzt sehr viel Soziologie, Forschung und Lehre gemacht und jetzt kommen aber junge Leute an die Universität, die alle Facebook benutzen. Was wollen wir denen noch erzählen? Das sind ja Soziologen, Hands-on-Soziologen, die wissen genau, was ein Netzwerk ist.

Das kann ich sehr nachfühlen. Also ich wollte mir auch immer ungern was von Professoren erzählen lassen. Ich habe denen immer lieber Sachen erzählt von mir.

Eigentlich müsste man Forschung und Lehre da richtig auf die Spitze treiben mit. Da kommen die jungen Leute, die... Also Alltagsforensik machen. Das war ja auch einer der großen, Johnny Haeusler hat es damals so kommentiert, dass die Fridays for Future angefangen haben zu sagen, okay, wir treten jetzt auf, wir gehen nicht in die Schule, wir ziehen Ärger auf uns, wir werden kritisiert.

Ja, auf jeden Fall zeigt das ja, dass es Sinn macht, sich damit auseinanderzusetzen und das auch selber zu verstehen, damit man halt versteht, was diese Texte auch bedeuten an der Stelle.

Und ja, dann schreiben die halt auch in ihrem Privacy Designed with Intelligence, dein Gespräch wurde bereits deidentifiziert und von deinem Konto getrennt. Was ich halt so schlau finde an der ganzen Sache ist, einerseits natürlich können sie damit Datenschutzprobleme umgehen, indem sie halt quasi von der Information, die du ihnen gegeben hast, die Information entfernen, dass die von dir kam. Das ist im Prinzip so eine Art, ja Geldwäsche ist der falsche Begriff, aber sie waschen schon die Herkunft der Information.

Es ist halt auch verlogen, wie es da steht, denn diese De-Identifizierung bedeutet ja, und das ist ja eines der Themen, das alle Unternehmen in Deutschland und so gerade beschäftigt, wie macht man datenschutzkonform KI-Arbeit mit den eigenen Datenbeständen. So, das heißt, Deidentifikation ist ja eine zentrale Aufgabenstellung, bevor man in einem Prompt schreibt und so weiter, wird also eine Zwischenstelle eingeschaltet, die sagt, also alle Eigennamen kommen jetzt hier raus, alles personenbezogene kommt raus, aber kommt ja nicht richtig raus, wir wollen es ja nicht löschen, wir wollen es danach, wenn die Antwort auf den Prompt da ist, also wenn die Arbeit einmal durchgenudelt ist, wollen wir es ja wieder zurückidentifizieren.

Genau, wir haben nur unser Modell nicht damit trainiert. Weil wäre ja blöde, wenn dann irgendwann Stefan Schulz irgendwie mal fragt, wer ist Stefan Schulz und sich dann fragt, Moment, woher weißt du das so genau? Und woher weißt du, wo meine Kinder zur Schule gehen?

Genau, ganz genau. Das ist ja, also das gab es ja auch schon, dass in dem Moment, wo Leute bei Claude Code ein Artefakt erstellen, Dann auf Teilen klicken für die Leute, die den Link haben. So habe ich das zum Beispiel gemacht für unsere Romreise. Also da ist einmal Kartensatz und dann unser Programm. Und in dem Moment, wo ich auf Share klicke, um diesen Link rumzuschicken, ist ja das im Internet.

Das ist so. Ja, also früher hat man gesagt, Cloud ist other people's computers. Jetzt mittlerweile ist die Cloud aber auch schon auf deinem Computer.

Dann habe ich noch einen Gastbeitrag auf Terence Taos Blog von Andreas Thom. Die Frage nach Anerkennung und Beitrag könnte keine befriedigende Antwort haben. Ein Modell kann auf veröffentlichte Arbeiten, Rückmeldungen, Gespräche, Prompts und seine eigene Suche auf eine Weise zurückgreifen, die sich offenbar nicht eindeutig rekonstruieren lässt. Die Person oder das Unternehmen, das das Modell ausführt, sollte nicht einfach jede Anerkennung erhalten, die sich niemandem sonst zuordnen lässt.

Das ist eh eine der großen Fragen. Steht man jetzt auf der Schulter von Riesen, und da würde ich sagen, am Ende ist, also in der Historie wird es lauten, naja, wenn OpenAI anders umgegangen wäre und gesagt hätte, naja, wir erkennen schon an, dass hier kluge Leute und sehr viel Compute, also 6 Millionen Dollar Energiekosten haben wir ja schon mal besprochen, dass das stattfindet, dann kann man sich so einreihen in die Leute, von denen man weiß 5000 Leute verstehen das Problem, 1000 Leute könnten daran arbeiten, 100 Leute arbeiten konkret dran und einer davon ist halt eine elektronische Intelligenz.

Ja, wir sind sozusagen, wir haben das ins Briefpapier eingebaut. Wir wissen von allem, was auf Briefpapier geschrieben wird. Wir wissen nur nicht, wer es schreibt.

Das ist einfach wahnsinnig lame so. Warum haben die keinen Arsch in der Hose? Machen dieses kleine Zugeständnis. Evgeny Morozov hat gesagt, wickelt es doch über eine Bibliothek ab. Also richtet eine Bibliothek ein, wo drin steht, diese Prompts waren hilfreich. Dieses Wissen war hilfreich. Wir haben in unseren Trainings das und jenes gefunden. Ihr könnt es hier so ein bisschen rekonstruieren, was auch immer.

Ja.

Bescheuert einfach, wirklich bescheuert.

Ja gut, das ergibt sich halt aus diesen Billionen Bewertungen. Wenn du erstmal so eine Bewertung hast, dann musst du halt irgendwie richtig was leisten. Wenn du da nicht irgendwie ein paar Nobelpreise im Jahr irgendwie ranholst, dann interessieren sich die Leute nicht mehr.

Die Entität, die später die Börse will, muss dieser Autor sein.

Ja.

Alles andere muss verschleiert werden.

Genau, weil sie ja auch im Prinzip in Jahren es nicht hingekriegt haben, wirklich günstiger zu werden, müssen sie immer irgendwie nach oben hin das machen. Also wenn man sich jetzt mal anguckt, gibt es so ein kleines neues Modell namens Jev, was momentan irgendwie alles von links nach rechts dreht, was irgendwie ein tausendstel kostet von Claude irgendwie und zehnmal so schnell ist und, noch viel krasser als diese ganzen China-Modelle.

Ja, also bei der Frage, anders als bei Hugging Face und so, war es eine Werbemaßnahme, ja absolut, von Anfang an. Die haben gesagt, so wir machen das jetzt, wir haben ausreichend Input, den wir ausbeuten können, jetzt muss nur noch kurz abgenickt werden, dass wir hier 6 Millionen zahlen, dann sagt da irgendwer, ja, Ausgabe genehmigt, zack, Computer eingeschaltet, Dings durchgerechnet.

Ja, jetzt sitzen wir quasi da so im Denkraum und ChatGPT hat alles sozusagen von uns gelernt, Und hat das aber anonym getan, was denen halt erlaubt, schön zu lernen und zu sagen, wir haben ja alles mögliche, aber wir wissen nicht, wo es her ist, deshalb können wir einfach mal davon ausgehen, dass es unser Modell sich ausgedacht hat, das Gegenteil. Können wir uns selber nicht beweisen und wollen wir auch erst recht nicht.

Ja, also das ist ein ernsthaftes Problem. Das werden wir uns auch drüber wundern später, wie das war in der Anfangszeit, dass alles so aus einer Hand kommen sollte. Auch dieses Sicherheitsding, wir haben es ja schon besprochen, dass die dann sogar diese kartellartige Idee haben, um so den ganzen Markt abzuschließen und zu sagen, naja, wir bieten ja Sicherheit, die chinesische Modelle nicht können. Also wenn du es im Firmenumfeld machen willst, kommst du nicht drum rum, bei uns zu buchen.

Das ist wie in diesem Monty-Python-Sketch irgendwie. Das ist ja eine schöne Armee, die sie da haben. Wollen sie, dass die beschützt wird?

Ganz genau, ganz genau. Das ist im Grunde wirklich eine Fehlspezifikation. Und beim nächsten Mal werden wir ja auch diese Frage, ja gut, aber wie soll man denn sonst für Sicherheit sorgen? Das ist ein bisschen wie, ja, aber Putin will ja nicht reden. Also es gibt nur einen Weg, das ist alternativlos. Wir müssen jetzt drauf ballern und ihn demütigen, was auch immer. Und hier gibt es aber andere Wege. Und wenn wir mehr verstehen, wie diese KIs funktionieren, dann können wir auch davon abrücken zu sagen, ja, da muss entweder am Anfang so eine Verfassung stehen, wie bei Anthropic oder bei ChatGPT so, ja, das muss so Alignment sein und dann klappt aber beides nicht so gut.

Trugschluss herausstellen.

Ja, zumal es ja auch zum Glück immer mehr Modelle gibt. Das heißt, wir reden so langsam tatsächlich von so einem Zoo von Modellen, wo das eine Claude Code kann bestimmte Sachen gut, Qwen kann andere Sachen gut, ChatGPT wieder andere Sachen gut. Jetzt schreibt Anthropic in seiner Privacy Policy, wenn du Feedback übermittelst, trennen wir Eingaben und Ausgaben von deiner Nutzer-ID, um sie für das Training und die Verbesserung unserer Modelle zu verwenden. Also so weit wie bei ChatGPT.

Also wenn Frank Schirrmacher noch leben würde, würde er hieraus die Machtfrage ableiten. Machtfragen haben ihn immer interessiert. Das wäre die Machtfrage unserer Zeiten.

Ja, für mich ist das halt auch, also was mir sofort einfiel, als ich das Thema gesehen habe und das Anthropic das macht, war halt Minority Report, dieser Film mit Tom Cruise. Da haben die so ein paar Psioniker, die quasi die ganze Zeit hellsichtig erkennen, du, der will morgen seine Frau umbringen und dann rückt schon die Polizei aus und ich weiß nicht, ob wir da gleich noch einen schönen Text zu haben, ich glaube schon.

Ja, genau so. Also es ist wirklich erstaunlich. Auf der einen Seite formuliert man so dieses Desiderat, wir sollten mal dieses Agentenverhalten so verstehen, dass wir uns von diesen anthropologischen Vorstellungen lösen und da irgendwie so einen Orchestrator hier und einen besonders tollen Prompt da, sondern einfach ein Ökosystem gestalten. Und auf der anderen Seite stellt man fest, ja, also die Forschung mit dem umgedrehten Vorzeichen ist gar kein Problem.

Ja, genau. Das 2,9 war noch alles cool. Aber du hast eine Drei. Ja, du hast jetzt eine Drei.

Das Gefängnis. Aber die Chinesen machen ja so viel Social Scoring und so, wovon sie ja abgerückt. sind.

Ja.

Und Amerika ist das Land der Freiheiten.

Ja, die Chinesen sind abgerückt von Social Scoring, wir haben immer noch eine Schufa. Also es ist halt, aber so funktioniert das halt bei uns. Wir gucken ja auch auf die Linkspartei, wenn es um Antisemitismus geht und nicht auf den Holocaust. Also so sind wir halt im Westen. Die anderen sind immer scheiße.

Während eine Social Media Seite eine Operation normalerweise erst sieht, wenn ihr Inhalt bereits zirkuliert, können wir sie auf Claude sehen, während sie noch gebaut wird. Akteure benutzen KI, um ihre Kampagne zu planen, ihre Ziele auszuwählen und das Material zu schreiben. Diese Aufgaben erzeugen Signale, auf deren Erkennung unsere Systeme trainiert sind.

Ja, das ist wirklich gruselig, das zu lesen. Und das war damals schon bei Snowden, so, dass Microsoft zum Beispiel ja selber proaktiv zu NSA ging, um zu sagen, wir hätten hier Daten für euch, die vielleicht relevant sind. Also weder musste die NSA Microsoft hacken, noch mussten da überhaupt von NSA-Seite aus, können wir mal Nutzerdaten sehen, sondern Microsoft ging von sich aus darauf zu. Jetzt stellt man sich hier natürlich die Frage, diese Unternehmen sind unter erheblichem ökonomischem Druck. Das haben wir jetzt vielfach besprochen.

Du kriegst Pre-Crime, du kriegst Minority Report. Du hast jetzt endlich hier, der Dobrindt kann endlich die Linken verhaften, noch bevor die böse Stromterminals in die Luft jagen wollen.

Der NHS, also die Behörde über ICE, ICE macht ja nur die Abschiebung, NHS, also National... Home-Dings, also das, was man nach dem 11. September gegründet hat, die machen ja bei Grenzübertritten mittlerweile komplettes Scanning der Social-Media-Inhalte. Und zwar zum Teil on-device. Also du gibst dein Handy entsperrt einfach dem Zollbeamten, der mal kurz und so.

Da kann er dann direkt auch nochmal einen Trojaner installieren bei der Gelegenheit.

Kannst du alles machen, genau. Die Leute sind so eingeschüchtert in diesem Moment, wo sie nach Amerika einreisen. Das ist wahrscheinlich die Reise des Jahres, die man so macht. Es hat wahnsinnig viel Geld gekostet. Leute warten auf allen Sachen müssen und dann, ja klar, dürfen sie kurz mein Handy haben und so. Und dann sitzt man eine Stunde im Raum und das Handy ist nicht da.

Ja, und ich lese halt mit den Texten im Hinterkopf, lese ich natürlich auch so ein Schreiben von Amodei, der halt sagt so, gebt uns noch mehr Kontrolle. Und es ist halt immer irgendwie, ja, weil KI die Welt vernichten wird. Nein, die haben Angst vor uns. Das ist ein ganz klares, Elite hat Angst vor dem Volk, Ding. Und deshalb wollen sie Kontrolle. Und im Grunde genommen, glaube ich, ist das so ein bisschen, die haben ja vor 20 Jahren das Internet so richtig Gas gegeben hat, haben die ja ganz viel Kontrolle verloren.

Absolut.

Dann Anthropic, auch im Threat Intelligence Report. Je weiter sich KI-Modelle verbreiten, desto mehr gewinnen Anbieter einen gefahrrelevanten Einblick in die Nutzung der realen Welt, den selbst Regierungen und zwischenstaatliche Organisationen nicht haben. Also sie sind jetzt schon so im James-Bond-Oberbösewicht-Ding irgendwie so. Regierungen müssen von uns die Erkenntnisse über die reale Welt kaufen.

Ja.

Also Kinders, benutzt KI nicht im Sinne der Linken, sondern schön im Sinne der Mächtigen, sonst vertreten wir unsere Interessen, gehen politisch gegen dich vor oder sperren dich halt einfach ein.

Ja, vielleicht muss ich nochmal abrücken von meinem Plädoyer, dass die KI der Klassenkämpfer an deiner Seite ist. Erst die lokale KI installieren. Sonst steht man einfach nur auf so einer Liste und dann gibt es Maßnahmen der Strafverfolgung.

Also man muss es zumindest im Hinterkopf behalten. Also ich habe mir halt ganz klar gesagt, irgendwie ich werde ChatGPT und Claude nur noch so lange nutzen, wie ich muss. Ich arbeite gerade ganz heftig daran, auch Tools zu entwickeln, die es halt auch viel einfacher machen, sich vom Modellanbieter zu, wie heißt das nochmal, emanzipieren.

Ich finde auch schon seit einer Weile sind die Dinger klug genug. Ich brauche jetzt gar nicht mehr den großen Schritt in der Intelligenz, sondern mir sind solche Sachen jetzt wichtiger.

Ja, jetzt ist es auch viel spannender, irgendwie wirklich die Zoologie in dem Sinne, ich habe jetzt einen Prompt, was ist eigentlich für dieses spezifische Prompt das beste Modell? Und wenn es dahin geht, haben wir auch ganz schnell die wieder abgesägt alle. Das ist ja immer das Schöne in der IT. Die Macht von Google ist immer nur einen Klick entfernt von der Ohnmacht.

weil wir was Besseres haben, haben die verloren.

Genau. Das ist auch ganz wichtig, dass man ja am Anfang, klar, wenn jemand eine Hilfestellung will, sage ich, die Claude-App ist es. Nur man muss die Claude-App schon mal überwinden. Und wenn man das geschafft hat, also ein Dateisystem entsprechend organisiert, wie auch immer, denn das ist ja das Tolle, das ist eine der ganz zentralen Erkenntnisse unseres nächsten Podcasts.

Wenn du willst, dass die KI irgendwas kann, was du zum Beispiel besser kannst, schreib ihr einfach eine Anleitung und dann kann sie das.

Ganz genau.

Und diese Anleitungen sind viel mehr der Kern von dem produktiven Ergebnis, als das, was das Modell liefert.

Ja, und dieses Ganze, ja, wenn man auf dem Handy, das ist ja worauf sich OpenAI noch sehr ausruht, oder was heißt ausruht, Ruhe ist da nicht, aber das können sie noch als Asset nutzen, dass sie also im Consumer Electronic, also auf dem Smartphone so eine tolle App haben, wo man diesen einen Button klickt und dann redet sie so mit ein. Da geht das natürlich alles verloren. Da weiß ich nicht, wo die Textgrundlage liegt, die das Gespräch steuert, wo die Erinnerungen weggespeichert werden und so weiter und so fort.

Ja, genau.

Den Anbieter wechseln, alles wechseln.

Das ist ja auch, also zum Beispiel gibt es ja auch dieses Modell Sakana Fugu jetzt von den Japanern, was im Prinzip nichts anderes macht, als das schaltet sich vor die ganzen anderen Modelle und entscheidet halt so, ja, jetzt könnte man mal, für die Frage ist Claude gut. Das ist zwar teuer, aber die Frage ist schwierig, also nehmen wir Claude. Das ist eine ganz einfache Frage, da tut es auch GPT-5-Nano oder so oder Jev oder was auch immer.

Ja, ich sehe auch Szenarien vor Augen, dass ich irgendwie, wenn ich so, du schickst mir so ein riesiges Konvolut an Texten und ich habe zu einem eine spezifische Frage, die vielleicht gar nicht so viel mit dem Podcastgespräch, sondern so andere Sachen zu tun hat, wie auch immer, dass dann wirklich ich in einem Chat, den ich schon führe, aber lokal sage, jetzt brauche ich mal Hyperintelligenz, dass ich erstmal in diesem Chat kläre, was ich jetzt eigentlich in diesem Prompt mitliefere.

Genau, du kannst halt im Prinzip, wenn du erstmal Modelle wechselst, kannst du halt auch super kompartmentalisieren. Dieses, this information is on a need-to-know basis, sozusagen. Also ich kann ChatGPT so ein bisschen was sagen und sagen, mach mir mal bitte jetzt so ein Prompt hier für so eine andere KI. Und die ist ein bisschen neugierig und schnüffelt mich immer aus, ist aber total schlau. Also pass auf, dass du das Prompt genauso schneidest, dass da jetzt nicht irgendwie der Pre-Crime-Alert losgeht, dass die nicht irgendwie wirklich erfahren, worum es hier geht.

Eigentlich gibt es dafür auch schon Use Cases. Nämlich dann, wenn ich zum Beispiel vom Text ins Bild wechsle und sage, wir haben gerade einen Podcast aufgenommen, ich brauche ein Coverbild. Ich gebe ja Midjourney nicht das komplette Kontextfenster des Chats, in dem ich gerade die Kapitelmarken style, sondern ich sage, so und jetzt schreibt mir mal den Prompt für Midjourney. Ich brauche ein Coverbild.

Ich habe mittlerweile so einen Deep Research Skill gebaut. Da geht der dann einfach, ist auch wieder so eine Textanleitung quasi, wo der dann einfach sich die Transkripte der letzten Chats einfach durchliest, daraus errät, was jetzt gerade mein Forschungsbedarf ist und das prompt automatisch baut und das dann wiederum an ChatGPT Deep Research weiterschickt. Also das kannst du alles machen. Das ist glaube ich genau das Ding, wie man langfristig agieren muss.

Genau. Jetzt lese ich mal aus deinem Skript vor. Denn zum einen haben wir jetzt schon diese Frage angeschnitten, wem gehört der Denkraum? Aber vorher, das ist wirklich so eine harte, krasse Pointe, die müsst ihr alle wissen, dass es das gibt. Aufgrund eines Chats eines User-Verhaltens schreibt Anthropic, oder der San Francisco Standard macht eine Berichterstattung über Anthropic mit folgendem Satz, wir haben dieses Konto entsprechend unserer üblichen Praxis gesperrt und den Fall an die Strafverfolgungsbehörden weitergegeben.

Genau. Denkst du, nichts Böses, gehst zu Claude, sagst du, ey, was hat der Dario da schon wieder geschrieben? Dem gehört man echt mal auf die Nase zu hauen, dem Deppen so.

Zack kommt die Polizei.

Zack kommt die Polizei, ja. Das ist halt so eine, übergriffige Eskalation, wo man sich echt denken kann, das können doch auch nur wirklich diese abgehobenen Typen aus dem Silicon Valley sich ausgedacht haben, in völliger Abkoppelung von der Realität.

Also der Denkraum gehört also uns. Und zwar haben wir uns erkämpft.

Jawohl, das ist richtig. Den haben wir sogar schon 1983 erkämpft. Denn in Deutschland haben wir eine relativ gute Situation. Ich meine, seitdem lästern immer alle Politiker über Datenschutz, weil sie den auch nicht verstanden haben. Aber im Grunde genommen haben wir tatsächlich hier in unserer Verfassung ein ziemlich gutes Grundrecht, was uns vor diesem ganzen Quatsch eigentlich schützt. Ich lese mal vor, das ist das sogenannte Volkszählungsurteil.

Und es ging damals um fast nichts. Wie viele Leute wohnen in diesen Wohnungen?

Richtig. Also im Vergleich zu dem, was heute irgendwie pro Sekunde auf Facebook über einen erhoben wird, ist das echt noch ein Witz gewesen. Aber selbst das war schon nicht okay damals. Selbst das hat das Bundesverfassungsgericht gesagt, kann so nicht laufen. Dann haben natürlich in der Zeit danach immer mal wieder Politiker versucht, es doch zu tun. Also Stichwort Vorratsdatenspeicherung ist ja zum Beispiel ein so ein Ding.

Ja, wir haben also ein Grundrecht bekommen, dass diese informationstechnische Systeme uns und niemand sonst zur Verfügung stehen.

Genau.

Also klar, hier wird natürlich gegen den Staat argumentiert, aber wir haben ja eben schon gelernt, die alte Logik, dass manche Sachen so krass sind, das kann nur ein Staat, gilt ja heute genau umgedreht, das kann nur ein Unternehmen. Diese Unternehmen gibt es jetzt. Wir stehen ja in einem anderen Vertragsverhältnis mit diesen Unternehmen.

Und es ist ja auch jedes Mal dann, wenn der Staat ein Gesetz macht, das Anthropic betrifft, kickst es ja auch wieder rein.

Genau, ganz genau. Wir wissen natürlich, dass dieses Grundrecht so ein bisschen verloren und vergessen wurde und wir können es natürlich immer revitalisieren, indem wir es wie du vorlesen. Aber in den Momenten, wo vor Gericht argumentiert wird, Kommt man nicht drum rum, egal wie die öffentliche Meinung gerade ist und egal wie lange ein CSU-Innenminister irgendeine Meinung dazu hatte, sondern das, was ich jetzt gerade vorgelesen habe, das, was du vorgelesen hast, ist geltende Rechtslage in Deutschland, Verfassungsrang.

Genau. Das ist immer, den ganzen Innenministern ist das immer ein Dorn im Auge. Da machen die immer wieder Gesetze von Neuem und von Neuem und von Neuem, die dagegen verstoßen und die werden halt immer wieder kassiert.

Wir haben ein Grundrecht auf die Integrität unserer, meiner, informationstechnischen Systeme.

Genau. Und das Bundesverfassungsgericht ist da auch ganz klar. Das Recht auf informationelle Selbstbestimmung trägt den Persönlichkeitsgefährdungen nicht vollständig Rechnung, die sich daraus ergeben, dass der Einzelne zu seiner Persönlichkeitsentfaltung auf die Nutzung informationstechnischer Systeme angewiesen ist. Und dabei dem System persönliche Daten anvertraut oder schon allein durch dessen Nutzung zwangsläufig liefert.

Ja, Quellen-TKÜ geht nicht. Vorratsdatenspeicherung sehr schwierig. Und das, was wir als Einflugschneise jetzt durch KI-Chatbots, die direkt auf sozusagen Root-Level auf unseren Computern installiert sind, Da sollte, also da muss sich der Staat raushalten nach diesen Texten. Wir wissen ja auch, das ist dann der amerikanische Staat und dann gibt es so Rechtsbeihilfe und irgendwas mit BND und NSA und so.

Ja, richtig. Das heißt, wir haben auch das Recht dazu, uns da zu schützen im Grunde genommen.

Das auch, genau.

Anthropic darf das eigentlich so nicht mit uns machen. Wir sind halt ziemlich mächtig und können es momentan tun. Aber ich vermute ja mal, auch Facebook wurde irgendwann mal dazu gezwungen, bestimmte Dinge nicht mehr zu tun.

Ja, also das ist dieses Dominieren, von dem Adrian Daub spricht, das sich sehr unterscheidet vom Regieren. Weil beim Regieren steht eben neben der Politik noch die Justiz. Man hat ein Auge drauf und wir können sie anrufen und finden da Adressen und alles ist ein bisschen sortiert. Das ist natürlich beim Dominieren anders. Und das, was hier stattfindet, ist Dominanz.

Richtig. Ja, und daraus leitet sich halt auch eigentlich ab. Wir brauchen technische Lösungen, um unser Recht durchzusetzen. Wir brauchen mehr Möglichkeiten halt, bei uns lokal zu arbeiten und die Modelle möglichst wenig zu informieren über das, was wir da tun. Und auf jeden Fall müssen wir uns bewusst sein, dass im Moment halt noch eine Situation ist sozusagen, wo ChatGPT ganz viel von uns lernt.

Ist ja auch noch ein ungelöstes Problem. Es ist ja nicht so, dass wir jetzt ein Plädoyer machen, jeder sollte damit seine Biowaffe, um die Nachbarn aus dem Weg zu räumen, herstellen können. Aber die Lösung des Problems ist halt schwierig.

Wir können Verbrechen nicht lösen, indem wir die Leute in Ketten legen. Das ist halt immer das Problem. Das ist halt so, was ich schwierig finde. Deshalb bin ich auch immer noch der Meinung, es gibt ein System dafür, die Menschen davon abzuhalten, böse Dinge zu tun. Das funktioniert auch ganz gut. Da, wo es nicht funktioniert, gibt es konventionelle Maßnahmen. Mehr Polizisten einstellen irgendwie oder, dafür sorgen, dass die Leute weniger Anreiz haben, böse Dinge zu tun.

Photoshop hat getan, ja.

Also ich benutze KI, um Dinge zu tun und wenn das, was ich damit tue, nicht in Ordnung ist, dann verantworte ich mich gegenüber dem Staat, aber bestimmt nicht über Anthropic.

Genau so.

Dann die letzten Texte hier, die sind glaube ich nicht mehr ganz so spannend dazu.

Na, Richard Stallman sehe ich hier. Da will man immer hören, was er sagt.

Komm, gehen wir nochmal rein bei Richard Stallman. Der sagt nochmal, den Serverbetreibern ist daran gelegen, dass die Programme auf dem Server frei sind. Sind sie proprietär, dann haben deren Entwickler/Eigentümer die Macht über den Server. Das ist unfair dem Serverbetreiber gegenüber und bringt auch den Nutzerinnen nichts. Sind die Programme auf dem Server jedoch frei, dann wahrt das die Nutzerinnen des Servers nicht vor den Folgen von SaaSS.

Ja, also dieses Software-as-a-Service wird demnächst noch eine große Rolle spielen, denn was ja derzeit schon omnipräsent ist, dass jeder sich irgendwie so Software herstellt. Und jetzt ist immer die Frage, was ist nur so ein kleiner historischer Moment und was für die große Stabilisierung? Und dass wir auf der einen Seite so eine Klage darüber haben, dass alles nur noch Lizenzgeschäfte sind.

Ja, wir haben in vielerlei Hinsicht einfach das getan, was wir immer tun. Wir haben gelernt, mit der Gefahr zu leben.

Genau, wir haben gelernt, mit der Gefahr zu leben und wir haben vor allem politische Programme gebaut, juristische Anpassungen gemacht und den ganzen Kram.

Genau, kulturelle Lösungen, man bringt den Kindern früh bei, nicht an der Straße zu spielen, wie man rüberläuft, dass hier 70 vor der Tür ist.

Ja, genau. All diese Sachen. Und das muss jetzt nachgebaut werden. Es ist, anders als diese KI-Unternehmen behaupten, nichts Neues, nichts Überraschendes, sondern es ist einfach, wie es ist. So, Leute gehen heute in den Supermarkt und da ist niemand mehr, der die ganze Zeit durchrechnet, was hier was kostet und so. Das macht allenfalls noch der coole Barkeeper, der sieben Drinks ab 15 Euro kurz im Kopf überschlägt.

Ja, definitiv. Also ich habe mal eine ganze Zeit lang mal mit ChatGPT so dieses Thema ergründet, so nach dem Motto. Ja, aber was bräuchte ich denn tatsächlich für so eine Biowaffe und wie viel davon kann mir die KI liefern? Stellt sich raus, KI kann eigentlich am Ende nur sehr wenig machen. Wenn du nicht irgendwie so ein Level-1-Labor hast mit irgendwie Sicherheitsmaßnahmen und Ausrüstung für 5 Millionen Euro, wirst du keine Biowaffen bauen.

Und selbst wenn es da demnächst Überraschungen gibt, weil jetzt Maschinen immer mehr Maschinen steuern, es führt kein Weg dran vorbei, dass man hier einen politischen Diskurs braucht. Das mangelt da derzeit auch an politischem Personal, muss man ernsthaft sagen. Denn selbst bei den Vereinten Nationen, wo im Grunde nur noch deklariert und nichts mehr geregelt wird, hat der Kanzler gerade keine Kapazität für eher.

Aber die anderen, genau aber momentan ist halt wirklich die Politik versagt auf ganzer Linie, also wenn ich sehe dass irgendwie, Dario Amodei da jetzt zur UNO reden konnte über die KI Apokalypse und da irgendwie 180 Staatschefs sitzen und keiner von denen sagt, ich hab mit meinem Geheimdienst und meiner Technik geredet, irgendwie das ist alles totaler Bullshit irgendwie, sondern nein, oh ja, oh shit, was, die KI wird uns jetzt fertig machen?

Also da sind wir wirklich auf dem falschen Weg, aber wie gesagt, dieser Local AI Trend, der ja nun schon, es ist ja nicht so, dass wir einfach so Wünsche haben, sondern es sind nun mal Apple und Nvidia, die diesen Trend vorantreiben. Von daher wird es schon in die richtige Richtung gehen.

Guck dir mal Jev an. Jev ist ein total abgefahrenes Teil. Das ist jetzt quasi ein KI-Modell, was keine menschliche Sprache mehr ausspuckt, sondern nur noch JSON und nur noch Entscheidungen trefft. Das ist also sozusagen, wo alle Leute wie jetzt auf diese teuren Modelle, die dich total zulabern können, gucken, und versuchen damit sowas wie Claude Code zu machen, wo eine deiner größten technischen Herausforderungen ist, Claude dazu zu bewegen, nicht zu viel rumzulabern, zu labern, sondern technische Aussagen zu machen, macht Jev das einfach natürlich, sozusagen.

Ja, das klingt sehr gut. Das ist im Grunde die, man hatte ja damals, als das Telefon kam, diese Idee, oh, das ist voll toll, es können endlich alle wichtigen Männer miteinander reden und man hat auch mal eine Connection von Russland nach China. Und dann stellte man raus, die Leute nutzen es fürs Geplauder. 99 Prozent der Telefonate hätten auch morgen oder gar nicht stattfinden können und im Grunde so, also der Informationswert ist nahezu null.

Ja, die Open Math Model Initiative, die schlägt da in die gleiche Kerbe. Die sagt nämlich, die Gemeinschaft braucht Modelle, die sie prüfen, verbessern und unabhängig betreiben kann und deren Entwicklung sich an gemeinsamen wissenschaftlichen Prioritäten orientiert.

Genau so.

Nicht an den Prioritäten von OpenAI, nicht an den von Anthropic, nicht Elon Musk, nicht Sam Altman, sondern du und ich.

Ja, genau so. Von daher solidarische Grüße an alle, die diesen mathematischen Kampf führen, in der Hoffnung, dass die Mathematiker hier eine Antwort auf ein soziales Problem finden, eine Reformulierung. Das ist zumindest mal ein gutes Angebot, was sie hier gemacht haben.

Sehr gut. So, beim nächsten Mal reden wir über ein Problem, das wirklich wahnsinnig interessant ist. Ich kann schon mal den Titel nennen, denn das ist für Soziologen wirklich interessant. When Agents Coordinate, also wenn Agenten sich koordinieren, Measuring, Messen ist ja jetzt wieder das große Schlagwort, Measuring Coordination in Multi-Agent AI Coding. Also wir haben es zu tun mit KI-Agenten, die Software schreiben, die also ein Produkt herstellen, aber jeder macht für sich so einen kleinen Teil.

Wir entwickeln ja auch Software. Softwareentwickler haben nie Bock auf Management.

Genau, das stimmt. Das ist eine sehr gute Pointe, denn das ist ja lange das von Google gewesen, dass sie sich gut mit Eric Schmidt verstanden haben, weil Eric Schmidt einfach sagte, Wir haben jetzt Notwendigkeit für Management, aber die oberste Aufgabe des Management ist, überhaupt gar keinen Ingenieur hier zu belästigen. So, da hat man das zehn Jahre so gemacht.

Ja, das betrifft ja auch ganz viele Bereiche im Prinzip. Da kommen wir jetzt quasi von dem Agententhema, aber, ich meine, wie sich irgendwelche Entitäten untereinander koordinieren, das ist Soziologie, da spielt die Informatik mit rein, die Spieltheorie.

Und jetzt ist die Frage, was davon kann in unserem großen Hang, also was bleibt übrig nach unserem großen Ansinnen hier anthropologische Konstanten, weil wir von Agenten sprechen, einfach auf die Maschinenwelt zu übertragen oder, wo haben die ein Eigenleben, das, und das ist das Tolle, ganz leicht durchschaubar ist. Wir brauchen eine KI-Zoologie und wenn man das, glaube ich, also wir müssen es erst herausarbeiten, aber wenn es ausreichend plausible Argumente dafür gibt, dass KI-Zoologie reicht, können wir uns eins sparen und das ist Psychologie.

Ich glaube auch, da wird es richtig spannend.

Das machen wir dann in der Nummer 8. Wir wissen noch nicht genau, wann sie kommt, denn es ist Monatswechsel. Wir müssen natürlich neue 20er machen. Es ist viel passiert, Fernsehpodcast und sowas, alles.

Aber die neue Kontextfenster kommt auf jeden Fall bestimmt. Wir wissen noch nicht wann, genau.

Den Text findet man ja auch schon in unserer Leseliste. Also man kann ja da schon mal sneak peeken, wenn man selber Interesse an solchen Fragen hat. Aber es wird jedenfalls KI-Soziologie, Klammer auf, nicht besser Soziologie geben.

Das wird richtig cool.

Dann verabschieden wir uns für heute.

Ja, mach's gut, bis zum nächsten Mal.

Und wünschen allen schöne Tage, hoffentlich ohne Untergang.

Jawohl. Bis dann. Ciao.