Mark oder Marx?

Vorher würde ich sagen, wir müssen kurz anmerken, typischerweise hätte ich dich einfach nochmal in den Fernseh-Podcast eingeladen und wir hätten KI-Texte gelesen. Nur dachte ich mir, das passt ja eigentlich gar nicht so gut, weil zum einen wollte ich auch mal wieder einen Podcast machen, bei dem ich natürlich mit KI-Hilfe alles selber mache. Außer natürlich das Hosting, weil das ist Datenlieferung, da muss sich Leute nicht darum kümmern, die sozusagen große Datenkabel haben, wo das alles durchpasst.

Aber der ganze Rest ist eine so krass megagroße Spielerei, dass man zum einen hier sich der KI ausliefert, das werden wir aber lang und breit diskutieren, zum anderen man eignet sich Sachen wieder an. Und wir werden gleich Textvergleiche haben mit Evgeny Morozov und Nuval Harari. Noval Harari, wie heißt er?

So, jetzt aber zu deiner Wortschöpfung von eben, die ist natürlich spektakulär.

Und ja, das sind ja dann die neuen Zentren der Bildung, so wie im Mittelalter die Klöster da quasi das Licht der Zivilisation hochgehalten haben.

Aber der. Maßstab, den man Mittelalter von Nichtmittelalter unterscheidet, und mit Mittelalter ist schon eine Erinnerung gemeint an, wie es Mittelalter damals war, absolute Spontanität. Man liefert sich dem Wetter aus, man ruft sich Sachen zu. Alle sind in so einer Art Daytrader-Modus. Also morgens geht der Tag los, abends geht die Sonne unter und man ist in so einer Stagnation gefallen.

Weil es gab ja noch nicht, das kam ja erst mit Gutenberg, deswegen die Gutenberg-Parenthese, es kam ja erst mit dem Buchdruck, dass mal jemand eine Notiz festhält und sich am Tage erinnert daran, was gestern war, und daraus Schlüsse zieht und Erwartungen aufbaut, vielleicht mal eine Satzung schreibt fürs gemeinsame Zusammenleben. All das haben natürlich dann die Klöster vor allem gemacht.

Organisiertes Leben, Archivbildung, Verträge und der ganze Kram. Deswegen haben wir dann irgendwann die Klöster, auch die Fürstenhöfe übertrumpft beim Grundbesitz und so. Und plötzlich waren wir in der Moderne. Und als du jetzt eben sagtest, ja, die Datencenter sind die neuen Klöster, dachte ich so, ja genau, das ist auch ein Zeichen dieser Gutenberg-Parenthese, denn Parenthese heißt...

Ein Schub. Also irgendwann ging sie los und irgendwann endet sie. Die Gutenberg-Galaxie. Im Buch war natürlich die Pointe damals, wir kommen aus der Gutenberg-Galaxie in die Google-Galaxie. Aber die Google-Galaxie war ja immer noch sehr Gutenberg-Galaxie, denn Google hat immer noch Text für uns dargehalten und wir wussten, dieser Text ist derselbe, den alle lesen.

Also nicht, wenn man die Google sucht, aber sobald man ein Google-Suchergebnis anklickt, wusste man, das ist eine Webseite, die hat einen Autor wie ein Buch, die hat einen festen Text wie ein Buch und man kann es heute oder später lesen. Es ist nicht für mich geschrieben worden, sondern ein unbestimmtes Publikum sollte halt adressiert werden. Und auch das ist ein Prinzip des Buches.

Und jetzt mit dem Tod des Internets, dadurch, dass wir alle keine Suchergebnisse mehr angezeigt bekommen, sondern nur noch Tailored Messages für uns, sind wir eigentlich in dieser hochindividuellen, mittelalterlichen Situation, in der wir einfach so gucken, ob die Sonne scheint und ja, die Sonne scheint und damit war es das schon. Also keiner geht weitere Fragen über das ChatGPT-Ergebnis hinaus, sondern man schreibt allenfalls den nächsten Prompt und kriegt dann halt die nächste hochindividualisierte Nachricht.

Und dasselbe halt über den Menschen auch. Wer war der Mensch im Mittelalter? Das können wir uns ja heute alles gar nicht vorstellen. Wir haben ja heute immer schon Probleme mit irgendwelchen Eltern. Also heute Morgen kam bei uns auch wieder eine Einladung zu so einem Workshop, für Eltern, denen Klickkompetenz fehlt. Genau so heißt die Veranstaltung, veranstaltet vom Hessischen Rundfunk, natürlich staatlich unterstützt vom Land.

Und diese Klickkompetenz zeigt ja immer wieder, es gibt extreme generationale Unterschiede. Also selbst Leute, die gleichzeitig am Leben sind, im selben Wohnraum leben und nur 25 bis 30 Jahre Generationsunterschied haben, verstehen schon einander nicht. Und gleichzeitig haben wir irgendwelche Philosophen, die irgendwas von die Menschen damals und Gott erzählen. Und man denkt sich so, nee, ich glaube nicht, dass das Verständnis so schnell einhaken kann, wie da vermutet wird. Also diese ganze Idee, dass man heute von, die KI ist Gott, weil wir wissen, was KI ist und weil wir wissen, was Gott ist, ist irgendwie absurd.

Aber deswegen gehen wir auch diesen Markus Gabriels Sachen so früh heute nicht nach.

Ich weiß, wo ich das nachgucken muss, dann weiß ich das. Also dementsprechend habe ich dann natürlich auch insgesamt eher so eine, wie Peter Thiel sagen würde, so eine Contrarian Position, und finde das ganz gut, da auch nochmal gegenkloppen zu können, wenn die Leute halt vielleicht auch ein bisschen aus der Not heraus, weil sie sich gar nicht mit dem Thema auskennen, da halt Quatsch erzählen. Ah no.

Und ich glaube, Mark Zuckerberg muss mal nichts groß sagen. Evgeny Morozov, kann ich spontan was dazu sagen? Kennst du ihn als Autor?

Und ich habe ihn aber die letzten Jahre gar nicht so gesehen. Typischerweise hat er immer im Guardian publiziert und dann ist das automatisch auch, nachdem dann Schirrmacher gestorben war und die FAZ natürlich das nicht weitergeführt hat, die digitale Debatte, tauchten dann diese Texte immer übersetzt auch mal in der Süddeutschen oder Zeit auf und so.

Aber wenn man ihn kannte, hat man das so verfolgt. Aber die letzten Jahre hatte ich eigentlich wenig gesehen. Und genau jetzt, während ich selber immer das Argument mache zu sagen, die KI ist ein Klassenkämpfer, Da ist Evgeny Morozov wieder da mit einem sehr großen Text, der sich um den, Genossen-KI kümmert, aber nicht im Sinne wie ich das, also ein bisschen einfacher, einfach sagen, nutzt KI, um die Verwaltung mit Gegenanträgen zu bescheiden.

Das ist ja auch ein Megaproblem, was gerade stattfindet. Sondern tatsächlich so, ist ganz verrückt, dass Evgeny Morozov jetzt gerade einen Text geschrieben hat, also der die Tage erschien, der, wie ich finde, wenn man ihn liest, das machen wir gleich, genau auf Mark Zuckerberg antwortet. Aber ohne ihn beim Namen zu nennen und vielleicht sogar unwissend, dass Mark Zuckerberg zeitgleich auch sein Pamphlet da geschrieben hat.

Weshalb es umso interessanter ist, die Texte dann einfach zusammen zu lesen. Und wir steigen mal bei Mark Zuckerberg ein in der zweiten Hälfte des Textes, denn auf die erste Hälfte kommen wir gleich zu sprechen, aber da kann man einfach zusammenfassen, es ist halt eine Lobhudelei der KI. So, und ich habe mich aber die ganze Zeit gefragt, wann erwähnt er, dass es Dual Use ist? Also, dass man alles auch im Vorzeichen umdrehen muss.

Und diesen einen Satz lese ich mal vor. Wir schlagen eine Philosophie vor, die auf individueller Ermächtigung als Quelle, des Wohlstands beruht, auf Erfindung als vorrangigem Zweck der Superintelligenz und auf Machtgleichheit als Grundlage der Sicherheit. Also hier kommt das Wort Sicherheit jetzt vor. Das heißt, wir haben ja einen kleinen Dreisprung. Individuelle Ermächtigung, also im Originalwortlaut Individual Empowerment as the Source of Prosperity.

Das heißt, jeder Einzelne und Einzelne ist ganz wichtig. Also bitte keine großen Organisationen gründen, sondern wir wissen ja, es gibt nur ein Monopol. Alles andere sind Einzelne. Die müssen alle mit KI ausgestattet werden und diese KI muss immer alles können. Also in diesem neuen Paar, Beziehung, die er da sieht, zwischen ich, meinem Unternehmen, meiner Familie, meinem was auch immer und dem KI-Assistenten, ist immer der KI-Assistent eigentlich der Klügere, der Weisere.

Also auch ein sehr interessantes Bild, dass er da von Anfang an durchzieht. Dann, es geht ausschließlich darum, Erfindungen zu machen, also Neuerungen herzustellen. Und alle Sicherheitsfragen werden darüber geklärt, dass einfach jeder eine Pistole in der Tasche hat. Ein sehr amerikanischer Ansatz. Genau, das naheliegendste Bild, ja. Also am sichersten ist die Welt, wenn einfach jeder sofort zurückschießen kann. Das ist die Machtbalance. So, und Mark Zuckerberg, wissen wir, ist ein Unternehmer, der ein Monopol hat, als es noch Monopole gab, nämlich den Lock-in-Effekt.

Wir lesen mal im Text weiter, wie er das dann verargumentiert. Die bestimmenden Fragen unserer Zeit sind, wer Zugang zu Superintelligenz haben wird und worauf wir sie ausrichten werden. Wird sie zentralisiert und auf wenige Institutionen beschränkt sein oder wird sie ein Werkzeug sein, das alle ermächtigt? Das finde ich wahnsinnig interessant, denn er kommt ja aus dieser Zeit, in der er sich auf diesen Lock-in-Effekt verlassen konnte.

Er ist der Anbieter einer Technologie, die bevölkert wird von sehr vielen Einzelnen. Und jeder Einzelne weiß, wenn ich mich nicht bei Facebook anmelde oder bei Instagram oder bei WhatsApp, dann erreiche ich die Leute nicht, weil die sind ja nur in diesen Netzwerken. Genau diese Logik, also mit der man ab 1990 das Internet dominieren konnte, greift aber jetzt nicht. Und das ist ihm auch klar, aber er kann es im Text nicht sagen.

Er macht halt allenfalls aus großer politischer Sicht einen kurzen Verweis auf, in China gibt es das auch. Nur, dass ich meine eigene KI betreiben kann und es diesen Lock-in-Effekt, ich muss dieselbe KI haben wie alle meine Freunde, nicht gibt. Das ist sozusagen das Kampfmaterial, dem er eigentlich schon erlegen und ergeben ist, aber er kann es sich nicht eingestehen. Also dieser Text hängt, was das angeht.

Sehr in der Luft. Und das fand ich ganz erstaunlich, denn man kann hier auch große Schwächen herauslesen.

Was kann man denn alles machen, um unsere Suchmaschine kaputt zu kriegen? Jemand könnte einen Browser machen, der uns nicht reinlässt oder ein Telefon oder so. Und Google hat das dann alles strategisch mit weiser Voraussicht sich alles zugelegt. Zuck hat das damals vergessen und ist dann dementsprechend aus dem iPhone ausgesperrt worden. Und ich lese immer aus den ganzen Aussagen von Mark Zuckerberg raus, dass er sich halt denkt, okay, eigenes Telefon wäre auch zu teuer gewesen, aber wäre doch schön gewesen, wenn jeder ein Telefon hätte einfach so haben können, ohne dass Apple das kontrollieren kann.

Es ist so ein bisschen Vereinzelung, damit ihm da nicht wieder so ein großer Player in die Quere kommt.

Und im Grunde ist das hier genau dieses Plädoyer für das offene Gerät, bei dem nicht einer als Monopolist irgendwie reinschreit und sagt, ich mache jetzt mal iOS 14.5, und als nächstes muss Mark Zuckerberg seinen Investoren erklären, dass man 10 Milliarden miese machen wird deswegen, weil das Targeting nicht mehr so gut funktioniert.

Also zum einen mit WhatsApp markiert er hier schon mal, mir geht es darum, mein Portfolio zu erweitern. Also WhatsApp, Instagram, Facebook, KI-Agent. Nur die Verschlüsselung bei WhatsApp ist ja Inhalte, Ende-zu-Ende-Verschlüsselung zwischen mir und dir. Gesperrt also die Server aus.

Und trotzdem ist es schon wahnsinnig kompliziert und man hat auf dritte Parteien zurückgegriffen und sich extern auditieren lassen und so weiter und so fort. Das, was du jetzt beschreibst, also das ist irgendwie schon technisch möglich wäre, die Token zu verschleiern auf dem Server und so weiter. Niemals kriegt man das kontrolliert. Also ein Audit wäre da unmöglich. Also die ganze Idee, dass man auf einem Mark Zuckerberg-Server Privacy vorfindet, ist einfach, ich sage jetzt mal, technisch ausgeschlossen, auch wenn es irgendwie Szenarien gäbe.

Denn man müsste ja nicht nur ein Szenario oder ein Blueprint auditieren, sondern wirklich jeden einzelnen Server. Und das geht auch nicht.

So, und damit hat er natürlich den Leuten kostenloses Internet für alle gegeben, aber eben nur facebook.com slash blablabla Internet, was ja dann dazu führte, dass sie irgendwann in Indien komplett gesperrt wurden, als sie gemerkt haben, wie verlogen das alles ist. Wir werden das tun, also allen kostenlose Versionen anbieten und so weiter, indem wir führende Modelle trainieren und dann die Verfügbarkeit dieser Technologie maximieren.

Unter anderem so, wir machen sie leicht nutzbar, bieten sie kostenlos oder so erschwinglich wie möglich an, bauen genug Rechenleistung, damit alle Menschen die Technologie nutzen können und sorgen für weite Verbreitung. Also Verbreitung ist die Maxime von Mark Zuckerberg und das halte ich für verlogen, Denn wir wissen, wie diese Konzerne diese Art von Service refinanzieren, ausschließlich über Werbung.

So, hier kommt also, was ich bemängelt habe, sofort vor, Dual Use. Und zwar nicht nur im Sinne von, die KI ist Dual Use, sondern auch der Umgang mit KI ist Dual Use. Also wenn man einfach nur die alten Bilder des, ah ja, wir haben ja einen Begriff von Arbeiten, jetzt macht die KI Arbeit, das ist ja blöd für die Arbeiter, also gehen wir da mal rein mit den alten Modellen, dann ist das sozusagen nicht so gut. Also dann verliert man einen großen Kampf und wenn man sich darauf besinnt, diese Probleme, die es jetzt gibt, neu zu verstehen, dann ist das die größte Chance der letzten 100 Jahre.

Das ist natürlich immer ein Textangebot, wo man sagt, okay, sehr gut. Beide.

Denn ich wollte mal schauen, ob es möglich ist, also morgens eine völlig erwartbare Kontobewegungsprognose zu kriegen, die dann auch eingehalten wird. Ich habe immer diese Überraschung, wer wann was abbucht und so.

Und selten habe ich so viel Ruhe und Frieden erlebt da in meinem Geist morgens.

Und naja, desto mehr wir halt in einer Umgebung sind, die schlecht vorhersagbar ist, desto mehr muss unser Hirn arbeiten und das macht mehr Stress.

So. Und jetzt kann sie zukünftig, also das sozusagen umgedreht als Prinzip nutzen, morgen ist es diese Temperatur und ich möchte mich wohlfühlen, was trage ich denn typischerweise, bei diesen Konstellationen und dann werden ihr diese Bilder angezeigt. Was ja auch wieder so ein Prediction-Modus ist. Aber das ist natürlich spektakulär, weil hier haben wir es ja mit, und das ist ja genau diese Individualisierung, diese Vereinzelung, diese App könnte man irgendwie nachbauen und dann wieder als großen Service und so weiter, aber dadurch, dass es jeder selber machen kann und eben nicht nur spezifisch dieses, sondern dann, aus der Erfahrung mit dieser App sagt, dafür brauche ich eigentlich auch noch eine App, für die es aber keinen Markt gibt.

Und plötzlich ist man auf der Spur. Plötzlich ist man auf dieser neuen Spur, wo man nicht ins Regal den Ratgeber für alle, der mal als Buch produziert wurde, sondern man hat. Ein Prediction-Mittel für sich. Aus einem Produktionsmittel ist ein Prediction-Mittel geworden. So, das ist natürlich sehr zukunftsweisend. Wir vergleichen hier mal zwei Textstellen direkt, denn Mark Zuckerberg und Evgeny Morozov kommen aus unterschiedlichen Gründen auf eine spezifische Erfahrung zu sprechen.

Das eine ist, Mark Zuckerberg schreibt, bla bla bla, das Kind in einer Garage, das dachte, der Personal Computer könnten für alle da sein. Also er möchte da wieder anknüpfen, was für das Silicon Valley damals schon mal, da weiß man gar nicht, meint er jetzt Steve Jobs oder Bill Gates, beider sind ja in diesem Mythos verfangen.

Große, teure APIs, wo im Wesentlichen Dario Amodei bestimmt, was man denken darf. Und das, was man nicht denken darf, das wird halt nicht gemacht.

Also die Compliance nach amerikanischen Sicherheitsvorstellungen ist so hoch, dass es voll nervt. Also dass man eigentlich gar nicht mehr vorwärts kommt.

In der Bibliothek geht man und eignet sich selbstständig etwas an. Der Workshop ist ein Termin im Kalender, wo dir jemand zwei Stunden Lehrgang gibt, damit du genau das machst, was die Maschine noch von dir will. Das schleift er hier im Text so ein bisschen mit und zwar aus guten Gründen. Also der Whole-Earth-Katalog kam als Bibliothek für Workshop-Ausrüstung daher und der planetarische Workshop Amazon begann als Buchhandlung.

Plötzlich hat man nur noch lizenziert und bekommen, was man sozusagen zugestandenerweise, bis es im Katalog gelöscht wurde, wie auch immer. Steve Jobs legendäre Start-up-Garage ist Bibliothek und Workshop zugleich, also dual use. Symbolisiert Arbeit als Selbsterschaffung und Freiheit als Einsicht in die Notwendigkeit. Was die Folkbildning, also das skandinavische Modell der Bibliothek, kennen wir alle, Oslo oder so, die große Nationalbibliothek, einst von unten erobern wollte, annektiert die Garage nun von oben.

Also, anders als Mark Zuckerberg, Verherrlichung der Garage. Nein, die Garage ist sozusagen die Verworkshoppung der vorherigen Bibliothek, statt wie Steve Jobs selbst sagte, wir befreien uns von den Ketten von IBM und machen es jetzt alles selbst, siehe iPhone, würde ich jetzt anschließen. Und die KI macht das Angebot komplett. Für eine geringe Gebühr bekommt jeder etwas ab, aber niemand eignet sich mehr etwas an, sondern genau umgedreht, wir prompten die ganze Zeit und die Maschine eignet sich das an.

Das ist ja auch die große Diskussion, die Alex Karp gerade angestoßen hat, dass nicht nur die Frontier-Modelle sehr teuer sind, sondern dass die KI-Firmen eben auch abgreifen, was es für Use Cases gibt. Und dann hast du auf der einen Seite Unternehmen, die sagen, ja, wir fänden es schon ganz gut, wenn unsere Kunden unsere Design-Dinger auch so und so benutzen. Ich weiß gar nicht, welche Firma da dem zum Opfer gefallen ist, dass es plötzlich Claude Design gab.

Und da sind ja, ach, Figma war das. Also eine der großen, bei uns kannst du hier so Photoshop im Web machen und so. Und dann kam plötzlich Claude Design und sah aus wie Figma. Und das ist natürlich dann genau das.

So, jeder wird bald Erfindungssuperkräfte haben, jeder wird einen personalisierten Tutor und Coach haben mit einem Doktortitel in jedem Fach und unbegrenzter Geduld, um dir dabei zu helfen, alles zu lernen, was du lernen willst. Und das ist natürlich genau die Verdrehung, denn, Mark Zuckerbergs Schlussfolgerung, in dem Maße, in dem alle mächtigere Werkzeuge bekommen, wird jeder Einzelne fähiger, die Zukunft zu gestalten, nicht weniger fähig.

Also wir kriegen mehr Fähigkeit, unsere Zukunft zu gestalten. Und dann kommt Evgeny Morozov und dreht das alles um und zwar sehr gut. Allerdings immer auch mit einem linken Bashing, das natürlich hier völlig zu Recht, genau das macht den Text attraktiv. Die Linke droht, eine entscheidende Chance zu verpassen, weil ihr Begriff von Arbeit auf Arbeitsplätze, Löhne und Disqualifizierung fixiert ist.

Denn das, was Mark Zuckerberg da im Angebot hat, sagt der Maschine einfach, was dir wichtig ist, ist ja genau die Arbeit, die die Maschine so klug macht. Also irgendwer wird produktiver, nämlich die Maschine, und klüger, nämlich die Maschine, weil du für sie arbeitest. Also muss über diesen Arbeitsbegriff neu nachgedacht werden. Entsprechend betrachtet sie, also die Linke, die KI-Ära als neue Etappe der alten Arbeitskämpfe.

So versäumt sie, einen Arbeitsbegriff zu entwickeln, der über den Bereich der Erwerbsarbeit hinausgeht. Einen, der menschliche Aktivität als weltverändernde Kraft umfasst, also als konkrete Fähigkeit, Werkzeuge, Begriffe, Regeln und Maschinen zu entwickeln und anzuwenden. Diese unterschiedlichen Konzepte stehen für zwei Wege der Emanzipation. Beim ersten geht es darum, wer was bekommt.

Also die Frage, bekommt Mark Zuckerberg einfach alle Erträge aus unserer Arbeit? Also um die Verteilungsfrage. Beim zweiten, und da legt er jetzt Wert drauf, darum, was Menschen bekommen müssen, um etwas werden zu können. Also um die Frage der Aneignung. Während also Mark Zuckerberg einfach nur ein Technologie-Verbreiten-Argument macht, sagt Evgeny Morozov, nee, wir müssen uns Sachen aneignen.

Denn wenn Leute in der Küche stehen und der KI sagen, was sie in ihrem Kühlschrank haben, was sie sich wünschen, was man daraus kocht und Vorlieben nennen, dann müssen diese Erträge dieser Arbeit, nämlich was könnte man so kochen, aus welchen Rezepten, was kauft man so typischerweise, was auch immer, müssen sie das wieder allen zur Verfügung stellen, statt einfach nur in so einen Datenfusionsreaktor bei Mark Zuckerberg zu versacken.

Also wieder in so einem Silo, wo man wieder denkt, nee, also wenn ich jetzt die weltbesten Rezepte brauche, muss ich Mark Zuckerberg eine Frage stellen. Und genau diese Falle muss entgangen werden, indem diese elementare menschliche Aktivität, mit der KI zu reden, als Arbeit verstanden wird und die Erträge daraus, zur Aneignung zur Verfügung stehen, statt einfach nur so ein Partizipationsjahr, also wir lizenzieren dir hier mal die Nutzung dieses Gerätes.

Wir verbreiten dir die Technologie, aber lassen das Wissen darüber bei uns. Und das finde ich einfach, das ist wirklich eine perfekte Antwort, genau auf diesen Text von Mark Zuckerberg, ohne dass hier eine direkte Antwort formuliert wurde, sondern es liegt eh in der Luft, diese Argumentation zu machen. Das ist wirklich ganz hervorragend.

Und ich bin der Meinung, die sollten halt gar nichts kriegen, sondern wir sollten uns die komplett selbst aneignen.

Die KI rückt diese Idee nun wieder ins Zentrum, wenn auch in verzerrter Form. Der alte Traum von der Erweiterung der menschlichen Fähigkeit verwirklicht sich in gigantischen Dimensionen, jedoch zu den Bedingungen des Kapitals. Und diese Bedingungen des Kapitals, die hat Mark Zuckerberg, In seinem Text formuliert. Ich biete euch das an, ihr dürft ein bisschen mitnutzen, ich stehe euch dafür aber immer zur Verfügung und es wird sehr billig sein.

Du wirst nur, aber das ist ein Text ausgeklammert, ein bisschen Werbung ertragen müssen, aber das bist du ja schon gewohnt.

Dann wird dann gesagt, hier Energieverbrauch, Wasserverbrauch. Dieses und jenes und welches Problem, wie kriegen wir da gigawattweise Energie hin. Dabei ist das einzige Problem ja, dass man es an einer Stelle zentral macht, damit man so eine Mautstelle erzeugt. Im Grunde genommen, es gibt genug Chips in der Welt. Es gibt wirklich mehr als genug Chips in der Welt. Irgendwie, wenn ich mir hier auf meinem Schreibtisch angucke, sehe ich irgendwie bestimmt 30 Geräte, wo ein Chip drin ist, wo das keiner vermuten würde.

Wie meine Mutter hat noch Windows-PCs im Schrank stehen. irgendwie alte. Also das heißt, da ist nicht zu wenig. Und die Leute haben auch dezentral, kannst du eine Solarzelle aufstellen. Das reicht dann für ein bisschen KI. Das heißt, da hast du auch diese ganzen Probleme nicht. Aber es wird auf einer bestimmten Ebene, da gibt es ein Interesse daran, den Leuten einzureden.

KI ist halt das zentrale Modell. Und dezentral müssen wir gar nicht drüber nachdenken.

Das ist ja auch, dass seit zwei Generationen da so ein bisschen vorgebaut wurde und wir so Supercomputer in der Hosentasche haben. Da ist ja eigentlich Rückenwind drin, wenn nur die Argumentation bei jedem stecken würde. So, und das tut sie aber nicht und Evgeny Morozov wird hier sehr konkret diskutiert. Nehmen wir das Thema KI-Dividende. Hier stammt der kühnste Vorschlag von Bernie Sanders. Also er legt sich jetzt mit den ganz Großen an.

Der unabhängige linke US-Senator will die KI-Unternehmen verpflichten, einen Teil ihrer Aktien an einen Staatsfonds abzutreten. Schöne Idee. Doch die Teilenteignung der Milliardäre ließe das Verhältnis zwischen Bürgerin und Maschine unberührt. Loren Cole, zu dem sage ich gleich was, würde vielleicht reicher werden, aber er wäre immer noch eine Ein-Mann-Truppe.

Also Loren Cole ist berühmt dafür geworden, dass er vor Gericht sich von einem KI-Anwalt hat verteidigen lassen und gewann. Er konnte also, ich glaube es ging ums Falschparken oder sowas, einfach zu seinen Gunsten mithilfe einer KI. So, darin steckt natürlich ein Win, den Mark Zuckerberg sofort als, ja ja, das könnte unser aller Win sein.

Aber darin steckt weder eine Verdrehung der materiellen Tatsachen noch eine Organisation. Da wird ja nichts organisiert. Dann gucken wir einfach mal, dass wir alle unsere schönen kleinen Schicksale schreiben, wie wir den Brief an die Lehrerschaft, gleich fehlerfrei geschrieben haben, dass das Arbeit gemacht hat.

Also es ist im Grunde genommen so, man könnte auch das Modell Bohrmaschine fahren und sagen, jeder kriegt eine, aber stattdessen ist es immer, ja, das Bohrmaschinenzentrum, das muss vom Staat mit kontrolliert werden irgendwie. Und aber anstatt, dass wir alle eine Bohrmaschine kriegen, müssen wir die quasi immer wieder da abholen, immer wieder abgeben. Die Bohrmaschine guckt auch immer noch so ein bisschen mit, ob wir auch das Richtige tun.

Und ich glaube, das ist halt so, was er hier meint mit Loren Cole, würde vielleicht reicher werden, aber wäre immer noch eine Ein-Mann-Truppe. Wir stellen das Grundprinzip noch nicht in Frage.

Der eine große Konzern, der möglichst unbehelligt von vielen kleinen Staaten da in Ruhe gelassen wird. Bei Mark Zuckerberg auf kleiner jeder Einzelne wird Empowered-Ebene, klingt das so. In naher Zukunft wird es neue Berufe geben, die heute nicht üblich sind. Zum Beispiel Ein-Person-Produktionsstudios. Die Spielzeug, Möbel oder Kleidung nach Maß entwerfen. Also bloß nicht organisieren, jeder für sich.

Weltenbauer und Erlebnisdesigner, die Spiele, Geschichten und Abenteuer erschaffen, persönliche Biologen, die mit Superintelligenz personalisierte Behandlungen zusammenstellen und vieles mehr, was wir uns noch nicht vorstellen können. Also alles die Ein-Mann-Truppe, genau das, wovor Evgeny Morozov warnt. Die Größe von Unternehmen, schreibt er ganz konkret, könnte schrumpfen, so wie sie schon beim Übergang vom Industriegiganten zu den Tech-Unternehmen geschrumpft ist.

Aber das bedeutet nicht, dass es insgesamt weniger Arbeitsplätze gibt. Es läuft auf eine große Zahl von Unternehmen hinaus mit jeweils wenigen Menschen. Also es ist genau die Gefahr, die hier beschrieben wird. Jeder kämpft für sich. Bloß nicht die Verhältnisse infrage stellen. Es reicht, wenn du an KI partizipierst, darfst dir nichts aneignen. Kein eigener Server im Keller. Das Wissen, dass du in die Maschine rein promptest, bleibt auf der anderen Seite.

Es kommt nichts zu dir zurück, sondern du kriegst nur tailored Nachrichten für dein nächstes Problem, das du lösen willst. In Zukunft werden kleine Unternehmen, schreibt er, weiterhin das Rückgrat der Wirtschaft sein. aber jedes kleine Unternehmen wird eine viel größere Wirkung entfalten. Also er redet von ganz vielen kleinen Unternehmen, während er als der eine singuläre, zentrale, monopolistische Anbieter diese KI zur Verfügung stellt.

Mehr Unterwerfungen selten formuliert wurden.

Es gibt keinen Bedarf mehr, sich zusammen zu schließen, weil diese ganzen einzelnen Leute ja alle miteinander viele billige Einzeltransaktionen machen können. Da müssen die sich nicht vorab als Unternehmen organisieren.

So und genau das ist ja die große Gefahr für Mark Zuckerberg, dass einfach, sagen wir mal, ein Verband, im modernen Sinne, dass irgend so ein Verband kommt und sagt, ja, also unsere nächsten Tarifverhandlungen sehen so aus, wir fordern jetzt diese und jene Zugangssachen zu Mark Zuckerbergs KI. Unsere Drohung dagegen ist natürlich nicht der Streik, sondern einfach Kimi K3.

Und genau das ist ja das Szenario, was er vermeiden will. Deswegen würde ich gar nicht so sehr eben, Mark Zuckerberg redet von großen Unternehmen und kleinen einzelnen Unternehmern, sondern es ist ja auch die Frage drumherum, wie organisiert die Gesellschaft an sich? Zünfte in einer Stadt oder sogar Hansen, die dann über Städte hinaus ganze hunderte Kilometer lange Geschäftswege und so einfach ausstatten mit, ja ja, wir tauschen hier die Pferde aus, da wird der Brief transportiert, was auch immer.

Alle Aufgaben, die man halt so synergetisch dann erledigt.

Klar kann man jetzt Mark Zuckerberg immer sagen oder Google, du bezahlst jetzt mal 980 Millionen Strafe. Und die so, ja, ich habe 100 Milliarden in meinen Büchern verdient letztes Jahr. Also klar, da sind jetzt so KI-verheimlichte Gewinne drin, aber der Google-Jahresgewinn war zuletzt 112 Milliarden. Die brauchen also drei Tage für eine Milliarde netto.

Wenn du denen dann sagst, 900 Millionen Schaden, ja gut, also das haben wir zwischen 7. und 9. März letztes Jahr erwirtschaftet. Es ist sozusagen völlig ungefährlich für die, ja. Aber das ist ja diese Art von Vergesellschaftung, gegen die sich Morozov wendet, das einfach so zu regeln. Unternehmen waren schon immer gern bereit, Anteile zu versilbern. Neu wäre der Versuch, die Devise des, wie er sagt, dritten Weges umzukehren.

Das gesellschaftliche zu entkapitalisieren. Also nicht die Unternehmen in die Gesellschaft zu holen, sondern, die Gesellschaft und dann Hanse, Zünfte, wie auch immer, Räume zu definieren, in denen diese Konzerne nicht einfach durch Angebote und Verbreitungen ihrer Produkte Fuß fassen können. Also neu wäre der Versuch, die Devise des dritten Wegs umzukehren.

Das Gesellschaftliche zu entkapitalisieren. Das würde heißen, Workarounds, erfolgreiche Beschwerdebriefe und hart erkämpfte Fertigkeiten, also das, was man mit KI heute so regelt, der Verfügung durch die Unternehmen, den Unternehmen zu entziehen und als Fähigkeiten an die Gesellschaft zurückzugeben.

Sodass wie in einer guten Bibliothek jeder mal ins Buch reinschauen darf. Und zwar ohne vorher sagen zu müssen, warum, ohne einen Antrag zu stellen. Ja, was für ein großer Kampf bei Facebook, dass man nach hier, Dings Analytica, mal als Wissenschaftler einen Antrag stellen kann auf Zugang zu, wann will der noch mal nachschauen, ja. Das waren ja alles viel zu harte, sinnlose Kämpfe. Dann einfach, nö, ihr dürft diese KI nur betreiben, wenn ihr alles veröffentlicht. Punkt.

Und das ist eigentlich genial, finde ich. Das ist eine geniale Forderung und das ist auch eine sehr linke Forderung und was ich sehr gut finde, ist, dass man diese Forderung umso besser formulieren kann, umso mehr man sie mit Hilfe von KI formuliert. Also den KI dann wirklich zum Klassenkämpfer macht, was bedeutet, die Realität von KI anerkennen erstmal, als allerersten Schritt einer neuen linken Bewegung.

KI anerkennen, KI nutzen und dann KI öffnen. Räume entkapitalisieren.

Aber keiner denkt mal dran zu sagen, so, ja nö, wenn der nichts mehr zu tun hat, dann füttern wir den einfach trotzdem, weil wir produzieren ja genug, weil wir geile Lautsprecher-Buttons haben. Also dieses, wir machen einfach den Kuchen so groß, dass auch mal einer rumsitzen kann und dann ist es gar nicht mehr schlimm. Da müssen wir uns gar nicht mehr um die Brotkrümel, die da vom Tisch runterfallen, prügeln, sondern wir haben halt einfach Brot. Fertig.

Aber das ist halt so gefährlich, wenn die Leute erstmal so anfangen zu denken, dann werden sie wahrscheinlich eine ganze Menge auch am Status Quo, an den Machtverhältnissen mal betrachten und dann wird es natürlich doof.

Also wo will man da anfangen? Und bei Mark Zuckerberg im Text, finde ich, muss man jetzt herauslesen, wie die Typen da denken, denn ich finde, hier steht jetzt wirklich die große Zäsur an. Also es ist nicht nur die Gutenberg-Parenthese im Sinne von, keiner liest mehr Bücher, außer wir, die wir noch KI-Texte lesen oder im Salon oder so, sondern Mark Zuckerberg schreibt, Die Geschichte von Demokratie und Marktwirtschaft hat gezeigt, dass es nicht die eine objektive Antwort darauf gibt, wie Menschen das beste Leben definieren.

Der beste Ansatz ist deshalb, die Menschen entscheiden zu lassen. Was in ihrem eigenen Leben zählt. Diese Erwähnung von Demokratie und Marktwirtschaft, die uns irgendwas gezeigt haben, da würde ich sagen, wenn das Bild von Mark Zuckerberg aufgeht, nämlich dass die Maschine... Also zum einen den Menschen vereinzelt und dann immer die klügere Hälfte dieser letzten elementaren Paarbeziehung ist.

Dann stellt sich wirklich die Frage, wozu brauchen wir noch Marktwirtschaft und wozu brauchen wir noch Demokratie? Also das wird ja hier nur noch als Folklore so, Demokratie und Marktwirtschaft haben ja immer gezeigt und so, während er selber schon weiß, ist nicht mehr. Also das sind echt nicht mehr die Grundlagen, auf denen wir hier Zukunft gestalten, dass irgendwer noch eine demokratische Teilhabe oder ein marktwirtschaftliches Fortkommen.

Das ist ja einfach nicht mehr gegeben. Er schreibt weiter, es gibt keine technologische Lösung, die sich mit den gegensätzlichen Interessen und Werten aller zugleich in Einklang bringen lässt. Jede singuläre Superintelligenz müsste manche Werte über andere stellen und wäre dabei außerstande, allen gegenüber wohlwollend zu sein. Hier sieht man schon, welche Kämpfe er jetzt führt, nämlich, ich will nicht, dass Anthropic eine Constitutional AI macht, wo eine Constitution für alle gilt, sondern ich möchte die hyperindividuelle, Florentine hat gesagt, ihr ist das wichtig, also kriegt sie genau das.

Mir doch egal, ob es da noch eine demokratische marktwirtschaftliche Grundlage gibt, bei der man sich eigentlich so mal auf allgemeine Regeln einigt oder so. Nein, jeder bekommt jetzt sein eigenes Ding. Er räumt einfach alles ab. Er räumt die gemeinsame Grundlage unserer Gesellschaft, dass es noch so Satzung, Verfassung gibt, räumt er ab. Er räumt ab, dass es eine gemeinsam geteilte Hintergrundrealität gibt.

Nein, es fragt doch jeder seinen eigenen KI-Agenten, was gestern in Mosambik los war. Es gab ein Erdbeben. Und alle anderen Nachrichten werden so ein bisschen, ja, keine Ahnung, muss sich doch nicht interessieren. Also eigentlich räumt er alle Grundlagen ab, von denen er gerade noch folkloremäßig, ja, Demokratie und Marktwirtschaft haben immer gezeigt, dass wir da zu Lösungen kommen.

Also Sex schon mal gar nicht. No Sex, please. ließ. Und im Grunde genommen, wenn man ihn nicht total extrem liest, finde ich, hat er eigentlich recht. Weil im Grunde genommen, also, wir können bestimmt nicht sagen, es gibt grundsätzliche Interessen und Werte der Menschheit. Sondern da gibt es dann zum Beispiel schon mal in, Nordrhein-Westfalen, ganz andere Werte als in Sachsen-Anhalt, ganz offensichtlich.

Und Barbaren ist ja genau dieses, die haben keine Sprache, die reden wie Affen, wir verstehen sie nicht. Das sind sozusagen Untermenschen. Genau diese Gefahr, also weil man das sah, hat man ihm in der Gutenberg-Parenthese gesagt, nee, nee, wir machen das nicht mehr auf Zuruf und spontan, sondern es gilt jetzt einfach Artikel 1 und darüber wird auch nicht diskutiert.

Und genau dagegen wendet er sich. Und ich will es mal noch zuspitzen, weil ich lese ihn ja sehr negativ und ich verstehe aber deine Argumentation. Also er schreibt, wenn Menschen ermächtigt sind, also durch seine KI, empowert, treten sie ganz natürlich in Konkurrenz zueinander und kontrollieren sich gegenseitig, wirtschaftlich, sozial, politisch und auf allen anderen eben menschliche Interaktion.

Was ja bedeutet, genau diese gemeinsame Grundlage wird jetzt ausgeräumt, stattdessen wird über, jeder hat denselben Zugang zu seiner KI und die ist für jeden gleich klug, wird eine Waffengleichheit hergestellt und das ist die neue Grundlage der Gesellschaft. Also nicht mehr Artikel 1, sondern einfach nur noch Promptgewitter. Und dann positioniert er sich in diesem Bild, das ich zugegebenermaßen sehr kritisch schon verstehe, aber er schreibt jetzt, Meta ist das Unternehmen, das sich vor allem darauf konzentriert, persönliche Superintelligenz für alle zu bauen.

Die meisten anderen Labore konzentrieren sich darauf, KI für Unternehmen, Regierung oder andere Institutionen zu bauen. Wenn also diese Labore führen, wird es Machtgleichgewicht größerer Institutionen gegenüber Einzelnen begünstigen. Metas Mission konzentriert sich seit unserer Gründung darauf, Macht in die Hände der Menschen zu legen.

Also ich sehe hier ein Abräumen der Gutenberg-Galaxie. Wir haben keine gemeinsame Textgrundlage mehr. Wir können uns auch nicht mehr darauf verlassen und darauf beziehen, sondern wenn du es mit deiner KI nicht schaffst, dir einen Platz in der Welt zu beschaffen, dann hast du leider verloren.

Und da darf aber keiner neben Mark Zuckerbergs KI noch eine eigene Super-KI im Keller betreiben, weil das wäre dann ungerecht, allen anderen gegenüber. Also ich lege das sehr negativ aus, ich finde das wirklich schlimm. Evgeny Morozov macht Gegenangebote, ich lese mal zwei längere Textstücke. Während bei der kapitalistischen Dividende Werte zurückfließen, erfolgt die sozialistische Rückerstattung in der Währung neuer Fähigkeiten.

Also jetzt auch über Arbeit im bisherigen Sinne und Geld hinausdenken. Wir vergüten nicht einfach alles mit Geld, was ja an Schlechten passiert, sondern wir sorgen direkt für Feedback-Schleifen aus der inhaltlichen Arbeit, die mit der KI stattfindet. Die verausgabten Energien kehren an ihren Ursprung zurück, vermittelt über Institutionen, die es also noch gibt, die den Menschen neue Möglichkeiten eröffnen.

So würden Schulen, Gewerkschaften, Bibliotheken, Mietervereinigungen und Migrantenzentren zu Anlaufzentren der Zivilgesellschaft, wo KI-Leistungen erfasst, verallgemeinert, ausgewertet und allgemein nutzbar gemacht werden. So geht kein guter Prompt verloren und Workarounds zur Eindämmung der Bürokratie stehen allen zur Verfügung. Das ist wirklich genau die Antwort auf Mark Zuckerberg. Das ist ganz erstaunlich.

Das Ziel muss sein, zwei Wege abzukürzen. Zum einen den zwischen dem einzelnen Unrecht und der strukturellen Beseitigung seiner Ursachen. Zum anderen den zwischen individueller Erfindung und ihrer gesellschaftlichen Aneignung. Für Letzteres braucht es Institutionen, die die Erfahrungen, die ihre Mitglieder in ihren. Alltagskämpfen machen, erfassen und als erweiterte Fähigkeiten an die Gesellschaft zurückgeben.

Am Anfang müsste ein Register stehen, eine Art kollektives Gedächtnis, in dem alle Lernerfahrungen gespeichert, ausgewertet und erweitert werden. Eine solche Einlageninstitution für unbezahlte erfinderische Tätigkeiten wäre das, was die Gewerkschaft für Lohnarbeit war. Das Geniale an der Gewerkschaftsidee lag ja nie darin, Missstände zu sammeln, sondern sie für die Zukunft abzustellen.

Die nachfolgenden Arbeiterinnen erbten, also hier das Wort Erbe einzubringen ist sehr gut, bessere Anstellungsverträge, anstatt den Kampf wieder neu beginnen zu müssen. So könnte auch ein Mieterverband funktionieren, der seine KI-Modelle mit jeder erfolgreichen Klage seiner Mitglieder füttert. Denn dann kann die tausendste Mieterin auf 999 Siegen aufbauen. Und ehrlich gesagt, das sehen wir ja auch auf Instagram, wie viele Leute bei YouTube, Instagram und anderen Social Media Kanälen wollen dir erklären, dass sie einen mega Prompt haben und kommentiere und dann schicke ich ihn dir.

Also, dass einfach so eine Prompt-Deliberation stattfindet, dass einfach jeder, so Prompt geliefert bekommt, weil sie gut funktioniert.

Das ist ja eigentlich das Beispiel dafür, dass es genau nicht mehr funktioniert. Und Wikipedia steht ja auch, also niemand klickt auf einen Link zur Wikipedia, weil kein Link mehr angezeigt wird. Es wird nur noch der eine.

So als Schauspielerin muss man sich ja massive Textmengen merken. Man hat dementsprechend natürlich auch entsprechende Techniken. Und die hat das da eingebracht. So ihr Wissen, und das ist halt mittlerweile ein Open-Source-Projekt, wo relativ viele Leute dran mitarbeiten. Und das ist halt so, eine kennt sich aus damit, wie man ein richtig gutes Gedächtnis für KI macht, setzt sich mit einem zusammen, der weiß, wie man codet und bringt das halt ins Leben und solche Sachen sehe ich halt, das ist prinzipiell wofür die Linke eintreten sollte was auch die Ampel ganz gut gemacht hatte, also wenn man sich deren Open Source Politik anguckt die haben da schon eine ganze Menge Geblick gehabt Ja.

Superintelligenz birgt das Versprechen, allen diese Macht zu geben und eine positive Zukunft für alle zu bauen. So, jetzt Evgeny Morozov. Bislang ist das Datenzeitalter noch Eigentum seiner Begründer. Doch gibt es den nächsten Loren Cole, der es sich aneignen könnte? Also diese Idee, dass mit der KI die Bürokratie überrumpelt, größer gedacht, sich die ganze Welt wieder anzueignen mithilfe der KI.

Dass uns Claude, Gemini und GPT diese Antworten nicht geben werden, how to rule the world, ist klar. Bei Kimi K3 und diesem ganzen Qwen-Zeug bin ich mir nicht so sicher. Also wenn man das selbst betreibt, scheinen mir da Einflugschneisen zu geben, Anleitungen zu bekommen aus linker Sicht. Und vielleicht ist da auch eine Versöhnung mit der großen Hacker-Szene drin, denn einen Server selbst zu betreiben, ja, damals die E-Mails und so, das war ja in der Generation Domscheit-Berg und so, das Ding.

Das ist natürlich ein bisschen teurer als jetzt irgendwie ein OpenAI-Abo oder so. Gerade wenn du es den ganzen Monat laufen lassen willst. Aber ich meine, Moore's Law arbeitet für uns.