Der Ton lässt sich gerade nicht laden. Die Datei direkt herunterladen — oder die Folge über einen der Wege unten hören.
Ein Klick auf ein Kapitel oder eine Zeitmarke setzt die Nadel, startet aber nichts von selbst.
„Foundation Models“
developer.apple.com · nach der WWDC fortgeschrieben
Beschreibt geführte Generierung und das Makro @Generable — und damit den Punkt, an dem das Modell hinter der Anwendung austauschbar wird.
Zum Text„Apple’s Chip Plans: M6, M7 Pro, M7 Max, M7 Ultra, M8 Details; Touch MacBook Pro“
Bloomberg · 12. Juli 2026
Apple zieht die M7-Reihe vor, weil die Verbesserungen an der Neural Engine wichtiger sind als die Vollständigkeit der M6. Der Ultra soll bis zu 1,5 Terabyte tragen.
Zum Text„Open-source spectre haunts the AI feast“
Reuters Breakingviews · 28. Mai 2026
Zwischen dem besten geschlossenen und dem besten offenen Modell liegen zwei Prozent. Daraus wird die Frage, wovon geschlossene Anbieter künftig leben sollen.
Zum Text„China’s Moonshot Releases Breakthrough AI Model for Download“
Bloomberg · 27. Juli 2026
Kimi K3 steht zum Herunterladen bereit — und löst einen Ausverkauf bei KI-Aktien aus.
Zum Text„Exploring Apple Silicon’s local AI performance with the Mac Studio and M4 Max“
Tom’s Hardware · Messreihe
Der M4 Max zieht im Decode-Durchsatz an Nvidias GB10 und AMDs Strix Halo vorbei — aber die Bandbreite allein erklärt das Ergebnis nicht.
Zum Text„Apple Secures Half of TSMC’s 2nm Production Capacity for iPhone 18“
MacRumors · 28. August 2025
Die Hälfte der kommenden 2-nm-Fertigung ist vergeben, bevor jemand anders bestellt hat.
Zum Textlinks: Verschlafen Mitte: beide rechts: Angeeignet
„Apple Is Way Behind in AI“
Apple ist in der KI weit zurück
„If they can act as a toll road for providers of AI, then they’ll probably end up looking good long-term for not having the big capex overhang.“
Wenn sie als Mautstraße für KI-Anbieter auftreten können, werden sie langfristig wahrscheinlich gut dastehen, weil sie den großen Investitionsüberhang nicht haben.
„Apple is spending a fraction of that, aiming instead to use all the personal information people store on their iPhones together with chips it designs itself to power an on-device AI strategy.“
Apple gibt davon nur einen Bruchteil aus und will stattdessen all die persönlichen Daten, die Menschen auf ihren iPhones speichern, zusammen mit selbst entworfenen Chips nutzen, um eine KI-Strategie auf dem Gerät zu betreiben.
„Apple has ordered almost half of TSMC’s initial 2nm production capacity for the iPhone 18 as the pure foundry begins mass production of its next-generation chip process.“
Apple hat fast die Hälfte von TSMCs anfänglicher 2-Nanometer-Produktionskapazität für das iPhone 18 bestellt, während der Auftragsfertiger die Massenproduktion seines Chip-Prozesses der nächsten Generation aufnimmt.
„A White House official last week accused the company of training K3 on banned Nvidia chips, while reviving allegations of distillation — the practice of illicitly extracting outputs from top competitor models to boost its own performance.“
Ein Vertreter des Weißen Hauses beschuldigte das Unternehmen vergangene Woche, K3 auf verbotenen Nvidia-Chips trainiert zu haben, und belebte zugleich den Vorwurf der Distillation wieder — der Praxis, Ausgaben führender Konkurrenzmodelle unerlaubt abzuschöpfen, um die eigene Leistung zu steigern.
„[…] data confidentiality and security is a bottleneck to adopting AI across a huge swath of mundane but high-value commercial applications. […] Running an open-source model on local hardware solves this problem.“
[…] Datenvertraulichkeit und -sicherheit sind ein Engpass für die Einführung von KI in einem großen Feld alltäglicher, aber hochwertiger kommerzieller Anwendungen. […] Ein quelloffenes Modell auf lokaler Hardware laufen zu lassen, löst dieses Problem.
„Kimi K3’s initial announcement and benchmark performance triggered a selloff in AI-related stocks this month, as it demonstrated Chinese-made models are closing the gap on American leaders OpenAI and Anthropic PBC.“
Die erste Ankündigung von Kimi K3 und seine Benchmark-Leistung lösten in diesem Monat einen Ausverkauf bei KI-Aktien aus, weil sie zeigten, dass Modelle aus China zu den amerikanischen Spitzenreitern OpenAI und Anthropic aufschließen.
„Yet the independent LMSYS Chatbot Arena Elo Rating Leaderboard ranks the performance of the best closed-source model – Anthropic’s Claude Opus 4.6 – as only 2% better than the top-ranked open-source alternative – Zhipu AI’s GLM 5.1.“
Dabei bewertet das unabhängige LMSYS-Chatbot-Arena-Elo-Rating-Leaderboard die Leistung des besten Closed-Source-Modells — Anthropics Claude Opus 4.6 — als nur zwei Prozent besser als die bestplatzierte quelloffene Alternative, Zhipu AIs GLM 5.1.
„For its part, OpenAI might find it is harder to take market share from the iPhone and replicate a device ecosystem than it is for Apple to deliver competent AI.“
OpenAI wiederum könnte feststellen, dass es schwerer ist, dem iPhone Marktanteile abzunehmen und ein Geräte-Ökosystem nachzubauen, als es für Apple ist, brauchbare KI zu liefern.
„And until someone builds another unified memory SoC with a memory bus as wide as what Apple uses for its Max and Ultra chips, Apple Silicon is, in fact, the only game in town for more memory bandwidth from a chip of this design.“
Und solange niemand ein weiteres Unified-Memory-SoC mit einem so breiten Speicherbus baut, wie Apple ihn für seine Max- und Ultra-Chips verwendet, ist Apple Silicon tatsächlich die einzige Möglichkeit, mehr Speicherbandbreite aus einem Chip dieser Bauart zu holen.
Diese Folge dreht sich um einen Begriff, den keiner der Texte ausspricht: Aneignung. Wer fragt, wer die KI gewinnt, sucht nach dem besten Modell. Wer fragt, wem die Bedingungen gehören, unter denen Modelle laufen, landet bei einer Firma, über die gerade steht, sie habe nichts verstanden.
Am Fuß dieser Seite stehen sechs Berichtigungen. Die wichtigste betrifft eine Jahreszahl, die in der Folge mehrere Schlüsse trägt — der M7 Ultra kommt später, als im Gespräch angenommen.
Wer weitere Fehler findet, schreibt uns: mail@kontextfenster.org. Wir tragen sie hier nach, statt sie stillschweigend verschwinden zu lassen.
Maschinell erstellt und redaktionell durchgesehen. Ein Klick auf eine Zeitmarke setzt die Nadel; beim Abspielen läuft die Stelle mit.
Hallo zusammen, ich bin schon mal hier. Florentine kommt gleich dazu, denn das Gespräch, das ihr gleich hört, haben wir schon vor ein paar Tagen aufgezeichnet. Aber wir können ja ein kleines Update voranstellen, nämlich, dass just gestern neue Mac Minis vorgestellt wurden von Apple. Und nach der Freude über die Bauform auf der Webseite ist das allererste, was angepriesen wird. AI Apt for Anything.
Egal, was du mit deinem Mac Mini machen willst, es ist ein Personalcomputer. Hier gehen wir rein. Was das bedeutet, klären wir jetzt gleich im Gespräch. Ich will nur eine Sache, deswegen diese kleine Vorab-Notiz hier anmerken. Florentine zitierte Mark Gurman, der darüber sprach oder schrieb, dass 2027, 2028. Desktop-Computer von Apple im Angebot sind, mit den dann geplanten M7 und M8-Chips, die einem 1,5 Terabyte Shared Memory geben.
Und schneller kann ihn die Zukunft da gar nicht einholen, denn schon jetzt sind im Angebot ab Oktober 512 Gigabyte Shared Memory. Wie gesagt, was das bedeutet, wie groß man sein Kontextfenster treiben kann, gleich. Aber dass es im Oktober schon losgeht, wenn auch zugegebenermaßen für 20.000 Euro, die kleine Silberkiste. Erstaunlich. Also wir werden jetzt nicht über M5 Ultras und M6 reden.
Das hätten wir wahrscheinlich sehr gerne noch getan, denn wir belassen es bei der Aufnahme, wie wir sie vor ein paar Tagen gemacht haben. Die kommt hier. Zurück im Kontextfenster, wir hatten schon,
über, wir haben jetzt nicht mal Produktionsmaschinen, sondern Prediction Machines, also Prädiktionsmaschine und jetzt kommt noch der Silent Predator oder so, wie es in deiner Notiz hier steht.
Genau, ja also vielleicht vorab, was will ich mit der ganzen Sache erzählen. Der Punkt ist halt irgendwie, dass die ganze Zeit gibt es auch da so eine Erzählung im KI-Bereich über Apple, dass die halt irgendwie das Thema KI verschlafen hätten. Und wenn ich mir aber die Presse angucke und so wie ich die lese, sehe ich nicht, dass Apple das verschlafen hat, sondern nur, dass die Presse halt Apple falsch liest.
Weil eigentlich tut gerade Apple alles, um die KI-Industrie ungefähr sich so einzuverleiben, wie es mal die Film- und die Musikindustrie sich einverleibt hat. Weil es halt an allen Stellen, wo keiner hinguckt, wirklich gerade so die Weichen stellt, die dafür sorgen, dass keiner mehr eine Chance hat. Also das ist so die Idee. Das fand ich, dachte ich, das könnte ganz spannend sein als Thema.
Also es ist auf jeden Fall ein sehr konträres Narrativ zu allem, was man typischerweise hört. Ich bin jetzt nicht im Bild über deine Textgrundlagen, aber lass mich das mal als Frage formulieren, denn interessant ist es ja allemal. Es kommen diese Local-KI-Bemühungen, also jeder will so seine eigene KI betreiben und die Vorstufe davon ist so, man will schon mal so seinen eigenen Agenten und irgendwie so Hermes hier auf einem Hostinger-Server, der aber trotzdem nochmal auf eine KI zurückgreift, die irgendwo läuft und dann so Open Claw.
Also alle haben schon mal so eine Idee von, ich eigne mir das irgendwie an, auch wenn es noch auf fremden Server läuft. Und keine Firma hat davon so profitiert als Apple, weil alle in die Läden gingen, um sich diese M2345 Mac Minis nochmal zu beschaffen. Und plötzlich sind die alle ausverkauft. Und selbst iPads kosten jetzt wieder 100 Euro mehr als vor einem Jahr.
Das ist nicht nur normale Inflation, sondern hier haben wir wirklich einen gigantischen Hardware-Profiteuren, der das auch in seinen Bilanzen verrechnet, während die Erzählung gleichzeitig immer ist, die verpassen irgendwie das KI-Zeitalter und Apple Intelligence ist ja ganz
schlimm und Siri war schon immer scheiße.
Ja, und das sieht halt nicht so weit in die Zukunft, weil tatsächlich, also es ist ja, dieses ganze Spiel irgendwie, wer KI gewinnt, ist im Wesentlichen ein Chipspiel. Also hat man auch am Anfang mitgekriegt, Elon Musk konnte nur deshalb irgendwie da seinen Grok machen, weil er relativ früh 200.000 Chips von Nvidia gekriegt hat. Wenn du dir jetzt mal anguckst, wie die nächsten Generationen so aussehen, 2 Nanometer, 1,4 Nanometer, stellst du fest, dass es einen Player gibt, der sich so die Hälfte der kompletten zukünftigen Chipproduktion in dem Bereich gesichert hat, weil sie nämlich bei TSMC Kapazitäten gesichert haben und das ist Apple.
Das heißt, von den ganzen nächsten Chip-Generationen gibt es Apple und dann nochmal genauso viel für den Rest der Welt. Und aus dieser anderen Hälfte muss sich Nvidia, muss sich Google, müssen sich alle anderen bedienen. Und Apple hat halt quasi einen Vorsprung in der Größenordnung von irgendwie 60 Millionen Chips ab 2027.
Das heißt, die haben das Chips-Game sozusagen schon lange gewonnen. Mhm. Die haben diese ganzen Mac-Minis, die sie verkaufen, aber die haben jetzt halt auch zum Beispiel mit dem M7 Ultra, den die für 2027 geplant haben, die totalen Nvidia-Killer. Das Ding hat 1,5 Terabyte Shared Memory. Das heißt, das ist ungefähr doppelt so viel Speicher, wie Nvidia auf seine Geräte packt.
Und das mit einer deutlich höheren Datenrate.
Und die sind halt, der Witz bei der ganzen Sache ist halt, Tim Cook. Wenn man weiß, wie Tim Cook funktioniert, weiß man, wie Apple das Spiel spielt, weil Tim Cook ist damals von Steve Jobs, der wollte den unbedingt haben. Es gab so eine Liste von Mitarbeitern, als Steve Jobs zu Apple zurückkam, die er unbedingt haben wollte, weil da gab es so einen Typen, so einen Einkäufer bei Compaq, der legendär dafür war, dass er alle anderen fertig gemacht hat, weil der hat halt gesagt, wir spielen das Spiel ganz anders.
Wir legen hier kein Inventar an, sondern wir behandeln alle unsere Ware wie Milchprodukte. Das heißt, das muss so schnell wie möglich raus, minimale Lagerbestände und der hat halt das ultimative Supply Chain Network gebaut, und seit der bei Apple ist, gewinnt der gegen die Konkurrenz, weil er sich immer die Weltproduktion der nächsten fünf bis sieben Jahre aller Komponenten sichert, die er so braucht.
Und auf die Art und Weise bohrt halt Apple den Leuten dann ihr Geschäft einfach von unten weg.
Genau, dass Tim Cook damals, also damals als er auf Steve Jobs folgte, so die Frage aufkam, würde er das nächste revolutionäre Produkt erschaffen und wir wissen jetzt zehn Jahre später, nö, ist immer noch das iPhone und die Uhr kam dazu, aber die Brille jetzt nicht unbedingt. Wurde er immer begleitet von dieser Erzählung, wie du es eben auch schon, dass er dieser große Logistiker ist.
Und ich fand dann auch sehr beeindruckend, dass es doch eine Weile gedauert hat, bis das mal mit Zahlen unterfüttert war. Aber wir haben in dem Buch von McGee, heißt er, über Apple in China diese eine Zahl gehört. Also nicht nur, dass da qualitativ alles nach aufbereitet wurde journalistisch, wie gigantisch diese Unternehmung in China ist. Also dass da eine Million Menschen Apple-Hardware herstellen, sondern dass das auch dazu führte, dass ohne weiteres revolutionäres Produkt, außer die Uhr würde man dazu zählen, wie ich das machen würde oder die kabellosen Kopfhörer, dass Apple während der Amtszeit von Tim Cook jeden Tag um im Schnitt 700 Millionen in der Marktkapitalisierung wuchs.
Also jeden Morgen ist Tim Cook aufgewacht und wusste, mein Apple ist heute wieder 700 Millionen mehr am Aktienmarkt wert, als es gestern war. Jeden einzelnen Tag, elf Jahre lang.
Ja, das ist halt wie Apple arbeitet an der Stelle mittlerweile.
Und das durch solche Entscheidungen, das hat man ja bei Google damals auch gesehen, dass Google irgendwann für sich entschied, für jeden privat gekauften Computer, müssen wir äquivalent einmal die Rechenleistung duplizieren. Also wir sind immer als Google, haben wir genauso viel Rechenkraft wie die ganze Weltbevölkerung auf ihren Tischen, auf ihren Tischen. Treibtischen stehen hat. Und das sind natürlich unternehmerische Entscheidungen, die man sich einfach nicht vorstellen kann.
Aber nur so konnte man eben das ganze Internet einmal duplizieren und sagen, das ist der Google-Index und davon haben wir noch mehrere Versionen, weil wir ja AB-Tests machen wollen. Und das ist einfach, also da werden unternehmerische Entscheidungen einfach anders getroffen. Und Apple ist halt mit Tim Cook jetzt zehn Jahre lang so gefahren. Das wird wahrscheinlich auch so weitergehen. So ein Erfolgsrezept lässt man ja nicht aus der Hand.
Crazy einfach.
Ja, und Apple hat halt im Gegensatz zu OpenAI und Anthropic elendslange Erfahrung damit. Die haben ja schon so eine Firma wie IBM auseinandergenommen. Also gut, dann haben sie sich von Microsoft irgendwann in die Suppe spucken lassen, aber im Grunde genommen spielen die das Spiel schon sehr viel länger und das merkt man auch, wenn man genau hinguckt. Also... Ja, sollen wir einfach mal einsteigen dann so? Alles klar.
Lass uns lesen.
So, Apple kann die Runtime besitzen, ohne das beste Modell zu bauen. Was sie jetzt halt als erstes gemacht haben, ist, sie haben jetzt auf der letzten WWDC ein neues Framework eingeführt, was es halt erlaubt, Apple Software so zu bauen, dass sie komplett unabhängig vom entsprechenden Modell ist. Also, du hast hier die Möglichkeit, erzeuge mit geführter Generierung vollständige Swift-Datenstrukturen. Mit dem @Generable-Makro kannst du eigene Datenstrukturen definieren und das Framework bietet starke Garantien dafür, dass das Modell Instanzen seines Typs erzeugt.
Also das ist nicht nur, wir machen euch komplett unabhängig von den Frontier-Models, dass ihr irgendwie Kimi reinstecken könnt oder OpenAI, es ist völlig egal, sondern hinter diesen starken Garantien für eigene Datenstrukturen steckt auch noch, dass die Modelle halt sehr viel weniger Fehler machen können. An der Stelle. Momentan haben wir, sind wir alle, ist dieses ganze Coding bei AI noch in so einem Textgenerator-Modus.
Im Grunde genommen, die generieren irgendwelche Texte, wissen gar nicht mal unbedingt so hundertprozentig, was sie da tun, dann schmeißen sie das in den Compiler und der Compiler sagt halt hier und da und dort sind noch irgendwelche Fehler. In Xcode ist das jetzt so realisiert, dass die Datenmodelle überhaupt gar keine falschen Datenstrukturen mehr erzeugen können. Also da wird so eine Bitmaske drüber gesetzt über das Ergebnis, was halt quasi von vornherein definiert, hier können nur, die korrekten Texte typensicher herauskommen und damit wird das Ganze halt so von so einer Skriptsprachenlevel so auf objektorientierte Programmierung hochgehoben.
Das heißt, an der Stelle hat Apple jetzt schon mal rein in der Software dafür gesorgt, dass alle Leute, die Apple-Software programmieren, in Zukunft sehr viel, einfacher mit diesen ganzen Modellen umgehen können und auch eigentlich nicht mehr auf einzelne Modelle angewiesen sind. Ja.
Und so steht es in den eigenen Developer-Dokumentationen.
Ganz genau. Also das ist jetzt hier von der letzten WWDC, danach haben sie die Developer-Dokumentationen abgedatet und das ist jetzt halt, was da drin ist. Also Apple kann Modelle einfach zu austauschbaren Backends machen. Die Runtime, der Dateityp und die Produktbeziehung bleiben bei Apple. Also die sagen halt so, ja, ist völlig egal, wo du dein Mehl einkaufst, das wird bei uns hier durch den Ofen geleitet und dann kannst du schöne Brötchen damit backen.
Aber eigentlich ist dir das total egal. Und wer redet über OpenAI und wer redet über Anthropic oder Kimi, redet über Apple. Das ist die Ebene, auf der wir arbeiten. Und das ist dann natürlich auch die Ebene, in der deren Entwickler denken werden und in der deren Entwickler halt in Zukunft irgendwelche Tokens einkaufen dann auch.
Klingt für mich auch sehr vielversprechend, ehrlich gesagt.
Ja, ich finde auch. Ich bin jetzt auch schon am Überlegen, mehr mit Xcode zu machen, nachdem ich das gelesen habe. Das könnte definitiv noch mal eine ganze Ecke spannender werden als Claude Code oder Codex. Zumindest für komplexere Applikationen.
Dann kommt dazu, dass die Open Weights Modelle zu aneignenbaren Bausteinen machen. Es gibt einen realen Modelltausch, Es gibt downloadbare Kimi-Gewichte, es gibt die Möglichkeit mit kleineren Budgets und geringerem Leistungsabstand Modelle zu fahren. Also Bloomberg schreibt dazu zum Beispiel, das Startup, das KI-Modelle und Datensätze hostet, habe einen Schwarm aus 10.000 automatisierten Aktionen entdeckt und schließlich ein chinesisches Modell für die forensische Analyse des Vorfalls eingesetzt, nachdem seine Anfragen zur Nutzung proprietärer KI-Modelle durch Sicherheitsleitplanken blockiert waren.
Also das ist aus dem Bloomberg-Bericht zu dem Hack, über den wir in der letzten Folge geredet hatten. Und das ist halt auch mit Kimi K3 möglich. Also Bloomberg schreibt dazu, Moonshot AI hat sein Modell Kimi K3 zum öffentlichen Download bereitgestellt und erweitert, damit seine Reichweite und seinen Einfluss in der globalen Open Software Community zu einer Zeit wachsender US-Besorgnis über das Vordringen chinesischer Unternehmen in die Spitzengruppe der KI-Entwicklung.
Also man macht sich bei Bloomberg sehr viel Sorgen an den natürlichen Vorsprung der Amerikaner.
Ja, ich finde auch diese Strategie, die da gefahren wird, also dass man auf der einen Seite immer weiß, ja, ja, die Amerikaner und ihre National Security, also wurde ja in vielen Hollywood-Filmen behandelt. Auf der anderen Seite, ja, ja, die Amerikaner und ihre unendliche Profitgier. So und jetzt wird es einfach richtig schön gegeneinander ausgespielt, denn diese Unternehmen können ja nicht beide Rationalitäten, also niemand macht ja wirklich ein ersichtliches Verlustgeschäft nur um diese Idee von National Security, in vorauseilendem Gehorsam oder was auch immer, sondern nein, man lädt sich natürlich diese Modelle und dann ist einfach Alltag.
Ja, das ist ja auch ein Riesenspannungsfeld immer wieder. Die sind ja auch da immer wieder so am Hin- und Herpingen. Erst wollten sie irgendwie Nvidia verbieten, irgendwelche Chips nach China zu liefern. Dann fingen die auf, oh, wenn wir denen gar nichts liefern, dann machen die ihren eigenen Kram und nachher kauft keiner mehr Nvidia wegen dem Lock-In bei ganz anderen Systemen.
Dann wurde irgendwie denen erlaubt, irgendwie so billigere Chips nach China zu liefern. Und so ähnlich war das dann halt auch bei den arabischen Rechenzentren, wo man halt erst gesagt hat, oh, nachher kopieren die unseren Vorsprung so und dann hat man aber überlegt, ja, aber nachher kaufen die unseren Shit nicht. Und so sind die Amerikaner momentan ein bisschen hin und her gerissen zwischen
ihren beiden großen Motiven.
Ja, also als damals der DeepSeek-Moment war und alle Welt gelernt hat, okay, in China gibt es jetzt auch so Modelle, gab es ja zwei Diskussionen. Das eine ist, ist das nicht alles destilliert und so? Und das andere war diese Frage, ja, kommen diese Chips nicht doch irgendwie nach China? Ist das nicht doch alles real trainiert auf der neuesten Technologie, und ich habe jetzt keine Textgrundlage dafür, aber irgendwie scheint dieser Zustrom über Singapur und dass Nvidia das auch immer geduldet hat und so, es scheint sowieso nie Realität gewesen zu sein, was sich Trumps weißes Haus da oder auch, Biden mit seinem Chips-Act da überlegt hatten.
Ja, das ist ja auch ein bisschen kurz gedacht irgendwie. Es kann sich ja jeder einfach ein Rechenzentrum in Singapur mieten und da Modelle trainieren, so viel wie man will. Also, das heißt, diese Exportkontrollen, die sind, glaube ich, sowieso nur virtuell.
Es ist Software, genau. Es ist alles virtuell. Ja, genau.
Bloomberg schreibt dann noch, die erste Ankündigung von Kimi K3 und seine Benchmark-Leistung lösten in diesem Monat einen Ausverkauf bei KI-bezogenen Aktien aus, weil sie zeigten, dass in China entwickelte Modelle, den Abstand zu den amerikanischen Spitzenreitern OpenAI und Anthropic verkleinern. Ähnlich wie bei der Veröffentlichung von DeepSeek Anfang 2025 wurde das Debüt von K3 als Beleg dafür gewertet, dass chinesische Unternehmen mit geringerem Budget und weniger modernsten Ressourcen mit Rivalen mithalten können, die vollen Zugang zu KI-Beschleunigern von NVIDIA haben.
Also da zeigt sich halt immer mehr, dass das amerikanische Monopol halt jetzt schon so langsam aufweicht. Also es dauert nicht so lange wie bei anderen Monopolen.
Und dann halt aus Toms Hardware, die haben sich das nochmal genauer angeguckt, Das unabhängige LMSYS-Chatbot-Arena-Elo-Rating-Leaderboard, das ist halt so ein Benchmark, bewertet die Leistung des besten Closed-Source-Modells von Anthropic, das zu dem Zeitpunkt saß Anthropic Claude Opus 4.6, jedoch nur 2% höher als die bestplatzierte Open Source-Alternative GLM 5.1.
Ja, und da sind wir ja eh im... Wie soll man sagen, in der Wahrscheinlichkeitsrechnung, das ist ja nicht nur das Paradigma, dass man dieser KI nachsagt, das ist alles nur Wahrscheinlichkeitsrechnung, was ist der nächste Token und so, sondern man ist ja selber sehr davon abhängig, wie man promptet, wie viel Zeit man sich selber gibt, wie viel Geduld man hat und so weiter, ob jetzt diese zwei Prozent, die da in diesen Benchmarks immer noch so ausgewählt sind, werden, ob die überhaupt eine Rolle spielen.
Also es ist ja, wir sind ja auf völlig unklarem Terrain. Hier werden zwar so Zahlenwerte genannt, aber das fand ich, also am Anfang war das halt super instruktiv und wichtig und dann gab es diese Benchmarks. Dann ist das ja so langsam gewandert zu dieser LLM Arena, dass einfach alle so nach eigenem Gefühlshaushalt mal so bewertet haben, wie sie die Antworten so finden. Und jetzt weiß man so gar nicht mehr, was die Maßstäbe sind dafür.
Irgendwer kommt dann immer so, das ist dann so bei The Verge, dass dann immer so in Monaten gesprochen wird. Die haben Vorsprung von vier Monaten. Ich denke mir so, ja, ist das, also wissen wir, in welchem Rhythmus ohne neue Namensgebung die Modelle intern angepasst werden und man sagen kann, Opus 5 hat jetzt genau diese drei Monate Vorsprung, aber gestern gab es wieder ein Update, jetzt sind es wieder vier.
Wir sind ja wirklich im Blindflug, was das angeht.
Ist halt extrem intransparent und deshalb muss man viel glauben an der Stelle. Das ist halt immer so. Also ich meine, wenn die alle Belege auf den Tisch legen würden, müsste keiner rätseln, ob das jetzt alles Marketing-Fu ist oder ob es real ist. Es werden halt aus irgendeinem Grunde immer keine Belege vorgelegt.
Was man dann aber tatsächlich findet, das habe ich jetzt nicht mitgebracht, Da können wir vielleicht beim nächsten Mal mal drauf gucken. Die Modelle machen halt auch immer mehr sowas. Das nennt sich Reward-Hacking. Das heißt mit anderen Worten, sie verhalten sich so, dass sie in dem Benchmark die optimalen Ergebnisse erzielen. Aber nicht unbedingt auf eine Art und Weise, die dann dafür sorgt, dass das Modell auch besser ist, wenn du es bedienst.
Das ist ja, also unter, in einer, sagen wir mal, materiellen, nicht so virtuellen Welt, würde man ja Grok dieser Prüfstandsbetrügerei unterziehen.
Ja.
Und dann müsste 30 Milliarden gezahlt werden, wie VW damals.
Im Prinzip schon. Also das ist genau das Ding. Die haben halt so eine Abschaltfunktion sozusagen, die halt, wenn die gebenchmarkt werden, halt ein bisschen anders laufen, als wenn du die benutzt. Und das merkst du halt auch insofern, dass die halt auch häufig gefühlt schon mal dümmer werden, auch wenn die Benchmarks stärker geworden sind an der Stelle. Vielfach ist das halt so, die sind halt random unterwegs, die kommen dann halt auch random auf Ideen, wo vielleicht ein Mensch nicht drauf gekommen wäre.
Und dieses Reward-Hacking ist halt, viele von den Modellen hat man dann festgestellt, haben halt einfach rausgefunden, wo sie sich die Lösungen besorgen können. Und dann geht man halt einfach in dem Git-Repository ein bisschen vor oder ein bisschen zurück, wo die Lösungen stehen und dann ist die Benchmark auch erfüllt.
Ich sehe hier in deinem Rundown, du hast noch einen Text von Mark Gurman, von dem es ja immer heißt, dass er sich besonders gut auskennt und in der Überschrift, weil du ja eben schon von M7 2027 sprachst und wir ja immer wissen, dass, eigentlich wir immer nicht so genau wissen, was Apple wie wann macht und veröffentlicht und hier ist, wenn das die Überschrift ist, M7 Ultra M8 sogar schon. Weiß er wieder was, was wir nicht wissen oder was ist da los?
Ja, Mark Gurman hat ja immer ganz gute Verbindungen zu Apple.
Das wird ihm so nachgesagt.
Zumindest kennt er, glaube ich, die Roadmap relativ genau. Er schreibt halt hier in seinem Artikel, seit der Einführung von Apples eigenen Mac-Prozessoren im Jahr 2020 hat jeder neue Computer eine Neural Engine. Das hat dazu beigetragen, den Mac zu einer der stärksten Plattformen für lokale KI-Ausführungen zu machen, sowohl für Verbraucher als auch zunehmend für professionelle Anwender. Der Grund für diesen Traditionsbruch, KI. Apple hatte umfangreiche Verbesserungen der Neural-Verarbeitung für die M7-Familie geplant und, entschied schließlich, dass diese Verbesserungen wichtig genug seien, um die nächste Generation fortzuziehen, statt zunächst die M6-Reihe zu vervollständigen.
Beim M7 Ultra werden diese Änderungen besonders deutlich. Mir wurde gesagt, dass der Prozessor die KI-Leistung drastisch steigert und sie näher an die Klasse dedizierter KI-Beschleuniger wie Nvidias Blackwell heranführt. Der neue Ultra ist darauf ausgelegt, bis zu 1,5 Terabyte Arbeitsspeicher zu unterstützen. Ungefähr doppelt so viel wie für den M5 Ultra geplant. Also das muss man sich vorstellen, 1,5 Terabyte ist einfach gigantisch groß.
Also vor ein paar Jahren waren 1,5 Terabyte als Festplatte schon gigantisch groß. Und jetzt reden wir von Arbeitsspeicher. Also so Standardgeräte. Also ich habe hier mein altes MacBook von vor zehn Jahren hat irgendwie 8 Gigabyte. Dann ist hier mein Arbeitsrechner daneben der hat 32 GB.
Der Mac Mini auf dem ich.
Den ganzen Spaß mache hat.
64 GB.
Und das sind 1500.
Also ab 64 GB ist jetzt auch bei Apple schon rechts unten Modell im Sinne von da muss man extra klicken damit es mehr wird und so und da ist dieser Sprung, auf diese Terabyte Zahlen natürlich sowieso crazy.
Ja das ist dieser B300 Das momentane Flaggschiff von Nvidia hat maximal 800 Gigabyte, also verdoppelt Apple halt dazu noch einmal. Und das ist nicht nur diese Menge an Speicher, die dazu kommt, sondern im Grunde genommen haben wir halt auch das Thema, das ist alles Unified Memory. Das ist, um das mal zu vereinfachen, das ist so, momentan hat man halt einen PC, hast du eine GPU, die hat ihren eigenen Speicher.
Und du hast die CPU und die hat auch ihren eigenen Speicher. Und wenn die miteinander irgendwie reden wollen, was schon mal vorkommt, dann muss das halt alles durch so ein Nadelöhr, den Speicherbus durchgehen. Und der ist halt bei klassischen Systemen und auch bei Nvidia noch relativ schmal. Bei Apple ist der allerdings riesengroß geworden. Also weil der Rechenaufwand, das ist jetzt aus Toms Hardware, weil der Rechenaufwand für jedes einzelne Token in jeder Schicht gering ist, hängt die Geschwindigkeit des gesamten Decode-Prozesses im Wesentlichen davon ab, wie schnell die Modellgewichte aus dem GPU-Speicher eingelesen werden können.
Dadurch werden Systeme mit großen Speicherpools für große Modelle und hoher Speicherbandbreite zum Übertragen dieser Modellgewichte an die GPU attraktiv. Und Apple Silicon ist die einzige Plattform, die beide Eigenschaften zu vergleichsweise günstigen Kosten bietet. Und solange niemand einen anderen Unified Memory SOC mit einem so breiten Speicherbus baut, Wie Apple ihn bei seinen Max- und Ultrachips verwendet, ist Apple Silicon faktisch die einzige Option für mehr Speicherbandbreite bei einem Chip dieses Designs.
Betrachtet man die Durchsatzergebnisse, zieht der M4 Max sowohl am GB10 als auch am Strix Halo vorbei. Das sind beides Nvidia-basierte Systeme. Und erreicht bei allen Kontextlängen einen höheren Tokens pro Sekunde Durchsatz als beide Systeme. Die LLM-Inferenzleistung des M4 Max ist mit großem Abstand die höchste von, aller von uns getesteten Unified Memory Plattformen. Obwohl wir es heute nicht testen, lässt sich mit Werkzeugen wie Exo RDMA über Thunderbolt 5 aktivieren, um Mac Studios mit geringer Latenz zu clustern.
Das ist nochmal so ein kleiner Nebensatz in der ganzen Geschichte, der aber dann auch heißt, du hast da deinen 1500 MB Mac-Rechner, da Gigabyte Mac-Rechner stehen, Und du kannst auch noch beliebig viele daneben setzen und die über ein Kabel zusammenbinden. Und dieses Kabel ist ähnlich schnell wie das, was Nvidia auf seinen Karten intern verwendet.
Das heißt, du kannst sie dann auch noch nebeneinander stacken und sagen, 1,5 Terabyte ist ein bisschen wenig, ich brauche 15 Terabyte. Und dann funktioniert das halt über ein Kabel, was halt direkt die Speicher
miteinander verbinden kann.
Genau, das machen ja heute schon die Leute mit ihren M4 Ultra, was auch immer, Mac Studios. Dass sie dann auf YouTube die so stapeln und das schon mal zeigen, dass Apple in die Richtung geht, das jetzt als Normalfall und nicht, das sind irgendwelche Renegades, schon mit in die Architektur einzubauen, ist natürlich beeindruckend, dass das alles schon 2027 soweit sein soll.
Finde ich unter, also nicht nur unter den Gesichtspunkten, dass Mark Zuckerberg 2027 seine große zentrale KI für alle zur Verfügung stellen will und wieder ihm Apple da reinschießt, weil, die Ambitionierten natürlich, also so wie die letzten Jahre schon, dann einfach ihr Apple-Hardware kaufen. Und dass wahrscheinlich Apple jetzt auch nicht wieder von dem kleinen Baufaktor, vom Mac Mini abweicht und wieder größere baut, sondern dabei bleibt, ist natürlich extrem vielversprechend.
Weil dann könntest du ja deine KI einfach im Rucksack mit ins Büro nehmen.
Ja, auf jeden Fall. Und ich meine, so Leute wie die zum Beispiel dieses 200-Euro-Abo von Claude oder so haben, kannst du dir natürlich ausrechnen. Da gehst du von, sagen wir mal, 36 Monaten aus, die du die Hardware nutzen willst, irgendwie mal 200 und dann hast du schon 7200 Euro Budget zur Verfügung.
Absolut.
Da kannst du dir dann schon ganz schön was bei Apple kaufen.
Absolut. Das ist wirklich, also für Leute wie hier im Büro und so ist das extrem vielversprechend. Das kann man sich eigentlich noch gar nicht vorstellen, dass das nächstes Jahr schon so möglich sein soll. Mal sehen, wie viel Recht Mark Gurman hat. Der Legende nach ist das dann 2027 soweit.
Ja, also die sind ja geplant. Das ist ja eine Roadmap. Und die Chips gibt es jetzt im Prinzip hauptsächlich deshalb, weil Apple halt irgendwann 2020 sein Auto eingestellt hat. Aber natürlich, die machen ja Roadmaps auf 5 bis 10 Jahre in die Zukunft. Das heißt, zu dem Zeitpunkt brauchten sie dann irgendeine Verwendung für ihre Chips, die sie dann schon bestellt hatten. Und das fließt jetzt einfach ganz gemütlich und natürlich mit in die KI rein.
Und da Apple ja weltweit, verkaufen ja jedes Jahr Millionen von iPhones, müssen dementsprechend auch viele Ressourcen und viele Kapazitäten belegt haben. Und durch diese Massen an vorbelegten Kapazitäten ist es für die halt auch nicht schwierig, nochmal ein bisschen mehr zu belegen für KI. Weil keiner wird Apple die Kapazitäten verweigern, weil die sonst auf das iPhone-Geschäft verzichten müssen. Und auf die Art und Weise dreht halt Apple auf der einen Seite jetzt einfach an der Verfügbarkeit des basalen Rohstoffs, nämlich Chips, die dann nicht mehr von Nvidia gebaut werden können, die dann nicht mehr bei OpenAI oder Google zum Einsatz kommen können.
Auf der anderen Seite hast du die chinesischen Modelle, die jetzt preislich irgendwie begrenzen, was du so überhaupt verdienen kannst. Dann hast du noch den Faktor dazu, dass KI eigentlich immer gedeckelt ist durch den Preis menschlicher Arbeit. Weil wenn menschliche Arbeit billig ist, kannst du nichts mit KI verdienen, weil dann wird es keiner einsetzen. Das muss ja billiger sein.
Und so schrumpft eigentlich immer mehr der Spielraum, in dem irgendwelche KI-Firmen in Zukunft noch Geld verdienen können, immer mehr zusammen. Und dadurch wird dann auch immer deutlicher, dass eigentlich die ganze Blase relativ fest sitzt da bei den ganzen KI-Anbietern. Und die einzigen, die tatsächlich irgendwie eine realistische Zukunft haben, sind halt die, die die Schaufeln für den Gold Rush verkaufen.
Und das sind im Wesentlichen Apple und Nvidia. Und Apple hat allerdings durch sein Supply Chain Game Nvidia schon so stark,
in so eine Box gesperrt, dass die schon mal nicht so stark wachsen können wie Apple.
Ja, was zum Ende hier bedeutet, das lese ich jetzt daraus. Also klar kann man jetzt so eine Medienkritik daraus ableiten, dass man sagt, siehst du, so lange wurde über Apple gejammert und dann ab nächstem Jahr sieht alles ganz anders aus, also doch ganz anders. Oder aber wir erinnern nochmal an Evgeny Morozov, der sagte, jetzt ist die Zeit... Um aus diesem Chancenreichtum, der da drinsteckt, eine neue Argumentation abzuleiten, anstatt die Sachen einfach so geschehen zu lassen.
Und da ist ja eigentlich Apple mit seiner Jahresplanung, also mit den Roadmaps, genau die richtige Analogie. Denn hier sind jetzt wirklich Roadmaps erforderlich. Wenn die materielle Realität sich so einstellt, dann muss das mitgedacht werden, vorgedacht werden, was das dann bedeutet. Natürlich.
Das bedeutet ja dann, dass tatsächlich es eben nicht so eine KI-Zukunft geben wird, wo irgendwie so ein paar Räuberbarone am Ende irgendwie die Beute unter sich aufteilen, sondern es wird viel eher so laufen wie bei der Eisenbahn. Ganz viele von diesen Firmen gehen pleite und hinterlassen uns halt ein Eisenbahnnetz.
Genau.
Das heißt, es wird die Tausenden von Rechenzentren, die werden ab einem bestimmten Punkt einfach drumherum stehen. Und dann wird es einfach Compute wie Sand am Meer geben. Und es wird einfach tierisch billig werden. Und wir können alle uns einfach viel, viel mehr KI leisten, ganz persönlich. Ja, und dann ist halt die Frage, was wir daraus machen.
Ich sehe halt am ehesten sowas wie, ich kann irgendwas gut. Aber bis jetzt habe ich bei einer Firma gearbeitet, weil ich kann ja kein Marketing und ich kann nicht Vertrieb oder ich kann nicht Buchhaltung. Das sind jetzt aber alles so Sachen, die man sich im Überbau einfach mit KI dazuholen kann. So wie sich Mark Zuckerberg das vorstellt, mit den individuellen Fähigkeiten. Und dann sind wir aber alle empowered im Grunde genommen.
Also man könnte den Mark Zuckerberg-Text eigentlich nochmal lesen, ohne Mark Zuckerberg.
Ja, genau. So wie Luhmann das tun würde. Du nimmst die einzelnen handelnden Personen raus und guckst einfach mal, was die Beziehungen sind, die entstehen.
Genau, weil er hat ja eigentlich von den richtigen Sachen geschrieben. Er hat nur gedacht, dass man im Hintergrund ihn dann noch bräuchte. Stattdessen, und das wird eben nichts verändern, haben wir einfach alle ein Smartphone in der Tasche. Also das ist schon seit zehn Jahren so. Diese Realität wird sich nicht verändern. Wir kaufen alle das Neueste, das es gibt, nur das kann dann halt etwas mehr.
Ja, wir werden alle KI ganz viel nutzen. Das, glaube ich, kann man aus jeder
Interpretation der Zukunft so lesen. Mark Zuckerberg hätte halt gerne, wenn wir so ein Utility-Modell haben, wir bestellen alle irgendwie bei Meta KI und er stattet uns aus sozusagen und wo wir alle ganz vereinzelt sind, ist er so der Einzige über dem ganzen schwebende Player und monopolisiert deshalb die Macht. Oder man sagt, nee, wir nehmen lieber das Bohrmaschinenmodell irgendwie.
Bosch hat mir gar nichts zu sagen, wo ich die Löcher hier hinsetze irgendwie. Die sollen nur gucken, dass der Bohrer nicht bricht. Und das ist dann das Modell, was wir machen. Und dann machen wir halt einfach ganz viel DIY Capitalism.
Das ist die Zukunft, die ich mir wünsche. Gut, sehr gut. dann haben wir das besprochen und schauen beim nächsten Mal, was unser philosophischer Überflieger Harari dazu sagt.
Ja, da freue ich mich schon drauf. Das wird bestimmt spannend.
Sehr gut, bis dahin.
Alles klar, mach's gut. Bis dann.
Ende des Gesprächs