Souveränität ist nicht Autonomie: Lidl baut Europas KI-Rechenzentrum – reicht das?

Shownotes

Die große These

KI-Souveränität, KI-Kosten und KI-Macht werden gerade auf drei Ebenen neu verhandelt. Europa baut mit dem Rostock-Projekt der Schwarz-Gruppe Inferenz-Kapazität statt Gigawatt-Trainingszentren. China senkt mit offenen Modellen wie GLM-5.3-Flash und der neuen Qwen-Architektur die Kosten um eine Größenordnung. Und Nvidia wird vom Chiplieferanten zu Käufer (Hugging Face), Vermieter (Lambda) und Bürgen (SB Energy, 105 Mrd. Dollar) derselben Wertschöpfungskette.

Warum diese Folge wichtig ist

Wer 2026 KI-Infrastruktur einkauft, Modelle auswählt oder Cloud-Verträge unterschreibt, trifft in dieser Folge auf alle drei Entscheidungsebenen gleichzeitig: Gibt es eine ernsthafte europäische Alternative zu den US-Hyperscalern (Rostock, STACKIT)? Wie viel Hardware braucht ein Frontier-nahes Modell im Eigenbetrieb wirklich (GLM-5.3-Flash, Qwen3.8-Flash-Next)? Und wie solide ist die Kette hinter „unabhängigen" GPU-Clouds und Rechenzentrums-Börsengängen, wenn ein einziger Konzern liefert, finanziert und mitverdient? Dazu die Praxis-These, dass nicht das Modell, sondern der Harness (die Werkzeuge, Skills und das Kontextmanagement um das Modell herum) den Unterschied macht.

Themen der Folge

  • Schwarz-Gruppe baut KI-Rechenzentrum in Dummerstorf bei Rostock: 5,6 Mrd. Euro bis 2033, 240 MW, Windstrom, Ausbauoption bis 1 GW
  • Souveränität ≠ Autonomie: Warum Europa Inferenz-Rechenzentren braucht und der Kompromiss „Schwarz Digits betreibt, Google liefert Technologie" vertretbar ist
  • Der Kühlwasser-Mythos: geschlossene Kühlkreisläufe, „jeder Golfplatz hat einen größeren Einfluss", Fernwärme für Rostock bisher als Absichtserklärung
  • Making-of: So entsteht das YouTube-Video – komplett KI-produziert, lokal mit Open-Source-Modellen, Fact-Checker als KI-Klon von Yusuf
  • Ox Alpha enthüllt: GLM-5.3-Flash von Zhipu (320 Mrd. Parameter, 18 Mrd. aktiv, 1 Mio. Token Kontext, MIT-Lizenz, Promo-Preis 0,075/0,25 Dollar je Mio. Token bis 09.09.)
  • Qwen3.8-Flash-Next: 125 Mrd. Parameter, 6 Mrd. aktiv, 51-Mrd.-Embedding-Layer im System-RAM – und was ein Embedding-Layer überhaupt ist
  • Christians Vorlesung: Warum klassische Attention quadratisch wächst und wie Gated DeltaNet und Qwen Sparse Attention das lösen (laut Alibaba: 8,6-facher Durchsatz, ein Neuntel der Trainingskosten)
  • Anthropic „Model 2": Analystenbericht „fertig trainiert, Nachfolger läuft" (unbestätigt), Sam Altmans AGI-Ansage bis Jahresende, Yusufs Hypothese der internen Geschäftsmodell-Übernahme
  • AGI-Geopolitik: Erstschlag-Spieltheorie, TSMC als Schwachstelle, Tiefseekabel, Cyberwar – und warum YouTube solche Blöcke mit 90 % weniger Reichweite bestraft
  • Claude Fable 5.1 (01.09.): Zero Data Retention für Enterprise-Kunden zurück, bis zu 60 % weniger False Positives bei den Safeguards, Terminal-Bench-Science 0.1 von 24,7 auf 52,6 %, Terminal-Bench 4.0 von 42,0 auf 55,8 %
  • Tencent Hy4 preview: 770 Mrd. Parameter, 49 Mrd. aktiv, 256 Experten, Apache 2.0, Multi-Token-Prediction erklärt
  • Cohere Parse 5: Dokumenten-Modell mit Preis pro Seite (1,50 Dollar je 1.000 Seiten) – und der Praxis-Stack Docling + MarkItDown
  • Nvidia × Hugging Face: 12,9 Mrd. Dollar berichtet (Stand 02.09. nicht unterschrieben), Vergleich Mellanox 6,9 Mrd., Yusufs „KI-Zentralbank"-Prognose aus Episode 87 trifft ein
  • SB Energy Börsengang: 439 Mrd. Dollar Auftragsbestand, 139 Mio. Dollar Halbjahresumsatz, 3,2 Mrd. Dollar Verlust, 9,2-GW-Gaskraftwerk in Ohio, Warrants an OpenAI, Nvidia-Garantie 105 Mrd. Dollar
  • Anthropic × Lambda 35 Mrd. Dollar: Nvidia als Lieferant, Investor, Leasingnehmer und Umsatzbeteiligter – „Neo-Clouds sind nichts anderes als SPVs"
  • Google WikiSkill: persistentes Wiki als Gedächtnis für KI-Agenten – „Nicht das Modell entscheidet, sondern der Harness"
  • Google Co-Scientist steuert jetzt reale Laborgeräte, Anthropics Model Hardware Standard (MHS) als „MCP für Hardware"
  • OpenAI beendet Modellzugang für Cursor zum 12.11. nach der SpaceX-Übernahme – Lehre: Abstraktionsschicht zwischen Unternehmen und Modellanbieter
  • ChatGPT gilt in der EU als „Very Large Online Search Engine" (159,1 Mio. Nutzer) – DSA-Pflichten ab Januar 2027
  • Chinas Chip-Kette: CXMT mit ersten HBM-Mustern, Huawei LogicFolding mit 1,4-nm-Äquivalent bis 2031
  • In eigener Sache: oikosa.ai ist live

Kapitelmarken

00:00 - Intro 00:18 - Begrüßung 00:44 - Schwarz-Gruppe baut KI-Rechenzentrum bei Rostock (+ Fact-Check) 03:00 - „Der Fact-Checker wird das korrigieren" – Making-of: So entsteht dieses Video 08:24 - Souveränität ≠ Autonomie: Inferenz reicht, Schwarz & Google, Windstrom 14:07 - Der Kühlwasser-Mythos: Ostsee, geschlossene Kreisläufe, Fernwärme (+ Fact-Check) 17:47 - Fazit Rostock & Überleitung: KI's Next Top Model 20:41 - Ox Alpha enthüllt: „Ich habe mich geirrt" – GLM-5.3-Flash 24:55 - Qwen3.8-Flash-Next & der Embedding-Layer im RAM (+ Fact-Check) 28:53 - Christians Vorlesung: Quadratische Attention, Gated DeltaNet, Qwen Sparse Attention (+ Fact-Check) 34:16 - Warum das zählt: 8,6-facher Durchsatz, ein Neuntel Trainingskosten 38:37 - Anthropic Model 2, „Mythos II/III" und Altmans AGI-Ansage 41:51 - AGI-Geopolitik: Erstschlag-Spieltheorie, TSMC, Tiefseekabel 52:53 - Algorithmus-Warnung: Geopolitik kostet uns 90 % Reichweite 54:05 - Claude Fable 5.1: Zero Data Retention, Safeguards, Benchmarks 01:00:32 - Tencent Hy4 & Multi-Token-Prediction 01:04:53 - Cohere Parse 5 & der Praxis-Stack Docling/MarkItDown 01:08:16 - Nvidia kauft Hugging Face? Die KI-Zentralbank-Prognose (+ Fact-Check) 01:16:15 - SB Energy IPO: 439 Mrd. Backlog, 139 Mio. Umsatz (+ Fact-Check) 01:23:09 - Anthropic × Lambda: Nvidia auf beiden Seiten des Tischs 01:27:33 - WikiSkill: „Nicht das Modell – der Harness" 01:31:41 - Co-Scientist & Model Hardware Standard (+ Fact-Check) 01:35:58 - OpenAI kappt Cursor: Was Unternehmen daraus lernen 01:41:15 - ChatGPT ist jetzt eine „Very Large Online Search Engine" (DSA) (+ Fact-Check) 01:44:59 - CXMT, HBM & Huawei LogicFolding: Chinas Chip-Kette 01:48:05 - In eigener Sache: oikosa.ai ist live 01:48:27 - Verabschiedung

Key Takeaways

  • Souveränität ist ein Kompromiss, keine Autarkie. Das Rostock-Projekt der Schwarz-Gruppe (Schwarz Digits, Cloud-Marke STACKIT) wird in Deutschland betrieben, nutzt aber Google-Cloud-Technologie. Yusufs Einordnung: Ein Einzelhändler baut nicht über Nacht ein AWS nach, und für Inferenz (den Betrieb fertiger Modelle) reichen 240 Megawatt völlig aus. Für Ausschreibungen ist damit erstmals eine deutsche Alternative mit KI-Skalierung nennbar.
  • Zahlen zum Maßstab: Anthropic verbraucht laut Yusuf aktuell nicht mehr als 2 Gigawatt, OpenAI liegt in ähnlicher Größenordnung (Fact-Check: eher rund 2 GW statt der genannten 1,5). Die „10-Gigawatt-Rechenzentren" der Schlagzeilen sind Zukunftsprojekte fürs Training, nicht der heutige Bedarf.
  • Der Kühlwasser-Mythos: Moderne Rechenzentren mit geschlossenen Flüssigkühlkreisläufen (Schwarz plant Außenluft-Kühlung, „Wasser kaum erforderlich") verbrauchen kaum Wasser. Christians Sorge um die Ostsee ist verständlich, aber die Abwärme soll in die Rostocker Fernwärme, nicht ins Meer. Stand heute ist das eine Absichtserklärung, keine verlegte Leitung.
  • Ox Alpha war GLM-5.3-Flash, nicht Google. Die Community-Forensik (Tokenizer-Fingerprint, Java-Stacktrace) lag richtig. Mit MIT-Lizenz und 320 Mrd. Parametern (18 Mrd. aktiv) ist das Modell ein Kandidat für den lizenzsicheren Eigenbetrieb, braucht aber laut Fact-Check in 8-Bit vier RTX Pro 6000, nicht zwei bis drei.
  • Effizienz schlägt Hardware: Qwen3.8-Flash-Next ersetzt die quadratisch wachsende Attention durch Gated DeltaNet plus Qwen Sparse Attention (der Indexer wählt Blöcke aus exakt vier Token). Laut Alibaba: 8,6-facher Durchsatz, ein Neuntel der Trainingskosten. Angesichts der Hardware-Preisexplosion aus Episode 87 ist das die wichtigste Gegenbewegung.
  • Fable 5.1 ist enterprise-tauglich: Die 30-Tage-Datenaufbewahrung, die Fable 5 für viele Firmen unbrauchbar machte, ist für berechtigte Kunden wieder durch Zero Data Retention ersetzbar. Die Safeguards blocken bis zu 60 % seltener zu Unrecht. Bei wissenschaftlichen Agenten-Aufgaben (Terminal-Bench-Science 0.1) mehr als verdoppelt: 24,7 → 52,6 %.
  • Nvidia sitzt an jedem Tisch: Hugging Face (12,9 Mrd. Dollar, berichtet), Lambda (Nvidia least das Rechenzentrum von Hut 8 und vermietet es weiter, Anthropic zahlt 35 Mrd.), SB Energy (Nvidia bürgt bis 105 Mrd. Dollar, falls OpenAI die Miete nicht zahlt). Yusufs Merksatz: Neo-Clouds sind Zweckgesellschaften (SPVs) für Nvidias eigenen Umsatz. Die offene Flanke ist das Kartellrecht.
  • Der SB-Energy-Börsengang als Warnsignal: 439 Mrd. Dollar Auftragsbestand stehen 139 Mio. Dollar Halbjahresumsatz und 3,2 Mrd. Dollar Verlust gegenüber. Wer langfristige Cloud-Verträge unterschreibt, sollte fragen, wer hier für wen bürgt. (Keine Anlageberatung, wie Christian ausdrücklich sagt.)
  • Harness statt Modell: Googles WikiSkill lässt Agenten ein persistentes Wiki über Fehler und Entscheidungen führen und verbessert damit die Ergebnisse messbar, ohne besseres Modell. Yusuf bestätigt das aus eigener Praxis (eigener Skill mit Qdrant-Vektorsuche). Die Modellwahl wird zweitrangig, das Kontextmanagement entscheidet.
  • Abhängigkeiten sind Betriebsrisiko: OpenAI kappt Cursor zum 12.11. nach der SpaceX-Übernahme. Christians Regel: Eine Abstraktionsschicht zwischen Unternehmensprozess und Modellanbieter ist Pflicht, nicht Kür.

Bester Satz der Folge

"Es kommt gar nicht mehr darauf an, welches Modell du verwendest, sondern welchen Harness und welche Skills du nutzt."

Links und Ressourcen

Hosts

Call to Action

Schaut euch die Folge auf YouTube an: Dort läuft der KI-Fact-Checker mit, der die Hosts korrigiert, wenn sie danebenliegen. Abonniert den Kanal, sonst zeigt euch der Algorithmus Folgen mit Geopolitik-Anteil nicht mehr. Und schreibt uns: Welches Modell würdet ihr im Eigenbetrieb zuerst testen, GLM-5.3-Flash oder Qwen3.8-Flash-Next?

Hashtags

KI #Rechenzentrum #Nvidia #OpenSource #Souveränität

Episode-Details

Episode: 88
Explizit: Nein
Sprache: de
Aufnahmedatum: 2026-09-02
Veröffentlichung: 2026-09-02
Dauer: 01:52:30

Transkript anzeigen

00:00:10: Ja, und wir sind live hier.

00:00:11: Hallo und herzlich willkommen bei KI und Tech To Go der Praxis Pitch!

00:00:15: Hier auf hardware-wartung.com.

00:00:18: Und ja ich freue mich immer schon auf diesen Tag.

00:00:21: heute ist Mittwoch Vormittag Wir nehmen hierauf und mit mir zusammen.

00:00:25: im Studio ist.

00:00:27: da freue ich mich sehr drüber.

00:00:28: wie gewohnt Jussuf hallo Grüß dich Jussof

00:00:32: Christian.

00:00:33: auch mein Highlight der Woche

00:00:35: Ja, prima Mensch.

00:00:36: Also wir haben uns auch wieder akribisch vorbereitet.

00:00:40: das habe ich gesehen nach der Sichtung der recherchierten Informationen.

00:00:46: Wir tragen es ja immer beide zusammen und tauschen uns aus und da kommt immer eine Menge zusammen.

00:00:51: deshalb dauern die Folgen auch immer so ein bisschen länger.

00:00:54: aber wir wissen ja auch dass es einige unter euch gibt die uns komplett anhören an anschauen Und das freut uns natürlich sehr und deshalb sind wir sehr motiviert euch auch weiterhin hier zu versorgen mit den aktuellsten Tech und KI News.

00:01:14: Ich habe mal was rausgesucht heute zum Start, was sicherlich die meisten von euch schon irgendwie mitbekommen haben.

00:01:20: Es tut sich ja auch etwas in Deutschland in der KI-Infrastruktur, in der Rechenzentrumsinfrastruktur nämlich die Schwarzgruppe bekannt natürlich durch Lidl Kaufland, die aber jetzt auch sehr stark im Bereich IT und KI unterwegs ist.

00:01:36: Die baut ein für europäische Verhältnisse doch sehr, sehr großes Rechenzentrum oder plantes und zwar in Libbenau wenn ich das richtig im Kopf habe in der Nähe von Rostock also in der nähe der Ostsee.

00:01:52: so und wir haben ja schon über Rechencentrums Projekte hier in Deutschland gesprochen darunter war mal eins der Telekom in München, was aber sich doch im Vergleich zu den Projekten zum Beispiel in den USA eher bescheiden ausgenommen hat.

00:02:07: Da haben wir auch so ein bisschen drüber geschmunzelt wobei wie gesagt auch das ist ein kleiner aber wichtiger Beitrag.

00:02:14: Aber das jetzt hat schon Dimensionen da würde ich sagen es kann schon im unteren Mittelfeld sag' ich mal mithalten mit irgendwie glaubt's bei hundert bis zweihundert vierzig Mega-Watt geplanter Leistung, Perspektive sogar bis zu ein Gigawatt in den Ehe von der Jahr zwei Tausend Vierziger Jahre und einer ebenfalls sehr bemerkenswerten Investitionssumme von ich glaube elf Milliarden.

00:02:37: Und das könnte doch ein wichtiger Baustein sein für digitale Souveränität hier in Deutschland, hier in Europa würde ich jetzt mal so auf den ersten Blick meinen oder wie ist denn dazu deine Einschätzung?

00:02:51: Das sehe ich genauso.

00:02:52: Also das sind die ersten, die sich hier selbstständig auch in diese Richtung entwickeln.

00:02:58: Ich glaube dieses Projekt... Ich habe es jetzt nicht genau recherchiert aber wenn wir nicht ganz irre gehört dass auch zu diesem EU-Projekt wo man sich bewerben kann für diesen sieben Gigawatt-Data Center also dieser sieben Data Center die hier in Europa gebaut werden soll Und wenn ich mich nicht ganz irre, ist das eines davon.

00:03:25: Aber wie gesagt der Fact Checker wird sich dann sicher korrigieren, wenn ich hier am Plätzchen erzähle.

00:03:31: Das ist

00:03:32: ein gutes Stichwort übrigens, Jusuf dass du das sagst.

00:03:35: also vielleicht sagst du noch mal was zu unserem tollen Fact Checkers?

00:03:39: Genau wer die letzte Folie auf YouTube gesehen hat.

00:03:43: wir versuchen es jetzt langsam auf Youtube.

00:03:44: dementsprechend sehr viel ist da jetzt noch nicht los.

00:03:47: das sind so zwei drei hundert Leute die sich das anschauen Aber jede Folge, aber wir haben jetzt ein Fact Checker drinnen.

00:03:56: Das heißt wenn wir hier etwas erzählen dann wird während wir das Video aufbereiten übrigens das gesamte Video mit komplett von der KI aufbereitet.

00:04:09: Es ist auch eines unserer Projekte.

00:04:11: Das heisst wir laden nur das Raw rein und alles was du dann auf YouTube siehst ist komplett KI gesteuert mit den ganzen cut ins, den ganzen videos und auch der fact checker.

00:04:23: Das heißt er analysiert was wir erzählen dann prüft er die Aussagen die wir treffen Und schaut ob wir am Blödsinn erzählen.

00:04:30: und wenn wir einen blödsinnen zählen Dann kommt mein KI.

00:04:36: ich das heisst dass bin doch wirklich.

00:04:38: Ich also mit meinem gesicht mit meiner stimme werde dann eingeblendet und der sagt mir dann use for the template hin oder Da hast du wieder irgendwie, das ist falsch oder was auch immer.

00:04:48: Oder korrigiert mich auf jeden Fall.

00:04:51: Gibt es leider aktuell nur auf YouTube aber weißt du doch am meisten Sinn macht?

00:04:56: Das sieht man dann auch.

00:04:57: Also da sieht man auch mein Gesicht.

00:05:00: Da stehe ich dann im Kontrollraum in dem virtuellen... Genau!

00:05:08: Auf dem Sturm.

00:05:08: ja.

00:05:11: also falls wir jetzt hier an Blödsinn erzählen keine Sorge Diejenigen, die auf YouTube sehen werden dann sofort korrigieren.

00:05:21: Das übrigens auch der Grund der Fact Checker warum ihr mich im YouTube Video überhaupt nicht seht weil ich eigentlich nur Blödsinn erzähle hier.

00:05:28: Ich

00:05:30: war noch scherz.

00:05:32: Du bist natürlich immer viel besser vorbereitet als ich.

00:05:38: Halt dich für ein Gerücht aber danke!

00:05:41: Ja, also ich finde es auf jeden Fall aus technischer Sicht eine.

00:05:44: Ich war auch begeistert als du mir den fact checker vorgestellt hast weil ich konnte den nicht von deinem echten ich unterscheiden.

00:05:50: ja Also da muss man wirklich ausdrücklich noch mal an dieser stelle darauf hinweisen Und und schaut euch mal an also ich glaube ihr werdet auch Zumindest mal leicht beeindruckt sein schätzlich.

00:06:01: Ja, ja also ich war selber beindruckt aber vor allem ich habe den auch selbst gebaut als Skill.

00:06:14: Also generell dieses YouTube Experiment, das wir da jetzt gestartet haben finde ich sehr spannend weil auch die ganzen Animationen und Videos und Einblendungen... Das ist alles komplett aus einem Skill herausgebaut.

00:06:30: Wir haben keinen Cutter, der sich genau überlegt wie man das visualisiert sondern das macht alles.

00:06:39: Also könnt ihr mal anschauen, wie weit man kommen kann mit einem sauberen Skill.

00:06:44: Übrigens läuft das alles lokal mit Open Source.

00:06:49: Da ist kein amerikanisches Modell daran beteiligt.

00:06:54: Alles was ihr da seht, ist komplett Open Source, komplett auf unserer GPU Maschine erstellt, gerendert die Hintergründe und alles von uns selbst gebaut.

00:07:04: Genau.

00:07:04: also wir reden nicht nur darüber, wir nutzen das Zeug auch!

00:07:07: Genau, das ist der große Unterschied und wenn man es nicht ausprobiert dann weiß man nicht wie weit man kommt.

00:07:12: Das ist halt immer so der Unterschied.

00:07:14: Und wo man scheitern kann?

00:07:16: Ja genau!

00:07:17: Und das sieht ja schon sehr, sehr oft.

00:07:21: Es hat jetzt über ein Jahr gedauert dass ich mich überhaupt wieder in einem Videomotel gewagt habe weil die davor einfach so schlecht waren und erst mit Warn zwei Punkt Zwei war das zum ersten Mal brauchbar Und jetzt mit Minimax H-III ist es ganz anders.

00:07:39: Wobei hier gibt's wieder andere Lizenzprobleme anyway.

00:07:42: Genau, aber wichtiger Hinweis vielleicht noch an der Stelle auch wenn sagen wir mal die Visuals und die sogenannte B-Roll wie man sich ja nennt also das begleitende Material KI generiert ist.

00:07:53: Wir sind definitiv mit aussammels Fakten checkers echt!

00:07:57: Genau... Noch!

00:08:03: Wenn das irgendwann mal hier ein Daily-Konzept wird, dann könnte es sein dass das auch Kage generiert ist.

00:08:07: Ja genau, also vielleicht müssen wir zukünftig eher einen Hinweis einblenden wenn wir echt sind.

00:08:17: Achtung echte Menschen!

00:08:19: Okay zurück zum Thema des Neue Rechenzentrums

00:08:24: in

00:08:25: Lübbenau.

00:08:28: Erstens einmal finde ich es gut, dass wir diese Kapazitäten aufbauen.

00:08:32: Es ist sehr wichtig, dass die Datacenterkapazitäten in Europa aufbaut.

00:08:38: Weil es wird immer wichtiger für die digitale ... also nicht nur für die digitale Souveränität sondern für die Souveranität Europas insgesamt weil in der Zukunft wird die digitales Souveräntät der Grundpfeiler für die allgemeine Souverainität sein weil sehr viele Geschäftsmodelle und sehr viel der Wirtschaftsleistung einfach durch eben KI- und digitale Services Leistungen erbracht werden.

00:09:10: Das heißt, wir müssen tatsächlich darauf ach geben dass wir hier nicht zu kurz kommen und wir sind... Wir wären vielleicht nicht diese großen Gigawatt-Data Center bauen aber das müssen wir gar nicht!

00:09:25: Wir haben auch nicht vor große Modelle zu trainieren.

00:09:28: Wir brauchen größtenteils Infrains-Datacenter und da reichen dann auch kleinere Rechenzentren, wenn man das immer so ein bisschen im Hinterkopf behält einen Tropic verbraucht im Moment auch nicht mehr als zwei Gigawatt.

00:09:51: Das heißt selbst das größte und schnellstwachsende KI-Unternehmen der Welt, dass eigentlich all die Kapazitäten der Welt frisst, verbraucht aktuell nicht mehr als zwei Gigawatt.

00:10:03: Und OpenAI ist auch bei ... glaube ich.

00:10:09: Das heißt wenn wir hier von ... reden dann sind wir schon ganz weit oben.

00:10:17: Auch wenn in den Medien immer von zehn Gigawatts Rechenzentren und sonst irgendwelche Sachen geredet wird Das sind alles Investitionen in die Zukunft, wo dann größtenteils eben Modelle gerechnet werden.

00:10:35: Und ich gehe auch davon aus dass die Effizienz der Infarenz auch immer besser wird und es gibt immer wieder neuere Modelle.

00:10:45: wir sehen das gerade bei den chinesischen Open Source Modellen haben die ganz neue Methoden wie man effizienter Influence berechnet.

00:10:54: Die machen das aus der Note heraus, weil sie gar nicht die Rechenkapazitäten haben.

00:10:57: aber auch das wird sich ändern.

00:11:01: was man vielleicht auch ein bisschen berücksichtigen muss Das ist die Schwarzgruppe.

00:11:09: dass die hier nach vorne gehen Ist auf der einen Seite verständlich Weil Sie auch eine sehr große Nähe zu Google haben.

00:11:21: Das heißt, sie sind zwar ein Detacenter-Anbieter und haben souveräne Rechenzentrumskapazitäten.

00:11:31: Haben aber trotzdem eine starke Abhängigkeit in der Technologie der Cloud Infrastruktur, die Sie über Ihre Schwarzdetacenter anbieten, also Schwarzdigits, sind Sie trotzdem recht stark abhängig von Google?

00:11:51: Aber da muss man jetzt auch wieder ein bisschen so die Lanze brechen und sagen, naja es gibt Autonomie und es gibt Souveränität.

00:12:00: Weil du kannst nicht davon ausgehen dass ein Lidl, Cloud-Technologien entwickelt, die eines Google oder AWS oder Ashes nachkommen.

00:12:14: Die haben das über den letzten Jahrzehnten einfach massiv ausgebaut mit sehr viel Kapital aufgebaut, das kannst du nicht einfach so über Nacht bei einer Lidlgruppe die eigentlich ein Einzelhändler ist.

00:12:29: Diese Kapazitäten wirst du nie erreichen.

00:12:31: Deswegen ist der Kompromiss meiner Meinung nach okay.

00:12:34: viele sind sich da also viele haben da eher eine andere Meinung.

00:12:39: Die finden es nicht so super dass da so eine große Abhängigkeit besteht wobei Wie groß diese Abhängigkeit wirklich ist, sei da hingestellt.

00:12:48: Aber es gibt definitiv eine Abhängigkeit gerade im Betrieb der Cloud-Infrastruktur von der Schwarzgruppe.

00:12:55: Da gibt's wirklich eine große Abhängigung.

00:13:00: Was ich bei dem Projekt sehr cool finde das ist so klassisch der europäische Perfect Way.

00:13:07: Sie haben sich nicht entschieden da das irgendwo hinzustellen wo eh schon andere Sachen sind sondern sie sind tatsächlich dorthin gegangen Es am meisten Sinn macht, ein Dieter Center hinzustellen.

00:13:18: Da in Mecklenburg vor Bommern da hast du halt tatsächlich Windstrom und zwar Überkapazitäten.

00:13:27: Das gibt es nicht so viel In Deutschland dass da irgendwo Windparks mit Überkapacitäten sind.

00:13:32: dort ist das so d.h.

00:13:34: Dort können sie tatsächlich auch günstigen Strom einkaufen.

00:13:38: Sie können das über Kapazitätenproblem lösen.

00:13:41: damit lösen sie auch ein Strom-Netzproblem sage ich jetzt einmal.

00:13:48: und gleichzeitig soll dieses Data Center dann auch die Abwärme, die da daraus entsteht soll glaube ich für Rostock ins Fernwärmennetz eingespeist werden.

00:13:58: Genau genau also das die ersten Leitungen sind schon verlegt wenn ich das richtig gelesen habe.

00:14:07: Also ich glaube auch dass das jetzt im In dem Rahmen, in dem es eben möglich ist schon fast der beste Weg.

00:14:15: Es wie's gebaut wird und wo es gebaut wird.

00:14:18: Was mir ein bisschen Sorgen bereitet ist das natürlich trotzdem einen Teil der Abwärme in der Ostsee landen wird die eh schon ziemlich warm ist.

00:14:26: also da hatten wir dieses Jahr auch zum Beispiel das Problem mit der massenhaften Vermehrung bestimmter Keime-Bakterien.

00:14:34: Das wird dadurch sicherlich nicht besser.

00:14:35: Die Ostsee ist ja eher ein sehr gestresstes Binnenmeer.

00:14:38: Und ja, also das macht mir so ein bisschen Bauchschmerzen.

00:14:43: Aber dass mal außen vorgelassen alles andere klingt vergleichsweise gut für mich.

00:14:51: Ja wobei ich weiß nicht was tatsächlich dann hier... weil natürlich gibt es hier Kühlwasser aber das Kühlwasser ist im Verhältnis zu der Dimension die da an Leistung gebracht wird, eigentlich zu vernachlässigen.

00:15:13: Also jeder Golfplatz hat einen größeren Einfluss.

00:15:22: Dass hier das Wasser sozusagen dann in der Ostsee gekühlt wird und den Kühlkreislauf wieder vielleicht die Ostsee erwärmt davon ist nicht auszugehen sondern dass wir eher in den Kühltürmen passieren und nicht dann in den Meeren direkt.

00:15:39: Also ich glaube, hier wird vieles wieder vermischt und eine uralte Studie aus der Vergangenheit hergenommen die dieses ganze Wassertema ins falsche Licht rückt, sei ich jetzt einmal weiter verbreitet weil sich keiner wirklich auch Gedanken gemacht hat wie das tatsächlich funktioniert.

00:16:03: Und beziehungsweise die Informationen, die aktuell in vielen Redaktionen sind, sind halt die Kühlwassersysteme oder Kühlsystemen der älteren Generation.

00:16:16: Aber dieses Data Center hier soll ja schon die letzte Generation der Nvidia Chips behalten.

00:16:27: also wenn ich mich nicht ganz irre ist es hier schon mehr Rubin Und das wäre ein Rubinsystem, hat einen komplett geschlossenen Kühlkreislauf.

00:16:35: Also einem flüssigen Kühl-Kreislauf.

00:16:37: Das heißt da trinkt gar nichts mehr nach außen.

00:16:40: und ja also deswegen bin ich mir über diese Nachrichten nicht ganz so sicher was da wirklich dahinter steckt.

00:16:50: natürlich brauchst du auch für die elektrische Infrastruktur dort auch wieder Kühlsysteme die dann nicht in diesen Datacenter-Kühlsystemen drinnen sind, die alle geschlossen sind.

00:17:06: Aber das entspricht nicht mehr als einem klassischen Kraftwerk, dass du irgendwie hast und nachdem hier eben Windenergie genutzt wird, hast du hier eigentlich wenige elektrische Systeme, die wieder flüssigkeitsgekühlt werden müssten.

00:17:23: also ich diese Diese Kühl-Wasser-Thematik, da bin ich immer sehr vorsichtig.

00:17:31: Da gibt es einfach viel falsche Informationen.

00:17:37: Das

00:17:38: ist vielleicht auch noch mal ein Thema, das wir ein bisschen detaillierter aufbereiten könnten?

00:17:43: weil ich, wie du sagst.

00:17:45: Da gibt es auch viel Halbwissen dazu und ich glaube wenn man das mal so ein bisschen besser einordnen kann dann tut man sich auch leichter solche Projekte vielleicht noch besser zu klassifizieren.

00:17:59: aber unabhängig davon also glaube ich können wir als Fazit sagen oder als FazIT ziehen dass das eine positive Entwicklung ist für für Europa und dass wir natürlich auch davon ausgehen, dass das nicht das einzige Projekt in dieser Art bleibt sondern dass da dann noch mehr hinterher kommen wird.

00:18:28: Vielleicht auch mal abseits weiterhin dieser klassischen Rechenzentrums, Ballungsräume wie Frankfurt und Berlin.

00:18:43: Und ich glaube dass da auch eben andere Regionen dann davon profitieren können zum Beispiel in dem ja die produzierte Strommenge dann auch sinnvoller Abnehmer findet so lange die Leitungen von Nord nach Süd noch nicht stehen.

00:18:59: Und vielleicht lässt sich das Ganze dann auch kombinieren über die Zeit mit größeren Batteriespeichern, die dann auch so ein bisschen als Puffer dienen können.

00:19:09: Wenn eben mal weniger Wind weht oder wenn die Sonne mal nicht so scheint.

00:19:14: also ich glaube dass die Energieinfrastruktur insgesamt in Deutschland Europa davon dann profitieren kann und vielleicht ist es auch ein Vorbild für andere Länder die jetzt noch auf ja auch fossile Energieträger setzen, damit dann oder dass sie sehen das funktioniert und dann damit gleich zu ziehen.

00:19:39: Das gesagt haben wir gleich zur Kategorie KI's Next Top Model!

00:19:47: Und wir kommen deshalb so früh zu dieser Kategorie weil diese Kategori heute sehr voll ist.

00:19:54: Ich habe mal nachgezählt.

00:19:56: Es sind sieben an der Zahl, aber wir werden hier Schwerpunkte setzen, denn sonst wird es einfach zu viel und ich schlag vor, wir haben ja noch einen Nachtrag zumachen von letzter Woche.

00:20:11: Wir hatten da so ein Phantom-Modell wo wir nicht genau wussten was das ist Und da hat sich jetzt der Schleier gelüftet dieses OX Alpha.

00:20:26: Was steckt denn da dahinter und was kann das?

00:20:32: Also ich habe mich geirrt, mal vorweg.

00:20:37: Ich habe vermutet dass es Google ist aber es war tatsächlich nicht Google.

00:20:42: Ich dachte dass diese ganzen Forensic von der Community mit diesem Tokenizer Fingerprint oder diesen Java Stack Trace wo sie dann gesagt haben jeder schaut aus wie GLM Passierend auf den Indizien haben sie halt dann doch recht gehabt, also dass der Tokenizer schon eindeutig dann auf das GLM-Modell hingedeutet hat.

00:21:05: Aber was ist das OX Alfa Modell?

00:21:08: Was als was ist es rausgekommen?

00:21:09: Das ist jetzt das neue GLM VIII Flash und das ist deswegen grandios weil Also es ist ein B-Modell und hat wieder einen Mix of Experts, wo achtzehn Milliarden Parameter aktiv sind.

00:21:31: Hat eine Million Tokenwindow und das ist ein Multimotor, also Textvideo und Bild Und die Ways sind am selben Tag und zwar mit einer MIT Lizenz jetzt online gegangen.

00:21:44: Das heißt, jeder kann es für fast alle Zwecke verwenden.

00:21:49: Und das macht es insofern attraktiv, weil erstens also über die Performance haben wir ja letzte Woche schon geredet dass das fast alles quasi blown out of the water sozusagen.

00:22:04: Fast Frontier Level natürlich vieles war natürlich davon übertrieben aber letztendlich hat es wirklich eine Qualität und GLM wissen.

00:22:16: GLM-VII ist ja schon heute bei sehr vielen Startups, sehr vielen Unternehmen im Einsatz.

00:22:22: Wobei das halt ein recht großes Modell ist.

00:22:24: und hier mit dem GLM VIII Flash hast du tatsächlich eine Möglichkeit es auf einem Haltwix leistbaren GPU Server zu betreiben und quasi Frontierfähigkeiten zu haben.

00:22:41: Und selbst wenn Du das nicht willst sind die Preise um es zu nutzen, so niedrig.

00:22:46: Also ich glaube, Null Komma Null seventy-fünf Input und Null Kommer Fünfundzwanzig Dollar pro Millionen Token Output Und das ist super, super, Super günstig!

00:23:01: Das ist jetzt quasi noch eine Promo bis zum neunten Neunten wenn ich das jetzt verstanden habe.

00:23:05: nachher soll sich's verdoppeln aber das ist immer noch fünfzehn Cent für Input.

00:23:10: ein fünftig Cent für Output für diese Qualität ist halt steht in keinem Verhältnis.

00:23:14: Das ist um ein zigfaches günstiger als alles was derzeit da ist.

00:23:20: und also ich könnte mir gut vorstellen dass das die ganze quen-III Serie ein bisschen disrupted, weil bis jetzt viele inklusive uns auch wir haben umgestellt auf Quen-VIII auf das CYB Modell.

00:23:40: Da ist aber das Problem, dass es halt ein Dense-Modell ist.

00:23:43: Das heißt, es ist kein Mix of Experts und braucht halt dementsprechend auch langsam.

00:23:49: Und wenn du jetzt hier mit eben so einem großes Modell mit einem Mix Of Experts S-Lokal betreiben kannst, kannst du halt wirklich fast... Könntest du sogar dein komplettes Software Development auf diese Ebene umstellen?

00:24:04: Und das ganze Software Development würde dich nichts mehr kosten.

00:24:07: also du könntest auf deine ganzen Codex und Cloudcode-Sachen verzichten oder es nur noch mehr als Orchestrator nutzen, die Arbeit quasi von Gelem machen lassen.

00:24:21: Ich finde ein sehr gelungener Start.

00:24:28: eine leichte Erschütterung sei ich jetzt mal am Markt das auch nicht lange Folgen hat warten lassen.

00:24:37: das was wir dann an den anderen modellen sehen also da ist ja dann gleich anschließend quen drei acht flash next rausgekommen und Ja, dass ist ja auch schon quasi auf der quen vier architektur als auf der neun.

00:24:54: Das ist auch ein hundert von zwanzig b-modell Auch wieder mix of expert mit sechs milliarden aktiv.

00:25:01: Und das Also ich hab's das habe ich noch nicht getestet.

00:25:09: Also das gute bei dem Modell ist, dass du quasi das ganze Embedding-Thema auf den Ramm auslagern kannst.

00:25:23: Du hast nicht nur ein Nix of Experts Model sondern du hast jetzt auch... Das ist auch ein Einen Fünfzig Milliarden Parameter Embadding Layer drinnen und das kann aber auf dem System Ramm laufen was es natürlich super effektiv macht, ja?

00:25:39: Also und viel viel schneller.

00:25:42: Und du kannst es auf einer Hardware betreiben die jetzt nicht überdimensioniert sein muss weil also bei den threehundertzwanzig B-Modell wie bei GLM VIII Flash da brauchst Du dann schon mindestens zwei oder drei GPUs.

00:26:00: Ja also so eine RTX six thousand pro oder so Da brauchtest Du zwei oder Drei Auf einer, also das Gwenn drei acht Flasch könntest du wahrscheinlich auf einer acht Bit Quantisierung wahrscheinlich schon auf eine einzelne GPU laufen lassen.

00:26:21: Erkläre nochmal ganz kurz für die, die es nicht wissen, Embedding Layer in zwei Sätzen was ist das?

00:26:28: Genau, also embedding layer ist für alle die quasi mit Vector Datenbanken arbeiten ja die Daten irgendwo einspeisen, um dann wieder darauf zugreifen zu können.

00:26:45: Das heißt das Modell muss das Embedding erst schreiben also es muss quasi diese Totens erzeugen, die sie dann ins Indyvektor-Datenbank einlegen.

00:26:59: Es muss zurückrechenbar sein und damit du halt sauber mit einer... sauber auf diese Daten wieder zugreifen kannst, musst du einen Embedding Layer drinnen haben der diese Übersetzung macht für dich.

00:27:19: Also quasi das ist der Text und dieser Text soll jetzt hier reinlaufen.

00:27:24: dann muss man das embedden d.h.

00:27:27: Dieser Text wird runtergerechnet in Tokens und dann in Vektoren Und diese Vektoren werden dann eingetragen in die Vektor-Datenbank oder in welches System auch immer in den Embedding-Lehr, den du dann verwenden möchtest.

00:27:43: Dann kannst du jederzeit darauf zugreifen und die meisten Leute verwenden halt irgendein klassisches Open Source Embeddingsmodel oder halt das von OpenAI wenn du OpenAI verwendest ja und hier hast Du halt ein großes Embedtingmodel dass du Nicht mehr wo du keinen GPU-Steicher belegst, sondern das kannst Du einfach auf Systemrahmen legen.

00:28:11: Okay also eine wichtige Info und ich glaube wenn man sich ganz vereinfacht bildhaft einprägen will man kann es wie in der Art Schnittstelle zwischen Modell und Vektor Datenbank sehen oder?

00:28:27: Genau, genau.

00:28:29: Also das halt auf mehreren Ebenen genutzt wird dann letztendlich also wo er sich das halt alles dann reinschreibt und wo er immer wieder darauf zugreifen kann ohne dass er das jetzt immer neu laden muss.

00:28:44: Okay

00:28:46: was glaube ich bei quentree acht auch noch erwähnenswert ist Nicht mehr die quadratische Self-Attention nutzt.

00:28:55: Die klassischen Transformer Modelle nutzen seit vielen Jahren, sondern das ein hybrides System aus sogenannten Gated Delta Networks und Quents bars Attention zum Einsatz kommt.

00:29:12: So, jetzt wollen wir mal so ein bisschen hier vorlesungstechnisch erklären was es mit diesen ganzen Begriffen auf sich hat.

00:29:25: also zunächst einmal diese quadratische Self-Attention.

00:29:28: Ich habe es auch noch mal nachgeschlagen für alle Fälle, damit ich hier auch keinen Unsinn erzähle.

00:29:35: Spätestens der Fact-Checker wird mich ja dann jetzt sowieso korrigieren.

00:29:38: aber ich probiere das einfach einmal.

00:29:40: und zwar geht es darum dass jedes Wort eine Beziehung zu einem anderen Wort haben kann bzw.

00:29:50: jedes Token kann ein Beziehungen zum anderen Token haben.

00:29:53: Und das erlaubt es dann der KI den Kontext zu verstehen und zum Beispiel in Modellen wie z.B.

00:30:02: GPT-FOR oder BERT auch zu verstehen, was ein Wort innerhalb eines längeren Textes für eine Bedeutung hat und zu welchen anderen Wörtern es sich verhält.

00:30:11: Das war ja auch damals bei Google beim Verständnis von Dokumenten und Suchanfragen ein Meilenstein die Umstellung auf diese Modelle.

00:30:20: So jetzt haben wir halt das Problem dass ein Token eine Frage und auch eine Antwort sein kann.

00:30:26: Und die Beziehung zwischen den, also zwischen N-Token, die kann man dann eben durch die Formel n mal in berechnen.

00:30:34: Das heißt umso mehr Token ich habe, desto mehr Möglichkeiten gibt es und zwar im quadratischen, das wächst im Quadratischen und das ist dann ein Problem weil wir bei wachsenden Kontextfenstern natürlich einen ja exponentiell wachsen denn Bedarf an Speicher haben.

00:30:53: und da stoßen jetzt die sogenannten Gated Delta Networks rein, das sind neue KI Architekturen mit der man dann extrem lange Texte und Datenmengen sehr effizient verarbeiten kann.

00:31:07: Man spricht auch von Long Context Modellen Und das Ganze ist dann eben auch eine gute Möglichkeit, um zum Beispiel auf lokalen Geräten HKI ein Stichwort größere Kontextfenster zu ermöglichen.

00:31:28: So und dabei werden zwei Mechanismen miteinander kombiniert, nämlich einmal das sogenannte Gating oder Gattersteuerung.

00:31:36: Das hattest du übrigens glaube ich auch mal in so einer Grundlagenpräsentation hier im Podcast vorgestellt.

00:31:43: Da wird nämlich dann vom Modell dynamisch entschieden wann eine Information alt und unwichtig ist.

00:31:50: die kann gelöscht werden Und außerdem über ein Delta-Verfahren kann das System dann gezielt einzelne Fakten oder Schlüsselwerte im Speicher aktualisieren und das ohne das restliche Wissen zu zerstören.

00:32:06: Und dabei wird eben noch getrennt zwischen dem Löschen und dem Schreiben.

00:32:10: Und damit kann auch verhindert werden, dass sich Speicherinhalte gegenseitig stören.

00:32:15: Soweit so gut!

00:32:15: Dann kommt eben noch diese Cransbars Attention oder QSA zum Einsatz.

00:32:20: die wurde von wie der Namen vermuten lässt von Alibaba Quenn erstellt oder entwickelt und das ist für extrem lange Kontexte für KI-Agenten entwickelt worden.

00:32:33: und erstmals wird das im jetzt besprochenem Modell Quenn III.

00:32:39: VIII.

00:32:40: Flash Next integriert, dabei kommt ein Blockverfahren zur Anwendung bzw eine Mikroblock-Ebene Microblock Selection heißt das Da kommt ein Indexer zur Anwendung.

00:32:57: Das ist ein extrem leichtgewichtiges neuronales Netz, das den bisherigen Text scannt und da werden dann gezielt Blöcke aus exakt vier Token ausgewählt die für die aktuelle Aufgabe am wichtigsten sind und die Aufmerksamkeit wird dann eben auf die relevanten Blöcken fokussiert.

00:33:14: So!

00:33:15: Und lange Rede kurzer Sinn?

00:33:17: Das Ganze ist dann viel effizienter in der Verarbeitung.

00:33:23: Man braucht weniger Speicher und kann dementsprechend eben auch mehr Kontext, länger Kontextfenster verarbeiten.

00:33:31: Und ja das ist wieder ein Beispiel dafür wie ich finde, wie man mit den bestehenden Ressourcen dann noch deutlich mehr herausholen kann.

00:33:40: Das heißt die Modelle setzen nicht nur auf immer mehr Hardwarepower Da gibt es ja auch Engpässe, wie wir ja auch schon ein paar Mal besprochen haben.

00:33:50: Sondern man muss eben auch so ein bisschen pfiffig werden die bestehenden Ressourcen dann auch sinnvoll einzusetzen.

00:33:57: Also soweit für mich klingt das einleuchtend.

00:34:03: und jetzt die Frage hast du da was zu ergänzen?

00:34:06: Ich bin buff!

00:34:07: Wie gut du das jetzt erklärt hast.

00:34:09: Das war richtig, richtig gut.

00:34:12: also richtig gut gemacht Das war wirklich, wirklich gut.

00:34:21: Also letztendlich wie gesagt das neue Modell ist quasi eine Kombination aus Altem und Neuem wo sie halt eben Dinge zusammenfassen und auch diesen Spars also die Konzentration auf einen Block optimieren und dadurch halt genaue Ergebnisse bekommen, obwohl sie... also sie bekommen genaure Ergebnisse.

00:34:56: Obwohl die Kontextlänge hat nicht mehr so eine große Bedeutung weil du das einfach zerstückeln kannst in diesem Mikro-Bereich.

00:35:08: Aber hast du sehr gut erklärt?

00:35:09: Also ich bin ganz buff.

00:35:13: Das freut mich!

00:35:15: Das freut mich.

00:35:16: Wir werden das jetzt in Zukunft auch öfter machen, dass wir bestimmte Begriffe die eben da auftauchen und dass wir die noch mal ein bisschen näher beleuchten damit man sich dann auch besser vorstellen kann was ich überhaupt dahinter verbirgt.

00:35:28: weil gerade mit dieser schnellen Weiterentwicklung der Modelle kommen immer neue Architekturen, neue Systeme und auch neue Schlagworte um die Ecke, die man noch nie gehört hat.

00:35:41: und dann ist es glaube ich ganz gut wenn man zumindest mal sich so ein grobes Bild machen kann was eigentlich dahinter steckt.

00:35:49: Und genau bei dem nächsten Modell oder bei der nächsten Modelle Gruppe über die wir sprechen da hat fast jeder schon sich mal ein Bild gemacht und zwar geht es um Entropic Model II.

00:36:10: Ich wollte

00:36:10: noch ganz kurz was zu dem, weil du diesen Mechanismus jetzt so gut erklärt hast.

00:36:16: und jetzt für die Leute, warum ist das eigentlich wirklich relevant?

00:36:25: Und der Grund, warum das relevant ist, weil sich die Trainingskosten dadurch massiv reduzieren.

00:36:33: Und auch die Infarenzkosten reduzieren sich dadurch massiv.

00:36:39: Du hast jetzt nicht mehr diese großen KV-Caches, die du da benötigst und diese Antworten zu bekommen.

00:36:50: Wenn ich das jetzt richtig sehe, ist es eine Achtkommersächsfache Verarbeitungsdurchsatz gegenüber dem älteren Modell.

00:37:01: nur einem neunthalb der Trainingskosten.

00:37:03: Das heißt, du kannst diese Modelle jetzt viel schneller auch trainieren und das ist wenn dieser Methode jetzt quasi Einhalt findet, dann hast du plötzlich eine Ninzig Prozent Reduktion der Trainungskosten.

00:37:20: Und das ist ja vielleicht auch noch für die, die unsere Folge letzte Woche nicht gehört haben.

00:37:25: Gerade angesichts der massiv gestiegenen Hardwarepreise ganz wichtig dass man eben den Ressourcenbedarf für Training und Inferenz begrenzt weil sonst wird es einfach irgendwann zu teuer.

00:37:42: genau also guter Hinweis wichtiger Hinweis Der Weg kann eben, wie auch schon angesprochen nicht nur über Skalierung der Hardware und der Ressourcen gehen sondern man muss eben auch versuchen die Effizienz möglichst nach oben zu treiben.

00:38:01: Und aus dem was da ist so viel rauszuholen wie es nur geht.

00:38:08: genau Gut, damit kommen wir wie gesagt zu Entropic.

00:38:14: Zu Model II müssen wir auch noch ein bisschen anknüpfen an das letzte Mal und da gibt es ja noch ein paar neue Entwicklungen.

00:38:24: kannst du uns damals auf den aktuellen Stand bringen?

00:38:27: Es gibt Gerüchte also das ist jetzt noch nichts bestätigt.

00:38:30: Es gibt gerüchtet dass dieses Model II von Entropic von dem wir letzte Woche geredet haben dass quasi ein internes Modell das Continual Self-Improvement vorantreibt.

00:38:42: Jetzt fertig trainiert sein soll und jetzt in die nächste, der Nachfolge bereits unter Mythos III sozusagen vorher das jetzige Modell also dieses Model II nennen.

00:38:56: Sie wird jetzt in diesen Gerüchten als Mythos II benannt Und jetzt ist das angeblich fertig trainiert und jetzt geht schon Mythos III los.

00:39:11: Man hat ja gesagt, dass dieses Modell nicht gepublished wird und dass es eben ausschließlich für die interne Weiterentwicklung vorgesehen ist.

00:39:24: Wenn man sich diese Intervalle anschaut von dem wo es angekündigt wurde, dass Mythos II intern läuft zudem bis jetzt die nächste iteration MythosIII läuft dann sieht man auch hier, dass es eine Beschleunigung gibt.

00:39:37: Das heißt die gesamte KI-Entwicklung erlebt gerade eine Beschneunigung der Intelligenzverbesserung und das werden wir auch sehen.

00:39:51: also ich habe letztens diese Woche ein Interview mit Sam Ordmann gesehen und da hat er einfach gesagt Ende des Jahres haben wir EGAE Also wir sind eigentlich schon so weit und aber mit Ende des Jahres kann ich sagen, dass sich das wir EGI einsetzen können.

00:40:12: Und das geht auch wieder auf all die Vermutungen, die wir jetzt auch schon gehabt haben, dass es immer ruhiger wurde um das ganze Thema, dass seit Febur Fünf ist eigentlich nichts mehr herausgekommen, dass in irgendeiner Art und Weise revolutionär wäre.

00:40:31: Heute werden wir feststellen, heute ist ja Februar fünf Eins rausgekommen.

00:40:34: Da reden wir gleich drüber.

00:40:36: aber das sagt uns dass hier gerade ein bisschen die Vorsicht nicht nur die Vorsichtig da ist sondern auch die Überlegung dass man diese Dinge nicht publik macht und intern einfach weiter verwendet und dann vielleicht kann man mit der Nutzung dieser fortgeschrittenen Modelle ganze Geschäftsmodelle übernehmen, ohne dass man das jetzt den anderen Leuten verkaufen muss.

00:41:06: Also das wäre meine Hypothese, weil wenn ich ein KI-Modell habe, das so intelligent ist und so weit fortgeschritten und sich auch noch continual weiterentwickelt dann würde ich den Däufel tun, das rauszugeben.

00:41:24: Sondern ich würde das ansetzen auf Geschäftsmodelle die ich jetzt sofort disrupten kann sozusagen selbst umsetzen kann und ich könnte den Geschäftsbereich in kürzester Zeit komplett übernehmen, wenn meine Modelle das wirklich können.

00:41:41: Ja genau also wenn wir das mal weiter denken stellen immer vor du hast ein Modell was irgendwie AGI Niveau erreicht dann wirst du ja, sagen wir mal vorsichtig fahrlässig.

00:41:55: wenn du das der ganzen welt zur verfügung stellen würdest und praktisch jeden ermöglichen würdest jetzt damit irgendwelche dinge zu tun.

00:42:01: Wenn du auf der anderen seite exklusiv dass für dich selbst nutzen könntest und Das gilt nicht nur auf Unternehmensebene das gilt sicherlich auch auf nationaler Ebene kann mir gut vorstellen dass es da auch vielleicht auch nicht öffentlich bekannte Beschränkungen gibt, jetzt gerade in den USA zu sagen so bis hierhin und ich weiter.

00:42:23: Ihr dürft jetzt nichts mehr rausgeben weil das einfach so gut ist.

00:42:27: es darf kein anderer haben außer uns Und Das hast du ja auch schon von Anfang an gesagt Ich erinnere mich noch gut Ja Als Du erwähnt hast Wir werden das gar nicht mit kriegen wenn's AGI gibt Weil Es ist dann einfach irgendwann da aber man publiziert das nicht, man veröffentlicht es nicht.

00:42:48: Und genau also das deutet ja jetzt alles sehr stark darauf hin dass wir uns schon zumindest mal auf der Zielgerade dahin befinden.

00:42:55: Ja und auch eine beängstigende Geschichte ist ja auch letztes Jahr bei der TED-EI war ich beim Vortrag um Geopolitik und KI publik werden würde, dass irgendeine Nation EGI erreicht hat oder ESI vielleicht sogar müsste ja sofort ein Krieg ausbrechen.

00:43:24: Weil wenn du eine so dominante Technologie entwickelt hast ist die einzige Chance um sozusagen zu überleben einen Erstschlag.

00:43:37: Das heißt gar nicht darauf zu warten das der andere dich dominiert mit seiner Technologie und in die Zeit zu geben sondern alles zu tun und das aufzuhalten.

00:43:48: Und durch einen Erstschlag vielleicht diesen Vorteil rückgängig zu machen oder irgendwie anders zu lösen.

00:43:57: Das ist schon eine beängsigende Situation in Anbetracht der ganzen geopolitischen Lage, auch mit Taiwan und China und Russland und Europa und USA.

00:44:14: kompliziert im Moment.

00:44:16: Also es gibt so viele komplizierte geopolitische Strenge und Abhängigkeiten, dass Kleinigkeiten ganz große Folgen haben könnten.

00:44:29: Und ja also ich möchte mir jetzt nicht ausmalen welche Konsequenzen China ziehen würde wenn sie feststellen müssten das tatsächlich eine EGI in den USA entwickelt wurde, die ihre eigenen Modelle nicht so weit verteidigungsfähig machen, dass sie das überstehen können.

00:45:00: Ja wobei man ja nicht vergessen darf.

00:45:02: also wenn ihr jetzt mal angenommen also nach der Theorie die du jetzt gerade vorgestellt hast dann müsste ja China die USA angreifen um nicht ins Hintertreffen zu geraten.

00:45:16: Ja, ja.

00:45:18: Klar!

00:45:20: Aber für China würde das natürlich auch eine existenzielle Bedrohung, denn... Auch wenn China jetzt militärisch extrem mächtig geworden ist, glaube ich dass er eine Konfrontation mit den USA, zur Spitze kommt auch nicht überleben würden.

00:45:46: Das kommt natürlich noch mit rein, man muss ja immer im Hinterkopf haben bei dieser ganzen Gaming-Theorie die gab es ja früher auch schon beim Atomahnwettrüsten was passiert wenn ich dann diesen Schritt gehe und ich sozusagen sage Angriff ist die beste Verteidigung das bedeutet ja letztendlich trotzdem dass sich dann am Ende auch vernichtet werde.

00:46:09: Also das ist alles sehr, sehr komplex.

00:46:12: Und jetzt auf einem anderen Spielfeld geht diese Geschichte von früher gerade einfach so weiter?

00:46:20: Eine Strategie könnte natürlich sein mit Taiwan vielleicht nicht direkt den Krieg auszulösen mit Taiwan sondern einfach die TSMC-Anlagen soweit zu stören dass die Produktion der KI-Infrastruktur nicht weitergehen kann und das wäre kein Kriegsgrund.

00:46:43: Also es wäre keine Kriegserklärung, sondern wenn plötzlich bei einer TSNC-Fabrik eine kleine Bombe hochgeht dann würde das schon ausreichen dass das gesamte Werk nicht mehr funktioniert.

00:46:55: weil alles so präzise und so genau sein muss das schon leicht erschütterungen ausreichen um eine komplette Produktion lahm zu legen.

00:47:08: Und wenn man hier auch nur kleine Teile der Supply Chain in der TSMC-Produktion gestört durch Impact, sage ich jetzt einmal.

00:47:19: Sei es jetzt durch Raketen, durch eine Explosion, durch einen Umfall... Sabotage!

00:47:26: ...wäre es schon ausreichend um die gesamte KI Infrastruktur lahmzulegen und Und China hätte aber noch ausreichend.

00:47:36: Also, China entwickelt ja gerade eben selbst eigene Chips sind in der Lage auch eigene Litographie-Maschinen zu bauen die jetzt nicht die Qualität haben wie das von TSMC Aber sie könnten quasi dieses Ungleichgewicht jetzt stören.

00:47:55: und dann kommt es darauf an wer sieht das als Kriegserklärung?

00:48:02: Wenn die USA, also der aktuelle Präsident würde ich jetzt mal sagen wäre wahrscheinlich hitzköpfig genug um hier die falschen Schlüsse zu ziehen und dann könnte es ganz schnell ganz blöd werden.

00:48:26: Also

00:48:26: auf der anderen Seite wenn das Ganze im Verborgenen stattfindet dann kann man hier nur spekulieren sozusagen also auch aufseiten der Gegner, der Opponenten.

00:48:43: Das heißt natürlich wird China sich auch seine Gedanken machen warum ist es gerade so still geworden um die großen KI-Factories?

00:48:54: aber ich meine gut sie haben natürlich auch noch ihre Geheimdienste und ihre... Ihre Agenten im Einsatz, das ist klar.

00:49:03: Aber ob Sie dann mit Gewissheit davon ausgehen können dass jetzt zum Beispiel dieser Schritt der AGI irgendwann erreicht ist?

00:49:12: Das ist natürlich wiederum fraglich.

00:49:14: Wir können auch nur spekulieren aber ich... Was mich dabei so fasziniert sage ich jetzt mal ja, das wir als normale Bürger also wir machen uns schon viele Gedanken.

00:49:30: Aber der normale Bürger, der jetzt KI vielleicht höchstens mal so als ChatGPT wahrnimmt um mal sein Urlaub zu planen oder so die Leute kriegen ja davon überhaupt gar nichts mit was da eigentlich gerade auf der Welt passiert.

00:49:46: also und das finde ich ja das krasse das war ja im zeiten des kalten Krieges war es anders da war das ja allgegenwärtig in den Nachrichten.

00:49:55: Jetzt passieren gerade massive Verschiebungen und Dinge.

00:49:58: Und davon kriegen viele, viele Leute überhaupt gar nichts mit!

00:50:01: Das finde ich so faszinierend.

00:50:04: Die Überraschung wird umso größer sein wenn es dann eintritt.

00:50:07: Also... und dann wären sich alle wundern wie so warum macht er das jetzt?

00:50:11: Also wir kommen da auf sowas und diese ganzen Hintergründe.. Ich meine wir haben schon letztes Jahr erzählt diese ganze Vorbereitung der Hyperscaler im südchinesischen Meer mit den ganzen Leitungen, also Tiefsealeitungen die hier neu verlegt wurden um das südkinesische Meer über Australien.

00:50:37: Also da sind alles schon letztes Jahr Indizien gewesen wo sich eben die großen Hyperscala und auch die Techkonzerne schon auf diesen Konflikt vorbereitet haben.

00:50:51: Das war auch, also wir haben es dann vielleicht mal in den Nachrichten gehört wie wieder gesagt wurde irgendein russischer tanker hat irgendeine leitung irgendwo getrennt.

00:51:00: Also das war so das höchste der gefühle aber dass das halt eine komplette sage ich mal kriegsführung ist die aktuell gerade am laufen ist sei es jetzt in den sauber angriffen sei es Jetzt in der manipulation der infrastruktur und der tiefsee kabeln oder sei es sage ich jetzt mal, Sabotage von Schlüsseltechnologien.

00:51:27: Davon kriegt ja keiner was mit und das passiert aber die ganze Zeit und es braucht nur irgendwo einen Funken wo einer quasi den Nerven verliert oder Petzen geht beim großen Rated Bunny Dann geht die Kacke los, ja?

00:51:52: Ja.

00:51:53: Das zählen wir uns... Und wie du schon sagst wird wahrscheinlich dann auch eher überraschend sein.

00:52:06: also man hört lange nichts und dann auf einmal ploppt irgendwas hoch.

00:52:11: so wird es wahrscheinlich kommen.

00:52:15: Wir haben da natürlich unsere Lausche aufgestellt und hören in die Kanäle rein, in die wir immer reinhören.

00:52:25: Und werden es dann hier für euch zeitnah auch mitbringen.

00:52:30: wenn wir etwas haben von dem wir ausgehen dass das halbwegs valide ist sage ich jetzt mal was Und damit versuche ich jetzt mal einen eleganten Bogen zu schlagen.

00:52:44: Bevor du den machst, kühle mich hier schon an.

00:52:47: Genau diese Sektion die wir jetzt gerade besprochen haben wird und zu führen dass die YouTube Folge massiv reduziert wird das ist übrigens das haben wir nachgewiesen jetzt also jedes Mal wenn wir über Geopolitik reden haben wir nur ein Zehntel der Ausstrahlung.

00:53:08: Das habe ich auch schon über Bord geworfen, dass wir diese Folge irgendwie bewerben können oder so.

00:53:15: Genau!

00:53:15: Also das war es jetzt übrigens mit dieser Folge.

00:53:18: also ihr könnt sie nur aufrufen wenn ihr da tatsächlich uns abonniert habt und dort reingeht's.

00:53:27: Wenn ihr uns auf YouTube hören wollt, abonniert zu uns weil sonst werdet ihr das nie sehen was hier gerade passiert ja?

00:53:31: Weil jedes mal wenn wir über Politik oder USA reden sind wir abgeschnitten und zwar komplett.

00:53:38: Ja?

00:53:40: Aber das zeigt ja auch, dass wir hier wirklich kein Blatt vor den Mund nehmen wollen.

00:53:45: Wir nehmen dann diese Einbußen in Kauf und wollen uns jetzt nicht irgendwie künstlichen Maulkorb umbinden.

00:53:53: Das muss schon sein!

00:53:54: Wir

00:53:54: nicht?!

00:53:56: Nein... genau So.

00:53:59: aber jetzt komme ich zu dem Bogen der ich schlagen wollte nämlich Da hast du ja auch schon sehr begeistert in unserem Vorgespräch.

00:54:10: Es gibt Neues von Entropic, es gibt Fable-Fünf Punkt Eins.

00:54:17: Jawoll!

00:54:18: Und man muss ja dazusagen, Fable fünf war ja schon mega auf verschiedenen Ebenen.

00:54:28: Sei es jetzt für wirklich simple Sachen wie Text-Erstellung, da ist schon ein Quantensprung gegenüber Opus.

00:54:34: Aber wenn man dann sage ich mal

00:54:37: richtig

00:54:38: anspruchsvolle Dinge damit tut, dann teigt sich erst die wahre Stärke.

00:54:42: Also erzähl, Jussuf!

00:54:45: Ja also ich fange mal so übersichtsmäßig an... Die erste Message vorweg Das größte Problem, warum man Fable-Five im Enterprise-Signal nicht nutzen konnte war diese Data Retention Geschichte.

00:55:05: Also das sie gesagt haben wenn du Fable Five verwendest werden deine Daten aufgezeichnet für einen Monat.

00:55:11: Das hat dazu geführt dass keine Sau Fable five im Enterprise Segment verwendet hat weil du das natürlich selbst wenn deine zero data retention Policy unterschrieben hast.

00:55:25: mit Anthropic hat das für Febel nicht gegolten.

00:55:29: Und das haben Sie jetzt aufgeweicht, wenn ich das richtig verstanden habe.

00:55:33: Wobei da müsste ich vielleicht nochmal genauer reinlesen sie stellen so hin aber sie drücken es ein bisschen kryptisch aus über Cloud Infrastructure controlled whatever.

00:55:45: ja also Sie versuchen es jetzt so darzustellen, dass diese Zero Data Retention wieder gegeben ist mit Faible.

00:55:53: Und wenn das der Fall ist, wäre das natürlich großartig weil dann kann man's wieder für manche Use-Cases nutzen wo man sie vorher nicht nutzen konnte.

00:56:03: Der zweite Teil der hier angekündigt wird ist, dass die Safeguards die da waren die ich immer geblockt haben wenn du mit Tose gesagt hast oder Cyber Security.

00:56:21: Und dann sofort wurde es geblockt und Opus kann dir weiterhelfen, Fable macht ja nichts mehr.

00:56:27: Also diese ganzen false positives für diese Safeguards sollen jetzt bis zu sechzig Prozent reduziert worden sein so dass du tatsächlich wenn du mal angegriffen wirst die Fable vielleicht auch hilft.

00:56:44: also So zumindest meine Lesweise aus dem Bericht.

00:56:52: Und nun kommen wir schon mal zu den Stats, also zu den Benchmarks.

00:56:58: Wie gesagt ich halte grundsätzlich nicht viel von Benchmark, das wisst ihr.

00:57:02: aber in zwei Dingen schaut es hier wirklich massiv aus und das ist einmal Agentic Scientific Research und das is tatsächlich auch ein Bereich wo sie jetzt massiv rein investiert haben.

00:57:19: Also, Sie haben wohl das Fünf-Einzer-Modell auf diesen Scientific Research optimiert und da sieht man auch... Das gibt einen Agentic Scientific Research, Temelbench Science.

00:57:34: Null I heißt der ja?

00:57:37: Und da war Febel V bei Und auch GPT-Fünfsexoal ist bei Zweiundzwanzig.

00:57:51: OPUS Fünf ist zwar ein bisschen höher als Faber in dem Fall, aber dieser massive Sprung deutet darauf hin dass sie wirklich einen Fokus auf dieses Scientific Thema gelegt haben.

00:58:05: und auch beim Magenta Coding sind Sie also hier steht Faber-Fünf ist bei ... ... zweiundvierzig Prozent und Fünf-Eins ist bei fünfundfünfzig, acht Prozent.

00:58:19: Ja?

00:58:21: Bei Thermal Bench Vier Null... Und im Vergleich zu GPT-Fifth Sechs Sol die haben nur siebunddreißig, drei Versus fünfundfünfzig, achte.

00:58:30: also Man kann davon ausgehen ich kann es jetzt nicht sagen weil das ist heute gerade erst rausgekommen.

00:58:36: Ähm... Ich man kann davon Ausgehen dass es vom Coding wieder den nächsten Sprung macht, aber nächste Woche wissen wir mehr.

00:58:46: Also dann werde ich hoffentlich fertig getestet haben und ich werde jetzt überall einsetzen wo ich einsetzen kann.

00:58:54: Ja das ist so mein... meine First Impression.

00:59:03: Ich freue mich, dass es endlich ein neues Modell gibt.

00:59:06: Mythos VI soll sogar noch eine Spur besser sein Aber da haben wir keinen Zugriff, deswegen ist mir wurscht.

00:59:12: Wie gut das Mythos ist!

00:59:15: Und das Mytho soll jetzt auch in diesem Biologie-Kontext irgendwie genutzt werden können.

00:59:21: und ja... aber wie gesagt, da kann ich jetzt noch nicht so viel dazu sagen.

00:59:28: Wie sieht's bei dir aus?

00:59:29: Hast du dir den Launchbericht angeschaut?

00:59:36: Also ich hab es ganz früh erst entdeckt und habe deshalb noch keine tieferen Einblicke.

00:59:42: Ich bin sehr gespannt, also natürlich erst das mal was du erzählen wirst beim nächsten Mal und auch was ich selber für Erfahrungen machen werde.

00:59:51: Ich muss aber erstmal meinen Guthaben aufladen wieder bzw mir vielleicht eine andere Subscription holen denn ja, ich hab doch einiges an an Euros verbrannt in den letzten Tagen, wobei verbrannt ist vielleicht der falsche Ausdruck.

01:00:10: Ich habe ja auch sinnvolle Dinge damit getan.

01:00:12: also hätte ich diese Dinge von Hand erledigen müssen wäre es deutlich teurer geworden muss man auch mal sagen.

01:00:20: von daher ist das schon gut angelegt.

01:00:22: nein aber ich werde es ausprobieren ganz klar und habe natürlich auch große Erwartungen.

01:00:31: Also das ist natürlich so.

01:00:33: die Die Spitze des Eisbergs kann man sagen, vielleicht ein schlechtes Bild.

01:00:38: Das ist einfach die Speerspitze der KI-Technologie.

01:00:42: ich glaube das trifft es besser.

01:00:44: aber wir haben ja einen Blick immer auf das große Ganze.

01:00:49: deshalb wollen wir auch ein paar weitere Neuerscheinungen nicht verschweigen.

01:00:57: da gibt es zum einen das Tencent High Four Preview.

01:01:03: Ich musste noch mal nachschauen, Tencent kommt auch aus China und das Ganze wurde Ende August veröffentlicht.

01:01:08: Das ist ein Open-Wade Modell und es bietet siebhundersiebzig Milliarden Parameter von den neunundvierzig Milliarden Protoken über zweihundertsechsundfünfzig Routing Experten aktiviert werden und damit ist es eines der größten Modelle die unter der Apache II NulliSense frei zugänglich gemacht wurden.

01:01:29: also auch wieder interessant was die Anwendungsperspektive angeht.

01:01:36: Zudem haben wir eine native multi-token prediction Schicht mit zehn Milliarden Parametern.

01:01:44: und ja auch hier wieder ein kleiner Exkurs, Was ist denn Multi-Token Prediction?

01:01:52: Da habe ich natürlich auch noch etwas vorbereitet.

01:01:55: ist das ein Verfahren, bei dem nicht nur einen Token sondern gleich mehrere Token gleichzeitig vorhergesagt werden können.

01:02:06: Und das ist auch wieder eine Erweiterung zu herkömmlichen Sprachmodellen.

01:02:09: die arbeiten nämlich streng sequenziell und berechen Schritt für Schritt einzelne Tokens und dass es bei dieser Multi-Token Prediction oder kurz MTP eben anders und das ermöglicht dann parallele Vorhersage.

01:02:21: das heißt man kann beim Training oder auch bei der Textgenerierung Vorhersageköpfe oder Output Hats verwenden, um dann gleich mehrere folgende Positionen vorab zu bestimmen.

01:02:36: Und hier geht es wieder um Effizienz und auch um Geschwindigkeit insbesondere dann bei der Inferenz.

01:02:44: Das heißt also gerade auch das Thema wie viel Token pro Sekunde kann ich generieren spielt ja eine immer wichtigere Rolle für bestimmte Anwendungen.

01:02:53: So, das wollte ich da noch anmerken.

01:02:57: also insofern ist es natürlich ein ganz interessantes Modell was wir hier haben und gerade eben auch aufgrund der genannten Lizenz ist das vielleicht auch etwas was man für den einen oder anderen Zweck verwenden kann.

01:03:13: ergänzt noch es gibt einen rekursiven Selbstverbesserungszyklus.

01:03:19: Das heißt also auch hier wird auf die Qualität geachtet.

01:03:24: und abschließend doch das Modell hat ein Kontextfenster von eine Million Token.

01:03:32: Und zielt auf langlaufende Software Engineering Aufgaben ab, dass dann eben gerade bei großen Code Repositories oder bei wissenschaftlichen Simulationen sinnvoll sein kann.

01:03:45: Genau!

01:03:47: Sag dir das was, hast du dich damit näher beschäftigt?

01:03:50: Hast du noch Infos dazu zu diesem Modell Jusof?

01:03:53: Nein.

01:03:53: Also Tencent kenne ich nur von WeChat.

01:03:56: Tencent ist ja die Firma, die WeChat macht.

01:03:59: Das ist quasi das WhatsApp oder die Anything App in China und dass sie da reingehen und jetzt auch hier in das Thema reingeht hat man eh schon öfter gesehen.

01:04:12: D.h.,

01:04:13: die entwickeln sich mittlerweile.

01:04:15: Also Tencent entwickelt sich auch zu einem der Primary Labs für offene KI-Lösungen.

01:04:24: Und also damit haben wir quasi alle größeren chinesischen Technikkonzerne, die hier mitspielen eigentlich neben Alibaba und Tencent.

01:04:44: Man verliert langsam den Überblick.

01:04:48: Wir müssen mal so eine große Übersicht erstellen und die dann ständig erweitern, damit man zumindest mal ein bisschen einordnen kann woher kommt etwas zu dient ist und vielleicht auch noch welche.

01:05:03: in welchen Lizenzen ist es verfügbar?

01:05:05: weil so ähnlich ging's mir nämlich auch bei dem nächsten Modell was ich auch noch kurz ansprechen möchte nämlich das CoherePars Fünf oder fünf, da musste ich auch erst mal nachschauen.

01:05:14: Wo kommt das eigentlich her?

01:05:15: Und das kommt aus Kanada!

01:05:17: Also Kanada haben wir ja nicht so oft dabei.

01:05:21: Und hier finde ich es auch ein sehr spannender Ansatz, weil es ist ein Vision Language Modell.

01:05:28: Was darauf ausgelegt ist Dokumente auszuwerten und zu verarbeiten zum Beispiel PDF-Dateienpräsentation oder Bilder oder eben auch verschachtete Tabellenstrukturen das macht für Unternehmen sehr interessant und interessant ist auch für Unternehmen dass es nicht mehr auf Token Basis abrechnet oder abgerechnet wird Sondern, dass es ein Preis pro Seite Modell hat und damit ist es gerade bei der Dokumentenverarbeitung eben auch besser zu kalkulieren.

01:05:58: Könnte also auch für das eine oder andere Unternehmen eine spannende Sache sein?

01:06:05: Ja... Das wären die Modelle, die wir heute fortgestellt haben.

01:06:10: Ich glaube, das muss man erstmal verkraften und verarbeiten!

01:06:14: Also es ist ein OCR-Modell, wenn ich das richtig verstanden habe.

01:06:19: Ja

01:06:20: so fasste ich das auch genau.

01:06:23: aber gerade eben diese Verarbeitung von Tabellen von PDFs war ja bisher immer noch zumindest für manches System eine Herausforderung.

01:06:33: und wenn's hier eine zuverlässige Lösung gibt oder eine Anwendung mit der man das ein Modell mit dem man das zuverlässig hinbekommt Ich glaube, das wird vielen dann weiterhelfen die sich eben mit solchen Dokumentenauswertungen beschäftigen oder beschäftigen müssen.

01:06:52: Das

01:06:52: haben wir immer gelöst... weil es ist tatsächlich ein Problem bei den ganzen OCI-Modellen, dass haben wir mit Market Down gelöst.

01:07:01: also Market Down ist ein Tool von Microsoft und damit kann man das sehr gut machen.

01:07:08: Man muss das zwischenschalten sage ich jetzt einmal Aber also, da ist ein Dockling.

01:07:14: Da wird das quasi gescannt und dann schickst du es an Marketdown und dort ... ja, also sehen Sie auch sementisches korrektes Markdown und HTML?

01:07:24: Und Marketdown ist genau dieses Tool von Microsofts und das gibt's jetzt offensichtlich auch vom Coheir!

01:07:30: Okay, okay, spannend... Ja, also auch mal wieder hier an der Stelle einen, denke ich guter Tipp für die Praxis für alle, die eben mit solchen Dingen sich im Berufs- oder Arbeitsalltag beschäftigen müssen.

01:07:47: Gut!

01:07:47: Hast du noch etwas zu ergänzen zu unseren KI Modellen?

01:07:51: Also modelltechnisch sind wir glaube ich jetzt auf dem... haben wir alles gesagt was relevant ist.

01:07:59: Sollten wir was vergessen haben lasst uns gerne wissen.

01:08:03: da freuen wir uns auch immer über Feedback Genau.

01:08:07: Dann würde ich sagen, lass uns mal kurz über Nvidia sprechen.

01:08:10: Nvidia gibt's zwei Sachen die wir mal anreißen können also einmal Nvidia und Huggingface.

01:08:19: ja was ist da los?

01:08:20: Und dann vielleicht noch so einen kleinen Seitenhieb auf die Quartalszahlen auch wenn es schon wieder ein paar Tage her ist von Nvidia.

01:08:32: Man berichtet ja oder man vermutet ja dass Nvidia Hackingface kaufen will, hat es ja noch nicht gemacht, soweit ich weiß oder?

01:08:40: Doch.

01:08:40: Das ist genau... Hatts

01:08:41: sogar schon!

01:08:41: Okay.

01:08:42: Genau das wir hatten ja letzte Woche vermutet dass die KI Zentralbank als einziger dafür relevant wäre.

01:08:52: Ich bin richtig interessiert

01:08:53: okay.

01:08:53: Jetzt ist das Angebot gekommen für zwölf neun Milliarden.

01:08:57: haben sie jetzt Hackling Face gekauft?

01:09:02: Ja also Das ist die größte Übernahme in Wirklichkeit von dem Video.

01:09:09: Die zweitgrößte war Melanox, wo Sie jetzt das ganze Netzwerkthema drauf gebaut haben.

01:09:16: Es waren sicher die schlaueste Übernahme aller Zeiten, dass sie MelanoX gekauft haben, weil damit haben sie den gesamten Netzwerk-Stack mit dazugenommen.

01:09:27: Aber es sind zwölf und neun Milliarden Euro für Hugging Face.

01:09:30: Ist ein stolzer Preis!

01:09:32: für ein Unternehmen, ich glaube die haben Hundertfünfzig Millionen Euro Umsatz gemacht.

01:09:37: Also jetzt nicht... Aber man kann hier und das haben wir letzte Woche auch schon gesagt es kann nur ein strategischer Investor sein der die kauft weil wegen den Umsätzen kochte keiner.

01:09:48: und der einzige Strategie der wirklich Interesse daran hat dass diese ganzen... Dass dieser ganze Open Source Variante also das ganze Open-Source Thema weiter vorangetrieben wird ist Nvidia weil Nvidia wird in Zukunft davon leben, dass alle ihre eigenen Modelle auf der eigenen Nvidia-Hardware betreiben wollen.

01:10:10: Vor allem die Europäer und der Asiaten, bei den Amerikanern kann man es nicht so ganz sagen aber auch dort ist der Trend schon ganz klar in Richtung Build Your Own Model oder hab alles on-premises auf deiner eigenen Infrastruktur statt alles über Anthropic mehr einzumachen Oder Google oder Gemini, wobei die sind ganz schön abgeschlagen.

01:10:35: Aber das halt hier Nvidia als der Best Case hier wirklich gekauft hat.

01:10:47: Interessant ist auch dass sie nicht diese lustige Verschachtelung gemacht haben.

01:10:52: Sie investieren da rein und dann kaufen sie irgendwie die Mitarbeiter raus und bauen ihnen einen Lizenz-Steal?

01:10:59: Nein, Sie haben wirklich das Unternehmen gekauft.

01:11:01: Punkt!

01:11:04: Und das ist wahrscheinlich so... Unsere Einschätzung war nicht so schlecht die dritte Woche.

01:11:12: Mhm,

01:11:14: okay.

01:11:16: Gut.

01:11:17: Ja aber die Frage bleibt natürlich jetzt im Raum stehen was macht das dann?

01:11:23: Was bedeutet es für die Unabhängigkeit sage ich mal dieses Marktplatzes und vielleicht ist das auch nochmal ein Startsignal für ähnliche Plattformen, die jetzt entstehen werden um da noch ein bisschen neutrales Gleichgewicht zu schaffen.

01:11:51: Könnte ich mir gut vorstellen weil Allein schon die Perspektive, sich dann mal irgendwann aufkaufen zu lassen.

01:12:00: Könnte ja den ein oder anderen dazu bewegen!

01:12:03: Ja, das ist so wie in den Zwei-Tausendzehnerjahren.

01:12:08: Du baust etwas damit dich Google kauft.

01:12:11: Funktioniert ihr auch noch?

01:12:13: Es funktioniert immer noch.

01:12:15: Jetzt ist es halt im Video.

01:12:17: aber ich würde jetzt gar nicht die Unabhängigkeit von Haggling Fes jetzt infrage stellen weil er wie gesagt Nvidia ist hier ein strategischer Investor und sie haben ein strategisches Interesse, dass das Open Source umfällt, floriert.

01:12:37: Das heißt Sie haben jetzt sogar einen Fürkämpfer für die Sache gewonnen der auch noch sehr tiefe Taschen hat.

01:12:45: also dieses Unabhängigkeitsthema würde ich jetzt gar nicht so hinnehmen.

01:12:50: Ich könnte mir sehr gut vorstellen dass Nvidia-Huggingface oder diese Plattform als eigene Organisationseinheit irgendwie versucht, auszugliedern.

01:13:02: Aus der Nvidia-Gruppe und unabhängig zu betreiben damit auch gar niemand auf die blöde Idee kommt zu sagen hey das sind abhängig.

01:13:11: Auch wenn sie da sind.

01:13:12: aber ich glaube es ist eher gut für die Open Source Szene dass das passiert ist als schlecht weil jetzt hast du wie gesagt unendlich tiefe Taschen und einen ganz offiziellen Mitcamp-Mitstreiter für die Open Source Entwicklung.

01:13:31: Das einzige Problem, was man hier sehen könnte ist das ganze Nemotron Thema also dass Nvidia hier versucht auch irgendwie Startups zusammen zu kaufen in der Open Source Welt um dann ihre eigenen Nemotrons Modelle zu launchen und so auch eine Gegenposition zu schaffen für die Modelle, die nicht auf Nvidia-Chips produziert wurden.

01:13:59: Also das könnte tatsächlich ein Backlash werden, dass die Chinesen sagen schön.

01:14:06: aber also wenn Nvidia unsere Modelle nicht so präsent darstellt oder es erschwert, dass diese Modelle gefunden werden Weil sie nicht auf Nvidia Hardware trainiert wurden, das könnte ein strategisches Problem schon sein.

01:14:24: Aber Nvidia wäre dumm wenn Sie das machen würden.

01:14:27: also das werden sie ziemlich sicher sein lassen.

01:14:32: Kommt mir gerade eine Idee und zwar weil du sagst gefunden werden da klingelt es natürlich bei mir.

01:14:42: dann haben ja die die Modellanbieter vielleicht auch Interesse irgendwelche Optimierungen vorzunehmen, um bei Huggingface auf Platz eins zu stehen.

01:14:52: Also das ist ja dann schon fast wieder ein seomäßiger Ansatz.

01:14:57: Vielleicht muss man da wieder eine neue Abkürzung finden also ähnlich wie bei Apps im App Store dass mein KI-Modell ganz vorne steht wenn ich für bestimmte Suche anfragen

01:15:10: Ja, wobei der Tropz ist auch schon gelutscht.

01:15:13: Also Quen ist der Gewinner auf weiter Flur.

01:15:20: Die haben hier das Rennen schon lange gemacht.

01:15:22: Quen is das weit verbreitetste Modellambienter weltweit über fünf Milliarden oder fast fünf Milliarden Downloads auf Hanging Face.

01:15:34: aber da schlägt es daran dass sie Tausende kleinere Modelle haben und jedes Mal wenn halt ein Update kommt, also eine neuere Variante werden halt alle zigtausende Varianten abgedetet.

01:15:46: Also da aber trotzdem.

01:15:50: Aber das ist definitiv glaube ich auch ein Thema dass viele hier auch gefunden werden wollen.

01:15:58: Also könnte tatsächlich einen Marktplatz werden wo man dafür zahlen kann mit Werbung

01:16:05: natürlich.

01:16:09: Okay, wir sind jetzt schon so ein bisschen in diese Marktkategorie rein mit dem Thema gerade und dann lass uns doch mal weitermachen.

01:16:23: Mit einem Unternehmen bei dem jetzt wohl den nächsten Börsengang ansteht, wenn ich das richtig sehe, nämlich SB Energy.

01:16:36: sb energy sagt vielleicht noch nicht allen was die stecken ja zum beispiel hinter diesem mega rechenzentrumsprojekt in ohio mit irgendwie über neun gigawatt und dass Die zahlen sind interessant.

01:16:54: also die haben wenn ich das richtig sehe einen aktuellen auftragsbestand von fourhundert neun dreißig milliarden us dollar Haben im ersten halbjahr dieses jahres hundert Neununddreißig Millionen, wenn ich das richtig sehr umsatz gemacht und ein Verlust von drei Komma zwei Milliarden.

01:17:15: Okay also von den von den jetzt von diesen Zahlen her Jetzt noch nichts.

01:17:19: was wo ich sagen würde okay da steige ich ein aber Da stecken natürlich sehr potente Unternehmen dahinter unter anderem softbank.

01:17:34: So Was ist denn da deine Einschätzung zu diesem Vorhaben oder zu diesem Unternehmen?

01:17:42: Also SB Energy is eben Softbank Energy.

01:17:46: Das ist tatsächlich eine Tochtergesellschaft von Softbank und das sind diejenigen, quasi das sind Bauherrenbetreiber für dieses Ohio Ports Project also dieses Ports Pike.

01:18:03: Ich glaube, darüber haben wir schon mal letzte und vorletzte Episode drüber geredet.

01:18:10: Unter anderem wegen diesen massiven Gaskraftwerken – also diese neun-kommerzwei-Gigawatt-Gaskraftwerke in Ohio, die da unzählige Quadrillionen, nee fünf bis sieben Milliarden Tonnen Emissionen produzieren.

01:18:28: Und interessant ist das, dass die jetzt an die Börse bringen wollen!

01:18:32: Das heißt bis jetzt war es ja so, dass Nvidia das irgendwie gebackt hat.

01:18:38: Die haben ja quasi diese Warrens abgegeben um Softbank dabei zu unterstützen damit dieses Data Center gebaut wird.

01:18:46: Dann haben sie ein Rückzieher gemacht und dann ist das zurückgegangen.

01:18:49: Diese Garantie ist auf hundert also ich glaube fünfhundert Milliarden waren's am Anfang Und jetzt ist es zurück gegangen auf onehundert fünf Milliarden auch wieder aufgeweicht worden, sondern sie stehen nicht komplett für die Kappexkosten gerade.

01:19:09: Die irgendwie vier oder fünfhundert Milliarden letztendlich sein werden.

01:19:19: Sondern Sie sind quasi derjenige, der die Differenz also wenn das Ganze wird gebaut für OpenAI Und OpenAI hat Warrens für fünf Milliarden eingeräumt.

01:19:34: Das heißt, die mieten das ja und wenn OpenAI nicht in der Lage sein sollte, die Miete zu zahlen dann kann Nvidia eingreffen um SBA-Energie zu schützen.

01:19:53: Wenn sie ihre Raten nicht zurückzahlen können

01:19:55: d.h.,

01:19:56: wenn die das verkaufen müssen zeigte Differenz bis zu ein hundertfünf Milliarden Nvidia.

01:20:03: Also ein sehr lustiger Deal.

01:20:06: Und der Grund, warum sie an die Börse gehen – also Sie wollen hier mit einer Bewertung von knapp fünfzig Milliarden an die bürse gehen ist natürlich weil es niemand mehr gibt, der diese Kohle auftreiben möchte oder hergeben möchte und Softbank auch keine… potenter Partner mehr, der solche Summen in irgendeiner Art und Weise stemmen könnte.

01:20:33: Und was machen sie?

01:20:34: Sie gehen auf den Retail Investor.

01:20:39: Ich würde jetzt mal behaupten dieser Börsengang wird das Trophal enden.

01:20:47: Das ist meine persönliche Einschätzung weil ich kenne niemanden So dumm wäre hier in diesen IPO zu investieren.

01:20:57: Also ich würde es auf gar keinen Fall tun, natürlich hat der Auftragsbestände von vierhundertvierzig Milliarden oder vierhunddreißig Milliarden aber erstens einmal gibt's so viele Abhängigkeiten.

01:21:10: also du hast... Es muss mal gebaut werden!

01:21:13: Du musst man in der Lage sein das zu bauen dann musst du diese Kapazitäten aufbauen.

01:21:17: Dann darfst du da nix schiefgehen, irgendwelche Leute die da protestieren oder dich sabotieren oder das aufhalten.

01:21:24: Je länger sich das in der Länge zieht desto mehr Geld verlierst und es ist sehr wahrscheinlich dass ich das sehr lange in die Lange ziehen wird weil die Leute auf die Barrikaden gehen werden.

01:21:36: Weil das ganze Not-In-My-Backyard Thema immer größer wird.

01:21:43: Hinzu kommt das ganze Gaskraftwerk, also neun Prozent zwei Gigawatt.

01:21:49: Das ist geistesgestört, ja?

01:21:50: Das sind fast zehn Tonkraftwerke die hier Gas verbrennen.

01:21:59: Also das ist keine Übergangstechnologie oder so sondern da wird Gas verbrannt und diese Gase kommen dann in die Luft und die Luftverschmutzung.

01:22:12: keiner wird das jemals akzeptieren in dieser Gegend.

01:22:16: Du verpestest komplett Ohio, wenn du so ein Ding hinbaust.

01:22:20: Ja?

01:22:21: Das heißt die Chancen dass das wirklich funktioniert sind sehr sehr gering.

01:22:26: Es sei denn irgendein lustiger Präsident kommt auf die Idee hier bei Tegret zu sagen da habt ihr es nix zu sagen sondern das ist ... äh... National, da geht's um nationale Sicherheit!

01:22:36: Wer

01:22:37: könnte das wohl

01:22:38: sein?!

01:22:38: Wer

01:22:38: könnte der sein?

01:22:42: Jetzt kann man ja basten, jetzt das Asia-Wurst auf YouTube bitte.

01:22:48: Genau wie sagt man die Milch ist eh schon verschüttet oder das Kind ist in Brunnen gefallen?

01:22:56: Ihr wisst was wir meinen.

01:22:58: Irgendwas ist

01:23:00: kaputt.

01:23:01: Okay also aber wir geben hier keine Anlageberatung.

01:23:08: ihr müsst selber wissen was ihr tut.

01:23:12: Da gehe ich auch mit ihr mit.

01:23:13: Wir würden dann nicht investieren.

01:23:16: zum Börsengang, aber mal schauen!

01:23:19: Vielleicht werden wir auch eines besseren belehrt.

01:23:23: Ja noch einmal zurück zu Entropik.

01:23:26: die mieten jetzt für ein Haufen Geld Rechenkapazität, ich glaube, thirty-fünf Milliarden bei Lambda das ist so ein GPU Cloud Anbieter Und da geht es um einen Rechenzentrum mit dreihundertfünfzig Megawatt in Texas.

01:23:46: Das ist aber nicht das erste Mietgeschäft, was die machen.

01:23:49: Die haben ja vorher auch schon glaube ich mit N-Scale ein Mietvertrag abgeschlossen und das zeigt ja nur dass der Bedarf größer ist als die vorhandenen Kapazitäten.

01:24:02: also jetzt bei den Unternehmen selber haben die freien Kapazitäten anzumieten, die eben da sind.

01:24:14: Wie würdest du uns einordnen?

01:24:17: Was sagt uns das für die weitere Entwicklung?

01:24:20: Also A von Entropic B aber auch für die Rechenzentrumsinfrastruktur jetzt konkret in den USA?

01:24:30: was bedeutet das?

01:24:36: Also die Frontierlabs fangen jetzt an, bei den ganzen Neo-Clouds einfach zuzukaufen.

01:24:43: Weil die Hyperscaler auch keine Kapazitäten hinkriegen und die Neo Clouds also eben wie N-Skale und Lambda und XEI auch.

01:24:54: Also der XEA war ja auch glaube ich ein... ...½ Milliarden pro Monat.

01:25:02: Deal Ähnliche Dimensionen hast du jetzt hier bei Lambda und davor eben jetzt mit ein Scale.

01:25:08: Und die Ein Scales sind glaube ich in Europa.

01:25:12: Ja, also lustig ist aber hier zu sagen dass hier wieder Nvidia im Spiel drinnen ist.

01:25:19: Also sie sitzen quasi auf beiden Enden Sowohl sie liefern nicht nur die Chips sondern sie finanzieren auch den ganzen Teil und sind dann in der ganzen Wertschöpfung an der Umsatzbeteiligung, also die werden dann als Umsatz beteiligt mehr oder weniger.

01:25:38: Weil natürlich dieses Kapital weder Lande noch ein Scale irgendwie stimmen kann.

01:25:44: Also das ja, ich glaube es gibt irgendein Revenue-Share Programme wo immer wieder fünfzig Prozent des Umsatzes oberhalb irgendeiner Basisrate sozusagen abkassieren darf.

01:26:09: Und jetzt ist es auch schon so, dass Gerüchte entstanden sind das Nvidia bei solchen Deals langsam die Finger davon lasst oder diese Subventionen für den Neo-Clouds jetzt langsam abdrehen will es jetzt tatsächlich zum Compliance-Problem, also Kartellrechtsprobleme entstehen könnten.

01:26:35: Weil in jedem Data Center Deal entweder die Finger drinnen hat sowohl als Lieferant als auch als Investor und dann halt mit irgendwelchen Revenue Share Deals wieder quasi sich die Kohle wieder zurückholen.

01:26:49: Und eigentlich ist das wie so.

01:26:51: es gewiss.

01:26:52: Also diese Neo-Cloud sind nichts anderes als SPVs, um ihre eigenen Umsätze voranzutreiben.

01:26:59: Das ist alles sehr dubios geworden und das hat jetzt glaube ich auch in Video gestanden.

01:27:05: Sie dementieren es zwar dass sie diese Sachen pausieren aber ich denke dass wird jetzt kurz und mittelfristig wird das tatsächlich zum Problem werden weil sie Wirklich, es gibt kaum einen Datacenter-Deal wo ihn wieder nicht die Finger im Spiel hat.

01:27:24: Okay.

01:27:26: So okay, jetzt lass uns mal kurz überlegen.

01:27:30: wir haben noch ein paar weitere Meldungen über die wir sprechen könnten in dem Marktsegment.

01:27:35: aber wir haben auch noch etwas was wir auf jeden Fall noch ansprechen wollen nämlich den Wikiskill.

01:27:42: Was meinst du?

01:27:44: Sollen wir damit weitermachen?

01:27:46: Das ist eine gute Idee.

01:27:47: also Wikiskill ist von Google entwickelt und es ist ähnlich wie es klingt.

01:27:58: Also du baust einen Skill für die KI, die dann ein Wiki schreibt also ein persistentes Wiki schreit wo dann die Erfahrungen strukturiert gesammelt werden und irgendwie alle dann irgendwie aufgelistet Nicht nur dein Wissen sozusagen dokumentiert ist, tatsächlich.

01:28:18: also wenn deine KI irgendwas tut und dann kommst du auf jeden deinen Fehler drauf.

01:28:23: Damit du diesen Fehler nicht wieder machst, dann wird das in den Wiki abgelegt.

01:28:26: oder wenn du Entscheidungen triffst bei irgendeinem Prozess Dann dokumentiert sie das im wiki Und wenn du das wieder änderst dann wird es wieder abgedätet und so hast du Sowohl eine historie über die Entwicklung als auch ein Werkzeug für das Kontextmanagement.

01:28:50: Das heißt, wenn deine Karriere in der Lage ist, ein Wiki sauber strukturiert zu lesen und zu verstehen kann es so einfach sukzessive dein Modell optimieren ohne dass du eigentlich ein schlaueres Modell haben musst.

01:29:06: Und da gibt's schon Experimente.

01:29:08: also Google hat das getestet über mehrere Benchmarks und Modelle.

01:29:17: Und sie haben gezeigt, dass es wirklich eine deutliche Verbesserung der Fähigkeiten der Modelle gab mit dem Vicky Skill.

01:29:28: Ich kann das nur bestätigen.

01:29:29: also ich habe zwar Vicky Skills selber noch nicht eingesetzt aber ähnliche Skills haben wir selber auch bei uns eingesetzt und entwickelt.

01:29:41: Das macht wirklich den großen Unterschied.

01:29:44: Und ich glaube, das ist auch so ein bisschen der Trend gerade in Organisationen.

01:29:49: Es kommt gar nicht mehr darauf an welches Modell du verwendest sondern welchen Harness und welches Skills du nutzt.

01:29:55: Ja?

01:29:56: Ich würde jetzt das Wiki hier als Teil des Harness betrachten und Wiki Skill auch als Teil Des Harness.

01:30:04: Dann kannst Du da eigentlich große oder kleinere Modelle verwenden.

01:30:09: Solange die in der Lage sind sich den Kontext aus dem Wiki zu holen, werden sie immer bessere Ergebnisse haben als irgendwelche Modelle, die das irgendwie frei suchen müssen.

01:30:21: Ein sehr gutes Beispiel.

01:30:24: und wieder dass das Google Research Team hier die Leistenheber eine sehr gute Arbeit.

01:30:32: Ich meine es gibt noch keine unabhängigen Tests zum Thema.

01:30:35: Das heißt ihr könnt es vielleicht selber testen Aber ich werde es vielleicht auch testen, wobei ich muss sagen mit unserer eigenen Implementierung bin ich schon sehr zufrieden.

01:30:49: Wir haben das sogar noch ein bisschen ausgeweitet mit Patrant also wo wir noch eine Vektor-Datenbank für das sementische Verständnis kombiniert haben damit wir nicht nur Index lexikalische Suche haben sondern auch eine semantische Suche im Skill verankert.

01:31:14: Aber soweit ist jetzt hier Google gar nicht gegangen und wiki selber hat ja auch wieder eigene Fähigkeiten da drinnen in der such engine quasi von wiki, also vielleicht funktioniert eh ähnlich.

01:31:32: Bleiben wir noch ein bisschen bei google weil da gibt es ja auch noch was interessantes über das wir sprechen sollen.

01:31:36: den Co-Scientist.

01:31:38: Wir hatten ja, glaube ich vor ein oder zwei Folgen drüber gesprochen.

01:31:41: Das KI noch nicht in der Lage ist so selbstständig zu forschen und der Co-Scientist hat es jetzt im White Paper.

01:31:49: darin wird einen Multiagentensystem beschrieben was praktisch diesen kompletten Forschungszyklus über Experimente, Formulierung von Thesen usw.

01:31:58: abdecken kann.

01:31:59: Was meinst du?

01:32:00: Ist das ein Schritt in Richtung eigenständige KI-Forschung?

01:32:04: Hast Du es dir mal genauer angeschaut?

01:32:09: Dieses Co-Scientist Thema, das ist ja schon letztes Jahr rausgekommen.

01:32:13: Also von letztem Jahr gab es den Co- Scientist und Es war dieser iterative Agentenbasierte wissenschaftliche Ansatz wo wenn ich noch ganz noch richtig erinnere es gibt irgendwie einen übergeordneten Agenten und dann gibt's halt die kleineren Agenten die verschiedene Rollen da drinnen haben Kritiker.

01:32:42: Also was jetzt neu ist, ist der Experimentieransatz.

01:32:45: Bis jetzt war der Co-Scientist nur ein Denker, sag ich mal.

01:32:51: Der Hypothesen angestellt hat versucht diese zu belegen und vergleichen.

01:32:55: Jetzt ist wohl so eine Art Experimentierengine für den Forschungszyklus dazugekommen.

01:33:03: Das macht quasi den Unterschied.

01:33:05: Und das ist ja auch das, was du ... Ich meine, das war deine Soloforge, glaube ich!

01:33:10: KI kann noch nicht selbstständig forschen, war glaube ich die Hypothese.

01:33:16: Und das war halt eines der Probleme, dass sie diesen Experimenten auch nicht wirklich sauber machen können und das hat sich nicht wirklich geändert.

01:33:27: Es gibt Felder wo sie das kann und das ist gerade in der KI-Forschung oder halt den, sag ich jetzt mal Dingen, die digitaler Natur sind.

01:33:37: dort können Sie das Und da können sie auch diese Dokumente erstellen und Forschungszyklen, Hypothesen und Experimente in der Mathematik oder sonst irgendwas machen.

01:33:48: Aber dass es also diese integrierte Labor-Wordflows – ja das weiß ich jetzt nicht wie Sie das genau machen.

01:34:01: Also Sie behaupten hier, entwickeln einen so ein Informatik... So ein Infrains Time Scaling Architektur, aber auch das ist wieder hier rein digitaler Natur.

01:34:15: Also du hast jetzt keine physischen Elemente.

01:34:20: Interessanter fand ich da letzte Woche rausgekommen und es war total stillschweigend gewesen.

01:34:28: MHP Model Hardware Protokoll auch von Antropic entwickelt Und das ist so wie MCP, also wie das Model-Context-Protokoll.

01:34:40: Nur dass du quasi eine Art Treiber und Universalschnittstelle für wissenschaftliche Hardware hast oder generell für industrielle Hardware auch, also für Hardwareansprache damit das Modell die Hardware ansprechen kann und steuern kann.

01:35:03: Der Ansatz wird noch interessant.

01:35:05: War jetzt nicht so präsent in den Medien oder auch nicht in den News, fand ich aber auch sehr interessant.

01:35:12: und hier im Kontext könnte man das dann wirklich relevant werden weil wenn du schaffst dass der Bohrequipment über MHP und über eben so iterative Schleifen über seinen Forschungszyklus laufen zu lassen und die Experimente tatsächlich physisch durchführen zu lassen dann würde das schon eine massive Beschleunigung bedeuten.

01:35:42: Okay, da sind wir auch mal gespannt wie es weitergeht und ich glaube gerade mit dieser ganzen Entwicklung die wir jetzt schon angesprochen haben Richtung AGI wird sicherlich auch die eigenständige Forschung durch KI an Fahrt aufnehmen.

01:36:03: Also auch gerade die zwei Dinge, die wir jetzt gerade zuletzt angesprochen haben sind ja nur kleine Bausteine auf diesem Weg dahin und da wird sich noch einiges zu berichten sein in der nächsten Zeit.

01:36:23: Jetzt noch ein bisschen zurück vielleicht zum etwas Praxisrelevanteren Thema für gerade für Unternehmen und zwar kappt OpenAI, die Anbindung an Cursor nach der Übernahme durch SpaceX.

01:36:39: Also genau gesagt hat OpenAI mitgeteilt das ist seine Modelle für Cursor auslaufen lassen will zum zwölften November, wenn ich das richtig sehe.

01:36:57: Und das hat jetzt wiederum praktische Relevanz eben für Unternehmen, wenn sie sich an bestimmte Modelle, Agenten und Tools binden in ihren produktiven Prozessen.

01:37:12: Denn Sie müssen immer damit rechnen, wenn Sie das tun dass dann irgendwann eben diese Modelle-Tools nicht mehr verfügbar sind und das es dann ja zu Unterbrechungen führen kann, zum Produktionsstillstand was auch immer.

01:37:28: Und das spricht ja wiederum für unsere These hier möglichst flexibel zu sein und sozusagen so ein Layer zwischenzuziehen der das Ganze dann mehr oder weniger Transparenz macht.

01:37:42: Ja, also ein weiterer Beleg.

01:37:44: Ich glaube vielmehr muss man... oder viel mehr Warnschüsse braucht man eigentlich nicht mehr, oder?

01:37:51: Um da gerade als Unternehmen jetzt die entsprechenden Vorkehrungen zu treffen.

01:37:58: Wer hätte das gedacht, wenn SpaceX der Elon Musk Curse übernimmt dass Sam Altman sagt ne dann kriegt es ja nix mehr.

01:38:09: Das war überhaupt nicht vorauszuschauen.

01:38:13: Das hätte wirklich niemand gedacht, dass sie das je tun.

01:38:19: Und um mal auch die Zahlen auf das runterzubrechen... Das klingt jetzt hart und es gibt sicher einige Leute, die das tatsächlich nutzen über Cursor OpenEye zu verwenden.

01:38:34: Aber nur fünf Prozent der Tokens werden über OpenAI verwendet bei Cursor.

01:38:41: Das heißt, die meisten verwenden das eigene Cursors-Internatool.

01:38:47: Undropping ist natürlich auch ein großer Teil und dann gibt es noch jede Menge Open Source Modelle, die halt quasi nix kosten.

01:38:56: Und ich weiß nicht also da schießt sich OpenAI selbst ins Knie?

01:39:02: Ich meine, ich kann schon verstehen Dass die Zweier sich nicht mögen und dass sie dann sagen, mit ihr spiele ich nicht mehr wenn du den jetzt gekauft hast.

01:39:14: Und Anthropic hat natürlich gleich anschließend gesagt, bei uns kein Problem, wir freuen uns, Cursor ist ein super Partner, liegt wahrscheinlich... Also hätte Anthropic nicht diesen Data Center Deal mit SpaceX hätten Sie wahrscheinlich genau das selbe gemacht?

01:39:32: Das war wahrscheinlich halbwegs schlauer vom Elon Musk da an Tropic festzubinden und ihnen eine gewisse Abhängigkeit zu verschaffen, damit das eben nicht passiert.

01:39:45: Also ich könnte mir gut vorstellen dass das einer der Überlegungen war als er an Topic den Deal angeboten hat, dass die das Colossus Data Center nutzen dürfen.

01:39:56: also da hat er wieder zwei Schritte voraus gedacht Der liebe Elon, aber Sam Altman lässt sich dann nicht beirren.

01:40:07: Er hält ihn immer noch für den James Bond böse Licht – was er wahrscheinlich auch ist!

01:40:12: Aber beide?

01:40:15: Also wie gesagt, für alle Unternehmen die Cursor verwenden.

01:40:20: und ob mir ein Bye-bye das wird nicht mehr klappen Außer es gibt

01:40:27: halt personelle Wechsel.

01:40:29: Dann könnte das nochmal neu bewertet werden, aber davon ist er aktuell nicht auszugehen.

01:40:34: Ja, es könnte ja ein Tropic-Cursor kaufen oder Spacics, Entschuldige, umgekehrt!

01:40:42: Dann wirds jetzt alles natürlich ändern.

01:40:46: Vielleicht schluckt die sich dann alle gegenseitig und irgendwann ist nur noch einer übrig der Gigant... vielleicht ist es Nvidia?

01:40:53: Wir wissen's ja nicht weil die haben wir eh schon alles

01:40:57: Entweder kauft den Haufen zusammen.

01:40:59: Genau!

01:41:00: Dann haben sie wirklich alles abgedeckt.

01:41:06: Okay, vielleicht auch noch eine Erwähnung wert ist jetzt das ChatGPT in der EU als Very Large Online Search Engine gilt und das hat Auswirkungen nämlich... Das betrifft die Anwendbarkeit das Digital Service Act.

01:41:31: Das ist ja auch an eine bestimmte Größe der Plattform gebunden, ne?

01:41:35: Ich glaube, ich glaube, es sind hundertneunfünfzig Kommaeins Millionen durchschnittlich monatlich aktive Nutzer in der EU.

01:41:43: Das isst schon ein Haufen Holz und das hat natürlich Konsequenzen sowohl für Open AI als auch für diejenigen die es nutzen.

01:41:59: Da denke ich auch wieder an Unternehmen, ja?

01:42:01: Also die müssen jetzt bestimmte Dinge beachten, die sie vielleicht vorher nicht beachten mussten.

01:42:08: Was hast du da an Details, die du vielleicht mit uns teilen kannst?

01:42:14: oder wie siehst du das?

01:42:16: Ja also ich fand die Schwelle lustig und interessant weil Jetzt bist du plötzlich in einer ganz neuen Regulierung.

01:42:26: Du hast vorher den EIA Act gehabt und jetzt hast du den DSA-Act, also der Digital Services Act.

01:42:33: Das hat nicht nur Implikationen für Chatchapity sondern auch für die, die das verwenden.

01:42:39: Theoretisch müsste es natürlich besser werden für den Nutzer weil sie dadurch besser geschützt sind sozusagen Aber auch die Regulierungspflichten und Nachrichtenpflichten verhindern sich für den Nutzer.

01:42:58: Und auch für den Anbieter, also ich habe es noch nicht durchgedacht ehrlich gesagt was das jetzt für Implikationen haben könnte aber dass es so ist mit Ende August.

01:43:16: Also ich glaube, wenn ich das richtig gesehen habe ist Ende August das Thema.

01:43:19: Also seit heute gilt es eigentlich dann schon.

01:43:22: Das muss man sich mal genau anschauen.

01:43:26: Vielleicht schauen wir uns bis nächste Woche mal an was das für Direktimplikationen für die Nutzer hat und auch für die Unternehmen, die das einsetzen.

01:43:36: Weil ich meine dass ob mehr Ei betroffen ist digital services sei klar aber und dass die irgendwelche regulatorischen Dinge verändern müssen.

01:43:46: Aber ich könnte mir auch gut vorstellen, dass sie dann irgendwie plötzlich Dinge nicht mehr anbieten in Europa weil das halt im DSA dann viel zu kompliziert wird oder zu teuer wird.

01:43:59: aber schauen wir mal, bin schon gespannt.

01:44:00: Ich fand es auf jeden Fall wichtig erstmal so zu nennen, dass es so ist.

01:44:05: Ja genau also das sollte man zumindest im Hinterkopf haben gerade weil eben hier in Europa besondere Regulierung gelten, sowohl für Anbieter als auch für Nutzer von solchen Systemen.

01:44:19: und ja da muss man sich schon zurecht finden.

01:44:23: So ganz einfach ist das inzwischen ja nicht mehr trotz versuchten Bürokratie abbaus aber vieles hat ja auch einen konkreten Nutzen.

01:44:34: Das darf man natürlich auch Das darf man auch nicht vergessen dabei.

01:44:40: Ja, genau.

01:44:42: Was meinst du?

01:44:42: Sollen wir es damit bewenden lassen oder hast du noch irgendwas Wichtiges was du noch ergänzen würdest?

01:44:51: Geopolitisch relevant?

01:44:52: vielleicht noch ein kurzer.

01:44:56: Die CXMT die ja ich glaube vor zwei Wochen an die Börse gegangen sind das ist dieser Chip Produzent.

01:45:04: Die schaffen es angeblich hier schon High Bandwidth Memory der dritten Generation rauszubringen.

01:45:10: Also zwar noch in kleinen Stückzahlen, aber sie können wohl hier schon diese Chips selber produzieren.

01:45:18: Damit reihen Sie sich dann ein.

01:45:21: hinter Samsung SK Heinecks und Micron ist dann CXMT der vierte, der diese High Bandweath Memories produzieren kann Der Kette, sozusagen hier der Unabhängigkeit von China gegenüber dem Westen reduziert wird.

01:45:44: Das heißt wenn Sie jetzt tatsächlich auch diese ganze Litografiethematik lösen und es gibt jetzt schon die ersten Gerüchte das Huawei hier, also vierzehn Anström-Modelle bauen kann Da wird sich dann zeigen, was tatsächlich passiert.

01:46:05: Wenn diese Kette komplett aufgelöst wurde und China diese Unabhängigkeit selbst machen kann, was das für Auswirkungen in der Geopolitik haben wird.

01:46:18: Dann sind wir ja vorhin schon angesprochen, vielleicht ist Taiwan ein Problem, weil dann kann China hier einfach TSMC stören und den Westen abhalten dass sie ausreichend Kapazitäten schaffen, um diese ganzen Rechenzentren zu bauen.

01:46:37: Sie selber hätten aber ausreichende Kapazität und auch Unabhängigkeit.

01:46:42: Aber die Frage ist natürlich das alles sehr theoretisch ob es diese komplette Autarkie tatsächlich überhaupt jemals geben wird weil die Welt halt schon sehr komplex und sehr global geworden ist.

01:46:56: Dementsprechend ich bin ein großer Fan der Globalisierung weil dadurch einfach Frieden herrscht Weil alle voneinander abhängig sind und damit hoffentlich nicht auf blöde Ideen kommen.

01:47:10: Aber man sieht hier wieder dieser Nationalismus, diese Entwicklung in Richtung America First und wir sind mir ja in Österreich das ist alles Humbug.

01:47:27: also eigentlich wird alles noch mehr verstrickt.

01:47:31: Ja

01:47:31: und das hat ja leider gerade wieder sehr stark Konjunktur.

01:47:37: Mal gucken, aber es ist vielleicht auch mit einem Pendel was mal in die eine mal in der andere Richtung schwingt.

01:47:46: Wichtig ist denke ich man dass man den Optimismus nicht verliert und dann das Beste hofft!

01:48:03: Wir arbeiten auch schon an den ersten Projekten.

01:48:06: Also das haben wir eh schon vorher, bevor wir gelonscht sind aber jetzt ganz offiziell und es gibt auch die Seite Eurkosaei.

01:48:14: also falls ihr euch interessiert schaut's gerne vorbei.

01:48:20: Die Website ist da und dann werden wir natürlich auch regelmäßig neue Infos für euch bereitstellen.

01:48:31: sind ja da auch, oder sehen ja da so unseren Anspruch darin eben die Grundlagen der KI, die praktischen Anwendungsmöglichkeiten zu vermitteln und war ja auch mit ein Grund warum wir hier diesen Podcast ins Leben gerufen haben.

01:48:49: Ja schön also.

01:48:50: dann würde ich sagen haben wir thematisch für heute doch wieder einen schönen Rundumschlag gemacht und glaube ich sehr, sehr vieles von dem was in letzter Zeit im Bereich passiert ist hier besprochen.

01:49:05: Und ich mache mir keine Sorgen dass wir nächste Woche wieder mindestens genauso viele Themen haben werden.

01:49:12: die Aufbesprechung warten vielleicht dann auch schon wie gesagt mit ein paar praktischen Erfahrungen zu denen Dinge, die wir heute schon angerissen haben.

01:49:23: Und ja das führt mich dazu jetzt auch schon so langsam von euch allen zu verabschieden und mich zu bedanken.

01:49:31: erstmal dass ihr uns wieder eure Werte Aufmerksamkeit geschenkt habt sei es höhrend oder sehenderweise.

01:49:42: Noch mal hier der Hinweis, ihr könnt uns also wenn ihr es noch nicht gesehen habt auch auf YouTube finden.

01:49:48: Wir haben da ein Kanal angelegt in dem wir eben das was wir hier besprechen mit visuellen Materialien unterlegen.

01:49:57: und wie gesagt alleine der Fact Checker von Yousuf ist es wert da mal rein zu gucken Und wir würden uns freuen, wenn ihr uns da vielleicht auch ein Like da lasst oder ein Abo oder einen Kommentar.

01:50:09: Also Feedback ist immer willkommen und wir antworten auch gerne drauf!

01:50:13: So viel von meiner Seite und dann sage ich einfach mal bis nächste Woche und macht's gut da draußen.

01:50:19: Bis dahin tschüss!

01:50:33: Aber ja, ich danke, dass ihr so lange zugehört habt und zugesehen habt.

01:50:39: Es war mir eine große Freude!

01:50:42: Und ja... Niert's gerne unseren Kanal, abonniert uns, sprecht über uns und zählt euren Freunden von uns.

01:50:53: Wir freuen uns auch wenn ihr uns anschreibt, wenn ihr irgendwelche Fragen oder Themen habt, die ihr gerne besprochen haben wollt.

01:51:00: Wir versuchen auf fast alles zu antworten, wie jede Woche auch.

01:51:05: Und ja bitte dann bleibt mir nicht viel anderes zu übrig zu sagen, da.

01:51:08: ich danke und wünsche euch noch eine schöne Woche und freue mich auf nächste Woche!

01:51:13: Tschüss.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.