00:00:10: Ja, letzte Woche habe ich die Schmerz nicht vermisst und wahrscheinlich auch unsere Zuhörer und Zuschauerinnen ebenso.

00:00:38: Und umso mehr freut es mich, dass du wieder da bist!

00:00:43: Wir müssen unsere Ankündigung in eigener Sache heute noch ganz schnell mit ein paar Details unterfüttern.

00:00:51: Sicherlich interessiert es einige da draußen auch was ist denn jetzt mit unserer Firma?

00:00:56: Unsere KI-Firma die wir angekündigt haben?

00:00:59: wie heißt sie und was haben wir eigentlich vor?

00:01:01: Erzähl mal kurz was du dazu zu erzählen hast.

00:01:06: Ja, ein Halleluja!

00:01:09: Wir haben es geschafft durch alle bürokratischen Mühlen Österreichs uns durchzuwühlen und dann einen Start-up zu gründen.

00:01:19: Und das Start up heißt Waukosa EI.

00:01:23: Also yay wir haben's geschafft.

00:01:28: Also vielleicht kurz zum Hintergrund, was heißt eigentlich Waukoza?

00:01:32: Eukosa kommt aus dem eitgriechischen Oikos, also das Haus, Haushalt oder Heimat.

00:01:38: Und die Message ist quasi bei uns alles in Haus.

00:01:43: Also alle Karriergenden und alles läuft nicht in irgendwelchen Clouds sondern alles im eigenen Haus.

00:01:50: Das ist quasi die Message hinter dem Namen und das Konzept.

00:01:57: Was machen wir eigentlich mit Eukoso?

00:02:01: Man kann sich so vorstellen, from wipecoding to production.

00:02:06: Es gibt ja ganz viele von unseren Zuhörern die hier schon wahrscheinlich ganz viele Tools gebaut haben meistens für den eigenen Nutzen oder vielleicht nicht für ihr eigenes Team.

00:02:18: Aber immer dann wenn man sagt und jetzt rollen wir das aus und nehmen es in Produktion ist dann immer so Wie machen wir das jetzt genau?

00:02:28: Und was muss man da eigentlich alles tun und wo soll es dann laufen.

00:02:32: Haben wir überhaupt irgendwo GPUs?

00:02:35: Sollte dass bei uns lokal laufen oder in der Cloud, was ist DSGVO compliant oder nicht?

00:02:40: ja und all diese Probleme kommen einem entgegen wenn man das irgendwann mal in Produktion bringen will.

00:02:49: und genau da sind wir drinnen.

00:02:51: Das heißt ihr könnt's einfach zu uns kommen und wir helfen euch diese Systeme production ready zu bekommen und auch die richtigen Infrains Lösungen anzubieten.

00:03:03: Also wir haben hier ein breites Netzwerk an Infraints Lösungen, die lokal in Europa stehen von kleinen mittelständischen Unternehmen, die Server Kapazitäten aufgebaut haben bis hin zu größeren Cloud-Ambitern.

00:03:19: also wenn ihr richtig große dicke Instanzen braucht oder ganz kleine Und die ganzen Redundanzen und die ganzen API's.

00:03:29: All das was hier benötigt, können Sie ja quasi bei uns dann einfach machen.

00:03:34: Ja, that´s it!

00:03:35: Mehr ist es auch gar nicht.

00:03:37: Ok, eukosa.ai das ist unsere Domain und ja schaut gerne mal vorbei da haben wir dann für euch auch nochmal die wichtigsten Infos zusammengestellt und ihr könnt uns natürlich auch erreichen auf diesem Weg.

00:03:51: Da gibt es dann auch ein Kontaktformular und die Informationen zu E-Mail und Telefonen.

00:03:57: also das wäre doch eine gute Aufschlag Und damit wollen wir aber auch gar nicht länger mit den News zögern und wir haben wieder eine Menge für euch zusammengestellt.

00:04:12: Die spannende Frage ist bei all diesen interessanten Themen, über die wir immer wieder berichten womit fangen wir eigentlich an?

00:04:22: Ja, vielleicht gehen wir mal so ein bisschen auf die aktuelle Hardware-Situation ein.

00:04:27: Weil die natürlich auch sehr stark durch die Nachfrage von KI getrieben ist und da haben wir einen Rekord hoch bei Speicherpreisen und auch bei CPUs.

00:04:41: also das Zeug ist einfach unfassbar teuer geworden.

00:04:48: Konsequenzen für all diejenigen, die Hardware einkaufen wollen.

00:04:52: Die Hardware betreiben.

00:04:54: Ja und also inzwischen ist es ja fast so dass man Rahmen sich so wie Goldbaren in den Safe legen hat oder Jussophie?

00:05:09: Ich bin ja ganz froh das ich mit der Harte Erwartungsfirma, dass sie in dem Kerngeschäft drin ist und dass wir gute Lagerbestände haben, weil wenn ich die heute auffüllen müsste dann wird es richtig schnell richtig teuer.

00:05:27: Das bleibt uns endlich übrig das wir immer wieder nachkaufen aber wir kaufen eher früher als später Weil es sieht nicht so aus als würde sich das alles jetzt kurzfristig verändern.

00:05:40: also nur um mal ein kleines Beispiel.

00:05:42: Ich habe jetzt mal so ein paar kleine Beispiele rausgesucht, ja.

00:05:47: Also für so ein Zweiunddreißig Gig DDR-Fünf Kit hat man im September Vierundzwanzig noch so um die Achtzig bis Neunzig Euro gezahlt.

00:05:59: Heute zahlst du Vierhundertfünfzig ist fast fünfhundert Euro bei den Vierunsechzig Gig also Kingston Kits, also sogar Consumer, also Consumer Ramm.

00:06:14: Also das ist jetzt auch wieder so ein Consumerpreise.

00:06:18: Selbst die KINXTEN-Kits haben noch vor dem September, im September, in der Siegzeit sind es ca.

00:06:27: zweihundert Euro gekostet und jetzt kosten sie tausend Einhundert.

00:06:34: Und wenn man jetzt im Memori Bereich, also im Speicherbereich im Serverumfeld ist zahlst du jetzt für so ein vierhundsechzig gig RAM-Regel zwei bis drei tausend Euro.

00:06:45: Ja, je nachdem für welche Systeme und welche Welcher Hersteller.

00:06:51: also das ist schon verrückt.

00:06:54: ja und im SSD Bereich Ist es nicht gar zu hart.

00:06:59: Also da ist irgendwie so für so consumer fifty also für einen terabyte Consumer SSD erst so fünfzig Euro gezahlt.

00:07:07: Jetzt zahlste halt hundertfünfzig also das dreifache.

00:07:12: Aber im Enterprise-Segment, also alles was jetzt so ProLiant Server, PowerEdge Server, Fujitsu, irgendwelche Ternos Maschinen oder Primergy Maschine.

00:07:33: Das hat sich massiv verdeuert!

00:07:40: Jeder, der im IT-Umfeld ist und jetzt ein Hardware-Live Cycle machen will wird es eh gerade merken dass die Kisten ungefähr doppelt bis dreimal so teuer sind als noch vor einem Jahr.

00:07:58: Das ist schon extrem geworden.

00:08:02: hinzukommt das wäre ja auch schon der nächste Punkt also die CPUs Ebenfalls jetzt, also sind nicht nur die Speicher.

00:08:11: AMD hat sich ja mittlerweile zu dem sozusagen dominanten CPO-Ambieter gemausert.

00:08:23: Also früher war es Intel.

00:08:25: Mittlerweile ist das mit forty-seitig Prozent.

00:08:28: In Mix eighty-six bereits ist es schon AMD und wenn du heute einen Epic, einem AMD Epic bestellst kostet er nicht nur vierzig Prozent mehr als noch vor ein paar Monaten, sondern du hast Lieferzeiten von über dreißig Wochen.

00:08:51: Das wird ja so eine Neuwagen gestellt oder?

00:08:55: Genau!

00:08:56: Also das ist schon verrückt.

00:08:59: Das heißt diese ganze Lieferketten-Thematik durch die ganzen Hyperscaler und durch diese ganze KI Entwicklung zieht sich jetzt komplett durch.

00:09:09: die gesamte Wertschöpfung im Server und Storage umfällt.

00:09:15: Also für uns ist es super, weil wir merken jetzt natürlich... ...die Leute behalten jetzt ihre Server und nehmen jetzt halt bei uns die Wartung.

00:09:22: Das ist ganz praktisch.

00:09:24: also wir müssen quasi nichts tun!

00:09:26: Das ist ein guter Hinweis.

00:09:29: Weil das ist ja jetzt ein wichtiges Argument, also da wird der Weiterbetrieb noch attraktiver.

00:09:35: Ich meine es war vorher schon eine gute Alternative aber jetzt kann man das mal so richtig an den Kosten auch dann spüren wenn man Hardware ein bisschen länger nutzt dass man da einen klaren Kostenvorteil erzielen kann.

00:09:51: Ja definitiv!

00:09:51: Aber wie gesagt, ich will jetzt ja auch nicht großartig Werbung für meine Firma machen.

00:09:58: Ein bisschen ist okay in eigener Sache.

00:10:01: Also falls ihr nichts Neues überkaufen wollt und nur eure Machtung verlängern wollt, kommt's gerne zu uns!

00:10:13: Aber ich denke alle die das schon mal durchgedacht haben sind sowieso schon bei uns.

00:10:21: Aber ich wollte hier nochmal sagen, dass das gerade im Moment massive Veränderungen im Enterprise-Segment durchführen.

00:10:32: Und es ist nicht nur Hardware!

00:10:35: Wir sind auch Sophos und Forti Partner.

00:10:43: Forti hat dieses Jahr schon zweimal die Preise erhöht und zwar nicht um drei, vier Prozent so Indexanpassungen.

00:10:51: Sondern jedes Mal zwischen acht und fünfundzwanzig Prozent, ja?

00:10:57: Und wir haben jetzt erst gerade irgendwie eine neue, also der Quartals, diese Quartal Übergänge hat jetzt vor dir einfach die Preise um siebzehn Prozent erhöht.

00:11:07: Einfach so!

00:11:08: Ja?

00:11:08: Also schon im Einkauf... Also im Fährkauf werden es noch mal mehr, aber das ist schon verrückt.

00:11:15: Das heißt, dass zieht sich jetzt durch Alle Segmenten in der IT, auch die Software so auch diese Sophos Firewall Schnickschnack.

00:11:25: Diese ganzen Software Produkte.

00:11:30: Auch diese werden jetzt teuer.

00:11:31: keine Ahnung warum weil wahrscheinlich alle glauben wir können einfach die Preise erhöhen.

00:11:36: aber es ist nicht so dass das.

00:11:41: es hat System ja.

00:11:43: das heißt Der Betrieb von IT und IT-Infrastruktur wird jetzt immer teurer.

00:11:49: Und für alle, die sozusagen hier verantwortlich sind, die sollten auf jeden Fall ihre Budget ist schon für nächstes Jahr mindestens um dreißigvierzig Prozent steigern.

00:11:59: Weil realistisch gesehen wird es wirklich überall teurer werden.

00:12:06: Ja also ein konkretes Beispiel haben wir ja auch mitgebracht.

00:12:12: Und zwar betrifft das NVIDIA's KI Server.

00:12:16: Die werden laut einem aktuellen Bericht von Blumberg, man muss ja jetzt schon fast sagen nur um fünfzehn Prozent teurer.

00:12:28: Und die Gründe haben wir besprochen Speicherpreise, Speicherknappheit und betroffen sind Systeme mit den Flagship Chips Vera Rubin Grace Blackwell.

00:12:43: Also das zieht sich quasi komplett durch und es wird sich dann natürlich auch auf die Tokenpreise auswirken oder auf die Nutzung, wenn man jetzt über die Cloud geht.

00:12:54: Weil auch Anbieter wie Amazon Microsoft Google Meter sowie OpenAI und der Tropic nutzen.

00:13:01: diese Hardware und müssen die auch irgendwie einkaufen.

00:13:04: Aber da gehen wir nachher noch mal drauf ein auf das ganze Thema Kosten, was da für Probleme dranhängen können für diese Hyperscaler.

00:13:14: Ja aber es ist nur ein bestimmtes oder ein konkretes Beispiel an dem man schön sehen kann dass das wahrscheinlich auch sogar ein Inflationsfaktor sein wird.

00:13:27: Wir reden ja oft über Inflation Und ja nicht nur die Spritpreise treiben die Inflation und Lebensmittelpreise, sondern wahrscheinlich zunehmend auch die Hardware-Preise.

00:13:40: Also vor allem es wird... Es geht viel breiter als man annimmt.

00:13:50: Übrigens weil wenn du jetzt hergehst und sagst okay also gerade in den USA, wenn man jetzt USA betrachtet Der Großteil des GDP-Wachstums in den USA kommt ausschließlich aus dem Datacenterausbau.

00:14:06: Und jetzt kommt Nvidia her und sagt, wir müssen die Preise noch mal erhöhen weil nicht nur wir angefangen haben, um ein Prozentroertrag auf unsere Produkte zu haben sondern auch unsere ganzen Zulieferer wie die Memoryambita und sonstige anderen Zuliefere Jetzt drauf kommen, hey sie können jetzt auch die Preise erhöhen weil natürlich die Verfügbarkeit recht knapp ist.

00:14:34: Das heißt du hast jetzt auch ein Samsung das plötzlich fünfzig Prozent, sechzig Prozent Rohertrag hat obwohl die Speicher früher also vor diesem ganzen Wahnsinn höchstens Roherträge von fünfzehn, zwanzig, dreißig Prozent gehabt haben je nachdem welcher Anbieter.

00:14:52: Jetzt hast Du doppelt so hohe Roharträge Weil Sie es halt können Und das geht alles on-stack.

00:15:03: Ich glaube bei dem Apple Fall hatten wir das mal berechnet, wenn ein Produkt, also einen Teil, das jetzt hundert Euro kostet nachher hundertfünfzig Euro kostete und es ist nur ein Bruchteil von so einem iPhone zum Beispiel dann kann ja Apple Nicht nur, nicht nur um fünfzig Euro die Preise erhöhen.

00:15:33: Sondern sie müssen ja auch ihren Rohertrag halten weil sonst die Börse das ganz böse aufnehmen würde dass jetzt die Margen von einem iPhone massiv gesunken sind.

00:15:44: Das heißt es wird nicht um Fünfzig Euro teurer sondern es wird dann um Hundertfünfzig euro teurer Weil die noch mal Sechzig Prozent Marge oder sowas drauf haben.

00:15:56: Das heißt, Sie müssen das dreifache aufschlagen damit sie nicht negative Roherträge haben.

00:16:05: Und jetzt multipliziert sich das alles.

00:16:08: und wenn sich das alles multipliziert und all diese Sachen überall eingebaut sind und alle halt auf den Hyperscalen ihre Produkte und Dienstleistungen laufen haben und dort die Preise steigen dann steigt noch die Preisse für die Dienstleistung.

00:16:25: und wenn die preise der Dienstleistungssteigen Dann steigen auch die Inflationspreise.

00:16:30: Und der Einzige, den er dann nicht trifft ist dann der Friseur oder sonst irgendwas, der bleibt dann gleich.

00:16:36: aber alles was Business-Dienstleistungen sind, die für irgendwelche Produkte genutzt werden, dann werden noch die Preise dort steigen.

00:16:45: das heißt es ist so eine Kettenreaktion, die offensichtlich nichts mit KI zur Ton hat.

00:16:54: also Man kann es nicht direkt zurückverfolgen auf die KI-Entwicklung, aber dadurch dass sich die Ressourcen an einem Bereich so ballen und so massive Auswirkungen auf Hyperscaler haben.

00:17:08: Und auch auf die Nutzung von IT Dienstleistungen.

00:17:14: Dann breitet sich das aus wie ein Lovefire!

00:17:17: Auch auf die Message.

00:17:19: als Nvidia angekündigt hat ihre Preise um fünfzehn Prozent zu steigern hat doch der Markt ganz, ganz böse reagiert.

00:17:27: Also massiver Abverkauf von den Videos, massiver Absturz aller KI-Aktien.

00:17:34: weil klar wurde, weil auch jedem dadurch klar wird wenn in dieser Wertschöpfungsebene schon die Preise schlagartig so stark steigen was heißt das dann für alles was oben drauf ist?

00:17:49: Weil es kann nicht sein dass irgendwer dazwischen quasi die Kröte frisst, sondern am Ende frisst er Nutzer.

00:17:57: Und das sind wir!

00:17:59: Ja richtig und das ist ja noch nicht mal alles Vielleicht dazu passen, können wir noch dieses Thema einschieben was wir auch auf der Liste haben und zwar betrifft es die Gaspreise.

00:18:12: Also wir sprechen ja oder den Nachrichten kommt ja häufiger zurzeit eine Meldung dass unsere also die Garspeicher hier in Deutschland das viel zu wenig gefüllt sind.

00:18:25: ich glaube aktuell forty-nine Prozent.

00:18:27: Im Vorjahr waren es sixty-seven Prozent und es gibt ja so ein Zielwert, der glaube ich bis Anfang November erreicht werden muss.

00:18:35: Siebzig oder achtzig Prozent also da habe schon verschiedenst gehört aber jedenfalls viel mehr als jetzt.

00:18:40: und zu den aktuell ohnehin schon hohen Gaspreisen diese Speicher zu befüllen das scheint sich wirtschaftlich nicht zu lohnen denn sonst würden die Versorger schon längst getan haben.

00:18:53: Das heißt sie warten noch ab Aber das Zeitfenster wird natürlich immer geringer und ich weiß nicht, ob die Gaspreise in nächster Zeit sinken werden.

00:19:02: Vielleicht steigen sie eher?

00:19:04: Und wenn man jetzt mal sieht – wir haben ja auch schon darüber gesprochen – dass diese Mega-Rechenzentren, die z.B.

00:19:11: in den USA gebaut werden aber auch anderswo auf der Welt… zum Teil eben mit Gas-Turbinen und einer Leistung von fast zehn Gigawatt betrieben werden sollen, also ungefähr eine Leistung aus zehn großen Atomkraftwerken.

00:19:30: Das Gas muss ja auch irgendwo herkommen – die Ressourcen sind dieselben wie wir auch!

00:19:36: brauchen für unsere Versorgung.

00:19:38: Also kann man sich überlegen, wo da die Reise noch hingehen wird und wie sich die Gaspreise in nächster Zeit entwickeln werden.

00:19:45: Mal abgesehen von den ganzen geopolitischen Krisen, die ja auch preistreibend wirken.

00:19:51: Das sieht alles nicht so gut aus meiner Meinung nach.

00:19:57: Ich würde fast sagen das ist ein Victory Lab aber das ist irgendwie eine blöde Victory Lab weil ihnen etwas recht zu haben, was so massive Auswirkungen hat ist irgendwie ein bisschen blöd.

00:20:07: Aber wir hatten das glaube ich vor zwei Folgen oder vor drei Folgen mal thematisiert wo wir gesagt haben es gibt jetzt Konkurrenz im Gasmarkt und die langläufigen Verträge die die Amerikaner vor allem mit LNG mit ihren Partnern haben konkurrieren jetzt mit den lokalen Datacentern quasi gekappt werden.

00:20:35: Und das hat natürlich massive Folgen für Europa.

00:20:39: und genau da stehen wir jetzt.

00:20:43: Alle zeigen hier auf den Iran-Krieg, wobei es ist nicht der Iran- Krieg ausschließlich, der diese Gaspreise massiv so massiv in die Höhe treibt weil die Kapazitäten, die dort sozusagen hängen an der Straße von Hormuz sind minimalst.

00:21:03: Das heißt, das ist nicht das Bottleneck auch wenn es jetzt vielleicht größtenteils behauptet wird.

00:21:09: ein größeres bottleneck ist tatsächlich der verbrauch in den usa und die konkurrenz die jetzt in den markt reinkommt der quasi hier strukturelle probleme aufdeckt.

00:21:23: ja weil Der Russlandkrieg ist natürlich eines der größten Probleme, weil Russland ja einer der größte Lieferanten von Gas gewesen ist gerade von Europa und wir haben uns halt viel zu lange darauf verlassen.

00:21:39: Und jetzt kommt das alles über LNG und LNG-Lieferanten ist mittlerweile eine der größsten die USA.

00:21:45: Die USA sind aber auch nicht zuverlässig, weil eben die Detacenterbranche hier lobbyiert Versucht die Ressourcen quasi aus den Long-Term Contracts rauszubekommen und für sich zu beanspruchen, weil das natürlich viel günstiger ist.

00:22:05: Und es für sie auch die einzige Möglichkeit ist um wirklichkeit, um ihre Detacenter überhaupt zu bauen.

00:22:11: Weil Es gibt nicht ausreichend Strom in den USA Um diese Detacentre ans Netz zu bringen.

00:22:19: Du musst zusätzliche Netzkapazitäten schaffen.

00:22:23: kurzfristig so schnelle Netzkapazitäten schaffen zu können, musst du auf Gaskraftwerke zurückgreifen.

00:22:30: Du kannst vielleicht noch Windräder aufstellen oder versuchen mit Solar Teile davon abzudecken aber für einen dauerhaften Betrieb ist Gas eigentlich in dieser Phase unungänglich weil du müsstest natürlich jetzt hier auch die Batteriekapazitäten dazu ausbauen.

00:22:51: Das Konflikt ist zwischen USA und China, dass hier die Batteriekapazitäten als Waffe genutzt werden.

00:23:01: Du hast ein Player wie Elon Musk, der zwar mit Gigafacturys massiv ausbaut, die Batteriekapazitäten in den USA aber das ist noch viel zu wenig also viel viel zu wenig.

00:23:16: sie brauchen China dafür Und das wollen sie aber nicht, weil sie da doch noch recht Rekarten haben.

00:23:20: Das heißt es spielt alles zusammen und die einzigen, die hier außen vor sind und die wieder mal die Kröte fressen – das sind ja Europäer!

00:23:33: Weil wir hier nichts mitsprechen können... ...und wir auch nix in der Hand haben um ihnen zu sagen ne, das könnt ihr jetzt nicht machen.

00:23:41: Mit was soll man Ihnen drohen?

00:23:42: Nix.

00:23:43: Also können den Hyperscalern dann irgendwie Steuern aufbrummen.

00:23:51: Das können wir noch machen, aber was machen wir mit dem Geld?

00:23:56: Also das bringt uns ja nix, weil deswegen kriegen wir keine Rohstoffe!

00:24:02: Ne also ein vernünftiger Weg wäre zu sagen mit dem geld eine unabhängige Energieversorgung aufzubauen, was ja durchaus möglich wär, stichwort erneuerbare Energien.

00:24:13: Aber dazu müsste natürlich auch erstmal der politische Wille vorhanden sein und er ist ja aktuell nicht vorhandene, sondern man möchte ja weiterhin auf fossile Energien setzen.

00:24:22: Sehen wir gerade sehr stark.

00:24:25: Und dieser Weg, der jetzt eingeschlagen wurde – ich bin mal gespannt – wann erkannt wird dass das nicht der richtige Weg ist wahrscheinlich zumindest?

00:24:36: Sondern dass sich in eine noch größere Abhängigkeit begibt als ohnehin schon!

00:24:43: Es ist eh witzlos eigentlich, also da geht einem ja alle Kabel hoch.

00:24:50: Wir haben Rekordhitze, wir haben Waldbrände... ...wir haben ein massives Klimaproblem und wir haben massive Abhängigkeiten in der Energie.

00:25:01: und trotzdem fehlt der Wille auf erneuerbare Energien, dass die einzige Lösung ist zu all diesen Problemen!

00:25:10: Und trotzdem fehlt hier der Willi etwas zu tun und zu sagen, oh wir können das eh mit bisschen Gas ein bisschen Öl.

00:25:18: Und dann bauen wir halt mal, machen wir nicht mehr wieder so einen Kohlekraftwerk online.

00:25:22: Das passt schon, geht eh!

00:25:25: Das lösen wir jetzt kurzfristig.

00:25:28: Es ist zum Durchdrehen, ne?

00:25:32: Ja, aber ich hatte da auch gerade letztens noch mit jemandem eine Diskussion darüber.

00:25:37: Also über diese scheinbar widersinnigen Entscheidungen und ich glaube einfach es ist heutzutage eben keine Frage der Argumente mehr sondern es geht hier um Einstellungen und Befindlichkeiten von der Denkweise her fossil ist, sag ich mal.

00:25:59: Dann wirst du den sei es jetzt beim Verbrenner für das Auto oder eben auch bei der Energieerzeugung, wirst Du den niemals mit Argumenten überzeugen können weil er halt immer ein anderes Argument.

00:26:10: und wenn's die Reichweite beim E-Auto nicht mehr ist dann ist es halt irgendwas anderes vielleicht der Wertverlust da wird immer was Neues aus dem Hut gezogen.

00:26:18: also du brauchst gar nicht mehr mit Argumente kommen.

00:26:22: Was die Energieversorgung in Europa angeht, da kommt natürlich auch noch ein extremer Lobbyismus dazu.

00:26:28: Also was dahinter den Kulissen alles abläuft das weiß ja keiner.

00:26:33: aber es ist nicht ohne Grund dass der Weg so eingeschlagen wurde wie er eben eingeschlagen würde.

00:26:39: also da kommt vieles zusammen.

00:26:41: einfach

00:26:42: Es ist halt immer dieser kurzfristige Gedanke ich muss jetzt kurzfristig ein Problem lösen weil meine Legislaturperiode genau drei Jahre geht oder vier Jahre geht wenn es gut geht.

00:26:53: Und in dieser Zeit muss ich mich möglichst beliebt machen, damit ich an der Macht bleiben kann und mir das nächste Mal wieder irgendwie die nächsten kurzfristigen Ziele machen kann.

00:27:01: Natürlich können diese kurzfristige Ziele niemals das Problem lösen weil es halt nicht so kurzfristig zu lösen ist.

00:27:11: Man muss investieren man muss langfristig mittelfristig auch denken und dafür ist halt die Politik unter Populismus einfach Ein schlechtes Instrument.

00:27:24: Idealismus und Optimismus wäre natürlich eintreibbar, aber auch das ist halt sehr kompliziert.

00:27:33: Und da wissen noch die gerade die rechten Parteien sehr gut wie man das unterbindet.

00:27:42: Da wird dann alles gleich schlecht geredet und alles gemein.

00:27:46: Wir wollen hier natürlich das Ganze nicht schlecht reden.

00:27:50: Wir fordern jeden auf im Kleinen das Möglichste zu tun und all die Diskussionen auch zu führen, die vielleicht auch supermüsam sind.

00:28:02: Auch mit wiederwilligen Menschen, die das nicht verstehen wollen.

00:28:05: aber selbst wenn ihr einen überzeugt habt ist es schon ein Gewinn!

00:28:11: Wichtig ist, dass man im Gespräch bleibt glaube ich.

00:28:13: Also auch selbst wenn jemand in einer komplett kontrieren Meinung ist dann finde ich das man trotzdem nicht blocken sollte und es versuchen sollte und einfach immer in Verbindung bleiben.

00:28:27: Das glaube ich das wichtigste was heute leider halt auch nicht immer selten nach funktioniert.

00:28:34: Zivilcourage!

00:28:36: Dass wir

00:28:36: stehen zu den Meinungen stehen.

00:28:42: Gut, kommen wir von dieser doch schon fast philosophischen Thematik jetzt ein bisschen zurück zum Thema Hardware.

00:28:51: Weil wir hier auch noch ein paar weitere News mitgebracht haben.

00:28:54: es gibt nämlich interessante neue Chips Inferenz-Beschleuniger Nämlich einmal von OpenAI mit dem schönen Namen Calapeno Und von Nvidia GROC-III LPX, wobei man immer dazusagen muss, GROK hat in dem Zusammenhang nichts zu tun mit dem GROCK was man mit K schreibt.

00:29:15: Von XAI oder SpaceX oder wie auch immer.

00:29:18: ja also das ist etwas völlig anderes.

00:29:20: es geht hier um das Startup GROQ.

00:29:25: da hat sich ja Nvidia eine Lizenz oder Lizenzen gesichert.

00:29:28: haben wir auch letztens schon drüber gesprochen?

00:29:30: oder?

00:29:30: ich glaube im letzten Jahr war das So, und worum geht's da genau?

00:29:34: Also wie gesagt es sind Inferenzbeschleuniger.

00:29:37: also im Prinzip sind das Chips die man verwendet wenn man ein bestehendes KI-Modell dann in der täglichen Arbeit anwenden will benutzen will.

00:29:48: Und der große Vorteil bei dem Jalapeno von OpenAI ist erstmal ja die große Effizienz.

00:29:57: Das Ganze ist deutlich sparsamer im Verbrauch von Token.

00:30:07: Beziehungsweise es kann pro Kilo Watt, so habe ich sie jedenfalls gelesen das fifty- bis hundertvierfache des Tokendurchsatzes.

00:30:18: Das wäre ja jetzt wieder eigentlich eine gute Meldung zu dem, was wir vorher gesagt haben.

00:30:24: Der steigende Energieverbraucher.

00:30:25: Aber wir wissen natürlich auch sparsamere Produkte führen ja zumindest mittelfristig nicht zu weniger Verbrauchstöder und trotzdem zu mehr.

00:30:34: diesen Effekt haben wir auf beschrieben.

00:30:36: Auf jeden Fall ist es spannend, weil das Ganze natürlich ganz neue Leistungsmöglichkeiten eröffnet.

00:30:43: Und ja bei Nvidia GROC da steht vor allem auch die Leistung im Vordergrund und das ganze soll eingesetzt werden.

00:30:54: also der GROCK III LPX soll eingesetzen werden als sogenannte Interactive AI Influencer Accelerator und hier zielt es auf besonders schnelle Token-Generierung ab und damit sollen autonome, agentische KI-Systeme in Echtzeit ermöglicht werden.

00:31:13: Also dass man einfach dann noch schneller Ergebnisse bekommt, dass Handlungen noch schneller ausgeführt werden.

00:31:18: Interessant ist eine Ein kleiner aber feiner Unterschied bezüglich der Architektur, der Chips.

00:31:26: So hat nämlich Nvidia GROC drei LPX nur fünfhundert MB on Chip Speicher und das kann dann dazu führen dass man bei ja gerade bei großen Modellen sehr sehr viele Modelle sehr viel von diesen chips braucht Und dass wir dann eben mehrere Racks zusammenschalten muss, um dann so ein Modell überhaupt betreiben zu können.

00:31:53: Aber sicherlich wird es dafür jeden Chip die passenden Anwendungsmöglichkeiten geben!

00:31:59: Ja jetzt du als Hardware-Experte Yousuf wie siehst Du diese Neuentwicklung?

00:32:03: Siehst Du da Potenziale und was hältst Du generell von dieser Entwicklung zu?

00:32:11: immer mehr und immer effizienter in Leistung?

00:32:15: Ja, da ist ein bisschen eine Mogelpackung drinnen.

00:32:17: Also wenn man sich das genau anschaut, ähm... Ist ein bisschen in der Mogel Packung drin, gerade bei dem Calabeno Chip.

00:32:23: dann reden sie immer von Effizienz.

00:32:24: aber gemeint ist der Durchsatz ja?

00:32:27: Das heißt was Sie damit meinen isst dass der Chip deutlich schneller Token verbrennt.

00:32:36: Also das heißt pro Kilowatt hast du einen deutlich schnelleren Token-Durchsatz.

00:32:43: Da heißt du kannst viel schneller etwas rechnen, da heißt du hast irgendwie tausend vierhundert Tonken pro Sekunde bei seinem GPT.

00:32:52: OSS-Hundertzwanzig B Pro Nutzer.

00:32:56: und das hat jetzt unter Grund warum sie diesen Chip haben ist nicht unbedingt die Energieeffizienz.

00:33:04: Die ist auch besser.

00:33:05: also aber jetzt nicht in dem Maße wie es hier vielleicht ein bisschen ja, gern dargestellt wird.

00:33:17: Also es wird absichtlich so dargestellt dass man glaubt das die energieeffizienter sind.

00:33:25: aber die energi effizienz liegt bei eins coma fünf bis eins coma neun mal in wirklichkeit oder vielleicht bis bis zu drei mal Ja.

00:33:38: Aber was halt wirklich passiert ist sie können halt viel mehr drucken auf eine viel schnellere Art und Weise verarbeiten.

00:33:48: Und das hilft ihnen insofern, weil sie dadurch jetzt ein neues Service anbieten können.

00:33:54: und dieses neue Service da haben wir auch schon davon gehört ist quasi der Influence Beschleuniger.

00:34:00: also dass du nicht mehr lang warten musst bis dein irgendwas gerechnet wird sondern du kannst jetzt sagen ich möchte dass es jetzt viel schneller gerechnet.

00:34:13: Und das ist jetzt ein neuer Revenue Stream, der hier kommt.

00:34:16: Den natürlich Nvidia nicht finanzieren will.

00:34:20: Warum sollten sie jetzt effizientere Chips bauen?

00:34:24: Die ausgerechnet führen nur dass OpenAI-Modell viel schneller funktionieren.

00:34:31: Deswegen braucht OpenAI auch eigene Chips und deswegen ist es für Nvidia kein Problem weil diese Alapeno Chips in keiner Weise konkurrieren mit den Nvidia Chips sondern die bringen jetzt hier nur für diese ganze beschleuniger Ecke und quasi den zusätzlichen Revenue, den sie hier damit generieren.

00:34:52: Bringen Sie diese Chips rein!

00:34:54: Natürlich in einem zweiten oder späteren Zeitpunkt werden diese Chalapeno Chips wahrscheinlich auch für klassische Infrains deutlich besser funktionieren und können noch mehr Durchsatz bringen weil du halt viel schneller das verarbeiten kannst.

00:35:10: Also das heißt die Kapazitäten sind höher.

00:35:14: Und der Grock, also dieser Grock-Deal eigentlich wollte er in Vidia ja grock kaufen für zwanzig Milliarden natürlich damit sie halt jetzt hier kein Monopol ausnutzen haben sie es jetzt so strukturiert, dass das ein Lizenz-Deal ist.

00:35:36: Sie dürfen die Technologie lizenzieren und eigentlich haben sie GROC gar nicht gekauft.

00:35:41: Was da blödsinn ist.

00:35:42: natürlich haben sie auch gekauft und die Hülle GROCs existiert noch.

00:35:48: Und GROCS ist tatsächlich für NVIDIA quasi die Alternativlösung auf CUDA Ebene sag ich mal also diese Software für diese Influence Problematik.

00:36:04: Und die Architektur, wie du schon gesagt hast erlaubt es jetzt auch für Player, wie zum Beispiel in dem Fall SpaceX oder so was?

00:36:14: Die würden natürlich hier gerne diesen GROC GPU nehmen weil damit können sie ihre eigene Modelle mit viel schnelleren Infrainslösungen ausstatten.

00:36:36: Hier gibt es auch wieder ein paar Problemchen, weil hier bei diesem Leistungstest werden immer Gamma vier E-Modelle verwendet und dass das schnell funktioniert auf einem Chip der jetzt Distributed mit Fünfhundert MB Speicher pro LPU dass das gut funktioniert, weil du das innerhalb eines Systems schnell machen kannst.

00:37:04: Aber sobald du hier ein zehn Billionen Modell hättest, also ein sehr großes wie ein Fable Five oder Mythos Dann wird das dann nicht mehr so schnell funktionieren, weil du das über das ganze Data Center distributen müsstest.

00:37:32: Da kommen wieder eben diese Lösungen von... Also da muss man wieder andere Lösungen bauen.

00:37:40: Da hat Google zum Beispiel mit den TPUs die Nase vorne.

00:37:48: Genau und also da haben wir auch noch für die, die es interessiert Ein interessanter Artikel, ein Ratgeber zur Frage GPU oder TPU.

00:38:00: Könnt ihr mal schauen im News-Bereich auf hardwarewartung.com.

00:38:07: Die Landschaft wird natürlich da auch immer differenzierter und je nach Einsatzbereich hat man dann immer mehr Möglichkeiten.

00:38:16: Je nachdem worauf man Wert liegt auf Effizienz, Geschwindigkeit, Kosten Also, dass das dann schon auch immer wichtiger wird da von Anfang an die richtigen Weichen zu stellen.

00:38:28: Ja!

00:38:29: Wir können übrigens kurz noch anmerken für alle, die jetzt tatsächlich in diesem Chip-Sektor sehr interessiert sind, Zerebras hat jetzt auch einen neuen Chip rausgebracht der CSIV also die vierte Generationen von den Zerebraßchips Die jetzt auch wieder viel schneller sind aber mit dem großen Unterschied, dass sie eigentlich von der Hardware Architektur nichts verhindert haben sondern nur software-seitig mehr oder weniger den Durchsatz erhöht haben.

00:38:57: Und damit hat man bis zu zweimal schneller, quasi als man vorher war.

00:39:03: also aber auch hier zählebrass hat auch ein ähnliches Problem wie grock.

00:39:07: sehr große modelle wirst du damit nicht in inference bekommen.

00:39:13: das ist vielleicht relevant für europa.

00:39:16: wenn wir irgendwelche open source kleinere Open Source Modelle laufen lassen wollen dann wäre das wahrscheinlich hier die bessere Lösung.

00:39:24: Genauso wie die GROC-Lösung von Nvidia ist auch für den Open Source Markt eher vorgesehen als für die großen Labs.

00:39:38: Okay, jetzt kommen wir doch gleich mal passend weil wir schon so ein bisschen bei der Technik sind zu unserer Kategorie KI's Next Top Model.

00:39:49: ich würde sagen Schieben wir es hier einfach mal ein.

00:39:53: und da haben wir ja einen Mysterium, ein Phantom.

00:40:00: Ich will das fast nennen namens OX Alpha.

00:40:04: Das ist ein Spitzenmodell mit einer Million Token Context Fenster aber bei dem weiß niemand so genau wo's herkommt.

00:40:13: was hat denn damit auf sich?

00:40:16: Ja Es ist wieder ein anonym veröffentlichtes Modell auf Hugging Face gelandet und zur freien Testung, ich glaube bis diese Woche konnte man es testen.

00:40:35: Und die Leute sind sehr überrascht über die Qualität und die Geschwindigkeit der Performance dieses Modells, weil es alle bisherigen Modelle mehr oder weniger in fast allen Bereichen schlägt.

00:40:57: Und das ist einfach so ein anonymes Modell, dass gedroppt ist und in der Lamerina schlägte es alle Rekorde.

00:41:06: Natürlich haben sich jetzt alle darüber Gedanken gemacht, wo kommt das denn jetzt her?

00:41:11: Es gibt ein paar Anzeichen, dass es aus China kommt!

00:41:15: Und das schreckt wieder einige auf.

00:41:19: Also es gibt ein paar Anzeichen, dass es von SIPU-EI kommt oder ZEI.

00:41:24: also da sind quasi die die Macher von den GLM Modellen, die jetzt GLM VIII rausgebracht haben.

00:41:32: aber ich bin da bitte in anderer Meinung weil es gibt noch ein paar Zusatzdinge die hier bei der Veröffentlichung gesagt wurden und zwar dass dieses Modell jetzt mit hundert Billionen Token pro Tag getestet werden kann.

00:41:55: Also, Hundert Billionen Token darf man kostenlos verbrennen um das Modell zu testen.

00:42:02: also jeder von euch kann jetzt hingehen und einfach da Spallen an und es testen ausprobieren und die Kapazität dafür sind hundert billonen Token Wenn man das runterrechnet, wie viel GPUs man ungefähr bräuchte um diese hundert Billionen Token pro Tag zur Verfügung zu stellen.

00:42:22: Das hat irgendwer mal gemacht und habe ich auf X gelesen.

00:42:28: Ja es ist ungefähr eine halbe Million GPUs.

00:42:34: Und das entspricht ungefähr so dem Colossus-I Detacenter.

00:42:41: Da ist dann schon ein paar Hundert Megawatt Leistung, die man da zur Verfügung stellen muss.

00:42:49: Und wenn das stimmt – weil das jetzt mal nur eine Behauptung ist – es gab ja nicht so viele Leute, dass man das für hundert Billionen Toppen verbrannt hätte oder zumindest als Wenns so wäre würden wir's nicht wissen, weil sie einfach abgefragt wird Dann kann das eigentlich kein chinesisches Modell sein.

00:43:12: wenn das so wäre, weil kein chinesischer Anbieter diese Kapazitäten hat.

00:43:20: Und selbst wenn sie es hätten würden die wahrscheinlich nicht so einsetzen sondern würden irgendwas anderes Lustiges damit bauen.

00:43:27: also ich zweifle ein bisschen daran oder es ist der totale Marketing Gag.

00:43:33: Sie sagen boah ihr könnt da reinblasen was ihr wollt und in Wirklichkeit stehen drei GPUs dahinter Sagen halt, wir haben unendlich viel Kapazität und machen uns ein bisschen schreckgespenst.

00:43:49: Das ist nicht so.

00:43:51: die Optionen... Also meine Vermutung ist, also ich würde jetzt, da können wir jetzt Wetten abschließen Ich würde auf Google tippen.

00:44:02: Weil

00:44:04: Google

00:44:05: war immer derjenige, der diese Analyne Drops gemacht hat Ja

00:44:09: Ja, also dann so was vielleicht wie so ein Erlkönig für Gemini IV Pro oder sowas?

00:44:18: Vielleicht ja.

00:44:19: Also wir wissen es ja von Nano-Banana.

00:44:22: Nano Bananas ist auch irgendwie einfach getropft, keiner wusste was das ist und dann war das das beste Imagemodell aller Zeiten.

00:44:29: Und das war von Google.

00:44:31: Und OX Alpha, mein Canon... Der Name ist komisch, also der Name tippt jetzt nicht auf irgend ein großes Lab hin.

00:44:46: Aber keine Ahnung... Ich würde mal auf ein westliches Modell tippen und ich hätte hier Google ihn verdacht weil an Topic es nicht machen muss ob mir das auch nicht machen muß und vielleicht XEI Die müssten es vielleicht machen, aber ich weiß nicht ob der Elon Musk in der Lage ist so ein Modell zu bauen.

00:45:21: Vielleicht gehört's ja zur Elef Alpha und dann wärs'n deutsches Modell.

00:45:26: Genau!

00:45:28: Das wäre doch mal einen Paukenschlag?

00:45:32: Ja das wär´s... Und der GPU-Cluster ist vom Deutsche Telekom.

00:45:42: Im Untergrund haben wir immer so getan, als wären wir hinten dran und dann auf einmal Vorhang auf... Wir werden es sehen!

00:45:54: Es ist sicherlich im Moment ein spannendes Geheimnis noch.

00:45:58: Spannend und geheim kann man eigentlich sagen ist auch Model II oder Model II von Entropic und spannend ist dabei nicht nur das Modell an sich, sondern auch die Art und Weise wie es mutmaßlich eingesetzt wird.

00:46:13: Also wir sprechen hier über ein besonders leistungsfähiges Modell was aber so nach außen für die Endverbraucher gar nicht erreichbar ist, sondern was eher intern eben zur eigenen Weiterentwicklung der KI genutzt wird.

00:46:27: ja und das könnte eine interessante neue Entwicklung sein dass wir mehr und mehr eben diese Topmodelle, das wir die nach außen gar nicht mehr ansprechen können über API oder über die Benutzeroberfläche.

00:46:43: Sondern dass sie sozusagen im Verborgenen arbeiten und einfach nur an dem weiterarbeiten was dann letztendlich nach Außen gepumpt wird.

00:46:50: Also so eine neue Schicht, die da eingezogen wird.

00:46:55: Und ja also du hast ja das mitgebracht, hast noch ein paar Infos dazu.

00:47:00: Was können wir uns darunter vorstellen?

00:47:03: Sie nennen es Model II und soll ein internes Modell sein, das halt der Mythos-Klasse entspricht.

00:47:11: Also war sie irgendein Nachfolger von Mythos V. Laut Benchmark soll's jetzt nicht so viel besser sein aber der Leistungssprung wird wahrscheinlich dann mit dem Training kommen.

00:47:30: Und für mich fühlt sich das ein bisschen schon so an, wie wir sind jetzt schon in der nächsten Ära.

00:47:36: Also wir haben ja letztes Jahr haben wir glaube ich darüber diskutiert woran würden wir merken?

00:47:44: dass wir EGI oder ESI ähnliche Modelle das die schon quasi in der Pipeline sind und wir würden daran merken, dass es immer ruhiger wird um das Thema.

00:48:00: Das scheint im Moment gerade so der Fall zu sein.

00:48:03: Also es gibt eine Verlangsamung der Model Drops.

00:48:09: auch OpenEye hat ja das Astra Modell zurückgestellt, sie haben behauptet Es ist zu gefährlich und es hat zu große Security Auswirkungen.

00:48:23: Und auch dass model zwei wird wahrscheinlich ähnlich sein.

00:48:27: aber ich also Es gibt viele Leute und ich bin einer davon.

00:48:34: Also es ist jetzt nicht nur meine Überlegung, die hier schon vermuten dass wir bei diesem Recursive Self Improvement Prozess schon sehr fortgeschritten sind und das wieder versucht wird sich auf Sicht zu besinnen und dort quasi das Rennen zu machen Und jetzt nicht mehr nur versucht einfach das nächste Modell rauszubringen dann möglichst viel Geld zu verdienen, weil das wahrscheinlich sowieso sehr schwierig sein würde.

00:49:05: Weil diese Modelle schon so groß sind dass sie in der Influence wahrscheinlich gar nicht in den Kapazitäten zur Verfügung gestellt werden können.

00:49:16: also das habe ich auch beim letzten mal gesagt als Astra als OpenAI gemeint hat Sie wollen Astra nicht aus Sicherheitsgründung rausbringen.

00:49:27: Meine Vermutung war eher, dass sie nicht die Kapazitäten haben um so ein großes Modell in der Influence betreiben zu können für die Menge von Menschen, die es gerne nutzen wollen würden und ich schätze hier bei dem Model II ist das ähnlich.

00:49:41: also das heißt wenn Sie das jetzt dropen würden dann würde es so viele Leute geben, die das Nutzen wollen würden, dass ihnen die kapazität wieder fehlen.

00:49:53: Sie wollen wahrscheinlich nicht diese Kapazitäten aus dem Training rausnehmen, weil die Weiterentwicklungssprünge, die sie jetzt machen so massiv sind.

00:50:06: Weil aktuell dieser Self-improving Algorithmen schon soweit fortgeschritten ist, dass wahrscheinlich die Entwicklungen so schnell gehen, dass jedes Megawatt da reinstecken ihnen so einen massiven Vorteil gegenüber des Wettbewerbs springt, als wenn sie jetzt Geld verdienen mit einem bisschen besseren Modell.

00:50:32: Das heißt entgegen der Annahme weil alle glauben ja die meisten Labs werden jetzt immer mehr Kapazitäten aus dem Training rausnehmen und den Infrains anbieten das heißt irgendwann ist die Infraints Leistung viel höher als die Trainingleistungen.

00:50:52: Ich glaube, genau das Gegenteil ist der Fall.

00:50:54: Also ich glaube dass jetzt die Kapazitäten in Training immer mehr laufen werden weil diese Entwicklungssprünge und Geschwindigkeiten so gut und so schnell funktionieren, dass es sich nicht auszahlt als Infrains also an Kunden anzubieten.

00:51:15: Weil wenn sie es tatsächlich schaffen auf dieser EGI, ESI oder halt irgendwas dazwischen hinzukommen.

00:51:25: Dann können sie Geld nicht von Kunden verdienen sondern mit eigenen Geschäftsmodellen und das passt auch ein bisschen zu dieser Aussage was viel auf EXOCH diskutiert wurde wo da Dario Amode gesagt hat vielleicht wird Antropic das letzte Unternehmen der Welt zahlen.

00:51:50: sehr dystopische Sichtweise, aber er hat es gesagt und ich denke, er wird's auch so meinen.

00:51:57: Aber was ist deine Meinung dazu?

00:52:04: Ich sehe es so ähnlich wie du.

00:52:06: Wir haben ja schon ein paar Mal darüber gesprochen dass das so kommen könnte.

00:52:13: Genau einschätzen können wir nicht im Moment, aber wenn wir jetzt mal sehen Anzeichen, die wir jetzt da sehen.

00:52:22: Dass sie auch sich in etwa mit dem Decken was wir ja auch schon als möglicher Anzeigen uns vorgestellt haben dann kann das gut sein und es zeigt aber auch aus meiner Sicht ganz klar dass wir jetzt einen Punkt angekommen sind an dem die Modelle einfach zu leistungsstark sind zugut sind um Sie jetzt einfach so eins zu eins den den Menschen draußen zur Verfügung zu stellen.

00:52:50: Das heißt also wir werden jetzt immer mehr Filter zwischen Schichten erleben, immer mehr Sicherheitsvorkehrungen die auch berechtigt und notwendig sind.

00:53:02: Das wird dann auch den Einsatz und die Anwendung der KI sicherlich in der nächsten Zeit stark beeinflussen.

00:53:10: Wobei man natürlich auch nicht vergessen darf, haben wir ja schon darüber gesprochen dass wir jetzt nicht nur die kommerziellen Modelle haben sondern wir haben ja auch auf der anderen Seite eben die Open-Weights anbiete und die werden ja auch immer besser und da gibt es diese Beschränkung nicht.

00:53:26: Das kann wiederum dazu führen.

00:53:27: Da gibt es jetzt auch schon Tendenzen in den USA zum Beispiel, zu sagen wir wollen aber gar nicht mehr dass ihr diese Modelle z.B aus China oder so verwendet.

00:53:38: Ihr müsst euch entscheiden.

00:53:39: also gibt's ja jetzt glaube ich gerade auch eine aktuelle Initiative wenn du überall dabei bist bis du nirgends dabei ungefähr.

00:53:48: das heißt so viel wie entscheide dich für uns oder du kannst mit uns nicht mehr arbeiten.

00:53:54: und da wird der Druck immer größer werden.

00:53:57: Und da sieht man mal wieder, was eben alles an dieser ganzen Entwicklung dranhängt.

00:54:02: Was wir heute schon wieder alles besprochen haben über die Preisentwicklung, Inflation jetzt eben die grundsätzliche Verwendbarkeit Und das hört ja nicht auf.

00:54:16: Da haben wir noch nicht mal über den Arbeitsmarkt gesprochen oder über das Zwischenmenschliche, also selbst für die, die sich eigentlich gar nicht mit KI beschäftigen und an denen das scheinbar vorbeigeht auch diese sind alle betroffen inzwischen von dieser ganzen Geschichte.

00:54:34: Man kann es faszinierend finden man kann es beängstigend aber auch finden.

00:54:40: Auf jeden Fall ist es so oder so aufregend in der positiven und negativen Art und Weise.

00:54:47: Das Rad dreht sich immer schneller, das heißt innerhalb von einem Jahr kann sich so viel tun jetzt inzwischen dass wir heute noch nicht sagen können, worüber wir jetzt im August zwei tausend sieben zwanzig sprechen werden.

00:55:01: Also ob wir hier überhaupt noch so sprechen oder ob da jetzt schon irgendwie unsere perfekten Avatare sitzen bei denen man überhaupt keinen Unterschied mehr erkennt?

00:55:10: Wir können es nicht

00:55:11: sagen.

00:55:12: Das haben wir erst das können wir heute schon.

00:55:13: Ich

00:55:14: habe

00:55:14: das ja schon getestet.

00:55:17: mit Minimax H-III kann ich mich schon komplett simulieren

00:55:23: Aber noch nicht wirklich effizient, oder?

00:55:25: Das ist ja schon ein Aufwand das zu machen.

00:55:28: Es ist Open Source!

00:55:30: Wenn du die richtige Maschine hast wie ich, kannst du hier den gesamten Podcast durchsimulieren und zwar uns beide.

00:55:37: Inklusive Stimme, inklusive Alarmimikgestick aussehen

00:55:46: all in.

00:55:47: Jetzt kommt die Frage.

00:55:49: Sind wir es

00:55:49: wirklich?!

00:55:52: Oder sind wir schon Simulationen?

00:55:53: Das führt uns jetzt wieder zu dieser Simulationshypothese, dass die ganze Welt eigentlich nur eine Simulation ist.

00:56:00: Aber okay!

00:56:01: Lass sie mir das... Wir schweifen sonst so sehr ab.

00:56:06: Genau ich würde lieber noch nicht den Sofie-Ecke.

00:56:10: Ja oder vielleicht einen ganz neuen Podcast.

00:56:12: also das ist ja alles so ergiebig.

00:56:16: Das müsste man wahrscheinlich nochmal irgendwie ausgliedern.

00:56:21: Aber um jetzt noch hier unsere Kategorie zu einem vollständigen Ende zu bringen, nochmal kurze Übersicht weil es gab noch ein paar weitere Neuentwicklungen.

00:56:31: Zunächst einmal DeepSeek VIV Flash Vision EXP Also ein experimentelles API-basiertes Mixture of Experts Modell.

00:56:44: Das ist speziell für kosteneffiziente, visuelle Agentin Workflows wie zum Beispiel Screenshot Analysen optimiert und bemerkenswert finde ich das jedes Bild auf maximal dreihundert vierhundartzig Token skaliert wird.

00:56:56: Und dadurch sollen die API Kosten extrem gering sein.

00:56:58: dreieinhalbzig Tonken für einen Bild.

00:57:02: Das is wenig oder?

00:57:03: Oh, das ist ja wenig.

00:57:06: Ich stelle mir das jetzt so vor wie eine Pixel-Grafik, irgendwie Mini auf.

00:57:10: Aber gut vielleicht reicht es ja.

00:57:13: Das ist ja so wie mit allem... Das war der

00:57:15: Führersichts-Style?

00:57:16: Ja genau!

00:57:18: Aber Kompression funktioniert ja im Grunde auch nicht anders.

00:57:22: Vielleicht geht's aber das ist auf jeden Fall mein Testwert.

00:57:25: Dann haben wir Liquid AI LFM II VD Spark Und das sind sogenannte Drafter-Modelle mit ungefähr dreihundert Millionen Parametern.

00:57:35: Da haben wir auch schon, glaube ich, wir oder ich das letzte Mal – ich weiß gar nicht mehr genau im Zusammenhang mit der Vorstellung neuer Modelle die ja auch solche Drafter einsetzen inzwischen.

00:57:45: Ich glaub' das war sogar auch DeepSeek VIV.

00:57:48: aber das Frontiermodell?

00:57:52: Genau und da... kommt eine Technik namens Speculative Decoding zum Einsatz mit der Text-Generierung auf lokaler Hardware dann deutlich beschleunigt werden kann, also bis auf das Dreifache.

00:58:06: Und damit werden auch dann Speicherengpassprobleme gelöst oder sollen gelöst werden.

00:58:12: das könnte wiederum eine Lösung sein für die hohen speicherpreise.

00:58:14: also man sieht hier fügt sich doch einiges zusammen.

00:58:19: genau dann haben wir noch ornis eins fünf deep reinforce.

00:58:23: das ist unter einer mit lizenz veröffentlicht und kann über autonome selbstverbesserung schleifen dann sich ja in der im output optimieren.

00:58:37: extrem äh, quantisiertes neuen B-Modell.

00:58:41: Das erzielt ein hervorragender Benchmarkergebnisse so heiß es zumindest ich hab's noch nicht getestet und lässt sich dann auch lokal sogar auf Smartphones betreiben.

00:58:50: das wird ja auch immer wichtiger sozusagen an HAI.

00:58:53: Und dann haben wir gleich zwei neue von IBM.

00:58:56: über IBM haben wir eigentlich hier noch selten gesprochen im Zusammenhang mit KI weil die ja sicherlich auch nicht untätig sind.

00:59:03: da gibt´s einmal IBM Granite IVII Decoder Only Modell für das Enterprise Segment und das hat einen integrierten sogenannten Thinking Switch, damit können Systemarchitekten je nach Komplexität einer Aufgabe dann dynamisch steuern ob das Modell aufwendige logische Gedankengänge also Chain of Thought ausführen oder direkt antworten soll.

00:59:25: Damit kann man wiederum die Inferenzkosten optimieren.

00:59:31: Turbo CTC NC, ein hochspezialisiertes fourhundertsiebzig Millionen Parameter Spracherkennungsmodell.

00:59:38: das komplett dann auf einen LLM Rückgrat verzichtet und stattdessen über sogenannte Connectionist Temporal Classification transkribiert.

00:59:48: Und damit eine zwölftausendsechshundertfache Echtzeitgeschwindigkeit auf einer NVIDIA H-Zweihundert GPU erzielt, aber auch das ist für den nicht kommerziellen Einsatz bestimmt so.

01:00:00: Das habe ich mir natürlich alles gemerkt.

01:00:02: wie ihr euch denken könnt!

01:00:04: habe ich alles aus dem Kopf heraus vorgetragen.

01:00:07: Ja, aber das nur nochmal um es abzurunden.

01:00:09: hast du da noch Anmerkungen dazu?

01:00:10: Jusuf was fällt dir dazu ein?

01:00:12: Also jetzt ist ja eine Quickshot Variante.

01:00:16: Ich möchte auch noch etwas hinzufügen weil wir haben ja... ich glaube über Quen, drei acht, siebenundzwanzig B haben wir auch nicht getestet und geredet und ich glaub über Nematon Drei Fünf Lightning Dreißig b hatten wir gerede und ich hab das jetzt getestete und wollte kurz noch Feedback geben.

01:00:35: Also ich habe Quen-Tree-Acht-Zibundzwanzig B in Produktion getestet bei unserem Twin, über den wir ja schon geredet haben weil da haben wir aktuell quen-treesix dann das dreißig b glaube ich Modell aber mix of experts Modellen laufen was sehr gut funktioniert Und ich habe das halt an antreten lassen gegen eben Quen und die Nemotron III-V Variante.

01:01:09: Ich muss sagen, quen III-III obwohl es kein Mix of Expertsmodell ist ein Dense Modell.

01:01:16: Das heißt, dass es deutlich langsamer weil sie eben sind immer aktiv.

01:01:27: Und bei dem Drei-Acht, also beim Dreisächsermotell sind immer noch drei Milliarden aktiver so die Experten.

01:01:39: Das ist wirklich im Verhältnis trotzdem schnell, fast so schnell wie Drei Sechs mit den Mix of Experts aber in der Ergebnisqualität schon eine ganz andere Nummer.

01:01:54: Also muss man schon sagen wobei Da gibt es drei Modi, also den Low, Medium und X High.

01:02:02: Den X High kann man eigentlich nicht nutzen.

01:02:05: Der verbrennt so viele Thinking Tokens oder bringt gar nichts.

01:02:11: Aber die Medium Variante ist wirklich gut nutzbar und kann sogar gegen ein Mix of Experts Model antreten und in der Geschwindigkeit gut funktionieren.

01:02:24: Nemotron von denen ich immer viel gehalten habe, hat total versagt.

01:02:30: Also das ist ein Drei-Sicht-B Modell mit Mix of Experts drei B und das soll so schnell sein also dass es ein Lightning-Mobo.

01:02:42: Das heißt es soll bis zu viermal schneller sein als die normalen auch im Verhältnis zu quänen.

01:02:52: Ich hab das ausprobiert aber Ich muss sagen, es ist nicht schnell.

01:02:57: Und das ist auch nicht schneller als Quen.

01:02:59: Weil im Thinking-Mode ist Nemotron III V Lightning also produziert so viele interne Thinking-Token dass es dann letztendlich sogar langsamer ist.

01:03:13: Das heißt all die Tests die man aktuell sieht für den Video Modellen Die schauen alle auf dem Benchmark scale aus sind aber in der Praxis untauglich.

01:03:27: NEMOTRON III-V, also wenn du nicht einfach nur Mix of Experts ohne Thinking verwendest ist... Also es tagt nur ohne Thinking Modus und nur in den Mix Of Experts Modus für ganz dumme einfache Use Cases.

01:03:51: Wo du aber dann auch kein Drei-Sicht B-Modell verwenden, ist die Möglichkeit.

01:03:55: Also da war eine ziemlich Enttäuschung und ich glaube man muss auch bei Nemotron tatsächlich genauer hinschauen.

01:04:03: Auch wenn man das implementiert, gibt es einige Tücken wie man es implementiert.

01:04:10: Da musst du wirklich einen eigenen Harnest auch bauen weil in den klassischen Haaren gar nicht funktioniert in Wirklichkeit.

01:04:23: Ja, so aus der Praxis mal rausgesprochen.

01:04:25: also wer, sag ich jetzt mal, Use Cases hat die viel mit E-Mail Texts und Entscheidungen im Business Sektor zu tun haben.

01:04:40: Die sind mit Gwen III, Acht, Ziemundzwanzig B wahrscheinlich haben wahrscheinlich das beste Modell in dem Also was man noch auf einen normalen GPU nutzen kann.

01:04:54: Okay, super!

01:04:55: Ich glaube damit haben wir jetzt einen ganz guten Rundumschlag bei den neuen KI-Modellen gemacht und können jetzt zur Kategorie Markt & Wirtschaft übergehen.

01:05:06: Und wir haben es ja vorhin schon mal so ein bisschen anklingen lassen und wir haben ja auch schon öfter darüber gesprochen dass die finanziellen Verzahnungen zwischen großen Playern, dass sie inzwischen hier Dimensionen angenommen haben die man durchaus auch als Risiko sehen kann.

01:05:24: Stichwort zirkuläre Investition.

01:05:27: und du hast etwas spannendes mitgebracht was mir noch nicht so klar war nämlich das die neun großen Tech Konzerne insgesamt rund drei Billionen US-Dollar an Verpflichtungen halten die in keiner Bilanz ausgewiesen sind, aber die dennoch da sind.

01:05:50: Das sind rechtlich bindende Zahlungsverpflichtungen, die dann nicht auftauchen wie zum Beispiel noch nicht begonnene Mietverträge oder auch Garantien über Zweckgesellschaften.

01:05:59: und jetzt... zu diesem ganzen Thema KI-Blase, über das wir schon aufgesprochen haben und ob da irgendwann mal ein großer Knall kommen könnte.

01:06:11: Muss man dieses Risiko ja sicherlich auch mit hinzuzählen?

01:06:16: Die Frage ist nur wie groß würdest du dieses Risikoreinschätzen?

01:06:21: Ja also die Message ist jetzt schon bisschen älter.

01:06:25: Also dies glaube ich letzte Woche gekommen.

01:06:28: Das war Wall Street Journal Artikel, also eine Analyse von seinem Wall Street journalisten.

01:06:37: Der mal angefangen hat da ein bisschen tiefer zu bohren weil in den Quartalsberichten der Hyperscaler irgendwie nur irgendwelche Verpflichtungen irgendwie betreißig vierzig Milliarden oder so drinnen sind.

01:06:53: ja aber wir alle wissen dass die viel größere Verpflichtungen haben.

01:07:01: Und im speziellen Meta gab es ja auch öffentliche Sachen, dass sie hier SPVs gebaut haben, also Special Purpose Vehicles, also das sind so Zweckgesellschaften die dann eben diese ganze Finanzierung von den Rechenzentren machen.

01:07:21: Also wie funktioniert das?

01:07:22: Man gründet quasi eine Firma.

01:07:25: Diese Firma ist natürlich in der Regel nicht vertrauenswürdig, aber diese Firma hat jetzt einen Vertrag zum Beispiel mit Meta.

01:07:33: und Meta sagt ich, ich garantiere dafür dass sich dir alle Rechenleistungen abnehmen die du baust.

01:07:40: Damit können wir zu Bank gehen und sagen hey!

01:07:43: Ich möchte jetzt hundert Milliarden aufnehmen weil ich habe schon einen Kunden der wenn ich sie mit den Hundert Milliarden ein Rechenzentrum bau er mir quasi die Kreditrate zahlt um diese Hundert Milliarden abzubezahlen.

01:07:55: Und so ist das nicht in der Bilanz von Meta, sondern es liegt quasi in irgendeiner Schein- oder Zweckgesellschaft die nichts anderes tut als einfach nur Geld abzuheben das Rechenzentrum zu bauen und die dann an Meta wieder zu vermieten.

01:08:18: Das hat jetzt den Vorteil dass du halt in den Quartals zahlen die Verschuldung des Unternehmens nicht mehr siehst.

01:08:27: Und das, ja ich meine natürlich ist es ein bisschen eine Absicherung weil das Geld kommt ja dann nicht nur von den Banken sondern da gibt's halt eigene eben Fonds und Finanzierungsunternehmen und Private Equities die dann das Kapital dafür hergeben damit diese SWPs dieses Geld bekommen, damit sie dann diese Rechenzentren bauen und das Risiko hängt dann sowohl bei den Investoren als auch bei dieser Zweckgesellschaft.

01:09:09: Und in letzter Instanz natürlich auch beim Anbieter wie Nvidia oder hier im Fall Mita.

01:09:22: aber es ist nicht so ausgewiesen.

01:09:24: Und das Problem ist, glaube ich, dass es bis jetzt nie die Möglichkeit – also diese Dimensionen, die wir jetzt erreicht haben, die gab's bis jetzt noch nie.

01:09:34: Also es gab schon immer irgendwie Fälle wie zum Beispiel Flugzeugbau, Schiffbauer und also bei Projekten, die halt sehr viel Kapital benötigen sind diese Sachen schon immer gemacht worden.

01:09:52: aber die Dimension die jetzt hier aufscheint, ist noch nie da gewesen.

01:10:01: Und auch die Verstrickungen sind noch nicht da gewesen weil das Kapital muss ja von irgendwo kommen.

01:10:07: Ist ja nicht so dass du einfach das Geld drucken kannst sondern das Kapitel kommt dann halt vom Pensionsfonds oder von Universitäten also Universitätsfonds die langfristig ihr Geld hergeben wollen, damit sie dann halt Zinsen bekommen.

01:10:29: Aber eigentlich nicht klar ist welches Risiko Sie da eigentlich eingehen.

01:10:37: und realistisch betrachtet kann man jetzt hier sagen ja drei Billionen klingt jetzt richtig viel.

01:10:46: aber wenn man jetzt nur... sozusagen gegensetzen zu dem, was zum erwarteten Umsatz oder zum erwartetem Cashflow daraus generiert wird.

01:11:01: Und wenn man sich nur die Hyperscaler anschaut hat mehr schon Remaining Performance Obligations also diese Contracts, die sie schon abgeschlossen haben, die aber jetzt noch nicht erfüllt worden sind von über eine Billion Das heißt ein Drittel oder die Hälfte davon ist eigentlich schon finanziert in den nächsten zwei, drei Jahren.

01:11:26: Und betriebswirtschaftlich ist es schon sinnvoll dass man mit Fremdkapital eben solche Investitionen stemmt und nicht mit Eigenkapital weil du einen viel größeren Hebel hast viel schneller die Sachen bauen kannst und damit eine viel höhere Kapitaleffizienz hast.

01:11:47: also betriebtswirtschaftlich Das sinnvollere Weg, den jetzt eh alle gehen.

01:11:55: Das Risiko ist meiner Meinung nach das worüber man diskutieren sollte und auch die Offenlegung des Risikos weil diese Verschleierung des Risicos Ist meiner Meinung nicht der richtige Weg.

01:12:12: ja weil keiner will natürlich dass in der Bilanz stehen haben weil dann halt tatsächlich Also die klassischen Bewertungsmethoden von den Unternehmern dazu führen würde, dass die Aktienkurse sinken würden.

01:12:33: Also auch der asset value sinken würde was ja total blöd ist weil ja eigentlich der asset Value steigen sollte weil sie so viel Kapital bekommen haben um noch mehr Geld zu drucken weil Sie mit dem Geld halt neue Rechenzentren bauen Aber der Markt liegt halt nicht so.

01:12:54: Und das ist quasi nur eine Absurdität des Marktes, weil die Berechnungen und die Bewertungen der Unternehmen in der Finanzmathematik anders gestellt werden als es betriebswirtschaftlich relevant wäre.

01:13:14: Also klingt jetzt ein bisschen kompliziert was ich hier sage aber im Wirklichkeit machen sie das weil die Bewertung der Unternehmen das nicht berücksichtigt oder das schlecht darstellen lässt, obwohl es eigentlich positiv zu werten wäre und das Risiko so eh auch minimiert werden kann.

01:13:39: Aber abgewälzt werden kann zum Beispiel an die Investoren.

01:13:43: Also es ist eigentlich schlauer als zu tun aber man müsste es halt transparenter machen damit um damit die Leute es täten.

01:13:52: ja weil wahrscheinlich der Typ in seine Pensionskasse entzahlt, wahrscheinlich nicht so happy sein wird dass er irgendwo ein Rechenzentrum in Utah finanziert und vielleicht auch irgendwie wo es dann vielleicht da noch irgendwelche ESG-Kriterien gibt die hier auch verschleuert werden weil das SPV das nicht offen liegt.

01:14:23: Das heißt, du kannst hier ganz viele Dinge umgehen und verschleiern die du eigentlich angeben müsstest.

01:14:38: Das ist das Problem.

01:14:40: Da ist natürlich eine Frage auch ob die Gesetzgebung da streng genug ist oder ob man da nicht noch mehr Transparenz vorschreiben müsste?

01:14:52: Ich schätze, wir werden noch eine weitere Wirtschaftskrise benötigen um das zu beantworten.

01:14:58: Wahrscheinlich ja weil bei sowas braucht es dann echt immer erst den großen Knall bis dann.

01:15:02: was passiert also nicht nur da betrifft ja eigentlich alle Bereiche der der großen Zusammenhänge in der großen Politik.

01:15:11: okay Ja aber interessant deine Ausführung und Muss jeder selber wissen, wie er das dann einschätzt und bewertet.

01:15:23: Aber vielleicht so für die klein- und mittleren Anleger unter uns zumindest mal schon hinweisen, genauer hinzuschauen was eigentlich mit eurem Geld passiert wenn ihr es zum Beispiel in irgendeinen ETF oder einen Fonds steckt oder auch in andere Wertpapiere.

01:15:40: ja also dann solltet ihr das zumindest im Hinterkopf haben.

01:15:44: Gut, genau.

01:15:46: Dann haben wir auch noch etwas Neues nämlich Stripe hat den Open Router.

01:15:56: Sie haben Open Routes gekauft?

01:15:59: Okay ja sie haben es gekauft für, warte mal, ah ja sie sind zu sieben Komma.

01:16:03: fünf bis acht Milliarden wird hier berichtet.

01:16:06: na Ja und der Ansatz ist spannend, nämlich es geht ja um seine gewisse Abstraktionsschicht.

01:16:12: Das heißt man kann sozusagen zwischen mehr als vierhundert KI-Modellen und Achtzig Anbietern umschalten und das ohne den eigenen Code für jedes Modell zu schreiben.

01:16:25: Und das ist genau das worüber wir auch schon oft gesprochen haben Weil ja die Festlegung auf ein bestimmtes Modell einen Risiko darstellt.

01:16:35: Wenn dieses Modell oder diese Anbieter dann einfach den Hahn zudreht, zum Beispiel weil es irgendwie eine Vorgabe gibt aus der Politik, dann schaut man in die Röhre und mit solch einer Abstraktionsschicht kann man das eben vermeiden.

01:16:50: also das macht das Ganze schon sehr interessant.

01:16:53: Ja

01:16:53: so open router Also für alle die es schon mal genutzt haben, also OpenRouter nutzt man wenn man irgendwelche neuen Modelle.

01:17:03: Also wenn Chemica III rauskommt oder wenn GLM-VII rauskommt und man jetzt nicht extra einen API Key dort anfragen will.

01:17:12: Man hat einfach einen Account bei OpenRouter und dann kann man einfach dort sagen welches Modell man nutzen will und dann also ruten die das quasi richtig rum ja?

01:17:26: Und du findest, du kannst hier auch Redundanzen machen.

01:17:29: So OpenRouter hat auch ein eigenes Modell das dann wahrnimmt und sagt okay ich habe jetzt diesen Use Case und das würde jetzt funktionieren mit dem Modell und dann wählen sie das automatisch und es ist dann günstiger.

01:17:42: also für alle die Open Source Modelle über API's nutzen wollen für dieses Open Router immer sozusagen the place to be gewesen weil du dich nicht drum kümmern musst.

01:17:54: Wo ist das jetzt, wo ist es gehostet?

01:17:57: Gibt's überhaupt ein API?

01:18:00: was auch immer.

01:18:01: Also dass es für all die Leute, die schnell mal einfach eine Chemika III testen wollten und irgendwie das einfach machen wollen dann gibst du einfach quasi den API von OpenRouter rein wählst Chemica III aus und dann läuft sie über ChemicaIII egal wo das dann läuft.

01:18:21: ja also OpenRout sucht sich dann die Influenced-Lösung dahinter aus, wo das dann läuft.

01:18:28: Meistens haben sie dann einen Anschluss direkt bei ZIPO AI oder dem jeweiligen Anbietern und OpenRouter verdient halt fünf Prozent der Kosten, schlagen Sie auf!

01:18:43: Und dafür hast du den Komfort, dass du dich nicht umkümmern musst ein Modell auswählen kannst.

01:18:55: Und OpenRouter ist in den ersten Jahren eher so für Nerds Sachen gedacht gewesen, die halt irgendwie so oder für Software Developer die halt schon immer was testen wollten oder auch für Leute die Topenkosten reduzieren wollten und das Stripe.

01:19:16: und Stripe is ja ein Payment Ampeter also Das sind die, wo diese ganzen Zahlungsabwicklungen für diese ganzen KI-Systeme auch gemacht werden.

01:19:27: Also wenn du jetzt zum Beispiel ein OpenAI hast und da einen Account hast dann wird das über Stripe abgewickelt.

01:19:35: oder bei Anthropic oder die ganzen API Kostenabwicklung von Anthropic werden noch über Striped abgewickelt

01:19:44: Kann man auch gut daran erkennen, dass die Rechnungen bzw.

01:19:48: die Benutzerführung bei den ganzen Tools eigentlich ziemlich gleich aussieht?

01:19:53: Genau, genau!

01:19:54: Daran erkennst du es.

01:19:54: Das ist quasi einfach nur damit die ganze Kreditkartenabwicklung und die ganze Sicherheit, dass das ein vertrauenswürdiger Zahlungsabwickler ist.

01:20:05: Deswegen verwenden Sie Streit und Stripe als einer der größten weltweite Zahlungsabbickler.

01:20:10: Und warum ist das jetzt interessant für einen Stripe?

01:20:12: Die eigentlich nichts anderes als eine Geld, also ein Payment Ampeter sind.

01:20:23: Warum kaufen die jetzt ein OpenRouter?

01:20:26: und OpenRouters hat sich auch bewährt wenn es darum ging zu sagen welche Modelle sind denn aktuell die besten oder die weitverbreitetsten?

01:20:39: Weil an der OpenRouter Usage.

01:20:41: könntest du sagen, welche Open Source Modelle sind denn jetzt am meisten benutzt worden?

01:20:48: Weil ja alles über Open Router läuft und die sehen dahinter wie viel Topen die an Kimi schicken oder an Quenn schicken.

01:21:00: Und das sind aber sehr, sehr interessante Zahlen!

01:21:05: Du kannst jetzt nicht daraus schließen zum Beispiel oder wie viel Umsatz ein OpenAI hat, weil du kannst zwar auch über OpenRouter und OpenAI und Tropic-Modelle nutzen.

01:21:22: Aber die wenigsten machen das, weil sie einen eigenen Account haben und weil das wahrscheinlich ihr Hauptsystem ist was sie nutzen.

01:21:31: Das heißt die meisten haben einen OpenAI-Account, einen Tropic account und einen OpenRooter Account und den OpenRouter-Account verwenden Sie dann, wenn sie dann irgendwie Open Source Modelle verwenden möchten.

01:21:46: Und diese Zahlen sind aber sehr interessant für ein Stripe weil Sie jetzt sehen okay wer also welche Modelle werden jetzt interessant?

01:21:59: Und jetzt auch an der Wertschöpfung der KI beteiligt sind!

01:22:05: Also wer nutzt denn auch Open Router?

01:22:07: Open Routernutzen größtenteils die ganzen Enterprise User, also diese ganzen großen Unternehmen, die Kosten reduzieren wollen.

01:22:17: Die nutzen OpenRouter und da hätte jetzt Stripe die Möglichkeit quasi ein Cross-Selling anzubieten und sich direkt mit den Enterprise Kunden dort zu verbinden und denen ihre Stripe Lösung anzubieten.

01:22:33: Also sie nutzen quasi einen KI-Routingmodul als Vertriebsweg, was ein interessanter Ansatz ist.

01:22:48: Und sie nutzen auch die Daten, die Sie jetzt über OpenRouter bekommen und glaube ich allgemein zu erfahren, weil nachdem Sie ja wahrscheinlich an Shopping und OpenAI Zahlen nicht schon haben wenn Sie jetzt die OpenSource und OpenWage Modelle jetzt auch noch wissen wie die Nutzung ist, dann sind sie wahrscheinlich der einzige weltweite sagen kann welche Modelle am erfolgreichsten sind.

01:23:18: Und diese Daten sind wahrscheinlich sehr viel wert.

01:23:22: also das könnte ich mir vorstellen warum Sie das machen und warum sich hier bereit sind weil ich glaube im Mai war die Bewertung von OpenRouter bei Und jetzt zahlen die Stripe Zeit das sieben bis achtfache, ja Also dass ist schon das heißt Ja oder sechs fache eigentlich wenn Sie sieben um sieben halb bis acht Milliarden zahlen.

01:23:53: es ist noch nicht klar wie viel wirklich.

01:23:56: also es ist nicht öffentlich aber Es wird vermutet dass es zwischen siebeneinhalb und acht Milliarden gekostet hat.

01:24:04: Also schon Verrückt wie das passiert.

01:24:09: Und für Europa ist es eine gute Message, weil Stripe ist ein englisches Unternehmen, wenn ich mich nicht irre.

01:24:19: Ja, gerade wenn man die enorme Abhängigkeit jetzt nicht nur was KI angeht von den USA sieht sondern auch was Zahlungssysteme angeht und es ist ja gut wenn da Europa eben einen dicken Fuß in der Tür hat.

01:24:35: Und wenn ich das auch richtig gehört habe, also diese... Das sind die Zwillingsbrüder.

01:24:42: Ich weiß es gerade nicht wie die heißen.

01:24:45: Die haben jetzt auch eine Initiative gestartet um Europa zu unterstützen in diesen ganzen EI Rennen und haben sich damit Mario Draghi zusammengetan.

01:24:59: Weiß jetzt nicht mehr genau was da war aber Das könnte für Europa ein gutes Signal sein, wenn eben ein Stripe... Ich hoffe ich erzähle jetzt keinen Blödsinn.

01:25:13: Aber wir haben ja mittlerweile einen Fact-Checker.

01:25:22: Wenn unser Podcast rauslöst mit YouTube gibt es einen Fact Checker.

01:25:25: Wenn ich jetzt einen Blödesinn erzähle wird sofort dann eingeblendet.

01:25:29: Nur dass ihr das wisst!

01:25:31: Auf ein Podcast seht ihr das jetzt leider nicht, aber auf YouTube würde ich es hier sehen wenn ich jetzt am Blödsinn erzähle.

01:25:39: Wenn das Europäer sind und die das gemeinsame Ziel haben Europa voranzutreiben und mit OpenRouter eben auch das richtige Produkt jetzt haben dann könnte ich mir vorstellen dass das ein gutes Zeichen ist wie ich dem jetzt sagen.

01:25:58: Okay ja das sind ja auch schon wieder Du hast es gesagt, Sprünge in der Bewertung.

01:26:06: In der Summe die jetzt da im Raum stehen und so ähnlich könnte das auch bei Huggingface sein.

01:26:12: Das könnte nämlich für mehr als dreizehn Milliarden Dollar verkauft werden.

01:26:18: Die Informationen stammen zunächst aus Business Insider und dann wurde es auch noch bei TechCrunch aufgegriffen.

01:26:26: Und mögliche Gebote werden da geprüft.

01:26:30: ein... Käufer ist noch nicht bekannt, aber es ist natürlich schon ein wichtiger Player auf dem KI-Markt muss man sagen.

01:26:39: Auch wenn Hackingface selber keine KI Modelle anbietet, aber das ist eine wichtige Plattform.

01:26:46: Wir haben es ja vorhin auch schon mal angesprochen im Zusammenhang mit diesem Phantommodell was da hochgeladen wurde.

01:26:55: und also es ist eigentlich ein wichtiger Player, der die Akteure zusammenbringt.

01:27:01: Insofern finde ich diese Bewertung jetzt von von von dreizehn Milliarden wenn das stimmt gar nicht mal so hoch, wenn man andere Zahlen sich vor Augen führt, die wir ja immer wieder diskutieren.

01:27:13: und Ja, die Frage ist natürlich ob das irgendwelche Änderungen dann hätte auf die Art und Weise wie wir KI-Modelle beziehen oder nutzen können ein Käufer auf den Plantritt, der das Ganze übernimmt.

01:27:30: Das hängt natürlich auch davon ab, wer dann letztendlich dieser Käufe sein wird wo er herkommt.

01:27:35: Also von daher können wir im Moment eigentlich nur spekulieren.

01:27:38: aber allein dass diese Plattform den Besitzer wechseln könnte sollte doch zumindestens mal Aufmerksamkeit erregen oder?

01:27:51: Ja Also wenn ich das richtig verstanden habe, ist es von Haging Fee selber ausgegangen.

01:28:02: Das heißt Haging Fees selbst stellt sich zum Verkauf.

01:28:05: also die haben glaube ich jetzt irgendwelche Banken beauftragt um zu sagen hey sie möchten für dreizehn Milliarden verkauft werden und dass es jetzt irgendwie geliegt wenn ich da richtig verstand hab.

01:28:19: Und wer sollte ein Käufer sein von eben so einer Plattform?

01:28:24: Also da fällt mir eigentlich nur einer ein und das ist die KI-Zentralbank in Vidya.

01:28:34: Schön gesagt!

01:28:39: Ja, weil wer hat den Interesse daran dass diese ganze Open Source Welt sich weiter verbreitet?

01:28:45: und da gibt es eigentlich nur einen und das sind Vidya Und natürlich der Europä, aber die Europä haben nicht die Kohle dazu.

01:28:53: Wer hat die Kohler und will das weiter vorantreiben?

01:28:57: Ich könnte mir vorstellen dass Nvidia hier mal Geld rein nimmt und ich glaube da Hintergrund... Wobei das sind jetzt Gerüchte.

01:29:06: Warum sie das tun wollen Also warum sie verkauft werden wollen ist einerzeit wahrscheinlich weil irgendwelche Investoren Liquidität brauchen oder ein Exit möchten, andererseits weil sie vielleicht Kapital benötigen.

01:29:24: Weil mittlerweile liegen glaube ich auf HGN-Face über zwei Millionen Modelle und das ist schon auch viel Speicherbedarf der da ist.

01:29:35: also die ganze Infrastruktur kostet den ganzen Hoffen Kohle und ich weiß gar nicht womit ihr Geld verdienen.

01:29:41: um ehrlich zu sein ja weil Werbung habe ich noch keine gesehen drauf.

01:29:47: Vielleicht zahlen die Leute, wenn sie hier Modelle hochstellen damit man sie runterladen kann.

01:29:53: Aber das Geschäftsmodell ist mir nicht klar von dagegen fest.

01:29:57: Sie sitzen quasi auf dem Goldschatz aller Open Source Modelle, die weltweit verfügbar sind und auch mit den ganzen Bewertungen und Elem arena wo sie halt auch diese ganzen Benchmarks haben.

01:30:15: aber Also, dreizehn Milliarden klingt jetzt in diesem ganzen Game nicht viel.

01:30:22: Aber ich finde dreizehnt Milliarden für ein Business, weiß nicht wieviel Geld das abwirft oder ob das überhaupt Geld verdient, finde ich schon viel.

01:30:32: Da müsstest du schon einen strategischen Partner haben oder einen strategischem Käufer und da fällt mir eigentlich nur Nvidia ein.

01:30:42: Ja aber interessanter Ansatz!

01:30:48: Mein Nvidia ist gerade auf X, wird ja immer lieber voll der die KI-Zentralbank genannt.

01:31:00: Weil sie versuchen alles irgendwie zu finanzieren und das ganze KI Rennen aufrecht zu erhalten so dass niemand merkt oder es nie auch nur irgendwo schlechte Nachrichten gibt weil das bedeuten würde, dass Nvidia selber massiv an Bewertung verlieren würde.

01:31:21: Und so ist es.

01:31:23: und da gehen wir auch schon zum nächsten Thema.

01:31:26: Also Nvidia hat wohl also ein lustiger Deal.

01:31:32: Nvidia möchte nicht Poolside kaufen.

01:31:36: Poolside Technology ist eine Art Open Source Model.

01:31:43: Entwickler Die investieren jetzt sechs Milliarden Euro für ein nicht exklusive Lizenz von Poolside, übernehmen hundert der besten Mitarbeiter die dann an dem Nemotron-Umfeld weiterarbeiten sollen und investieren nochmal eine Milliarde in Poolside zu einer Bewertung von zwölf Milliarden.

01:32:15: Interessanter Deal klingt nach, ich muss die Investoren abbezahlen.

01:32:21: Damit ich die besten Leute rausholte, damit ich mein Nemotron weiterentwickeln kann.

01:32:26: Gleichzeitig will ich aber nicht als Monopolist dargestellt werden der irgendwelche Leute sozusagen vom Markt nimmt um dann irgendein Problem mit der Regulierungsbehörde zu haben.

01:32:44: Ja, also interessante Deals.

01:32:48: Hast du, kanntest du Poolside oder sagt ihr was?

01:32:52: Nein

01:32:52: ehrlich gesagt nicht!

01:32:54: Aber es zeigt mir halt nur das NVIDIA in fast der gesamten Wertschöpfungskette tätig ist von der Hardware-Produktion bis ganz nach oben bis zu den Modellen vielleicht noch drüber hinaus und Damit wird es natürlich auch seiner Rolle als zentrale Anlaufstelle jetzt nicht nur im finanziellen, sondern auch in der gesamten Produktwertschöpfungskette gerecht.

01:33:25: Wobei ja?

01:33:26: also man muss halt mal schauen was von diesen Modellen zu erwarten ist die jetzt Nvidia selbst entwickelt und ob sie wirklich dann eine ernsthafte Konkurrenz zu den großen oder etablierten Anbietern, die sich darauf spezialisiert haben sein werden.

01:33:43: Also was mir noch nicht so ganz klar ist, wo jetzt genau für NVIDIA der Vorteil besteht eigene Modelle zu entwickeln also wahrscheinlich für ganz bestimmte Use Cases, die halt dann für dies solche Modelle bedarf.

01:34:00: Ich glaube nicht dass sie auf dem großen Markt der Frontiermodels damit mitmischen werden wäre meine Einschätzung aber sonst kann ich da wenig dazu sagen, ehrlich gesagt.

01:34:10: Also ich glaube Sie wollen natürlich dass die CUDA Infrains Solutions noch immer eine wichtige Rolle spielen und dazu nachdem ja die großen Modelle wie von Onetropic und OpenEye immer weiter in eigene Infrastruktur und eigenen Chips laufen wir werden brauchen sie natürlich Open Source Modelle die der Westen nutzt Die meisten Leute nutzen, die aber auf Nvidia Hardware am besten laufen.

01:34:39: Und die Chinesischen Modelle wie DeepSync und dergleichen, die laufen wir schon auf einem anderen Software-Stack... ...und auch auf einen anderen Hardware-Stacks.

01:34:49: Das heißt die laufen ja hier schon auf Huawei-Hardware.

01:34:53: Und verwenden auch nicht mehr Kuda.

01:34:56: Das heisst, Nvidia verliert so ein bisschen in seiner Leinstellung weil bis jetzt haben sie halt Durch CUDA und durch die Flexibilität der GPUs waren sie halt der Top Dog.

01:35:12: Also keine sind an den Video vorbeigekommen, wenn Sie Modelle entwickeln wollten.

01:35:18: Jetzt ändert sich das aber!

01:35:20: Und es ist auch so dass nicht nur dass die großen Labs also die zwei großen Labs mit Anthropic and OpenAI sozusagen ihre eigene Hardware immer weiter nutzen werden sondern auch eine Gefahr für die Open Source Welt darstellen durch diese ganze Regulatory Capture Thematik, die wir schon gehabt haben.

01:35:41: Das heißt dass die Amerikaner sagen wenn du über spielen willst dann darfst du nirgends mitspielen und jetzt versucht hier ein Gegengewicht reinzubringen zu sagen hey es gibt doch westliche Open Source Modelle und das kann dann auch in Amerika nicht verbieten.

01:36:00: Und das wäre dann wieder ein Grund, ein Video Hardware zu kaufen.

01:36:04: Weil die Open Source Sachen werden nicht auf TPUs laufen sondern sie werden auch in Video Hardwares laufen weil du kaufst dir eine Videografik Karte für deinen lokalen Server von Dell oder von HP oder was auch immer Super Micro und dort lass du deine Infrains lokal laufen und nicht auf Google oder Amazon oder Microsoft.

01:36:32: Ja, also ich glaube das ist ein bisschen... Ich glaube sie müssen das auch machen und bis jetzt hatte ich einen Nemotron nie wirklich getestet.

01:36:43: Aber jetzt wo ich es tatsächlich getestete habe und quasi die Diskrepanz zwischen Realität und dem Marketing Paper sozusagen gesehen habe, glaube ich dass er wieder einfach wirklich nichts brauchbares hat.

01:37:02: Robotic-Unfeld haben sie schon einiges mit Crude und dergleichen, aber im klassischen Open Source LLMs für Mittelstand also so um die dreißig B Modelle.

01:37:20: Also irgendwas zwischen neun und hundert B, sag ich jetzt mal Modellen, die halt auf seiner klassischen RTX six tausend pro laufen würden.

01:37:30: Das ist schon die größte Inference GPU, die man bei Nvidia aktuell auf Blackwell Basis kaufen kann als normalsterblicher.

01:37:39: Ohne auf B-Hundred oder H-Hundert wäre Rubin umsteigen zu müssen.

01:37:48: Also das was ein normaler User nutzen kann sind eben diese RTX Grafikkarten und da brauchst du eben Modelle um die Zwei Hundert B Maximum.

01:38:03: Und die sollten gut sein und die gibt es aktuell aber halt nur auf chinesischen Open Source Varianten, und diese sind größtenteils schon auf einer anderen Infrastruktur oder auf einem anderen Software Stack.

01:38:15: Das könnte zu bedrohen werden weil sie der Leinstilung verlieren.

01:38:20: Das sind eher so eine Maßnahme aus der Kategorie Risikomanagement, würdest du jetzt sagen?

01:38:25: Oder um mögliche Bedrohungen da abdecken zu können und keine offene Flanke zu haben.

01:38:32: Genau, genau!

01:38:33: So fühle ich das.

01:38:34: Und nachdem Sie das Kapital haben... ...und das ist auch der Grund warum sie überall die besten Leute rausholen.

01:38:39: Also sie versuchen die besten Menschen einzukaufen, um dann halt diese eigenen Modelle weiterzutrainieren Weil nur mit Kapital geht es halt nicht.

01:38:50: Und Nvidia ist jetzt nicht dafür bekannt, der beste Model-Ambienter zu sein oder EI Wissenschaftler zu benötigen sondern die brauchen halt so Hardwarebude und deswegen kriegen sie halt auch nur Poolside und nicht irgendwie die High End Wissenschaftler.

01:39:14: Sehr gut, okay.

01:39:17: Das haben wir das auch eingeordnet wenn ich jetzt auf meinen Zettel schaue.

01:39:22: Ich glaube wir sind durch mit unseren Themen oder?

01:39:24: Ja!

01:39:27: Sehr gut.

01:39:27: also nochmal zum Abschluss erst mal vielen Dank an dich Josef wieder für das interessante Gespräch hier und für den Austausch.

01:39:37: Danke auch an euch alle hier die ihr zugehört und zugeschaut habt.

01:39:41: Und ja, denkt dran.

01:39:45: Wenn ihr das gehört habt schaut mal vorbei auf eukosa.ai und lasst uns auch gerne wissen was ihr davon haltet bzw.

01:39:54: gebt uns gerne Feedback auch natürlich zu diesem Podcast wenn ihr Themenwünsche habt.

01:40:00: alles ist willkommen und ihr erreicht uns ja oft die bekannten Arten also zum Beispiel über LinkedIn per Mail wie auch immer ihr das möchtet.

01:40:10: Und ja, also ich würde mich sehr freuen, wenn ihr das nächste Mal dann auch wieder dabei seid in einer Woche und damit möchte ich mich bei euch allen und auch bei dir Jusso verabschieden.

01:40:19: Und sage dann tschüss bis zum nächsten mal!

01:40:23: Ja danke auch dir Christian war schön wieder dabei zu sein und allen anderen die jetzt auch zugehört haben allen unseren Zuhörern und Zuhöhrerinnen und jetzt auch hoffentlich Zuschauerinnen auf YouTube.

01:40:38: Es war meine Freude.

01:40:44: Wir freuen uns, wenn ihr mal vorbeischauts.

01:40:47: Wir schauen, dass wir die Seite demnächst online kriegen.

01:40:54: Schreibt uns gerne was ihr davon hält und ob euch der Webauftritt auch gefällt oder ob ihr Fragen habt, was wir da eigentlich tun.

01:41:06: Ja, sonst freue ich mich auch über Bewertungen und Zuschriften über LinkedIn.

01:41:11: Nicht nur bezüglich euch großer oder harte Erwartung, sondern auch über unseren Podcast.

01:41:18: Und ja, ich freu mich über jedes Feedback und wie gesagt, wir beantworten noch fast alles!

01:41:27: Dann bleibt mir nicht viel übrig zu sagen.

01:41:29: Ich sage mal wunderschöne Woche noch bis zum nächsten Mal.

01:41:34: Tschüss Das war's.