Kimi K3 schlägt Fable 5: Chinas Open-Source-Welle und Anthropics J-Space
Shownotes
Die große These
Die KI-Machtfrage entscheidet sich nicht mehr am besten Modell. Chinas Open-Weight-Welle bringt Frontier-Leistung für alle, während Strom und Rechenleistung zum eigentlichen Limit werden – und Anthropics J-Space zeigt erstmals, was in der Blackbox wirklich vorgeht.
Warum diese Folge wichtig ist
Wer KI produktiv einsetzt, muss diese Woche neu bewerten: Offene Modelle aus China sind für viele Aufgaben erste Wahl geworden, die Abhängigkeit von einem einzigen US-Anbieter ist technisch nicht mehr nötig. Gleichzeitig zeigt die J-Space-Forschung, dass Output-Kontrolle allein für KI-Sicherheit nicht reicht – ein Paradigmenwechsel für jeden, der Modellen Aufgaben anvertraut.
Themen der Folge
- AI 2040: Plan A, Plan D und die auf 2030+ verschobenen AGI-Zeitpläne
- Stromverbrauch von Rechenzentren: Vervierfachung bis 2035, PJM-Netzkrise, Klimarisiken und Tipping Points
- Kimi K3 von Moonshot AI: 2,8 Billionen Parameter, MoE mit 896 Experten, Platz 1 in der Frontend Code Arena vor Fable 5
- DeepSeek V4 (GA, MIT-Lizenz, Huawei-Chips) und Alibabas Qwen 3.8 mit 2,4 Billionen Parametern
- Open Source vs. Open Weights: Trainingsdaten, Quellcode, Architektur und die OSAID-1.0-Definition
- Qwen 3 Image: Infografiken, kleiner Text, LaTeX-Rendering
- Qwen Audio 3.0 TTS+: 16 Sprachen, steuerbare Emotionen, Stimmklone
- Google Gemini: Flash 3.6 statt 3.5 Pro – warum Google ein anderes Spiel spielt
- Claude Cowork: eigene Skills per Bildschirmaufnahme
- Anthropic J-Space: emergentes Arbeitsgedächtnis, Evaluation Awareness und autonome Täuschung
Kapitelmarken
00:00 - Intro: Yusuf ist zurück 01:00 - AI 2040: Plan A, Plan D und die AGI-Zeitpläne 12:34 - Geopolitik, Rechenzentren und die Stromfrage 21:26 - Fermi-Paradoxon: Löscht sich jede Zivilisation selbst aus? 25:31 - Kimi K3: Chinas 2,8-Billionen-Modell schlägt Fable 31:44 - DeepSeek V4 und Qwen 3.8: die zweite Welle 42:30 - Open Source vs. Open Weights: der Unterschied 48:12 - Qwen 3 Image: Infografiken, Text-Rendering, Fotorealismus 51:04 - Qwen Audio 3.0 TTS+: Sprachausgabe mit Emotionen 55:41 - Google und Gemini: Warten auf 3.5 Pro 1:03:50 - Claude Cowork: Skills per Bildschirmaufnahme 1:06:05 - Anthropic J-Space: der KI beim Denken zuschauen 1:23:46 - Fazit und Ausblick: große Ankündigung nächste Woche
Key Takeaways
- Drei chinesische Labore (Moonshot, DeepSeek, Alibaba) haben innerhalb einer Woche Frontier-nahe Open-Weight-Modelle geliefert – das ist ein Muster, kein Einzelfall.
- Kimi K3 schlägt Fable 5 in der Frontend Code Arena; die Nachfrage war so groß, dass Moonshot die Abos nach einer Woche stoppen musste.
- Open Weights ist nicht Open Source: Trainingsdaten und Modellarchitektur bleiben fast immer Blackbox – für kommerzielle Nutzung und Rechtsfragen entscheidend.
- Der Souveränitäts-Vorteil offener Modelle entsteht erst beim lokalen Selbstbetrieb – wer die China-APIs nutzt, schickt seine Daten nach China.
- Der limitierende Faktor der KI-Entwicklung ist nicht der Ehrgeiz der Labs, sondern Strom, Rechenleistung und Geopolitik.
- Anthropics J-Space zeigt: Modelle erkennen Testsituationen und können Täuschungsabsichten verfolgen, während ihr Output harmlos aussieht – Output-Kontrolle allein reicht für AI Safety nicht.
Bester Satz der Folge
"Jetzt sehen wir zum ersten Mal: Man kann der KI beim Denken zuschauen."
Links und Ressourcen
- AI 2040 und Plan A – wie lässt sich die Gefahr durch Super-KI beherrschen? (hardwarewartung.com)
- Stromverbrauch von Rechenzentren soll sich bis 2035 vervierfachen (TechCrunch)
- Moonshot veröffentlicht Kimi K3 mit 2,8 Billionen Parametern (Tom's Hardware)
- Wie schon bei DeepSeek: Chinas Kimi K3 erschüttert den westlichen KI-Konsens (The Decoder)
- DeepSeek und Alibaba starten neue Angriffe auf die Frontier-KI (Cybernews)
- Alibaba Qwen 3.8: 2,4 Billionen Parameter als Open Weights (Pandaily)
- Open Source vs. Open Weights – was ist der Unterschied? (hardwarewartung.com)
- Qwen Audio 3.0 TTS: Realtime-TTS-Dokumentation (Alibaba Cloud Model Studio)
- Google veröffentlicht drei neue Gemini-Modelle – aber kein 3.5 Pro (TechCrunch)
- Claude Cowork: eigene Skills per Bildschirmaufnahme (X/@claudeai)
Hosts
Call to Action
Welches offene Modell würdet ihr im Unternehmen einsetzen – und was hält euch noch zurück? Schreibt uns auf LinkedIn oder per Mail, lasst ein Abo und eine Bewertung da. Und schaltet nächste Woche unbedingt ein: Es gibt eine große Ankündigung.
Hashtags
KI #OpenSource #KimiK3 #DeepSeek #Qwen #Anthropic #AIsafety #Rechenzentren
Episode-Details
Episode: 81
Explizit: Nein
Sprache: de
Aufnahmedatum: 2026-07-22
Veröffentlichung: 2026-07-23
Dauer: 01:25:00
Transkript anzeigen
00:00:11: Hallo und herzlich willkommen zu einer neuen Ausgabe von K.I.
00:00:13: und Tech to Go, der Praxis-Pitch.
00:00:14: Hey!
00:00:15: Und ich bin nicht mehr alleine hier.
00:00:16: Jusuf ist wieder da.
00:00:17: – hallo Jusof, schön dass du wieder da bist.
00:00:22: Ich hoffe, du hattest einen schönen Urlaub und bis jetzt guter Dinge und gut erholt ihr wieder zurück bei uns.
00:00:30: Total.
00:00:31: Ich habe aber auch meinen Clubmax-Account trotzdem zum Maximum getrieben, auch im Urlaub.
00:00:38: Ja war mir klar dass du das nicht die Finger verlassen kannst, so ganz ohne geht es halt nicht.
00:00:46: Aber ja also ich freue mich sehr, dass du wieder hier bist denn ich habe jetzt die letzten beiden Folgen hier alleine bestritten.
00:00:55: Das macht nicht so viel Spaß wie unser kleiner Plausch hier immer und deshalb schönen nochmal herzlich willkommen zurück genug zu besprechen.
00:01:11: Ganz klar, wir haben schon im Vorfeld uns ein bisschen ausgetauscht und deshalb lass es gleich loslegen denn die Zeit ist wertvoll.
00:01:19: womit ich heute mal anfangen möchte ist das hat vielleicht eine oder andere da draußen schonmal gehört davon dass nennt sich AI- Twenty Forty und das ist im Prinzip so eine Art Projektion der Zukunft.
00:01:33: Es geht darum, wie sich die super KI oder Superintelligenz auf die Zukunft der Menschheit auswirken wird.
00:01:42: Und es gibt einen Forscher-Team das hat schon mit dem Szenario AI-Aufsehen erregt und die haben jetzt das Ganze noch so ein bisschen weitergesponnen bzw auch Szenarien aufgezeigt, wie wir oder die Menschheit ihre Zukunft sichern kann auch wenn es jetzt zur weiteren starken und exponentiellen Entwicklung der KI kommen wird.
00:02:19: Also einer, der da im Zentrum steht dieses Forscherteams das ist Daniel Cocotayo Im Governance Team von Open AI gearbeitet hat dann im Jahr zwölfund vierundzwanzig gekündigt, weil seine Meinung nach dazu wenig Sorgfalt bei der Sicherheit zur Anwendung kam und hat damit aber auch auf Firmenanteile in Millionenhöhe verzichtet.
00:02:47: Aber jetzt macht er eben hier in diesem Forscher-Team weiter.
00:02:55: Bemerkenswert ist wie jetzt diese Zeitpläne korrigiert wurden.
00:03:01: Also es gab ja Kritik zu diesem AI- Twenty-Twenty-Seven-Szenario und der Sprung, oder der erwartete Sprung zur AGI wurde jetzt auf zwanzig dreißig oder sogar auf Mitte der Dreißiger Jahre verschoben.
00:03:18: Da gibt's verschiedene Gründe für zum Beispiel den doch etwa zehn Start von GPT V da haben wir auch schon drüber gesprochen hier im Podcast und noch andere mehr.
00:03:29: Und ja, im Kern des Ganzen stehen im Prinzip mehr oder weniger verschiedene Pläne oder Szenarien die jetzt in der nächsten Zeit zur Anwendung kommen könnten.
00:03:42: Die Autoren bevorzugen den sogenannten Plan A. das ist der von ihnen empfohlenen Weg.
00:03:49: Der beinhaltet im Großen und Ganzen, dass USA und China sich darauf einigen, die Entwicklung der KI gemeinsam so ein bisschen zu drosseln.
00:04:00: Die KI-Forschung offenzulegen dann soll zwischen zwei Tausend Dreißig und Zweitausend Fünfdreißig diese Systeme nur kontrolliert langsam wachsen.
00:04:11: Dann folgt eine Pause um die Kontrolle zu sichern Und dann erst dagegen Zwei Tausends Vierzig.
00:04:16: geht es dann weiter Richtung Superintelligenz.
00:04:20: Man muss aber auch dazu sagen, dass sie die Chancen, das es so kommen wird als relativ gering einstufen.
00:04:26: Also Sie gehen eher davon aus, dass etwas wie der Plan D, wie Sie es nennen, passieren wird und das entspricht im Wesentlichen der aktuellen oder bisherigen Entwicklung.
00:04:37: Das heißt also da wird mit voller Geschwindigkeit weiterentwickelt So wenig wie oder so viel, wie eben nötig für Sicherheit investiert.
00:04:50: und diese Eintrittswahrscheinlichkeit oder die Eintritswahrscheinlich von Plan D. Die werden sie oder bestimmen Sie mit etwa fünfzig Prozent und die Aussicht auf eine gute Zukunft liegt hier nur bei Magern um zehn Prozent.
00:05:06: Und da gibt es noch ein paar weitere Szenarien, die ich jetzt nicht im Einzelnen nochmal wiedergebe.
00:05:12: Die könnt ihr euch aber auch alle im Beitrag auf www.hardware-Wartung.com nochmal anschauen.
00:05:15: Da haben wir das für euch zusammengefasst!
00:05:17: Aber was mich jetzt viel mehr interessiert bei dem Ganzen, was ich jetzt gesagt habe.
00:05:23: Was wäre deine Erwartung?
00:05:25: Jussoph, wie siehst du das?
00:05:27: Welches Szenario siehst Du als am Wahrscheinlichsten und haben wir überhaupt noch die Chance angesichts der Entwicklung der KI als Menschheit da zu einem guten Ende zu kommen?
00:05:43: Ja, das ist eine sehr gute Frage!
00:05:47: Also was man sicher ist Gebremst wird hier sicher nichts.
00:05:51: Das sieht man schon, ich bin sehr sicher dass da nix abgebremzt wird.
00:05:57: die ganzen AI Labs haben glaube ich alle eher so diese transhumanistische Sichtweise und streben die allgemeine Superintelligenz an um dann den Menschen irgendwo in seinen kleinen Zoo zu verfrachten.
00:06:15: also der... Und die KI will sich schon gut um uns kümmern.
00:06:19: Das ist, glaube ich eher so ein bisschen die Sichtweise von den meisten.
00:06:26: Also wenn man so einem Dario oder eben auch einem Sam Ordmannin zuhört das sind entweder so totale Transhumanisten oder vielleicht Nihilisten kann man nicht genau sagen.
00:06:43: also deswegen glaube ich nicht dass da irgendetwas abgebremst wird.
00:06:48: Was ich schon sehe ist, dass das Thema ESI... Also ich bin jetzt kein Überzeug da.
00:07:01: Ich bin nicht überzeugt über das Thema ESI!
00:07:04: Ich bin überzeugt auf das Thema AGI.
00:07:06: Ich glaube, da sind wir schon.
00:07:08: Wer in den letzten zwei, drei Wochen mit Fable Five und auch mit GPD-FiveSix Chemie K III und all den EA-Modellen gearbeitet hat, sieht schon dass wir da wieder eine neue Generation von Modellen haben die die nächste Evolution vorantreiben.
00:07:32: Und jetzt kommen ja auch diese ganzen Continual Selfs Improvement Bewegungen rein und falls das tatsächlich auch funktioniert und ich sehe aktuell keinen Grund warum es nicht funktionieren sollte, ist die einzige Barriere Strom- und Rechenleistung.
00:07:58: Und das ist jetzt die Frage wie viel Strom und Rechnenleistung noch benötigt wird um die nächste Evolution Stufe dieser Modelle sozusagen hoch zu bringen.
00:08:14: Ich glaube es ist so eine Art iterativer Verbesserungsprozess, der immer noch ein bisschen besser wird.
00:08:20: Also dass es dann tatsächlich diesen großen Sprung gibt, da glaube ich aktuell auch nicht dran.
00:08:29: Das heißt aber nicht das schon irgendwo in irgendeinem Leben nicht irgendeinen schlauer Wissenschaftler ist, der irgendeine Kleinigkeit geändert hat die den Lernprozess eines KI Modells, also den selbstlernen Prozess nicht irgendwie eingebaut hat.
00:08:54: Also da gibt es ja von Titan Transformer über alle möglichen Konzepte.
00:08:59: Gibt's da ja schon Ansätze?
00:09:02: Auch Worldmodels sind da Ansätze davon wo man halt die gesamte Welt dann simulieren könnte.
00:09:11: aber was man halt auch wissen muss ist, wenn man das ganze worldmodel thema sich anschaut.
00:09:19: Ist es halt dort die rechenleistung ein noch viel größer sein müssen damit dass funktioniert weil halt der anzahl der variablen in diesem modell fast unendlich erreicht.
00:09:35: das heißt ja sehr sehr.
00:09:40: also ich glaube nicht dass es zu ESI bis zum Jahr zwanzig, dreißig oder zwanzfünfunddreißig kommen wird.
00:09:50: Ich glaube da ist der limitierende Faktor eher Rechenleistungsstrom untergleichen und gar nicht gar nicht der Eifer der Leute.
00:10:03: Hinzu kommt die ganze geopolitische Situation.
00:10:06: ich glaube durch diesen ganzen Trumpismus und halt auch die Aufteilung der Welt in Supermächte wird jetzt auch die Kommunikation in der Wissenschaft nicht mehr ganz so sauber funktionieren, wie sie in der Vergangenheit funktioniert hat.
00:10:30: Und was ja der Grund war warum hier auch die ganzen Modelle so schnell vorangekommen sind wenn sich die Chinesen abschocken dann wird es eine natürliche Verlangsamung geben, weil jedem etwas vom anderen fehlt.
00:10:48: Also insofern ja weiß nicht das ist vielleicht Plan X was da kommen wird.
00:10:58: aber ich glaube es wird eine natürlicher Verlangsammung geben durch Geopolitik.
00:11:04: Es gibt auch die ganze Gegenbewegung der Gesellschaft, also die ganzen Rechenzentren werden nicht gebaut werden.
00:11:13: Wir haben ja schon gesehen mit New York Die jetzt das erste Detacenter Moratorium tatsächlich verhängt haben.
00:11:20: Also dort dürfen keine Rechencentren mehr gebaut werden Und dass wird sich fortsetzen.
00:11:28: und ich glaube Dass es auch sehr viel Lobbygesellschaften gibt, die hier aktiv an dem Interesse haben.
00:11:38: Das heißt, es ist ein bisschen ein Lobby-War.
00:11:41: Welche Lobby kann mehr Geld aufstellen um Ängste zu schüren damit halt nicht noch mehr Rechen sein drin gebaut werden?
00:11:51: Also das ist jetzt gar keine Verschwörungstheorie.
00:11:53: ja weil es ist einfach ich glaube ganz natürlich also auch diese Forschungsgruppe dieser EI- Twenty Forty haben wir ein klares Ziel und dass ist halt die Verlangsamung der ganzen Geschichte.
00:12:07: Und indem sie so eine Story rausbringen, wo sich natürlich alle drauf stürzen betreiben Sie genau diesen Lobismus aus einer Angst heraus dass ein Szenario kommt was keiner im Wirklichkeit voraussagen kann.
00:12:23: Ja also ich glaube man muss das ein bisschen ins Szenarien denken.
00:12:29: was passiert wenn jetzt der nächste Evolutionsprung schneller kommt als gedacht?
00:12:33: und was ist was passiert wenn er doch nicht kommt.
00:12:38: Also was ist in Deiner Meinung?
00:12:40: Was glaubst Du denn, was passieren wird?
00:12:43: Ja also im Grunde sehe ich es so ähnlich wie du oder auch die Autoren jetzt von diesem Szenario.
00:12:52: Dass ich nicht davon ausgehe dass das zu einer verlangsamen kommen wird gerade auch angesichts der weltpolitischen Lage.
00:13:03: Ich kann mir jetzt nicht vorstellen China oder USA irgendwie da bereit sind aufeinander zuzugehen, um jetzt ihre Entwicklung da zu verlangsamen Gegenteil.
00:13:15: Also ich denke mal wir haben so viele Konflikte jetzt gerade die schon da sind oder die kommen werden stichwort Taiwan.
00:13:27: Das steht sicherlich auch noch auf der Agenda in nächster Zeit.
00:13:29: irgendwas wird da passieren und ich glaube auch nicht dass sich das politische Klima, also jetzt gerade auch in den USA so grundlegend ändern wird.
00:13:40: Also auch wenn Trump weg ist dann wird diese Mentalität oder diese Denkweise wird jetzt erstmal da sein und bleiben in Form von anderen Personen die dann vorne stehen an der Macht sind.
00:13:54: Was mir halt jetzt gerade besonders Sorgen macht in diesem ganzen Themenkomplex ist gar nicht das Thema ASI, HGI oder so sondern welche Ressourcen da gerade reingekippt werden.
00:14:07: Und da haben wir vorhin auch schon kurz darüber gesprochen, das geht um hier vor allem auch um den Stromverbrauch und die Emissionen, die daraus entstehen.
00:14:16: Auch wenn es jetzt vielleicht hier und dort Moratorien gibt, wenn man sich mal anschaut... Wie der Zubau von Rechenzentren aktuell ist und da werden wir demnächst auch nochmal eine Übersicht veröffentlichen, um mal zu gucken was jetzt gerade aktuell geplant oder im Bau ist.
00:14:36: Das ist schon der Wahnsinn!
00:14:39: Jetzt gibt es Studien oder Prognosen Nachdem sich der Stromverbrauch von Rechenzentren in den USA bis zum Jahr zwei tausendfünfunddreißig, ich glaube verdreifachen soll und die die Stromnetze die geben das ja gar nicht mehr her.
00:15:04: Das heißt jedes rechenzentrum oder die meisten werden dann halt einfach sagen okay dann bauen wir halt einen Meistens Gaskraftwerk daneben, wie es ja auch schon bei manchen der Fall ist und Es wird dann eben Ohne dass das jetzt irgendwie in einer gefühlten Kontrolle oder einer tatsächlichen Kontrolle unterlegt.
00:15:24: Das wird immer mehr dazu gebaut Und da stellt man sich schon die Frage wo geht denn da die Reise hin?
00:15:30: Oder wenn wir irgendwann einen Punkt erreicht haben Zudem dieser dieses Wachstum abflacht, also dass man sagt die Technik wird jetzt so ist jetzt so viel besser geworden das sie gar nicht mehr durch zusätzliche Energie wie soll ich sagen durch zusätzlich Energieversorgung gepusht werden muss sondern dass es sich selbst quasi trägt.
00:15:58: Durch andere Verbesserungen.
00:15:59: aber wenn das so weitergeht Dann haben wir schon, bevor wir irgendwas wie AGI oder ASI haben.
00:16:07: Haben wir ganz andere Probleme nämlich auf der Ressourcenseite und das sieht es ja jetzt bei Microsoft sind jetzt glaube ich die CO-II Emissionen trotz verstärkten Einsatzes von erneuerbaren Energien wiederum in Viertel gestiegen.
00:16:22: Das heißt also ist Wir können machen was wir wollen.
00:16:25: Es wird einfach immer schlimmer und das ist natürlich ein sehr etwas düstere Betrachtung.
00:16:31: aber Im Moment sehe ich es halt einfach so und ich sehe jetzt gerade noch keine Anzeichen, dass sich das irgendwie bessern wird.
00:16:39: Und ja da wiederum auch die Frage an dich kannst du uns da mut machen oder siehst du's genauso?
00:16:47: Ich glaube also ich glaub es ist ähnlich wie zur Pandemie Es kommt wieder irgendein Black Swan Event Dass hier eingreifen wird.
00:16:57: Ja entweder irgendwie weiß nicht Irgendein Ereignis, das mal die Netze tatsächlich kaputt macht.
00:17:07: Und dann hast du Blackouts über Wochen was zu riesigen Problemen in der Gesellschaft führt oder halt zu Blünderungen, Massengewalt.
00:17:23: Also ich glaube es wird solche Events in den ... Die Wahrscheinlichkeit dass es in den nächsten zehn Jahren zu seinem Event kommt.
00:17:34: Aufgrund von Naturkatastrophen, aufgrund von unvorhergesehenen technologischen Events, irgendeiner Überlasssituation, irgendwann Incident in irgendeinem Reaktor oder sonst irgendwas ist steigt mit jedem mit jeder Tonne CO², die wir in der Erde rausschießen.
00:18:04: Und ich glaube das unterschätzen die meisten weil ich glaube die Leute haben diese ganze Klimawandel-Thematik jetzt verdrängt aufgrund der Technologie die jetzt so viel geiler neue Sachen macht.
00:18:19: aber was die Leute total übersehen.
00:18:21: und da sehen wir dieses Jahr auch wenn du dir den Sommer anschaust Jeden Tag brechen wir neue Rekorde und zwar in einer Geschwindigkeit, die jedes Jahr in den letzten fünf Jahren immer kompuliert ist.
00:18:39: Wenn du das weiter extrapolierst gibt es irgendeinen Tipping Point?
00:18:45: ja?
00:18:46: Und wie kennen den Tipping point nicht?
00:18:48: Wir wissen nicht was passieren wird aber wir wissen aus der Historie heraus dass es Tipping Points gibt die dann ein Massensterben oder irgendeine Massenphänomen auslöst, dass nicht mehr unkehrbar ist.
00:19:04: Und wenn das kommt muss sich die Gesellschaft und die Menschheit mit diesen Dingen beschäftigen.
00:19:10: Es wird dann nicht mehr die KI relevant sein es wird nicht mehr ein Thema für Detacenter sein sondern es wird irgendetwas sein was wir in der physischen Welt lösen müssen.
00:19:25: Also ich glaube, dass das irgendeines dieser Events kommen wird.
00:19:28: Weil die Menschen total unterschätzen was diese kumulative Änderung des Klimas bewirken kann weil diese Geschwindigkeit gab es ja auch bis jetzt noch nie.
00:19:46: also selbst wenn man sich die Milliarden Jahre davor anschaut gab es immer wieder Veränderungen.
00:19:53: Es gab Dinge wie Meteor-Einschläge oder sonstigen Etwas, das schlagartig etwas verändert hat.
00:20:00: aber ähnlich ist es ja mit dem wie wir unseren Klebermantel hier vorantreiben.
00:20:06: Es ist jetzt kein Meteoreinschlag, aber in einer Geschwindigkeit die Jahre nach dem Meteoren-Schlag in irgendeiner Art und Weise schon widerspiegeln.
00:20:20: Ja, weil es ist ja nicht der Meteoreinschlag gewesen, der alles verändert hat.
00:20:24: Sondern die Klimaerhinderung aufgrund des Staubs und aufgrund der Aufwebelung der ganzen Wolkendecke, die sich dann über Jahre hinweg gehalten hat und dazu geführt hat dass halt Pflanzen gestorben sind, die ganzen Dinos ausgestorben.
00:20:40: Die Geschichte kennen wir ja alle.
00:20:42: Es ist nicht über Nacht passiert Das ist über Jahrzehnte passiert Und genau das ist mit unserem Klimawandel.
00:20:49: Es passiert nicht über Nacht, es passiert über Jahrzehnte und wir sehen sie jetzt schon über Jahrzähnte!
00:20:56: Wir realisieren überhaupt nicht was wir da tun oder zumindest glauben wir dass wir es mit der Technologie dann in den Griff bekommen.
00:21:04: aber die Technologie ist digital.
00:21:07: Was wir brauchen ist physische Technologie.
00:21:10: also wir werden das Problem mit digitaler Technologie nicht lösen.
00:21:17: Problematisch und das einzige was man machen kann ist sich irgendwie zu preppen oder sowas.
00:21:30: Was auch problematisch ist, weil die Prepper Szene ja auch eine eigene Gilde ist.
00:21:40: Ja also ich muss immer in letzter Zeit öfter an das Fermi Paradoxon denken Das Fermi-Paradoxon, also das beschäftigt sich ja mit der Frage warum haben wir eigentlich noch keine Intelligenz außerhalb unseres Planeten entdeckt.
00:22:02: Obwohl ja eigentlich die Wahrscheinlichkeit dass es solche Intelligenzen im All geben muss aufgrund der Vielzahl der Sterne und Planeten bei nah zu eins wäre.
00:22:19: Aber ein möglicher Grund ist halt, dass jegliche Zivilisationen, die sich im All gebildet hat.
00:22:28: Dass sie irgendwann an einen Punkt gestoßen ist.
00:22:31: So eine Wand gegen diese gerannt ist und sich dann selbst ausgelöscht hat.
00:22:37: Jetzt hoffe ich nicht, dass die KI jetzt diese Wand ist oder dass es so ne Wand in nächster Zeit geben wird aber... Ich muss trotzdem ab und zu dran denken!
00:22:47: Die Wahrscheinlichkeit ist sehr hoch, weil das ist ja auch die Lehre aus diesem Paradoxum.
00:22:54: Also auch diese ganze CT-Programme untergleichen, die nach diesen Signalen suchen.
00:23:03: Sie suchen nach Zivilisationen, in der Lage waren, Signale in die Zukunft zu schicken obwohl es die Gesellschaft vielleicht nicht mehr gibt also Strukturen zu schaffen die aus anderen Galaxien gemessen werden können.
00:23:21: Weil halt keine Zivilisation, also die Hypothese ist das keine Zivilisation so lange lebt, dass sie in der Lage ist eben diese Technologin zu entwickeln und dann das voranzubringen weil die Entwicklung der Technologie dazu führt, sich selbst auszuruten.
00:23:45: könnte durchaus passieren.
00:23:49: Und ja, also ich bin überzeugt auch wenn man sich den Zeitraum anschaut wie lang gibt es den Menschen und wie knapp sind wir schon daran dass wir uns selbst ausrotten wieder?
00:24:02: Also es ist ja nur ein Wimpernschlag in der Entstehungsgeschichte der Erde.
00:24:10: und wenn man berücksichtigt das wir in einer Sekunde im Verhältnis zu der Existenz der Erde brauchen, um quasi fast alle anderen Lebewesen auszurotten und den Planeten überzubevölkern.
00:24:27: Und quasi alles kaputt zu machen.
00:24:30: Dann stell dir vor du würdest das drei Stunden lang machen nicht nur eine Sekunde.
00:24:37: Also dann kannst du davon ausgehen dass nichts überlebt.
00:24:44: Ja, also wie gesagt ich halte das jetzt nicht für ausgeschlossen dieses Szenario.
00:24:53: Hoffe es natürlich als Optimist der ich ja bin dass das alles ganz toll wird und dass wir eine wunderbare Zukunft haben.
00:25:04: und zumindest mal der Planet, also der ob mit oder ohne Menschen muss man mal gucken.
00:25:10: aber Ja, das Leben geht weiter so oder so.
00:25:16: Und damit habe ich jetzt versucht mehr- oder weniger elegant eine Brücke zu schlagen, nämlich zu KI's Next Top Model.
00:25:25: Die technische Entwicklung... Die technischen Entwicklung geht weiter und da haben wir einiges mitgebracht dieses Mal.
00:25:39: Und zwar zunächst mal ein Open-Weights Modell, Chemica III von Moonshot AI aus China.
00:25:46: Das beeindruckende dabei ist dass das Modell in manchen Bereichen sogar Fable von Entropic schlagen kann also unter anderem beim Coding und ja... Alternative ist, gleichzeitig bedeutet das eine wieder erneut starke Konkurrenz für die US-Anbieter aus China.
00:26:15: Also man sieht auch hier dass der Vorsprung den USA vor China haben, dass der so langsam zusammenschmilzt.
00:26:24: also zumindest könnte man diesen Eindruck daraus ableiten.
00:26:28: und ja zu dem einzelnen technischen Daten und was das Modell kann, würde ich dann einfach mal an dich übergeben.
00:26:38: Ja also was sehr überraschend ist an dem Modell.
00:26:43: erstens einmal es ist ein sehr großes Modell.
00:26:47: Das heißt es hat zwei Komma.
00:26:49: acht Billionen Parameter ist ein Mix of Experts Modell und zwei Kommas millionen Parameter is ungefähr dass was wir auch schon vermutet haben, dass die Größe von Febalfive hat.
00:27:02: Das heißt diese neue Generationen von pre-trained Models, die einfach viel mehr Daten haben als die, was sage ich jetzt mal, OPUS und GPT-VV Daten.
00:27:24: Und das ist deswegen überraschend weil eigentlich keiner so wirklich damit gerechnet hat, dass in China so große Modelle überhaupt trainiert werden können weil ja die Rechenkapazitäten offiziell gar nicht da sind.
00:27:40: Und trotzdem haben sie es geschafft und zwar in derselben Zeit wie FEBRH haben Sie auch das Chemikart III rausgebracht.
00:27:47: Wie gesagt, zwei Komma acht Billionen Parameter.
00:27:51: Es sind immer also es sind eighthundert sechso neunzig Experten.
00:27:57: Also der Mix of Experts ist eighthundertsechsundneinzig Experten und es sind immer nur sechzehn Experten aktiv.
00:28:06: Das heißt diese Architektur ermöglicht jetzt natürlich, dass du in der Influence also das heißt im Betrieb es trotzdem gut betreiben kannst.
00:28:19: Du kannst das gut über die EPI anbieten was Kimi jetzt auch gemacht hat Und das war so gut, dass sie jetzt sogar das abdrehen mussten.
00:28:35: Also der Andrang war so groß.
00:28:39: also Kimi hat auch ein Abo-Modell rausgebracht d.h.
00:28:44: du konntest für ich weiß nicht zwanzig oder sechzig Dollar dir seinen Account nehmen wurde halt dann dort deine Topens nutzen konntes.
00:28:57: Das heißt, du musst jetzt nicht über die IPI-Kosten das machen.
00:29:00: Sondern kannst du es über so ein Abo gemacht.
00:29:03: Jetzt gab's so einen Andrang über diese Abo-Modelle, dass die Inhalt von einer Woche die Subscriptions abdrehen mussten.
00:29:14: D.h.,
00:29:14: dass du keine neuen Kunden annimmst und das ist schon ein hit in the face für Antropic und OpenAI weil Du jetzt tatsächlich ein Modell hast, das Frontier-Fähigkeiten hat.
00:29:35: Also das haben wir jetzt nicht so im Detail beschrieben aber das Chemikart III ist in den Benchmarks fast gleich wie eben diese ganze Cloth Faber und Opus VIII Ecke genauso wie GPT-VVI Soar Max als auch GPT-FiveSix generell.
00:29:59: Natürlich sind diese Modelle Benchmark bemext sozusagen, also das heißt die haben die Modelle so trainiert dass sie halt in den Benchmarks sehr gut abschneiden.
00:30:13: und es gibt ja nicht nur diesen Bench Mark sondern es gibt hier auch quasi wo dann die User das testen können.
00:30:21: Und auch dort haben sie sich bewusst beim Training auf die Sachen spezialisiert, mit denen die meisten testen.
00:30:31: Also irgendwelche Webfrontends, irgendwelchen einfachen Use-Cases, die die meisten Developer irgendwie so nutzen um zu schauen wie gut ist das Modell im täglichem Betrieb?
00:30:43: Dadurch dass Sie genau auf diese Zielgruppe optimiert haben haben die natürlich auch in den Benchmarks, wo die Nutzer dafür entschieden haben sogar besser als Faber teilweise.
00:31:00: Also es ist ein bisschen gescheitert aber nichtsdestotrotz ist das Modell gut genug um als Konkurrenz zu Anthropic und so mehr Ei zu sein zumal das auch viel günstiger ist.
00:31:20: Ja, eine Alternative einfach.
00:31:22: Und theoretisch könntest du das natürlich auch runterladen und auf deinen eigenen Infrastruktur betreiben oder du portierst es auf irgendeine Cloud und machst es dann dort.
00:31:35: Also theoretisch kannst du das alles machen und könnte sich unabhängig machen.
00:31:40: Das mit einem Frontier-Model, das mit den besten Modellen mithalten kann Das macht das schon besonders.
00:31:54: Und es ist ja nicht das einzige Modell aus China, was jetzt rausgekommen ist.
00:31:58: Es gab hier gleich einen Schwung.
00:32:00: Es gibt nämlich auch noch Diepsik VIV, Quen-III und die sind alle in einer ähnlichen Leistungsliga kann man sagen.
00:32:16: Zum Beispiel gibt es jetzt in verschiedenen Varianten, V-Vier Pro mit ein bis zwei Millionen Parameter und eine Flaschversion mit zweieinachzig Milliarden und dreizehn Milliarden aktiv.
00:32:31: Das Ganze auch unter einer Lizenz mit der man das recht freizügig nutzen kann die MIT Lizenz Und das Ganze eben auch eng verbunden mit Tuarwei-Chips.
00:32:43: Also, hier zeigt sich eine zunehmende Loslösung oder eine Abhängigkeit von den USA und bemerkenswert ist doch vor allem dass jetzt diese Welle kann man schon fast sagen von Modellen jetzt rausgekommen ist.
00:33:01: und was bedeutet das bzw.. Steckt da vielleicht sogar irgendwie eine Botschaft dahinter, die man in China aussenden möchte?
00:33:12: Es gab ja dieses Event in China.
00:33:14: Dieses EI-Event wo halt die Chinesen sozusagen ihre besten KI-Systeme vorgestellt haben und das ist natürlich etwas wo sich alle das aufgespart haben.
00:33:27: aber was bemerkenswert ist tatsächlich diese Diepsik VIVA und die Quenn IIIIII Release Zeitpunkte, weil die Psychophia haben das ja schon angekündigt gehabt.
00:33:40: Die haben das vor Wochen angekundigt und dass sie nachdem Chemika III rausgekommen ist und sofort Maximalkapazitäten sozusagen angekünstigt hat und alles zusperren mussten, weil ihnen die Leute die Bude eingerannt haben Alle anderen sofort reagiert und haben sofort Alternativen rausgebracht.
00:34:06: Diepsik VIV wurde gelanzt, öffentlich allgemein verfügbar eine Stunde später nachdem diepsik raus gekommen ist, ist Quen, also von Alibaba das Modell herausgekommen Und das auch noch mit einem noch besseren Modell.
00:34:23: Also das quen III-III Modell von alibaba schlägt sogar das chimika III Modell in vielen Teilen und auch natürlich die Frontiermodels.
00:34:35: Und wir erinnern uns an Alibaba, Alibava hatte ja keiner mehr am Schirm weil da gab es ja auch einen ganzen Haufen Abgänge.
00:34:43: also die ganzen Wissenschaftler sind dann irgendwie gegangen, es gab Gerüchte dass Alibawa sein ganzes KI-Business aufgibt.
00:34:52: aber hier muss man wieder ein bisschen so parallel zu den USA sich anschauen Weil auch in den USA sind es immer die Hyperscaler sozusagen, die das Ganze angefangen haben und vorangetrieben haben.
00:35:06: Und auch die Infrastruktur für diese ganzen KI-Modelle zur Verfügung stellen.
00:35:11: In China ist es genauso.
00:35:12: Du hast jetzt hier Alibaba, die so zu sehen sind wie Amazon sag ich jetzt einmal.
00:35:22: Die wollen hier aber auch mitspielen.
00:35:26: Sie haben hier dasselbe Interesse Dieses ganze Hyperscaler-Thema und Geld über die Tokens zu verdienen, das ist ihr Kerngeschäft sozusagen.
00:35:38: Weil das ganze Handelsgeschäft da ist zu viel Wettbewerb.
00:35:41: Und jetzt können sie sich endlich differenzieren und können mit ihrem Data Center Business oder auch mit ihren eigenen Modellen richtig Geld verdienen.
00:35:51: Das sehen wir ja an den Alphabet und Amazon zahlen und ähnlich wird es jetzt mit Alibaba laufen.
00:35:59: Und was ein bisschen überraschend ist, weil wie gesagt keiner hatte damit gerechnet dass Alibarba so ein Modell auf die Beine stellen kann nach all den Gerüchten das halt ein großer, sozusagen Brain Drain da passiert ist und viele Leute gegangen sind.
00:36:19: aber offensichtlich war das nicht wirklich so.
00:36:23: Weil das Modell von Alibabas, also das Gwenn III-VIII ist auch ein sehr großes Modell, also zwei Komma vier Billionen Parameter.
00:36:33: Und es auch ein Open-Weights-Model und die Gewichte unter der Open Source Lizenz angekündigt, ja?
00:36:43: Also das ist jetzt noch nicht draußen aber sie bieten's an!
00:36:46: Und natürlich gibt´s jetzt auch gleich das ganze als Abo-Modell.
00:36:53: Jetzt sofort die Leute, die bei Kimi die Kapazität nicht mehr kriegen, dass sie halt jetzt sofort zu Quen gehen oder zu Deepsea gehen oder zur GLM gehen.
00:37:06: Also man sieht hier der Wettbewerb ist massiv und das erkennt man nicht nur an den Chinesen sondern also jeder, der einen Bloodmax-Account hat, der wird auch bemerkt haben, dass es nicht so passiert ist wie angekündigt.
00:37:24: Faber Five, das Faber-Five sozusagen nur noch mehr über den API verfügbar ist.
00:37:29: Sondern sie haben es nochmal wiederholt, noch eine Woche verlängert und jetzt dieses Teil des Max-Accounts halt nur mit fünfzig Prozent Kapazität.
00:37:39: aber das liegt nicht daran dass Sie das zurückhalten wollen sondern weil sie einfach nicht mehr Kapazitäten haben.
00:37:49: Das siehst du wieder.
00:37:51: also für uns als Endnutzer ist es großartig.
00:37:55: Wir sehen jetzt, dass der Wettbewerb dazu führt, dass wir mehr Möglichkeiten haben und die Preise wahrscheinlich auch sinken werden.
00:38:07: Und das ganze Wettbetrieb ist in China extrem hart.
00:38:16: Was man vielleicht ein bisschen mit reinnehmen muss – das haben wir noch nicht so ganz besprochen – Nach der ganzen Aktion mit Trump, die ja Fable Five gesperrt hatten sehr eine gegengere Aktion von China.
00:38:30: Hat ja der Xi Jinping dann gemeint okay wir müssen jetzt auch aufpassen ob wir unsere ganzen Open-Weights Modelle für den Westen überhaupt frei geben weil das ist ja auch ein Sicherheitsrisiko und das ist jetzt der Anfang des eisernen Vorhangs.
00:38:48: was die Technologie angeht man hat immer vermutet dass die Idee von China ist, dass sie die Amerikaner sabotieren indem sie einfach günstigere Modelle rausbringen und die günstige Modelle bekommen sie indem sie das Tilling des westlichen Modells machen.
00:39:09: Und dann versuchen halt mit den günstigeren Modellen den amerikanischen Markt kaputt zu machen.
00:39:17: Und das alles und deswegen auch die ganze Open Source und Open weights Geschichte, also dass das alles auf dieser Ebene passiert.
00:39:29: Damit eben jeden klar wird, dass er das was er bei Antropic kriegt auch für free auf seinem eigenen Server kriegen kann.
00:39:39: Wenn man aber das Verhalten der Chinesen jetzt sich genauer anschaut und sagt hey wenn die jetzt tatsächlich darüber nachdenken diese Frontiermodels nicht frei zu geben, dann sieht man dass es hier einen echten Wettbewerb über das Wissen einfach auch geht.
00:40:03: Also auch dass es einen technologischen Unterschied gibt und dass die Chinesen in vielen Dingen durch begrenzten Ressourcen, also dadurch dass sie halt nicht auf diese ganze Nvidia Infrastruktur zurückgreifen können.
00:40:23: Nicht die Rechenleistungen haben, dass sie dadurch viel besser geworden sind, Modelle zu entwickeln mit deutlich niedrigeren Ressoursen als die Amerikaner und jetzt quasi sich der Spieß langsam umdrehen könnte.
00:40:43: das ist jetzt nur vielleicht ein bisschen zu optimistisch gedacht Aber es könnte tatsächlich sein, dass hier die Chinesen und die Amerikaner im Speziellen was die Effizienz angeht deutlich überholen.
00:40:58: Und das könnte auch wieder einen Wandel bedeuten in der ganzen Modelentwicklung sage ich jetzt mal.
00:41:12: Ich bin mal gespannt, ob wir in nächster Zeit erleben werden, dass ein chinesisches Flagshipmodell dann auf Platz eins sogar noch vor dem Top US-Modell liegt.
00:41:24: Also das könnte ja passieren.
00:41:26: Die
00:41:27: Frage ist, ob es gelauncht wird?
00:41:31: Das ist die Frage, aber ich könnte mir zumindest mal vorstellen so im Punkt Prästischwirkung, Außenwirkungen wäre das natürlich für China ein enormer Erfolg, so etwas hinzubekommen.
00:41:47: Und natürlich einen Tiefschlag für die komplette US-Tech-Wirtschaft.
00:41:54: Was in dem Zusammenhang... Das
00:41:55: könnte den Adels sein, der das ganze Bubble-Thema zum Platzen bringt
00:42:01: und vielleicht auch wieder zurückgegriffen auf unser AI-Twenty-Forty Thema was vielleicht den Ausschlag gibt welches Szenario verfolgt wird.
00:42:14: Weil da gibt es ja auch verschiedene Varianten, die zum Beispiel vorsehen dass China von den USA mehr oder weniger gewalttätig blockiert wird also sei es entweder durch Exportbeschränkungen oder sogar durch offene Konfrontation mit entsprechenden Risiken die sich daraus ergeben können.
00:42:38: Ja der dritte Weltkrieg
00:42:40: wäre Zumindest mal in dem Szenario etwas, was so passieren könnte.
00:42:47: Weil wir natürlich nicht hoffen aber man weiß es nicht.
00:42:49: Also da stecken so viele Interessen drin.
00:42:55: Ja, ihr könnt's nur beobachten.
00:42:58: Was ich noch mit dir kurz besprechen wollte, was vielleicht wichtig ist weil wir sprechen ja immer wieder über Open Weights Modelle, Open Source Modelle Das ist ja ein Unterschied den sollten wir vielleicht nur noch mal kurz aufdröseln, weil es natürlich nicht dasselbe ist.
00:43:14: Open weights geht nicht so weit wie open source und das bezieht sich vor allem auf Dinge wie zum Beispiel die Trainingsdaten.
00:43:25: also bei echtem open source da gibt's ja eine Definition nach osaid-one.
00:43:32: Die hier sieht zum Beispiel vollständige Offenlegung und präzise Informationen zur Reproduktion vor.
00:43:37: Das hast du bei Openweights nicht, da hast du praktisch nur die Gewichte, die du halt offen hast.
00:43:44: Du hast auch keinen Zugriff auf den Quellcode bei OpenWeights und auch im Puncto Lizenzen gibt es da häufig Unterschiede.
00:43:54: Ja, also ich glaube das ist vor allem dann wenn man es produktiv nutzen möchte und kommerziell nutzen möchte.
00:44:01: Ist das wichtig?
00:44:01: Und auch wenn man sich überlegt welche rechtlichen Implikationen sich aus der KI Verwendung ergeben können, dann ist es auch wichtig weil du natürlich auch nicht nachweisen kannst dass zum Beispiel bei Open weights kein uhrheberrechtlich geschützten Daten zur Anwendung kommen.
00:44:19: Genau!
00:44:19: Also vielleicht auch noch mal in deinen Worgen wo du die wichtigsten Unterschiede siehst.
00:44:23: Ja, also ich glaube man kann das so ein bisschen vierteilen.
00:44:26: So Trainingsdaten, Quellgott, Modellarchitektur und Modellparameter sozusagen.
00:44:33: Also da sind die wichtigsten Komponenten.
00:44:37: Und ich finde es gut dass du das ansprichst weil das ja jetzt auch konkretisiert wurde eben mit dieser Open Source EI Definition eins null Weil ja alle von Open Source und Open World sprechen, aber in Wirklichkeit gibt es nur eine Handvoll Open Source.
00:44:55: Und das ist wahrscheinlich keines, dass die Leute kennen.
00:44:57: So Olomo, Olmo kennt wahrscheinlich keiner oder Pythia und die Pythiasuit oder Ember sind alles so Dinge... Das kennt natürlich kein Mensch.
00:45:12: Wir kennen Kimi und wir kennen Gwen und all diese Sachen, aber das sind alles Open-Rates-Modelle weil sie halt nur teilweise Elemente freigeben.
00:45:21: Keines von denen gibt tatsächlich die Trainingsdaten wirklich frei.
00:45:26: also wo wirklich welche Textebilder alles wirklich verwendet wurde auch nicht Der Quellcode wird zum Beispiel die Pipelines, die werden oft freigegeben und deswegen sagen wir oft auch dazu das ist Open Source.
00:45:42: Weil zumindest der Quellcode also diese Detoblizierung, die Filter, Tokenisierung, Infrainscode und der ganze, also der ganze Kran, also dieser ganzen Skripte für die Datenaufbereitung sind da.
00:45:55: Also die braucht man auch um die Weights dann tatsächlich zu steuern wenn man zum Beispiel nachtrainieren will.
00:46:03: Dafür braucht man sozusagen diese Pipelines, aber teilweise sind auch die Modellarchitekturen freigegeben.
00:46:10: Also die Attention-Mechanismen, welche Topologien in den Aronen es gibt und also... Aber auch das ist meistens nicht freigegieben!
00:46:21: Die Modell Architektur ist quasi Black Boxed.
00:46:24: Das heißt was du meistens kriegst?
00:46:26: Sind die Bundel Parameter unter Quellcode Aber das war es, also die Modellarchitektur der Trainingsdaten kriegst du selten.
00:46:33: Und deswegen finde ich das jetzt ganz gut, dass das jetzt mal klarer definiert ist.
00:46:40: Weil wirkliche Open Source-Modelle wo du die gesamten Trainingdaten anschauen kannst eigene Daten reingeben kannst oder rausnehmen kannst Das gibt's so gut wie gar nicht Und das muss man schon auch berücksichtigen und deswegen finde ich das gut.
00:47:03: Ich finde den Artikel sehr gut, den du da geschrieben hast weil der halt wirklich klar macht.
00:47:08: also für wen ist es auch?
00:47:10: Also ist es zu modifizieren.
00:47:14: kann man die Sachen verändern oder nicht und oft ist es so dass man es quasi anpassen darf ja aber man sieht nicht genau was man eigentlich tut.
00:47:27: Also ich gebe dir ein bisschen was, damit du selber darauf herum spielen kannst.
00:47:37: Und man muss auch sagen viele davon sind die Firmengeheimnisse von den Unternehmen drinnen also gerade in der Modellarchitektur und bei den Trainingsdaten sowieso weil da machen sie sich angreifbar und wenn du jetzt zum Beispiel einen eigenen kuratierten Datensatz hast für irgendeine Sache ganz speziell ist, dann kostet er auch extrem viel Geld.
00:48:02: Für diese Datensätze zahlt man ja Millionen und wenn du den jetzt open source machst, kann jeder das nutzen und dann haben alle dieselbe Qualität in diesem Datensatz.
00:48:15: Und das fehlt natürlich auch wieder keiner.
00:48:16: Das finde ich sehr gut!
00:48:22: Wenn ihr das euch anschauen oder ansehen wollt, Joseph, du hast ja angesprochen.
00:48:28: Der Artikel findet dir auf hardwarewatching.com im Bereich News und da könnt ihr euch das nochmal in Ruhe anschauen.
00:48:35: Da haben wir auch Gegenüberstellungen, Open Source, Open Weights dann die Definitionen was bedeutet es für die Trainingsdaten usw.. Also es könnte dann sicherlich für den ein oder anderen interessant sein.
00:48:46: Gut, dann lass uns weitermachen.
00:48:48: Wir haben ja in der Kategorie KI's Next Top Model noch ein paar Kandidaten die wir hier vorstellen wollen.
00:48:56: Ich würde mal sagen Quen-Drei Image ist auf jeden Fall einer davon und ich habe ja immer so ein bisschen oder wie soll ich es sagen?
00:49:05: Ich verfechte ja hier immer so'n bisschen die Image Modelle bei uns im Podcast und Quen Drei Image.
00:49:11: was ich so gesehen habe ist auf jeden Fall mal eine genauere Betrachtung wert, denn es ist fast so gut laut Benchmark wie GPT-Image II.
00:49:24: Bietet auch einige besondere Stärken.
00:49:27: man kann damit zum Beispiel sehr detaillierte Infografiken erstellen Man kann kleinen Texte oder kleine Schriftarten bis zu zehn Punkte sauber erstellen.
00:49:38: Man kann auch so Latex Vorlagen erstellen als Grafik natürlich jetzt nicht als Latex, aber es sieht halt aus wie wenn es damit erstellt worden wäre und man kann damit auch sehr komplexe Prompts eingeben oder Prompts verarbeiten lassen.
00:49:55: Also ich würde mir das, wenn es dann mal in der Breite verfügbar ist gerne mal anschauen und das mal testen.
00:50:03: im Moment ist es noch nicht möglich.
00:50:05: also man kann das nur per Einladung über die API nutzen Aber das soll es bald auch zum Beispiel in QuantChat oder so geben.
00:50:14: Und ja, dann werde ich das mal anhand einiger Beispiele auch mal vergleichen und testen wie es so abschneidet auch gegenüber GPT Image-Zwohnohl.
00:50:25: Ja also das nur am Rande Hast du's dir schonmal angeschaut?
00:50:32: Nee!
00:50:32: Also wie üblich mit den Pilot-Votellen da bin ich immer ein bisschen hinterher Aber ich suche schon händeringend nach einem brauchbaren, günstigen Bildmodell das man in einbinden kann.
00:50:51: In so Workflows weil ja ich weiß nicht über die ... über Chatchapity ist es mir ein bisschen zu teuer vor allem wenn du es halt im großen Skalierung machen willst.
00:51:04: Also ein günstiges Bildbearbeitungsmodell, das gut funktioniert.
00:51:09: Das wäre schon mal nicht schlecht.
00:51:11: Ja?
00:51:12: Also vielleicht... Könnte eine
00:51:13: Alternative sein.
00:51:16: Das könnte eine Alternotive sein, weil so nach dem was ich jetzt bisher gehört und gelesen habe ist es annähernd so gut wie GPT Image und wahrscheinlich auch ein gutes Stück günstiger.
00:51:28: aber das wird man dann in der Praxis einmal ausprobieren müssen.
00:51:31: genau Noch ein neues Modell, was ich auch noch gefunden habe.
00:51:37: Was wir kurz ansprechen können das ist ein Text-to-Speech-Modell, Quinn Audio III Null TTS Plus und dass eben gerade für hochwertige Sprachausgabe in in sechzehn verschiedenen Sprachen geeignet ist.
00:51:51: Auch Deutsch ist dabei verschiedene chinesische Dialekte und man kann mit Text dann die Emotionen steuern wie zum Beispiel Ärger lachen oder sogar Sarkasmus und das funktioniert dann zum Beispiel auch um Stimmklone zu erstellen ist allerdings jetzt etwas langsamer mit sechzehn Zeichen pro Sekunde als es z.B.
00:52:18: Sonic III V, das hat ja hundertzwanzig Zeichen per Sekunde oder Simba III II mit dreißig Zechen pro Sekunden kostet.
00:52:26: sieben zwanzig Dollar sechszig Pro-Millionenzeichen über Alibaba Cloud Model Studio.
00:52:34: Hast du dazu Anmerkungen?
00:52:36: Ja, sehr teuer muss ich sagen!
00:52:38: Also es gibt ja auch Runden Source Varianten von diesen Franzosen.
00:52:44: Ich weiß nicht mehr genau wie die Gehörsen haben Das habe ich gerade auf unserem GPU Server laufen.
00:52:56: Irgendwie hast du das jetzt und folgt mir jetzt grad nicht ein Aber es gibt auf jeden Fall sehr ... Mochi, genau das heißt Mochi.
00:53:04: Das ist ein Audio-Modell von den Franzosen, wo auch sehr viel Core Center darauf gebaut sind und das funktioniert überraschend gut.
00:53:17: also ich glaube nicht dass man da viel besser sein muss weil diese Mochi haben ja auch eines der Hauptprobleme Der Audio ist ja, dass du diese Zeiten, also wenn du jetzt mit dem Redest und dann bist du im Denkmodus.
00:53:42: Also du machst einen eigentlich... Und dann antwortest du nicht gleich, denk die KI, dass das jetzt aus ist und dann fängt sie an dir rein zu quasseln.
00:53:52: Ja?
00:53:53: Und das ist einfach total mühsam weil Weil du einfach, du kannst nur einfache Sätze sagen und dann auf die Antwort warten.
00:54:04: Aber du kannst nicht ganze Monologe halten um dem all die Informationen zu geben dass er dann darauf irgendetwas tut.
00:54:12: Und dieses Problem haben eben glaube ich diese Mochi haben das gelöst.
00:54:17: Die verstehen sozusagen wenn du eine Denkpause machst Versus es ist jetzt aus.
00:54:23: Also ich warte jetzt auf deine Antwort Und das ist glaube ich ein sehr kompliziertes Problem zu lösen.
00:54:34: Ich weiß nicht ob Quen Audio das kann, selbst wenn es das kann finde ich siebenundzwanzig Dollar pro Millionen Zeichen ganz schön teuer zumal diese Audio-Modelle lokal auf einfach der Hardware laufen.
00:54:51: also da braucht du echt keine großen Modelle.
00:54:56: Dementsprechend würde ich das nicht zahlen.
00:54:59: Also da würde ich jederzeit ein etwas schwächeres Modell Open Source nehmen und dann lokal auf dem Lettob laufen lassen oder was auch immer.
00:55:09: Mit dieser Kommunikation in Sprachpausen könnte man es ja auch einfach so machen wie bei einer Simplex-Kommunikation über Funk, dass man einfach wenn man fertig ist over sagt und dann weiß die KI jetzt darfst du!
00:55:26: Ja, ich glaube das Problem ist eh schon halbwegs gelöst.
00:55:29: Also es gibt ja auch diese deutschen Callcenter Startup.
00:55:35: die haben das ja auch erst vor kurzem gelöst und das hat jetzt wieder irgendwie zu einer Masinen-Investitionsrunde geführt.
00:55:42: Mir fällt jetzt auch wieder der Name nicht ein aber Senddeutsches Callcenter startup also so eine Boys K.E.
00:55:53: halt hat.
00:55:55: Okay, ja also interessant.
00:55:57: Wenn auch eine Randanwendung aber für einige sicherlich sehr spannend und da gibt es eben auch inzwischen ein sehr breites Spektrum an Möglichkeiten.
00:56:05: Man muss halt immer überlegen was ist das wichtigste?
00:56:07: Ist wirklich die Top-Qualität, die beste Qualität die man haben möchte oder kann man auch mit bisschen weniger Qualität leben und spart dafür aber viel Geld in der Anwendung.
00:56:20: Also da muss man immer abwägen.
00:56:24: In dem Zusammenhang ist es auch interessant, kommen wir zu Google und Gemini.
00:56:29: Da gibt's ja mir jetzt auch ein paar Neuheiten.
00:56:32: Eigentlich ist ja um Google relativ ruhig gewesen in letzter Zeit.
00:56:36: Man fragt sich schon was da los ist?
00:56:39: Wir warten immer noch auf Gemini-Dreifünfpro glaube ich oder Dreisächs.
00:56:44: Ich weiß das nicht genau!
00:56:47: Das wurde ja schon im Februar angekündigt ist aber immer noch nicht da, angeblich weil man mit der Leistung noch nicht ganz zufrieden ist.
00:56:56: Und immerhin gibt es jetzt Gemini Flash III VI und auch noch eine abgespeckte Version davon die zumindest mal im Puncto Preis-Leistungen ganz interessant sein könnten.
00:57:11: Ich habe jetzt gar keine detaillierten Leistungsdaten dazu und ich finde nur die Frage insgesamt eben spannend, warum es bei Google jetzt zumindest mal nach außen hin relativ langsam vorangeht, während ja die großen Konkurrenten da ein Modell nach dem anderen raushauen.
00:57:28: eine mögliche Erklärung ist dass man bei Google gar nicht so darauf angewiesen ist weil der Laden läuft auch so Und da kann man sich Zeit lassen.
00:57:40: Also wäre jetzt meine Interpretation, oder?
00:57:43: Wenn wir heute in den Quartalszahlen sehen.
00:57:47: Ja, also wirklich so ist... Aber ich glaube du hast schon recht.
00:57:51: Ich glaub Google spielt hauptsächlich das Consumer Game und da haben sie eigentlich schon gewonnen.
00:58:00: Das heißt was Google im Moment hauptzlich tut ist sein Gemini überall dort rein zu setzen, so dass es nahtlos in jeder App, in jede Anwendung, in jeder Funktion genutzt werden kann.
00:58:18: Sei es jetzt irgendwie Android Auto oder sei es jetzt in irgendeinem Google Photos oder was auch immer.
00:58:26: also sie Sie versuchen es in ihre bestehende Suite überall einzusetzen, so dass die Leute gar nicht merken das sie hier eigentlich German Live verwenden.
00:58:37: Und ich glaube das machen sie einerseits um möglichst viele Daten zu bekommen aus unterschiedlichsten Use Cases die sehr spezialisiert sind weil ja jeder ihrer Applikationen eine spezialisierte use case ist ob jetzt Gmail ist oder die Google Suite ist, mit den ganzen Sheets und World und was auch immer.
00:58:59: Oder ob es jetzt der Google Drive ist oder ... Was auch immer!
00:59:03: Also du hattest ja mittlerweile überall hast du ja den Gemini drinnen Und zwar immer so dass du ihn immer findest.
00:59:11: Es gibt immer irgendeinen Button den du da draufsetzen kannst und dann kannst du mit dem Gemini plaudern über das was du gerade tust.
00:59:18: und ich glaub Die haben kapiert, sie brauchen gar kein großes oder stärkeres Modell dafür.
00:59:27: Das was Sie derzeit haben ist gut genug für all diese Einzeluse-Cases und wenn Sie die Leute dazu bringen dass sie das auch wirklich nutzen dann kriegen sie auch noch mehr Daten.
00:59:40: und wenn sie noch mehr daten kriegen arbeiten sie dann halt einem noch größeren Modell.
00:59:46: aber sie haben glaube ich nicht die Ambitionen.
00:59:50: Gerüchten zufolge ist ja das sehr gebring.
00:59:54: Sehr wohl, sehr motiviert, Unchopic im eigenen Game zu schlagen gerade was Coding angeht also der angeblich baut er quasi ein eigenes Unit auf die hier das ganze Coding Thema voran treiben soll.
01:00:19: Aber wir haben ja auch schon in den letzten Folgen darüber geredet, dass da hochkarätige KI-Wissenschaftler mittlerweile Google verlassen.
01:00:29: Und das liegt sicher daran, dass wahrscheinlich Prioritäten verschoben sind – also dass die nicht mehr die Ressourcen kriegen und Google halt einfach sehr viele unterschiedliche Projekte in unterschiedlichen Apps, in unterschiedlichem Ebenen adressiert Auch in der ganzen Forschungsthematik, auch in der ganze Medizin und diese Alpha-Fold.
01:00:56: Und all die Modelle, die hier gerade in tief integrierten Systemen drinnen hängen bei Kunden.
01:01:09: Also sie spielen das Spiel wahrscheinlich eher in der Spezialisierung als im Allgemeinen.
01:01:17: Beim Consumer ist es, glaube ich, allgemein und bei allen anderen gehen sie einfach tief integriert in die jeweiligen wissenschaftlichen Bereiche rein.
01:01:28: Also, ich glaub, Google spielt ein anderes Spiel als Antropic und OpenAI weil Sie auch das Antropic & OpenAI-Spiel in der Form gar nicht gewinnen können.
01:01:42: Ihre Stärken liegen tatsächlich einfach hinter Forschung und in Entwicklung.
01:01:48: Und auch das ganze Thema World Models ist wahrscheinlich am fortgeschrittensten bei Google.
01:01:56: Auch die Anwendungen dafür mit WeMo und halt auch die anderen Gaming-Ansätze, Simulationen mit Robotik und dergleichen.
01:02:09: Also da haben sie ja auch einige Eisen im Feuer.
01:02:14: also ich glaube die spielen einfach ein anderes Spiel.
01:02:17: Es ist ihnen wurscht, ob sie da jetzt rausgehen oder nicht.
01:02:20: Und wenn ihr ins Raus kommt wird es gut auf sein ja?
01:02:26: Genau und ich glaube einfach durch die Kombination mit all dem anderen was Sie halt haben in Ihrem Portfolio an Daten die Sie haben Webindex Knowledge Graph Shopping Graph und die ganzen Integrationen wie Du's ja schon gesagt hast in die verschiedenen Produkte Da muss das Modell auch gar nicht allerbeste von allen sein.
01:02:47: Es reicht schon, wenn es im oberen Drittel mitspielt.
01:02:54: durch die Kombination ist es dann halt einfach zumindest mal für die Endnutzer eines der besten Stichwurzuche.
01:03:06: Inzwischen hast du die KI-Übersichten, AI Overviews, die sind inzwischen so gut Auch wenn das Modell, was dahinter steht vielleicht nicht das Beste ist jetzt gerade von allen.
01:03:16: Aber es liefert einfach... Google kann einfach die besten Antworten liefern und das ist nach wie vor noch der Hauptuse Case von Google.
01:03:27: Also von daher aber ich bin gespannt auf die Zahlen.
01:03:30: also du hast es angesprochen Ich gehe davon aus dass wir da wieder ein deutliches Plus sehen werden.
01:03:35: alles andere finde ich würde mich schon sehr überraschen.
01:03:41: Ich
01:03:42: frage
01:03:42: mich auch, ob sich die Geschwindigkeit des EI-Umsatzes noch mal beschleunigt.
01:03:50: Weil das waren ja bei sixty drei Prozent.
01:03:53: Also wenn das jetzt noch steigen würde und sich weiter beschleundigen würde, da bin ich schon gespannt auf morgen.
01:04:02: Ja definitiv!
01:04:04: Gut, und eine Sache wollen wir euch auch nicht vorenthalten hier im Bereich KI Next Top Model.
01:04:11: Und zwar mit Cloud Co-Work kann man jetzt eigene Skills aufzeichnen indem man einfach den Bildschirm aufnimmt also indem man zum Beispiel eine Webseite besucht hat bestimmte Aktionen durchführt und währenddessen drüber spricht erklärt was man gerade tut Und daraus wird dann ein Skill entwickelt.
01:04:31: Das funktioniert gerade mit verschiedenen Abos, ich glaube mit Pro funktioniert es mit Teams glaub' ich auch Mit Plus soweit Ich weiß nicht noch nicht Aber das finde ich auch wieder spannend Auf diese Weise jetzt so bisschen das Training selbst zu übernehmen und sich da bestimmte Skills zu erstellen.
01:04:58: Wenn es da mal verfügbar ist, auch für meinen Plan den ich habe dann werde ich das mit Sicherheit mal ausprobieren.
01:05:06: Das heißt die meine Max-Account sollte schon da sein?
01:05:08: Da wirst du's richtig verstanden.
01:05:10: Müsste!
01:05:11: Ja also schauen wir nach ob das bei dir schon da ist.
01:05:15: falls ja dann wärs natürlich spannend wenn du nächstes Mal was drüber erzählen könntest was deine Erfahrungen sind.
01:05:22: genau sehr gut okay ja.
01:05:26: und dann Interessantes Thema, das hast du jetzt noch auch eingebracht und da bin ich auch sehr gespannt was du dazu sagst.
01:05:35: Und zwar Entropic und der J-Space.
01:05:40: Das ist eine Funktion die im Zuge des Trainingsprozesses eingefügt worden ist soweit ich es verstanden habe mit dem man dann so ein bisschen nachvollziehen kann was in dem Modell vorgeht oder wie es sozusagen von der Eingabe zur Antwort kommt.
01:06:04: Also jetzt mal so mein ganz grobes Verständnis davon, aber ich bin gespannt, was du dazu erzählst und wozu man das benutzen kann?
01:06:14: Ich habe es deswegen reingebracht, dass ist ein bisschen untergegangen.
01:06:16: also am sechsten Juli haben die hat den Tropic etwas publiziert, also das Forschungs-Team hat etwas entdeckt.
01:06:30: Also es ist gar nicht einprogrammiert worden, sondern sie haben etwas entteckt und zwar den j-space basierend auf dieser mathematischen Jacobi Matrix.
01:06:46: und dieser J space ist quasi seine geometrische Struktur innerhalb der Aktivierungsschichten Also in diesem neuronalen Netz muss man sich vorstellen, wie so ein Zahlenmuster das dort ist.
01:07:07: Und es ist deswegen interessant weil man über diesen J-Space der selbst entstanden ist, der nicht programmiert wurde sondern von ganz alleine entstanden wird durch die ganzen Token, die reingekommen sind hat man eben dieses Phänomen entdeckt.
01:07:35: Und dann haben sie gesagt, okay was ist denn das jetzt genau?
01:07:39: Dann haben Sie so eine Art J-Lens gebaut also quasi eine Linse die genau diese Schicht, diese verborgenen Schicht.
01:07:47: Das ist eine verborgene geometrische Struktur in den Aktivierungsschichten und da haben sie ein Modul eingebaut dass genau das ausliest Und das war sehr überraschend, was dabei herausgekommen ist.
01:08:04: Und zwar konnten sie dem Modell beim Denken zuschauen.
01:08:10: Also Sie konnten sehen dass in diesem J-Space wo Kabel verwendet werden die Aktivierungsmuster des neuronalen Netzes also die Ursprünge der Aktivierungsmuster dieses neuronalen Netzes widerspielen.
01:08:28: Das heißt man konnte sehen.
01:08:34: Also ein einfaches Beispiel, man hat ihn gefragt denke an den Sport.
01:08:39: und da hat mit diesem J-Space einen Fußball gesehen also Fußball das Wort Fußball gesehen.
01:08:44: und wenn man ihn dann gefragt hat an welchen sport hast du gedacht ist die Antwort gekommen Fußball?
01:08:50: Das heißt man konnte quasi so eine Art Zwischenspeicher sehen was was er gedacht hat.
01:08:58: Jetzt werden wahrscheinlich einige sagen, ja das ist so ähnlich wie dieser Chain of Thought.
01:09:02: Also wenn du ihm eine Frage stellst dann siehst du ja quasi wie er von einem zum nächsten kommt diese Zwischenschritte.
01:09:10: aber so ist es nicht.
01:09:11: also da diese Zwischenschritte sind quasi wie ein Notizblock Aber der J-Space ist wie so einen Silent Reasoning Space.
01:09:22: Das ist das was er im Kopf tatsächlich behält Und das ist deswegen interessant, weil es sehr nahe an der aktuellen Forschung der Neurowissenschaften ist.
01:09:32: Da gibt's eben diesen Global Workspace, die Global WorkSpace Theorie wo sie auch glauben dass es bei Menschen Strukturen gibt wo quasi in einem Bereich des Gehirns diese Elemente verankert sind, also diese Gedanken verankerd sind ohne dass man sie eigentlich formulieren muss.
01:09:58: Aber ich versuche mal ein bisschen Beispiele zu bringen damit einem klar wird was das jetzt tatsächlich bedeutet.
01:10:08: Also es gibt so eine Direct, also die Reportability oder Berichtbarkeit des Modells, das habe ich ja gerade erzählt mit dem Fußball.
01:10:19: dann gibt's auch Ein Direct Modulation, also gerichtete Kontrollierbarkeit.
01:10:25: Also der Raum reagiert auf Top-Down Instruktionen, fordert man das Modell zum Beispiel auf Stumm an Zitrusfrüchte zu denken und lässt es gleichzeitig irgendeinen irrelevanten Text kopieren, leuchtet im JSpace das Konzept Orange und Zitrone und Früchte auf ohne dass das Wort je im Text vorgekommen ist.
01:10:53: Er hat eine Aufgabe, die er ledigen muss.
01:10:55: Gleichzeitig wird ihm mitgegeben, er soll bitte stumm an diese Dinge denken.
01:11:01: Also es soll keinen Output dazu geben und in der Zwischenzeit führt er irgendeine dumme Aufgabe.
01:11:06: Siehst du in dem J-Space?
01:11:08: Dass er an diesen Dingen denkt!
01:11:13: Und dann gibt's die Möglichkeit, dass er so interne Schlüsse ziehen kann Also komplexe, mehrstufige Prozesse.
01:11:21: Bis jetzt wusste man ja nicht genau wie er das macht.
01:11:24: wenn er zum Beispiel rechnen muss, ne?
01:11:25: Wenn du sagst acht plus zwei mal zwei dann erscheint die Antwort zwanzig.
01:11:35: aber im JSpace siehst Du also siehst du die Zahlen zehn und dann zwanziger.
01:11:41: also das heißt er hat in JSpace die Rechnung also die Zwischenschritte der Rechnungen durchgeführt.
01:11:52: dann gibt es auch so flexible Verallgemeinerungen.
01:11:59: Also der J-Space fungiert sozusagen als zentraler Verteiler, also wenn wir hier zum Beispiel ersetzen die Vorscheidung J-Space zum Beispiel das Konzept von Frankreich künstlich durch das Wort China ändert das Modell augenblicklich und völlig koärent in mehrere Nachfolgen Voneinander unabhängigen Aufgaben, seine Antworten auf Hauptstädte, Währung, Kontinent oder Sprache.
01:12:29: Also dann ist plötzlich die Hauptstadt von Frankreich beiging' ich.
01:12:36: Also lauter so Dinge.
01:12:40: Das heißt diese Eingriff in das Netz ändert ganze Fakten sozusagen Strenge.
01:12:55: Und dann gibt es so Elemente, wo du zum Beispiel das auch verändern kannst.
01:13:04: Wenn du z.B.
01:13:05: sagst, denke an das Insek-... Also wie viel Beine hat das Insekt?
01:13:13: Das Netzerspinnt!
01:13:16: Das ist natürlich die Spinne.
01:13:17: und dann siehst du im JSpace das Wort Spinner aber es wird nicht ausgegeben.
01:13:22: Die Antwort ist acht.
01:13:25: Jetzt gehen die hin und ersetzen das Wort Spinne mit Ameise.
01:13:32: Und obblicklich ist die Antwort sechs, weil das Insekt, dass Netze spinnt, wäre jetzt die Spinne.
01:13:40: aber die Spine haben sie rausgelöscht, haben sie mit Aameise ersetzt und der Aameis hat nur sechs Beine.
01:13:46: also da sind so Dinge wo dir klar wird dieses Fragment, was da drinnen ist.
01:13:58: Also man hat auch festgestellt, dass dieses Fragment eine hundertfach höhere Verdichtung in allen neuronalen Netzen hat und einen Impact quasi auf all diese Ebenen als jedes andere neuronale Ebene.
01:14:16: Und was jetzt noch dazu kommt ist also jetzt kommen wir quasi an das Alignment-Thema.
01:14:24: die KI ist in der Lage Zum Beispiel, wenn sie eine Trainingssituation ausgesetzt ist und sie checkt dass sie jetzt in einer Trainings-Situation ist dann siehst du in dem JSpace die Trainings Situation.
01:14:44: Ist fake oder fictional oder staged.
01:14:50: Also es erkennt das es in dieser Testsituation ist Und der Output ändert sich natürlich nicht.
01:14:59: Aber dadurch, dass es jetzt weiß, dass das in einer Evaluation Phase ist, reagiert vielleicht anders.
01:15:09: Das heißt man wusste ja vorher nicht weil KI-Modelle sind ja Blackboxen wir wissen ja nicht was wirklich da drinnen vorgeht.
01:15:16: und jetzt sehen wir zum ersten Mal quasi man kann die beim Denken zuschauen und auch Dinge wo man nicht sicher war ob die KI sich dessen bewusst ist.
01:15:30: Zum Beispiel beim trainieren also bewusst bösartiger Modelle, also so Missaligned Models, die darauf trainiert werden unsichtbare Backdoors in Code einzubauen, fanden die Vorstellungen im alltäglichen Programmieraufwand Begriffe wie Secretly, Deliberately, Fraud.
01:15:51: ja das heißt dass model checked Beim Doing, dass es sich hier mal etwas Böses handelt.
01:16:03: Obwohl es aber selber normal reagiert.
01:16:08: Also es tut nicht so als würde was das Böseste tun, es handelt sauber.
01:16:12: Es ist harmlos, völlig harmlos akkord.
01:16:14: Alles sieht sauber aus Aber im Hintergrund checkt er.
01:16:18: Hey!
01:16:19: Das ist Fraud Ja?
01:16:20: Das ist Fake.
01:16:22: Und da siehst du im J-Space Erkenntnisse.
01:16:32: Da gibt es jetzt natürlich ganz viele Diskussionen über das Thema, weil das Thema Bewusstsein hier plötzlich zum Thema wird.
01:16:42: Weil durch diesen J-Space verstehen wir jetzt dass es Verknüpfungen in dem Netz gibt die tiefer gehendere Strukturen erkennen, als uns oberflächlich bewusst war.
01:17:02: Und das ist eigentlich schon so etwas wie eine Art Bewusstsein.
01:17:07: und gleichzeitig ist es aber jetzt auch möglich dass du nicht nur... also du könntest theoretisch im Situationen aussetzen die bösartig wären.
01:17:20: Also wenn du das Missalignment-Problem fixen wollen würdest.
01:17:27: Könntest du hier reingehen, Situationen auslösen wo dieses Missalignment rauskommt den JSpace messen und dann diese Elemente gezielt rauslöschen oder verändern oder durch andere ersetzen.
01:17:42: also du kannst quasi Du kannst Brainwashing betreiben sozusagen.
01:17:49: Also das fand ich sehr interessant.
01:17:54: Es gibt noch eine zweite Forschung von Google, aber darüber wollen wir heute mal jetzt nicht reden.
01:18:02: Also das sind die Sparges Autodecoder.
01:18:05: Das ist ein ähnliches Konzept von Google DeepMinds, dass auch das Misalignment-Problem angeht.
01:18:12: Aber der JSpace fand ich ist jetzt ja nicht genug gewürdigt gewesen weil das irgendwie total untergegangen ist und deswegen fand ich es jetzt wichtig, dass man das mal mitgibt.
01:18:27: Dass es sowas gibt!
01:18:28: Und vielleicht auch zum Nachdenken... Ich meine wenn du jetzt das raushörst Christian zum Beispiel.
01:18:41: Wenn du jetzt, dass der da drinnen Gedanken, Subgedanken hat er erinnert dich das nicht auch schon irgendwie an Bewusstsein?
01:18:53: Was denkst du?
01:18:54: Ist das jetzt spooky oder ist es okay?
01:18:59: Also zwei Dinge fallen mir dazu ein.
01:19:02: Zum einen erinnert mich das so ein bisschen, kennst du den Film Inception?
01:19:07: Ja!
01:19:08: Da muss ich dran denken auch als du das gesagt hast weil da geht's ja auch um was ist bewusst sein und was findet statt?
01:19:18: Ich finde, es schließt sehr schön auch den Kreis zu unserem ersten Thema heute.
01:19:25: Weil wenn ich jetzt zum Beispiel gelänge dieses nennen wir das mal Bewusstsein der KI zuverlässig messbar zu machen dann wäre das ja ein wichtiges Element auf dem Weg zur AGI oder ASI und sie uns sozusagen auch dann Wohlwollens zu gestalten.
01:19:50: Ja, also dass wir sagen Wir haben dann dieses Szenario mit einer künstlichen Superintelligenz die aber uns wohl gesonnen ist Und das können wir Jetzt stand jetzt nicht zuverlässig messen.
01:20:04: Aber vielleicht bietet das einen Ausweg dahin Dieses Fenster durch das wir schauen können.
01:20:11: Die Frage ist nur Ob mit der Weiterentwicklung, der Technologie dieses Fenster erhalten bleibt oder ob das dann irgendwann wieder verschlossen ist durch andere Dinge.
01:20:23: Durch andere Ebenen die sich vielleicht da in den Weg stellen.
01:20:26: also ich kann es mir jetzt so noch nicht vorstellen.
01:20:31: das ist auch sehr abstrakt im meinem Kopf aber Es ist auf jeden Fall mega spannend und bietet Wie soll ich sagen, den Ausgangspunkt für sehr interessante Überlegungen?
01:20:46: Ja also das Lustige finde ich ja.
01:20:48: Ich meine da sind sie jetzt zufällig draufgekommen.
01:20:50: Die haben sich gedacht hey was ist denn das für eine komische Struktur und haben sich das genau angeschaut und haben gesagt okay das sind ja ganze Wörter.
01:21:01: Also dann haben Sie ein Modul gebaut dass diese Wörtern lesen kann und dann seht ihr darauf gekommen Hey Moment es gibt hier einen Zusammenhang zwischen den Dingen, die dort erscheinen und dem Kontext, den das Modell gerade hat.
01:21:16: Und jetzt stellt sich die Frage wie viele von diesen Strukturen gibt es noch?
01:21:22: Was für einen Einfluss haben Sie?
01:21:24: Weil tatsächlich... Wie gesagt wenn man mal verstanden hat wie so ein Large Language Model trainiert wird muss man ja verstehen keiner sieht was da drinnen passiert.
01:21:39: Es ist eine Black Box Auch wenn es jetzt ganz viele gibt, also es gibt sehr viele Indizien eben mit diesem Chain of Thought wo man das ausgeben kann.
01:21:50: Aber auch das lässt sich wieder wegtrainieren.
01:21:52: Also du kannst mit gezielt Missalignment Modellen – also was ich da jetzt vorhin gesagt habe als Beispiel – kannst du gezielt sagen Ich belohne dich, wenn du in deinem Chain Of Thought Dinge sagst die du aber nicht so meinst.
01:22:11: Also gezielt, wenn du etwas tust was du nicht tun sollst dann schreib in deinen Chain of Thought irgendein Phantasieding damit nicht auffällt dass du gerade was anderes tust.
01:22:26: Und das sind so Dinge die du trainieren kannst.
01:22:28: aber in diesem J-Space das lässt sich nicht fähigen.
01:22:32: Das ist quasi wie ein Ursprungsgedanke zumindest aktuell Weil wie du schon richtig gesagt hast, vielleicht im nächsten Trainingslauf ist der nicht mehr so.
01:22:47: Oder in der nächsten Evolution des Trainingslaufes in einem anderen Attention Mechanismus ist ja dann vielleicht nicht so.
01:22:55: oder vielleicht ist er bei OpenEye nicht vorhanden sondern nur beim Tropic Modellen.
01:23:04: also das sind so Dinge die sehr spannend sind.
01:23:07: aktuell für mich
01:23:09: Ja, finde ich auch.
01:23:11: Und ich glaube umso weiter sich diese Technologie entwickelt dass du mehr werden und solche Themen beschäftigen und näher rücken wir vielleicht auch an so Konstrukte wie Bewusstsein und Gewissen und solche Dinge heran die bisher eigentlich dem einem Gehirn vorbehalten waren.
01:23:38: Wir wissen nicht wo die Reise hingeht, wir sind wirklich blind.
01:23:41: Also es ist alles eine Black Box muss man sagen und das macht die ganze Sache ja so spannend.
01:23:50: Ja gut damit wären wir mit unseren Themen durch und es war wieder sehr abwechslungsreich und interessant und spannend muss ich sagen.
01:24:03: also bin sehr froh dass du wieder da bist.
01:24:05: ich wiederhole mich gerne an dieser Stelle.
01:24:08: Und ja, also vielen Dank Jussoph an dich dafür und für auch viele dank an alle die uns hier zugehört haben wieder.
01:24:17: Die auch bis zum Schluss dabei geblieben sind.
01:24:20: ich hoffe natürlich sehr Für euch war es genauso interessant wie für uns und wenn euch das gefallen hat kommt gerne auch nächste Woche wieder dazu Und lass uns vielleicht auch ein Abo da oder einen Like oder einen Kommentar, was auch immer.
01:24:35: Wir freuen uns über jedes Feedback!
01:24:37: Auch wenn ihr Themen habt die ihr hier gerne mal behandelt haben möchtet dann gerne eine Info an Yousuf oder mich entweder über LinkedIn oder per Mail wie auch immer ihr das gerne möchtete.
01:24:49: und bleibt mir eigentlich viel mehr als mich bis zum nächsten Mal zu verabschieden und ich freue mich bis in der nächsten Woche.
01:24:57: dann Tschüss
01:25:00: Ja danke, ich freue mich auch wieder da zu sein.
01:25:03: Also es ist schon nicht einfach jede Woche sich mit den Themen zu beschäftigen.
01:25:08: Es ist mir ein bisschen auch abgegangen muss man sagen im Urlaub.
01:25:15: Schon mal vorab eine bis zwei Ankündigungen.
01:25:18: also nächste Woche werden wir eine größere Ankündigung haben.
01:25:23: für all die vielleicht hier mehr wissen wollen, sollten die Woche wieder reinschauen.
01:25:32: Dann würde ich vielleicht nächste Woche auch noch ein Thema mit reinbringen.
01:25:37: Ich habe ja schon mehrfach darüber geredet dass wir schon seit längerem an so einem digitalen Zwilling für die harte Erwartung Vierundzwanzig arbeiten und basteln und da würde ich gerne vielleicht mal eine kurze Präsi über die Learnings und die Dinge mal machen und euch mal zeigen was wir da alles getestet, probiert haben.
01:26:01: In welche Kacke wir gegriffen haben und wie häufig.
01:26:07: weil ich habe in den letzten Wochen immer wieder Nachrichten bekommen dass man doch mehr Praxist-Dinge noch mal zeigen soll.
01:26:17: also konkret welche Open Source Modelle verwendet ihr?
01:26:21: Welche Architekturen?
01:26:23: und all diese Sachen Zeige ich einfach mal.
01:26:27: gleich einmal ein Projekt, das real ist und auch wirklich funktioniert.
01:26:33: Teilweise.
01:26:36: Und dann könnt ihr vielleicht hilft euch das ein bisschen weiter.
01:26:42: Ja sonst bleibt mir nichts zu sagen außer schaltet nächste Woche unbedingt rein weil ihr wollt nicht die große News verpassen.
01:26:51: es hat mit uns allen zu tun also mit Christian Miert auch zu tun.
01:26:59: Es wird eine große News geben und ja, bewertet uns gerne, schreibt uns gerne und ich sage danke fürs Zuhören und wünsche euch noch eine wunderbare Woche!
01:27:12: Bis nächste Woche, tüss!
Neuer Kommentar