00:00:10: Ja hallo und herzlich willkommen zu einer neuen Ausgabe von KI und Tech To Go, der Praxis Pitch hier bei Hardware-Wartung.com.

00:00:18: Und hier im Studio ist auch wieder der Jusuf.

00:00:21: Hallo Jusof Grüß dich Jussoph, wie habt ihr die Hitze überstanden der letzten Tage?

00:00:27: Ja sehr gut.

00:00:27: Heute in der Nacht konnte ich schon aufmachen und in der Früh hat das nur neunzehn Grad.

00:00:30: Da friert man ja schon fast oder?

00:00:32: Ja definitiv meine Kinder haben total gefroren.

00:00:34: Die haben sich schon angezogen vor dem Frühstück.

00:00:37: Also bei uns steht ja die größte Hitze noch bevor wir einen Freitag hier neununddreißig Grad in etwa haben.

00:00:43: Aber dann zum Sonntag wird es auch mal ein bisschen abkühlen.

00:00:47: Man merkt jetzt schon die fortschreitende Jahreszeit, nachts kühlt das schon bei uns angenehm ab und kann man ordentlich durchlüften.

00:00:56: Noch sind die Temperaturen ja angenehmen für eine neue Folge.

00:01:05: Wir haben selbstverständlich wieder eine Menge mitgebracht und wir mussten uns sehr zurückhalten, du und ich.

00:01:12: Wir hätten viel mehr Themen reinpacken können und trotzdem ist es eine stattliche Anzahl von Themen geblieben die wir heute hoffentlich durchbekommen werden.

00:01:22: fangen möchte ich gerne mit einer Meldung die gestern reinkam aktuell und zwar betrifft sie Claude Kenntzeichnet nämlich jetzt alle Texte, die mit Claude erstellt werden.

00:01:35: Mit einem Wasserzeichen und erstellte Bilder auch mit signierten Metadaten.

00:01:41: Das klingt ja als erstmal so, als könnte man jetzt KI-Inhalte zukünftig sicher erkennen Und man wüsste wo Inhalte herkommen, ob sie menschlicher Natur sind oder nicht.

00:01:51: Aber so einfach ist es natürlich nicht.

00:01:53: Wenn man sich das Kleingedruckte mal ansieht, da gibt's doch schon wieder einige Einschränkungen.

00:01:58: zum Beispiel durch Bearbeitung können dann Informationen verloren gehen also... Das ist vielleicht ein kleiner Schritt zu mehr Transparenz.

00:02:10: aber ja aus meiner Sicht ändert das glaube ich nicht so wahnsinnig viel an der gesamten Situation.

00:02:16: wie würdest du das denn einschätzen?

00:02:17: Eine ganz eigene Hypothese zu diesen ganzen Signaturen Und den Wasserzeichen, ich glaube ja dass die das nur machen damit sie wissen welche Kacke sich selbst produziert haben und welche kacke von Menschen kommt.

00:02:32: Damit Sie beim nächsten Trainingslauf das aussortieren können was sie selbst produzierten.

00:02:39: Das ist meine persönliche Hypothese weil ich denke Google war der erste der damit angefangen hat und die haben auch diese Standardisierung eingeführt Und Google macht nur Dinge, die ihnen helfen.

00:02:52: Also ohne jetzt Google Bootsheit oder sowas zu unterstellen... Nein!

00:02:58: Sie sind einfach sehr schlau und sie haben die gesamte Welt dazu getrieben dass die Webseiten so ausschauen wie Google es möchte.

00:03:04: Und zwar so das Google sie am besten bearbeiten kann und sie ja bestens gleichern kann auf ihrer eigenen Hardware, auf ihren eigenen Servern, auf ihre eigenen Infrastrukturen.

00:03:13: Und dazu haben sie die gesamte Welt gequält mit irgendwelchen Standards, die sie irgendwo eingeführt haben.

00:03:19: Von irgendwelche Sidemaps und wie man Seho zu tun hat und wie nicht ja?

00:03:26: Wie schnell eine Seite sein muss und welche Java-Skripte verwendet werden dürfen und welche nicht.

00:03:32: Dieser Wasserzeichen kamen ziemlich genau zur Zeit als diese ganze Training von Gemini gekommen ist.

00:03:39: Ich glaube Sie haben kopiert ob damit Sie unterscheiden können was es tatsächlich im Internet original und was ist nicht original, dass sie irgendeine Art von einfachen Modifier brauchen.

00:03:53: Und sein Wasserzeichen ist natürlich super!

00:03:55: Ja?

00:03:57: Wenn jetzt jeder seinen Wasserzeichern verwendet... ...und ich glaube das Wasserzeiche an Tropic verwendete, ist nicht dasselbe, als dass Google vorgeschlagen hat.

00:04:09: Das sagt mir Dass ein Tropic seinen eigenen Mist sozusagen rausfiltern will.

00:04:14: Also das ist meine persönliche Hypothese.

00:04:18: und bei Bildern, nachdem sie selber kein Bildermodell haben dass sie da wieder nur Metadaten signieren ist auch klar weil die haben ja nur Code gebaut was dann irgendwelche Bilder darstellt.

00:04:31: Es geht Ihnen ja nicht ums Bild, sondern um die Art und Weise wie dieser Code gebaut wurde damit dieses Bild entstanden ist.

00:04:37: Und das sind so Indizien meiner Meinung nach dass es einfach nur darum geht Daten, Daten, Welche Daten habe ich selbst produziert?

00:04:44: Weil sie haben sich sowieso geschweichert.

00:04:47: also alles was Sie selbst produzieren läuft sowieso in Ihren eigenen Trainings Run Also alle Output Topens sozusagen.

00:04:54: und damit sie es nicht doppelt reinladen Machen Sie es jetzt einfach mit, was wir zeichnen.

00:05:00: Interessante Hypothese und habe ich so noch nicht gehört klingt aber so als könnte man das doch auch nachvollziehen.

00:05:09: ja also klar die müssen natürlich schauen dass sie die Qualität ihrer Trainingsdaten hochhalten sonst haben wir ja irgendwann dieses degenerationsproblem.

00:05:20: wenn du KI-Modelle im immer weiter mit KI generierten Daten trainieren, dann wird es halt irgendwann schlecht.

00:05:29: Das leuchtet ein und wenn man da so ein bisschen darauf achten will, sagen wir mal in Anführungszeichen frisches Blut reinzubekommen ja also wenn man es mal genetisch sieht, dann erscheint das durchaus sinnvoll.

00:05:42: Und wie gesagt abgesehen von diesem Aspekt glaubst du auch oder dass der praktische Nutzen jetzt im im Alltag eher gering sein dürfte.

00:05:53: Der

00:05:53: Nutzen ist nur für Sie da, aber sonst für niemanden.

00:05:55: Also weil weder du erkennst dass dein Wasserzeichen da ist noch irgendein anderer der das gerade liest, ist ja nicht so, dass es aufleuchtet und sagt ach Bund, das ist gelgeneriert, sondern es ist irgendwo im Hintergrund hinter irgendwelchen Textbausteinen die keiner nachvollziehen kann bewusst damit halt keiner das fetten kann.

00:06:18: Also ich ja.

00:06:19: also vielleicht können sie so irgendwelchen regulierungen irgendwie entsprechen und sagen hey wir haben sie gekennzeichnet.

00:06:26: Und die müsste es ja nur auslesen können.

00:06:28: also alles was ihr automatisiert nutzen könnt, das könnt ihr da jetzt ausfiltern oder irgendwelche leuchtliche reklamen drauf geben.

00:06:37: ach du kann ich generiert.

00:06:38: ach du kai generiert oder so wenn du das willst kannst du das bauen.

00:06:43: Wenn du auf diese wasserzeichen nachtest aber Nutzen gibt es jetzt relativ nicht dazu.

00:06:50: Zumal man ist hier nicht einmal genau verraten ab welchen Grad sozusagen das Wasserzeichen tatsächlich dann eingesetzt wird oder nicht, also wenn's komplett generierte Texte sind ist klar.

00:07:03: aber wenn Farbe der Textes sind sagen sie nein, aber nicht wirklich nein, ich weiß auch gar nicht wem das helfen soll Ausser ihnen, dass sie den Daten unterscheiden können.

00:07:19: Ja sehe ich ähnlich.

00:07:20: okay du hattest Google genannt vor allem und google ist ein gutes stichwort beziehungsweise google deep mind.

00:07:28: das sollten wir mal näher beleuchten weil es da jetzt einige personelle wechsel gab Und vor allem eben der Wechsel von Demis Hasabis wird ja viel diskutiert gerade.

00:07:42: Könnte sogar sein, dass er das Unternehmen verlässt.

00:07:46: Da gibt es auch Spekulationen drüber und diese ganzen Personalraten die da stattfinden... Was ist da dahintergrund?

00:07:55: Also schadet sich Google da nicht selbst damit oder was bezwecken sie damit?

00:08:00: Oder ist es vielleicht auch eher eine Notwendigkeit, die von außen an Google herangetragen wurde.

00:08:07: Es ist ein schwieriges Gemengelage würde ich sagen weil es gibt sehr viele Betrachtungsweisen.

00:08:16: also man könnte jetzt sagen das ist der klassische BrainDrain weil sie also BrainDraining dass einfach die guten Leute gehen weil Google es nicht schafft an der Spitze zu sein.

00:08:28: Und da sehen wir ja, ich glaube Geminii-Dreifünf Pro.

00:08:31: Da reden wir jetzt schon seit Monaten davon und sind es immer noch nicht gelounscht!

00:08:35: Der neue Train Run für Gemini four soll angeblich schon laufen ob der dann wirklich quasi die Qualität eines GPT-Five-Sex-Soul oder eines Anthropic Faber Five.

00:08:50: irgendwie hat das Bezweifeln jetzt viele Ich bin jetzt nicht auf dieser Schiene Der glaubt, dass das Google es nicht drauf hätte dieses Rennen mitzumachen.

00:09:04: Ich glaube, dass es strategisch für Google wenig Sinn macht in dem Rennen so mit zu machen weil mittlerweile sich abzeichnet, dass der Fokus den du setzen musst deutlich mehr Kapital benötigt als ursprünglich gedacht.

00:09:25: Und ich glaube, das ist jetzt die Ernüchterung.

00:09:31: Ich bin ja einer der Verfechterte gewesen, der gesagt hat, Google hat quasi den gesamten Stack von den Daten über die Rechenzeintrennen, über die eigenen TPUs, über Infrastruktur und über die besten Leute oder Wissenschaftler.

00:09:49: Und damit haben sie eigentlich alles, was Sie brauchen der Top Dog quasi in dem ganzen Rennen zu sein.

00:09:55: Weil sie und sie haben auch noch ein Geschäftsmodell das sehr profitabel sehr viel Cashflow abwirft um mit sich dann wieder weiter wachsen können also unabhängig vom Unabhängigen vom Erfolg des EI Business.

00:10:10: aber jetzt zeichnet sich ein bisschen ab dass es vielleicht ein Trugschluss war dich vielleicht entscheiden musst, ob du jetzt ein Pascaler wirst oder bleibst.

00:10:23: Oder ob du ein Foundation-Modelanbietter wirst und bleibest.

00:10:28: Weil die Kapazitäten, die du dazu benötigst sich konkurrieren!

00:10:34: Weil du brauchst die Kapacitäten der Datacenter um den Trainingsruns zu machen.

00:10:40: gleichzeitig hast du aber zwei große Player Markt, die dir jedes Watt abnehmen und zwar zu Premiumpreisen, die du wahrscheinlich gar nicht in der Form monetarisieren könntest.

00:10:54: Weil du gar nicht die Zielkunden dazu hast, die das möglich machen.

00:11:00: Das ist ein bisschen ein Zielkonflikt.

00:11:02: Das heißt sie müssten sich entscheiden zwischen okay wie viele Ressourcen investiere ich in eigene Entwicklung?

00:11:08: Wie viel Ressouren investiere Ich ins Vermieten dieser Infrastruktur?

00:11:14: Und ich glaube, das ist auch schon etwas was man in der Gerüchseküche jetzt schon die ganze Zeit gehört hat.

00:11:19: Dass hier die Stimmung recht mies ist weil die ganzen Forscher und Wissenschaftler sich irgendwie darüber ärgern dass sie nicht die Ressourcen bekommen, die sie gerne hätten um weiterzukommen.

00:11:32: Dann werden sie abgehängt.

00:11:33: und was ist das Schlimmste für ein Wissenschaftler wenn er nicht mehr an der Spitze ist sondern nur mehr hinterherrennt?

00:11:39: Weil damit ist seine gesamte Karriere mehr oder weniger beendet.

00:11:43: Und dann gibt es natürlich auch noch, ja also der Frage.

00:11:50: Weil ich glaube was man jetzt immer ein bisschen übersieht ist die meisten Wissenschaftler gerade Dieb meint, die kommen ja alle aus einer, sag mal westlich orientierten sehr liberalen, linksliberalen Gesellschaft und auch an der Welt anschauen und können sich mit diesem Hyperkapitalismus gar nicht so identifizieren.

00:12:18: Wenn man Demissasabis zuhört, dann wirst du nie von ihm hören dass Kapitalismus die geilste Erfindung der Welt ist.

00:12:25: Du wirst immer nur hören Wissenschaftforschung Fortschritt Die Gesellschaft weiterbringen Krebsheilen was auch immer also all diese Dinge die wir alle aus unserer linksliberalen Bubble gerne hören und auch in Europa sehr verbreitet ist.

00:12:43: Und man muss auch sagen, Diebmein ist ja ein englisches Unternehmen gewesen.

00:12:47: Das sind ja größtenteils auch die größten Wissenschaftler sitzen hier auch in England.

00:12:52: Und jetzt haben sie – das ist ein weiteres Gerücht!

00:12:56: Sie haben ja quasi das Büro in Englert mehr oder weniger dicht gemacht und haben jetzt alle dazu gezwungen dass sie in die USA gehen.

00:13:04: Ja?

00:13:05: Und das schmeckt natürlich auch nicht allen.

00:13:08: Und damit hast du schlechte Stimmung in den Forschungsteams, du hast weniger Ressourcen.

00:13:12: Du hast all die Effekte, die du eigentlich nicht haben willst als jemand der dort arbeitet.

00:13:19: Du willst nicht mit diesen Trump-Pisten im selben Büro sitzen.

00:13:23: Du willst nicht mit den hypo-Rechten ausländerfeindlichen Hypokapitalisten in einem Raum sein, die allen nur sagen wir wollen das geilste Chatmodell oder Gentenmodell, um maximal Geld zu verdienen.

00:13:40: Den meisten ist das wirklich wurscht weil sie Eltern ausgesorgt haben und zweitens vielleicht nicht den ethischen... also den ethischem Kompass verfolgen, den mittlerweile Google wiederverfolgt und zwar auch dadurch dass halt der Sergibrin jetzt wieder stärker drinnen ist.

00:14:00: Also es gibt ja auch wieder, das ist das nächste Gerücht, Sergiprin sitzt jetzt wieder da und versucht das Ganze zu steuern.

00:14:08: Das sind alles Indizien für diese ganze Abwanderung oder Veränderungen in den Personalien, das erklärt aber nur der Mesasarbis-Teil und den Diebmeinteil.

00:14:26: Was es nicht erklärt ist den Jeff Dean Teil.

00:14:28: Jeff Dean, also wer ihn nicht kennt unter Sanjay.

00:14:34: Also, die zwei sind die Urgesteine von Google.

00:14:38: Und da sind auch die Founder von Google Brain.

00:14:42: Der Jeff Dean war derjenige, der diese ganze TPU-Geschichte überhaupt erst angestoßen hat.

00:14:47: Er hat alle großen Google-Erruhungen schafften – den ganzen Index!

00:14:53: Alles was Google heute ist kam mehr oder weniger von diesen zwei Wissenschaftlern Und da sind, also der Chef Team ist Mitarbeiter Nummer dreißig und das Sanjay war es glaube ich auch irgendwie unter den ersten Top Dreißig.

00:15:06: Und die zwei, dass die zwei gehen Das wirft schon viele Fragezeichen auf aber wenn man dann genau hinschaut Dann gibt's schon auch ein paar Klärungen weil was passiert?

00:15:18: Die zwei gehen und bauen ein neues Unternehmen mit dem Namen Discovery Loop und Discovery Loop klingt jetzt ein bisschen nach Ich baue continue self-improvement.

00:15:34: Sie bauen quasi KI-Systeme, die sich selbst weiterentwickeln.

00:15:41: und jetzt ist aber das Problem und das ist meine Hypothese.

00:15:44: Es gibt auch einige Leute im Netz, die eine ähnliche Hypothese haben.

00:15:50: Google will natürlich alles mit eigenen TPUs bauen Aber TPU sind denklich ungeeignet für allgemeine Use Cases.

00:15:59: Die sind gut für Gemini-spezifische Sachen oder alles, was Google spezifisch ist.

00:16:04: Aber wenn du allgemeine generische Berechnungsmodelle haben willst, ist immer noch Nvidia das Beste und du wirst Google nicht dazu bringen dass sie jetzt mehr Nvidia CupHacks Ausgaben tätigen nur damit der Gephtin irgendwelche neuen Experimente machen kann zu zeigen, was jetzt die nächste Generation der self-improving KIs bildet.

00:16:35: Und da haben sie jetzt meiner Meinung nach eine saubere Lösung gefunden.

00:16:38: Sie gehen raus aus dem Unternehmen, bilden ein Startup.

00:16:42: Google ist der Initial Investor, sag ich jetzt einmal also zumindest mal die Grundlagenposten sozusagen deckt.

00:16:51: Gleichzeitig können sie jetzt von allem Kapital das am Markt da ist profitieren weil Wer würde Jeff Dean nicht sein Geld geben?

00:17:00: Also, Jeff Dean ist der beste Product Guy den du überhaupt finden kannst auf der ganzen Welt.

00:17:07: Der hat alles Produkt heißt was er je wissenschaftlich angegangen ist also die Wahrscheinlichkeit dass du dein Kapital her als zurückbekommst.

00:17:16: wenn du in den Jeff Dean investiert und in den Sanjay dann das ist extrem hoch.

00:17:21: natürlich kann das auch scheitern venture capital und la la la.

00:17:23: aber Es ist ungefähr ein No-Brain, es ist so wie Elon Musk Geld zu geben.

00:17:29: Man kann ihn mal magen vielleicht nicht als vielleicht ein James Bond.

00:17:34: böse Wicht ja aber letztendlich kannst du dir sicher sein du kriegst dein Geld zurück und zwar mehrfach.

00:17:40: Und das sind so meine Erklärungen sage ich jetzt einmal So rein oberflächlich.

00:17:47: es gibt man könnte jetzt sogar noch einen Schritt zurückgehen und sagen okay Was ist es denn eigentlich tatsächlich, was jetzt hier passiert?

00:17:57: Also wenn man sieht Demisazabis soll jetzt zurücktreten.

00:18:02: Er dritt als CEO von DeepMind zurück und wird aber strategischer Chief Scientist über die gesamte Alphabet-Gruppe und soll hier sozusagen die Strategie für die KI Entwicklung machen.

00:18:17: Und gleichzeitig ist er auch der neue CEO von Isomorphic Labs.

00:18:22: Und über Isomorphic Labs haben wir auch schon gesprochen und jeder der mir schon zugehört hat, weiß ich denke, Isomorphics Labs wird das wertvollste Unternehmen in der gesamten Welt.

00:18:33: Weil dort die ganze Alpha-Fold-Thematik, die ganze Medizinentwicklung, die ganzen Biotechnologie und wo Medizin-, Biologie- und künstliche Intelligenz zusammenfließen ist quasi das Unternehmen.

00:18:50: Und noch ist es total unterbewertet weil es halt jetzt mal nicht monetarisiert werden musste auch klarerweise.

00:18:57: Aber sobald die ersten longevity-Ergebnisse da sind oder irgendwelche brauchbaren Produkte, Geneerika oder Medikamente rauskommen, die Veränderungen und große Veränderung mit sich bringen können wird das noch zittergegehen.

00:19:15: Wir haben's bei Novenalis gesehen, die haben diese Fettweggspritzen herausgebracht über ein Jahr.

00:19:24: So ähnlich wird es mit Isomorphic Labs sein, wenn die irgendeinen Produkt rausbringen dass ein grundlegendes Problem wie Diabetes oder Kreislaufprobleme oder kein längeres Leben oder auch nur schönere Hortlösen dann wird das durch die Decke gehen und Dann kommen wir auch schon zum ganz großen Blick.

00:19:50: Also wenn du jetzt sagst okay, wir nehmen jetzt mal alles an dass das alles so halbwegs zusammenhängt könnte man auch sagen die sehen vielleicht hier schon eben diese Singularität.

00:20:05: also sie sehen schon dieser Entwicklung der KI die wir nicht nur unter AGI sondern ESI kennen.

00:20:15: Das heißt die sehen In den nächsten Jahren werden wir dieses Ziel erreicht haben und da müssen wir ganz anders aufgestellt sein.

00:20:23: Und da ist natürlich ein Blick eines DMSR Service in einer strategischen Rolle viel wichtiger als CEO von irgendeinem Lab, das irgendwelche Chat-Modelle baut.

00:20:38: Da gibt es halt eh schon jemand eben, den Koray Kavucciano – das ist quasi der CTO von DeepMind Der wieder zum neuen CEO und der übernimmt quasi ist wieder der Product Guy.

00:20:50: Das ist wieder einer, der die Sachen umsetzen kann, der auch Gemini weiterentwickeln kann und der auch diese ganzen Widerstände gegen diese kritische Kompass-Thematik besser managen kann als indem es was ab ist, der einfach total Kompasse gesteuert ist glaube ich.

00:21:09: Ja das ist so mein Blick auf die Welt.

00:21:12: ja ich glaub vielleicht ist vieles einfach ganz anders, vielleicht sind wir angepisst auf irgendwelchen oder hat sich gestritten.

00:21:21: Es ist dann vielleicht viel einfacher.

00:21:23: aber ich glaube eben bei Menschen wie einem Demissasavis dass da diese rein emotionalen Dinge ja nicht so überwiegen wie in dieser übergeordnete Blick auf die Welt.

00:21:37: Also die Entwicklung die du jetzt geschildert hast könnte ja oder passt ja recht gut auch zu den Szenarien, wie wir sie ja auch schon hier besprochen haben.

00:21:49: Wie sich die KI weiterentwickeln könnte und glaube ein wichtiger Meilenstein oder fast schon so eine Art kambrische Explosion wenn man das mal mit der Uhrzeit in Verbindung bringt.

00:22:02: Könnte eben sein, wenn die KI in der Lage ist sich selbst zu verbessern.

00:22:07: Und da ab diesem Zeitpunkt, wenn das gelingt erwarten viele eine sprunghafte Verbesserung Fähigkeiten und der Kapazitäten, auch in diesem AI- Twentyf vierzig oder zwanzig siebenzwanzig Szenario was wir hier besprochen hatten mit den verschiedenen Plänen.

00:22:23: Es könnte natürlich sein dass jetzt dieses neue Unternehmen hier eine wichtige Rolle spielt bei dieser Entwicklung.

00:22:31: also zu dem ganzen anderen was du jetzt auch gesagt hast ja zum Thema Gesundheitsforschung und auch Dinge die vielleicht den Menschen zugutekommen können könnte natürlich gerade das nochmal einen neuen Sprung geben.

00:22:46: Zeigt aber irgendwie auch, was Google aktuell vielleicht eher nicht möchte oder dass Google eben seine ganz andere Interessenlage hat, was die Weiterentwicklung angeht?

00:22:59: Das heißt also, Google hat sich da möglicherweise so ein bisschen aus diesem Rennen um Bitzenfrontiermodelle verabschiedet geht eher in Richtung Monetarisierung breite Abschöpfung und überlässt sozusagen die Spitzenforschung anderen.

00:23:17: Baut es dann halt irgendwann wieder so ein bisschen aus, wenn's wieder nötig ist?

00:23:21: Wenn die Leute sagen ah die Suche ist schlecht oder andere sind besser und so, dann machen sie halt mal wieder etwas besseres Modell.

00:23:28: aber man merkt ja auch aktuell funktioniert alles gut.

00:23:31: also ich persönlich bin sehr zufrieden wie die suche funktioniert.

00:23:36: Man braucht da glaube ich gar kein besseres Gemini im Moment dahinter weil andere Sachen da wichtiger sind, dass man da einfach wahrscheinlich jetzt versucht hat so ein bisschen sich strategisch fokussierter aufzustellen und das es dann einfach nur ein folgerichtiger Schritt war.

00:23:52: Also könnte ich mir gut vorstellen, dass sie das so gekommen ist?

00:23:56: Ja

00:23:56: also das ist eher auch eine klare Lesweise.

00:23:59: Dass Google sich oder Alphabet sich immer mehr quasi als Organisation sozusagen aufstellt maximale Kapital, also maximale Gewinne zu erwirtschaften.

00:24:12: Und man darf ja auch nicht vergessen, ich meine Google ist ja auch investiert in Antropic und ist auch investirt ins Basics und in vielen anderen KI-Labs.

00:24:22: Also wenn diese kambrische Explosion kommt dann wird sie nicht aus einem Big Lab kommen sondern die wird aus irgendeiner Forschungsrichtung kommen die vielleicht keiner so erwartet hat.

00:24:35: das sehen wir ja auch.

00:24:37: Die werden dann zusammengekauft.

00:24:41: Da wird sogar ein Peter Steinberger, der aus Österreich ein paar Open Source Produkte zusammengeschustert hat um daraus dann OpenClaw zu bauen, wird dann halt eingekauft und dann in OpenEye integriert oder einen Marksacker-Berg, der versucht Manus zu kaufen weil er sieht dass Agenten ein Thema sind.

00:25:03: also all diese Entwicklungen kamen nicht aus den großen Laps.

00:25:08: Claude Kot schon, es ist tatsächlich eine Entwicklung aus den grossen Laps.

00:25:13: aber auch das ist relativ zu sehen weil an Tropic ist ja auch nur ein Ableger der aus Frust entstanden ist.

00:25:24: dass die halt alle so schnell groß geworden sind ist quasi der Entwicklung geschuldet Und nicht, weil der Markt einfach da ist und sie das auch sehr gut exekutiert haben.

00:25:39: Weil in einer anderen Welt oder in der pre-EI-Welt wäre ein Tropik jetzt bei zweihundert Millionen vielleicht.

00:25:47: Aber so ist halt die Welt heute nicht.

00:25:50: Heute sind Sie halt eine Billion wert!

00:25:53: Ja und zweihundert Millionen ist dann eher das, was einzelne Mitarbeiter schon haben oder kassieren.

00:25:58: Also auch bei OpenAI da war jetzt auch gerade wieder so eine Runde in der Aktien verkauft werden durften, weil den jetzt wieder einige neue Multimillionäre die USA beglücken bereichern.

00:26:13: wie auch immer.

00:26:14: Hinweis an alle an dieser Stelle wenn ihr gerade auf der Suche nach einer Wohnung in San Francisco seid wird schwierig also zu vernünftigen Preisen.

00:26:23: Das ist übrigens ein interessanter Hint, weil du das angesprochen hast.

00:26:26: Weil ich habe mir auch diese... Ich hab' das auch gelesen!

00:26:29: Wenn Du aber genauer rein liest dann äh.. Ist das so dass ja OpenAI Anteile von Ihren eigenen Mitarbeitern zurückkauft und zwar zur Bewertung von, weil in den Achtundfünfzig Milliarden oder so?

00:26:42: Also die letzte Bewertungen die sie da gehabt haben und das sagt mir dass es am Markt niemanden gibt, der für Achtundersfünfzig Milliarden diese Anteile im Secondary-Markt kauft.

00:26:53: Da ist schon auch die Kacke am Dampfen und ich glaube, man muss das machen!

00:26:59: Weil ich glaub', das ist sein Event, ich glaub' das sind jetzt zehn Jahre oder so... Die müssen ja Liquidität für die Mitarbeiter schaffen.

00:27:06: wenn sie das nämlich nicht tun und die Mitarbeiter gehen in den Secondary Markt Und jetzt stellt sich heraus Ja, jetzt ist nicht mehr achtundfünfzig sondern siebenhundert Milliarden nochmal wert.

00:27:15: Na was glaubst du, was dann passiert?

00:27:16: Dann geht die ganze Kacke los!

00:27:18: All die Bewertungen wie dir alle, die da so viel Geld hergeborgt haben und die da im Kaskadeneffekt damit drinnen hängen wenn du irgendwo jetzt eine Downround hast, dann fängt alles an zu bröckeln Und das darf auf gar keinen Fall passieren.

00:27:35: investiert hier, ob mir.

00:27:37: eines muss man sich mal geben.

00:27:38: Also die jetzt ganz hart diese hundert Milliarden zusammengegratzt haben aus dem Venture-Markt von Nvidia und von Softbank und was auch immer.

00:27:46: Und jetzt sieben Milliarden Cash zurück an die Mitarbeiter.

00:27:51: Cash!

00:27:51: Nur damit die ganze Kackein nicht nur die One fliegt.

00:27:54: Ja

00:27:55: und das wird passieren da bleibe ich ja dabei.

00:27:58: wir haben ja ein riesiges Kartenhaus.

00:28:01: Das reicht ja, wenn man an irgendeiner der vielen Stellen eine Karte rauszieht und dann geht's los.

00:28:10: Und das ist jetzt nur ein Beispiel auf das wir zufällig gestoßen sind oder du mit deiner.

00:28:16: Da gibt es viele mehr weil alles so unglaublich miteinander verbunden und verknüpft ist.

00:28:21: Ich hätte auch noch heute noch viel mehr Themen in dieser Art reinnehmen können.

00:28:26: Ja gab es auch wieder aktuell... Was wieder in diese Richtung geht.

00:28:30: Da haben wir jetzt schon drüber gesprochen, ich bleibe bei meiner Prognose.

00:28:33: Ich weiß noch nicht wann, aber irgendwann kommt so diese kleine Nadel die irgendwo rein piekst in diesen großen großen Ballon und wenn wir Glück haben macht es dann... Aber wenn man Pech hat...

00:28:48: Ich glaube alle Leute schon mit dem Magneten rum versuchen alle den Nadel dahin zu sammeln.

00:28:51: Genau!

00:28:52: Irgendwo was durchkommen

00:28:54: Genau, und es gibt so viele Nadeln potenziell.

00:28:57: Also das ich weiß nicht ob du die alle einsammeln kannst.

00:29:05: Von dieser düsteren Prognose lass uns doch ein bisschen optimistisch und technisch in die Entwicklung schauen.

00:29:14: Denn ein Thema was sicherlich in nächster Zeit immer wichtiger werden wird.

00:29:20: Das ist das sogenannte Graph Engineering, also das sagt wahrscheinlich vielen noch nichts.

00:29:26: Prompt engineering ist glaube ich eher ein Begriff oder wir haben da im Prinzip so eine Art Evolution die wir durchmachen oder durchgemacht haben.

00:29:33: Also beim klassischen Prompt Engineering ging es ja einfach nur darum eine Anweisung möglichst präzise zu formulieren um dann das gewünschte Ergebnis zu bekommen.

00:29:43: und dann gab's inzwischen schon mehrere Zwischenschritte die dann über das sogenannte Context Engineering und Harnis Engineering bis dann hin zum Loop Engineering ging.

00:29:52: Und letztendlich sind wir jetzt beim Graph Engineering, und das ist ein Konstrukt, dass du uns sicherlich gerne etwas näher erklären wirst.

00:30:06: Genau also ich mache es jetzt mal wie du.

00:30:08: Ich fange von vorne an und bringe mir quasi jede Evolution Stufe dazu Warum die sich entwickelt hat und warum wir jetzt bei graph engineering gelandet sind.

00:30:20: also alle können sich noch erinnern.

00:30:22: Noch vor zwei jahren waren prompt engineers, die machen wenn du ein prompt engineer warst hast du super superjob bekommen viel geld und als prompt engineer also nichts anderes gemacht als was ist deine eingabe?

00:30:35: also deinen query in seine kie so zu machen dass ja einen geilen one shot raus bekommt das der output perfekt funktioniert.

00:30:45: Das heißt, du hast irgendwie wie bringe ich das Modell dazu im ersten Versuch das richtige Format die korrekte Logik und die richtige Tonalität zu treffen?

00:30:53: Also das war so das Thema Und es gab dann ganz viele Tipps wie man das machen kann.

00:30:59: Dann kam der nächste Schritt weil Es hat nicht nur ausgereicht dass Du nur noch mehr einen prompt gemacht hast sondern es kam.

00:31:06: also sind dann die Ersten Rack Systeme Gekons Retrieval Augmented Generation Das heißt es gab Kontext dazu.

00:31:14: Also man musste der KI Kontext mitgeben, damit sie möglichst in dem Rahmen antwortet wie du dir die Frage stellst.

00:31:25: Wo du vorher nur im Prompt alles reingegeben hast.

00:31:29: Hast du jetzt quasi gesagt aber holt ihr noch dieses Info und noch dieses Markdown?

00:31:33: Und das ist quasi der Hintergrund dazu!

00:31:36: Und dann musste man das dynamisch modellieren, damit wenn Du eine Frage stellts alle Informationen hat, um aber zu antworten.

00:31:46: Das war das Context Engineering.

00:31:48: War quasi der nächste Schritt und was kam dann?

00:31:51: Dann kam natürlich... Jetzt muss man das alles in einen Rahmen packen damit die KI weiß wo diese Dinge liegen.

00:31:59: weil du hast ja nicht nur einen Kontext sondern du hast ganz viele Kontexte.

00:32:03: Du hast Code, ein CRM-System, dann hast du irgendwelche EPAs, dann kamen diese MCPs raus Die Model-Context-Protokolle, wo man halt kontextdynamisch abfragen konnte.

00:32:16: Hast du das aber nicht in den Context Engineering reingepackt?

00:32:19: Sondern hast dann gesagt wir bauen jetzt einen Harness also ein Rahmen und das war die Geburtstunde des Harness Engineering mit dem Aufkommen von Cloud Code, wo dann all diese Dinge Werkzeuge verpackt wurden... Modelle drinnen hast und die apis, mcps, databankvirus, codeinterpreter und was auch immer.

00:32:42: Und ein persistentes Gedächtnis vielleicht noch und noch ein Racksystem irgendwo.

00:32:48: Das alles ist quasi in dem Harnes drin und die KI kann dann sagen ich für dieses Konstrukt frage jetzt diese Tools ab?

00:32:57: Jetzt hat man schon mit Cloud Code war das ja schon alles sehr gut.

00:33:02: Es war dann tatsächlich auch mit Openclaw die Revolution gekommen, also mit Peter Steinberger.

00:33:11: Jetzt hat man das.

00:33:12: aber es war einfach nur nervig weil du die ganze Zeit irgendwie da gesessen bist und KI-Sitting betrieben hast.

00:33:17: Du bist hinter deiner KI gesessen und dir irgendwas gemacht und hat sich gesagt darf ich das tun?

00:33:22: Und du bist dann da gesetzt und gesagt ja darfst du!

00:33:24: Und irgendwann war es einfach nur so wie bei Simpsons, dieser Hahn der immer auf den Knopf drückt.

00:33:30: Wenn man sich die einen, also den Starter von Simpson anschaut und bist du da gesessen und hast immer nur ja okay, ja okay... und so weiter gemacht.

00:33:40: Das hat die Leute genervt weil sie den ganzen Tag davor gesessen haben und eigentlich nichts Produktives mehr gemacht haben außer der KI zuzuschauen, wie sie irgendwas liest oder wie sie dich irgendwas fragt.

00:33:50: Irgendwann war's auch so dass du gesagt hast, war sie nicht!

00:33:54: Keine Ahnung, ob du das jetzt machen sollst oder nicht.

00:33:57: Weil ich habe mir keine Gedanken darüber gemacht was du darüber nachgedacht hast.

00:34:01: Also hat man angefangen Loops zu bauen und das Ziel von diesem Loop Engineering war dass du quasi schon die Ergebnisse hast.

00:34:10: also der macht irgendetwas Die KI führt irgendwas aus über den Harnest Und dann schaut sie hab ich das Ziel erreicht?

00:34:20: und da gibt es einen Ground Truth und der Ground Truth sagt Passt du hast ein ziel erreicht oder nein hast du nicht erreicht und dann kommen die ganzen abbruch bestehungen stop conditions.

00:34:31: also wenn du das geschafft hast dann bist du fertig.

00:34:35: stop condition abgehakt.

00:34:40: Wenn du gesagt hast okay Da ist jetzt ein Fehler und wenn dieser Fehler kommt, dann kommt der Tool Call Loop.

00:34:47: Wenn du diesen Fehler hast, rufst du dieses Tool auf das Tool, startet wieder den Agenten und der Agent analysiert den Code löst dieses Problem und sagt Bust Next!

00:34:57: Und dann baust du den Loop so lange aus bis der ToolCall oder das TopCondition erreicht ist.

00:35:04: Das war sozusagen das Loop Engineering.

00:35:06: Das ist schon recht kompliziert gewesen weil Wenn du das nicht sauber definiert hast, dann ist es immer noch ein Problem.

00:35:16: Also wenn du diese Loops baust, dann verfangen die sich und der Gänten enden in irgendwelchen Endlos-Schleifen wiederholenden selben Fehler die ganze Zeit oder verlieren sich in den ursprünglichen Plan oder verliert überhaupt den Plan aus den Augen und sagen ja jetzt mache ich nur mehr das.

00:35:37: Und um dieses Problem zu lösen Kam jetzt das Graph Engineering.

00:35:42: Das ist quasi wie so eine Organisation Workflows und dann hast du da drinnen Notes, also Knoten und Edges und Kanten Und jetzt baust du quasi Loops.

00:35:53: Diese Loops machen hier irgendetwas und dann gibt es einen übergeordneten Agenten der schaut ob dieser Loop und dieser Loop Informationen miteinander austauschen müssen damit du dann den nächsten Schritt machen kannst.

00:36:07: Das ist quasi wie so eine übergeordnete Kontrollorganisation, die die Loops koordiniert, damit du eben nicht mehr dieses Problem hast dass sich irgendwelche Agenten in Endloschleifen verlieren weil dann würde der nächste Agent drüber kommen und sagen Du hängst hier in einer Schleife!

00:36:21: Du machst jetzt mal was ganz anderes.

00:36:23: ich baue jetzt einen neuen Loop der dieses Problem nochmal angeht oder verändert Und so gibt es halt immer Kontrollflüsse und Kommunikation zwischen denen Loops und Zwischenergebnisse, die werden dann richtig geroutet.

00:36:41: Und auch wieder von einer KI orchestriert.

00:36:44: Es gibt eine Struktur.

00:36:46: Dann kannst du ein selbstlernendes Konzept entwickeln.

00:36:51: Ich kann euch gerne ein Beispiel dazu zeigen.

00:36:55: Wir haben lange davon auch darüber geredet über den digitalen Zwilling, das Experiment.

00:37:01: Das wäre genauso ein Graph Engineering Konzept.

00:37:05: Kann ich euch dann in real zeigen, wie man sowas baut und was man darauf... Okay

00:37:10: also das klingt auch schon wie die nächste Evolutionsstufe und die Frage ist halt Hat sich das schon in der Breite durchgesetzt oder ist es ein Konzept, was schon vielen bekannt ist?

00:37:24: Weil ich glaube aktuell die meisten sind noch so vom Wissen her auf dem Stand Prompt Engineering.

00:37:30: Die anderen Begriffe hört man doch recht selten außer jetzt unter denjenigen, die sich täglich mit KI beschäftigen.

00:37:35: alle anderen für diese Prompt engineering schon dass das allerhöchste der Gefühle ja

00:37:39: Es ist wie.

00:37:40: also das ist quasi im Moment die Entwicklung dir bisschen Schwierig ist weil Also der Gap geht immer weiter auseinander zwischen denen die Sachen einsetzen und denen, die noch bei dem bleiben was sie tun.

00:37:57: Also dieses Prompten und immer wieder mit Chatten das sind Leute.

00:38:00: also wenn die nicht in die nächste Stufe erreichen dann geht dieser Gap immer weiter Auseinander weil ich muss jetzt gar nicht mehr so viel tun.

00:38:10: Ich muss nur noch mehr quasi mir Gedanken drüber machen wie bei euch so ein Graph also sein Konzept, seine Organisation.

00:38:17: Wo die KI sich selbst helfen kann?

00:38:19: Wo sie die Daten validieren kann und wo sie die Ergebnisse validieren können und daraus dann den nächsten Erkenntnis gewinnt und die dann wieder in die Lube reinschmeißen kann um weiter so dieses selbstlernenden Mechanismen zu entwickeln.

00:38:36: Die meisten Leute glauben halt man baut einfach zwei Agenten und das macht dass es läuft schon.

00:38:41: aber jeder der das schon mal gemacht hat Der weiß, das geht nach zehn Minuten in die Hose.

00:38:47: Nach zehn Minuten hast du dein Max-Account geplattet, alle Totens verbraucht und das Ergebnis ist nix!

00:38:55: Und die KI ist irgendwo im Kreis gelaufen hat irgendwelche Dinge gemacht sich in irgendwelchen Details verlaufen und hat einfach das Ergebnis nicht geschafft.

00:39:03: Du musst diese Iterationen machen, du musst lernen, du muss tun, testen ausprobieren und dann die nächste Stufe zu machen weil die Entwicklung ist exponentiell.

00:39:13: Also zwischen dem Prompt Engineering und dem Graph-Engineering sind komplette Welten.

00:39:21: Es gibt nicht einmal einen Vergleich mehr, das ist so wie Einzeller und Mensch.

00:39:26: Letztens auch ein Prozess erstellt oder erstellen wollen mit Hilfe von Cloud Code.

00:39:34: Ganze lief eine ganze Weile und dann hat sich erst im Nachhinein gezeigt Dieser Prozess, der dann mit viel Aufwand erstellt worden war.

00:39:44: Dass er überhaupt nicht funktioniert hat und dass er nicht das gemacht hat was er sollte.

00:39:49: Und ich glaube... Das ist genau so ein Fall den du meinst.

00:39:52: Also dass man solche Dinge eben gleich von Anfang an besser macht und das entsprechend dann Feedback schleifen Verbesserungen dann automatisch auch stattfinden.

00:40:03: Dass das Ergebnis dann einfach auf Anhieb oder mit weniger Iterationen passt.

00:40:09: Wie wenn du arbeiten gehst?

00:40:10: In jeder Organisation hast du halt Leute, die machen ihre Abteilung irgendwas.

00:40:15: Aber keiner macht ja irgendetwas nur um sich selbst zu beschäftigen.

00:40:19: Meistens zumindest nicht.

00:40:20: Es gibt es auch aber meistens ist das so dass sie einem Ziel entgegenarbeiten und dann brauchst du irgendwelche Leute die diese Leute koordinieren oder validieren ob dir aus der Ausgänge die da raus gekommen sind relevant sind oder irrelevant sind oder in irgendeinem Auton weil sie nutzbar sind.

00:40:35: Und genau so muss man das halt mitdenken.

00:40:38: Und genauso muss man halt auch quasi jetzt nicht mehr in Code denken, sondern in Daten und Validierungen.

00:40:47: Also was ist tatsächlich?

00:40:49: Wie könnte ich feststellen ob das was sich erwarte richtig ist oder falsch ist?

00:40:55: Woran würde ich es erkennen?

00:40:56: Ja genau Das klingt sehr nach dem realen Arbeitsleben.

00:41:03: da kennen wir glaube ich alle Fälle den lange an etwas rumgedoktert wurde, nur um das Ergebnis dann irgendwann in die Tonne zu schmeißen und hat viel Arbeit umsonst genutzt.

00:41:18: Und einen Ansatz dafür war ja dann dass man gesagt hat, man führt eine iterative oder wie man heute auch sagt agile Arbeitsweise ein, die dann eben in kleineren Zyklen arbeitet so mehr Kontrollschleifen hat beziehungsweise dann auch ein MVP, das sozusagen ein Minimalprodukt von Schleife sich entwickeln und wachsen

00:41:43: kann.

00:41:49: Bevor wir noch zur Vorstellung deines digitalen Zwillings kommen, den du ja jetzt auch schon angesprochen hast.

00:41:56: Wollen wir aber noch einen Blick werfen auf die aktuellen Entwicklungen bei den KI Modellen?

00:42:02: Sprich unsere Kategorie KI is Next Top Model.

00:42:05: und da fangen wir mit einer Meldung an die vielleicht dem ein oder anderen erst mal so'n bisschen Sorgen-Falten bereiten könnte, auch Ängste.

00:42:13: Aber die auf den zweiten Blick sicherlich auch aufzeigt welche positiven Möglichkeiten die KI im Bereich der Gesundheit birgt.

00:42:23: und zwar geht es um sogenannte Bakteriofagen.

00:42:28: das sind ja... Man kann sagen, Organismen.

00:42:32: Es ist ja immer so ein bisschen schwierig bei Viren von einem Organismus zu sprechen aber ich sage einfach mal es sind Organism oder Lebewesen.

00:42:41: die Eigenschaft haben deshalb Fagen dass sie Bakterien fressen und dafür kann man sie natürlich.

00:42:48: also gibt's auch in der Natur.

00:42:50: Die kommen davor in verschiedenen Ausprägungen Und Bakteriophagen sind aber auch ein beliebter Hebel, mit dem man sozusagen auch Krankheiten bekämpfen kann.

00:43:03: Auch mit speziell erstellten oder angepassten Bakteriophagen.

00:43:07: Ja da gibt es jetzt Neues zu vermelden.

00:43:13: Es wurden nämlich solche Bakteriophagen mithilfe von KI-Modellen entworfen und Ja, die haben dann auch ihre Aufgabe erfüllt zumindest im Labor.

00:43:25: Was hat's denn damit genau auf sich?

00:43:27: beziehungsweise wie ist das Ganze abgelaufen?

00:43:30: Wir hatten ja schon letztes Jahr in Februar darüber berichtet also ich glaube es war Episode X oder so.

00:43:37: ganz am Anfang.

00:43:39: Haben wir über Evo II geredet und EvoII ist ein KI-Modell dass in Zusammenhang also Nvidia zusammen mit dem ARC Institute zusammenentwickelt wurde und dort haben sie ganz viele genome DNA Strukturen trainiert.

00:43:58: Und es war quasi der größte Trainings Run mit einer Gen-Datenbank, sag ich jetzt einmal, wobei hier ausschließlich nicht menschliche genome und gene und DNA Struktur für den TrainingsRun verwendet wurden.

00:44:19: Das ist ein komplettes Open Source Modell und wir hatten damals schon gesagt, das ist quasi der erste Baustein für die Entwicklung von modernen Speziellen.

00:44:33: haben wir glaube ich damals darüber geredet über was man damit machen kann.

00:44:38: Für die resistenten Bakterien also die halt ja

00:44:45: Du meinst die Multiresistentenbakterien, die Krankenhäusern und so?

00:44:48: Genau.

00:44:49: Die

00:44:49: Krankenhauskennung, die du nur noch mehr mit Antibiotika bekämpfen kannst aber die ja schon so resistent sind dass es keine Antibiatika gibt, die töten.

00:45:04: Und das ist tatsächlich einer der Use-Cases dem wir damals schon angesprochen hatten.

00:45:11: Und jetzt hat es eben das Vorschau aus der Stanford University, zusammen mit dem Park Institute haben wir jetzt mal einfach getestet ob sie so ein Genom komplett entwerfen können.

00:45:23: Also inklusive völlig neue DNA Sequenzen und komplettes Genom haben Sie entworfen und haben das dann einfach gebaut also einen künstlichen Bakteriophagen also Viren, die Bakterien infiziert und abtöten sozusagen.

00:45:41: Und da sind in den.

00:45:42: aus den hunderttausenden Möglichkeiten haben sie dann dreihundert synthetisiert und aus diesen dreihunderts sind dann tatsächlich sechzehn Fagen identifiziert worden, die außergewöhnlich effektiv waren gegen Ekolye.

00:46:02: Also die haben Ekoley-Bakterien gedötet Und das waren komplett, also die kommen in der Natur so nicht vor.

00:46:08: Also die sind komplett programmiert worden sozusagen und das ist jetzt quasi der Start des Kampfes gegen Antibiotika-Resistenz.

00:46:24: aber gleichzeitig gibt es natürlich viele Leute hier berechtigt Angst haben was man damit noch tun könnte weil erstens einmal dieses Open Source Jeder kann solche Dinge machen, aber auch heute schon.

00:46:39: Also auch heute kannst du wenn du in einem Labor arbeitest alles was die hier getan haben könntest du auch ohne KI machen.

00:46:50: also nichts davon ist komplett neu.

00:46:53: also du kannst diese Bakterifragen kannst du heute schon züchten nur dass du halt diese DNA Sequenzen verwendest die dann auch tatsächlich funktionieren wo funktionierende Viren entstehen die auch lebensfähig sind, das ist dann halt eine Sache des Glücks.

00:47:12: Wenn du nicht gerade eine KI hast wie Evo II, die das sozusagen bognostiziert und dann kannst du einfach gezielt diese Sachen entwickeln, die dann lebensfähig sind und dann auch diese Ziele verformen.

00:47:26: Aber dann kommt natürlich das große aber wenn das möglich ist auch im großen Stil eingesetzt wird, dann kann es auch schnell passieren.

00:47:37: Wir haben das ja gesehen an Covid und es gibt ja immer noch Gerüchte dass das irgendwo in Hohan oder irgendwo in China in einem Labor entstanden ist und ausgebrochen ist.

00:47:49: Es gibt sogar tatsächlich Beweise ob die jetzt tatsächlich richtig sind oder nicht.

00:47:54: Das ist eine andere Frage aber es gibt tatsächlich Hinweise darauf gewesen sein könnte.

00:48:03: Und wenn man sich jetzt vorstellt, dass jeder der irgendwie Labor-Equipment hat, der ausreichend biologische Kenntnisse hat und eben Zugang zu diesem Modell hat, könnte er jetzt herum experimentieren und das vielleicht nicht so vorsichtig und dann entwischen diese Viren – und es muss ja gar nicht so sein, dass die Viren den Menschen angreifen sondern Wenn man jetzt feststellt, ok E. coli ein Beispiel aber der Mensch braucht auch E. Colibakterien in der Darmflora und dergleichen.

00:48:36: das heißt es kann massive Auswirkungen haben.

00:48:39: wenn jetzt dieser Virus ausbricht und alle E.coli Bakterien weltweit zerstört dann haben wir vielleicht doch auch ein Problem oder irgendwas anderes.

00:48:47: wenn es daran geht irgendwelche Darmbakterien Milchsäurebakterien was auch immer gibt's ja ganz viele Dinge die der mensch auch benötigt oder die Tiere benötigen, die der Mensch benötigt.

00:49:01: Oder Pflanzen benötigend, die den Menschen benötige.

00:49:04: Also die Kette ist kaum berechenbar und das ist halt immer die Gefahr bei so einer Sache.

00:49:14: Deswegen ist auch Genforschung immer ein bisschen verpönt gerade in Europa.

00:49:19: Auch wenn es zum Beispiel im Rest der Welt in der Agriculture eigentlich Standard ist

00:49:28: Ja, aber wenn man überlegt wie lange das schon her ist mit Corona.

00:49:34: Man war es zwanzig, so fast sieben Jahre bedeutet ja auch dass sich die Technik in den Laboren aber natürlich jetzt auch die KI seitdem extrem weiterentwickelt hat.

00:49:47: also wenn wir sagen Covid war ein missglückter Versuch, ein Unfall dann hat sich oder ist in der Zwischenzeit nach die Zeit sicherlich nicht still gestanden und die Möglichkeiten möchte man sich jetzt gar nicht ausmalen, was da theoretisch passieren kann.

00:50:07: Und das muss ja nicht mal mit böse Absicht passieren wie du gesagt hast, sondern es kann auch einfach sein dass im Rahmen irgendwelcher Experimente etwas aus dem Labor herauskommt, was da nicht draußen sein darf.

00:50:23: Da kann man sich schon Szenarien vorstellen.

00:50:25: gegen die ist diese ganze Corona-Krise wahrscheinlich noch ein Spaziergang gewesen.

00:50:31: Ja ich sag nur Resident Evil!

00:50:34: Genau.

00:50:36: oder The Walking Dead.

00:50:40: Also alles basiert ja im Prinzip auf einer ähnlichen Geschichte.

00:50:47: Was war sie?

00:50:49: Oder I am legend.

00:50:52: Man kann gar nicht mehr aufhören und ja, also auch ein möglicher Todespfad.

00:51:00: Wir haben ja auch wie bei der KI-Blase für die gesamte Menschheit verschiedene Todespfade, die wir vermeiden müssen.

00:51:09: Da hatten wir nicht darüber geredet.

00:51:11: Der Mensch ist erst jetzt einer Sekunde quasi auf der Erde, wie lange wir es brauchen bis er sich komplett ausgerotet hat!

00:51:19: Was wäre sein Klassiker?

00:51:21: Ne, genau.

00:51:21: Also ich möchte ja jetzt gar nicht zu schwarzmalerisch hierher reden weil wir wollen ja positiv und optimistisch auf die Technik und auf die Zukunft schauen.

00:51:34: aber wenn man sich dann manchmal so ein bisschen rein denkt dann findet man zumindest mal Stoff für neue Horrorromane oder Filme.

00:51:42: da könnte man schon was draus machen.

00:51:45: Das wird die Kinoindustrie schon für uns übernehmen, bin ich mir ziemlich sicher.

00:51:49: Zwischen all den Superheldenfilmen ist vielleicht auch mal wieder Platz für einen dystopischen Endzeitfilm.

00:51:56: Da gibt es ja ganz wenige davon?

00:51:58: Ja genau!

00:52:01: Gut aber wir sind ja hier schließlich in der Kategorie KI's Next Top Model und dem wollen wir auch gerecht werden.

00:52:07: deshalb ein weiteres neues Modell auf das wir gestoßen sind, nämlich das Nemotron-Dreifünpfel von Nvidia.

00:52:16: Was jetzt gar nicht so sehr durch seine beeindruckende Leistung überzeugt sondern durch Geschwindigkeit.

00:52:21: und das Ganze zeigt sich zum Beispiel daran dass es deutlich schneller ist als zum Beispiel Quen'n-Drei, Sechs, Fünf, Dreißig B oder auch als Gemma vier, dreißig b um den Faktor Zehnteilweise schneller.

00:52:42: und ja von daher könnte das natürlich wieder für bestimmte Anwendungsfälle interessant sein.

00:52:50: Es ist ein Open weights Modell, auch das macht es spannend und interessant.

00:52:55: also von daher auf jeden Fall was wir hier erwähnen sollten Wie schätzt du das ein?

00:53:03: Also ich finde es gut, vor allem setzt jetzt einfach dieses ganze GPT OSS Thema.

00:53:09: Also du kannst halt jetzt mit deinem Nemotronen III V Lightning kannst du quasi ein GPT OSS-Mulitär B, also die großen OSS Open Source Modelle von Open AI ersetzen.

00:53:24: Es ist nicht nur besser es ist auch schneller und langsam braucht's tatsächlich Open Source oder Open Wades Modelle aus dem Westen, die halt hier ein bisschen mitschninken können Und letztendlich einem Quen'n-Dreisex, Dreißig B oder VWB hat das auch nichts entgegenzusetzen.

00:53:47: Jetzt nicht besser ganz im Gegenteil.

00:53:49: also die chinesischen Modelle von vor einem Jahr sind besser als dieses Nemotron-Modell.

00:53:59: aber es ist halt die Geschwindigkeit die hier den Unterschied macht und dass es auch etwas wahrscheinlich dann die Nutzbarkeit gerade im Enterprise-Unfeld dann relevanter macht.

00:54:10: Ja, wo du halt quasi diese Intelligenz in dieser Druckengeschwindigkeit verwenden kannst, dann kannst du halt viele Dinge beschleunigen, grad wenn du Prozesse hast die zeitkritisch sind.

00:54:27: Analysen, Monitoring all diese Use Cases, Weil sie noch nicht gut funktionieren, also vor allem nicht mit Open Source gut funktionierend weil es die Zeit kritisch sind.

00:54:39: Wie eben Monitoring von irgendwelchen Security Incidents, Real-Time Monitoring vom irgendwelche Industrie Sachen.

00:54:49: Das funktioniert alles aktuell nicht, weil die Verarbeitungsgeschwindigkeit so langsam ist.

00:54:53: auch wenn die Intelligenz da ist, ist die Verarbeitung geschwindigkeiten noch nicht da.

00:54:58: und ich glaube das ist genau die Kerbe in die jetzt Nemotron schlägt dass sie sagen, okay, Sie bauen jetzt Modelle die hier near real time oder halt wirklich sehr schnell einfach Ergebnisse liefern.

00:55:11: Die ähnliche Qualität haben wie aktuelle chinesische Open Source-Modelle.

00:55:16: aber ja also ich finde es eine gute, ich find sowieso Nvidia ist einer derjenigen die hier vorantreiben natürlich aus eigen Interesse klarerweise weil Nvidia will natürlich das es eine funktionierende Open Source Welt gibt Weil natürlich auch in OpenEye ein Tropic und all die anderen Frontierlabs werden schauen, dass ihre eigenen Chips haben.

00:55:37: Die werden auf ihren spezialisierten Chips arbeiten – zumindest im Francing-Seitig!

00:55:43: Und der einzigen, den dann tatsächlich inferencingmäßig in Videochips nutzen werden sind die Open Source Modelle.

00:55:51: Das wissen Sie natürlich und dementsprechend setzen sie hier schon die Maßstäbe.

00:55:58: Sie dürfen halt auch nicht zu weit vorausgehen, weil dann würden sie ja wieder den Front-Tierlabs das Frontrunning betreiben.

00:56:09: Und wenn sie das machen, dann kaufen die wieder keine Nvidia Chips fürs Training.

00:56:14: Ja also es ist schon ein bisschen Eierdanz aber grundsätzlich kannst du immer damit rechnen dass Nvidia mit der Nemotron Serie in halbes Jahr hinterher die Modelle rausbringen wird, die nützlich für das BtoB-Unfall sein werden.

00:56:32: Okay und jetzt kommen wir mal auf die ganz andere Seite der Leistungsskala.

00:56:37: und da müssen wir über GPT-Fünf, sechs Cyber reden.

00:56:43: und ja das Ganze ist Bestandteil von einem Programm das nennt sich Daybreak Von OpenAI, da haben wir glaube ich auch schon mal drüber gesprochen.

00:56:52: Da geht es im Prinzip darum Cyber-Angriffe zu vermeiden, Sicherheitslücken in Software aufzuspüren bevor sie Angreifer aufspüren können.

00:57:02: und dieses Daybreak das gibt's im Prinzip in zwei Stufen.

00:57:06: Daybreak Blue und Daybreak Red.

00:57:08: Bei Daybreak Blu hat man Zugang zur GPT-FiveSex-Soliver dass wir ja auch schon gesprochen haben mit dem man schon eine sehr gute Schwachstellenerkennung Malware-Analysis und so weiter betreiben kann.

00:57:20: Und Daybreak Red ist dann für eine besonders ausgewählte Zielgruppe, da hat man den Zugriff auch auf dieses GPT.

00:57:30: Ja jetzt ist die Frage also wenn diese Modelle jetzt so gut sind darin Sicherheitslücken aufzuspüren.

00:57:38: wie lässt sich denn vermeiden dass diese Modellen trotz aller Vorkehrungen nicht doch missbraucht werden selber Attacken durchzuführen?

00:57:48: Ich glaube, das ist die Frage, die sie provozieren wollen.

00:57:54: Aber was ist die richtige Frage?

00:57:57: Weil wenn du dir das anschaust... Es ist ja nicht so dass GPT-FiveSix Cyber erst seit gestern gibt!

00:58:03: Wir können uns erinnern als Mythos gesperrt wurde und auch Fable gesperrt wurde hat OpenEye GPT FiveSix... Das hat sich keine Sau dafür interessiert weil alle Fable wollten.

00:58:16: Und dann hat OpenAI angefangen auch dasselbe zu spielen und gesagt ja, wir können noch die hacken.

00:58:21: Dann haben wir die gehackt und dann kam dieser große Hacking Face Angriff über den alle geredet haben.

00:58:29: und damit haben sie sich selbst zum Ritter geschlagen und gesagt oh wir können auch die Welt angreifen!

00:58:34: Wir sind auch total gefährlich.

00:58:36: und trotzdem hat sich keiner auf für die Cyber Capabilities von OpenAI interessiert.

00:58:44: Wir haben jetzt eine komplett neue Serie von Modellen rausgebracht, die Astra Generation.

00:58:50: Nur wenn man sich das anschaut wird die Astra-Generation ziemlich sicher kaum betreibbar sein weil sie wahrscheinlich ein sehr großes Modell sind Die einfach viel zu viele Kapazitäten benötigt.

00:59:04: Das heißt wenn Sie das jetzt herausbringen würden Sie den Need gar nicht erfüllen.

00:59:09: Also was machen Sie?

00:59:10: Sie sagen hey wir haben doch hier GPD-FiveSix Cyber Und das kann all die Security-Probleme lösen und Astra müssen wir jetzt einstellen, weil es ist viel zu gefährlich.

00:59:20: Wir haben das jetzt eingereicht bei den amerikanischen Behörden, sie kontrollieren das aber es ist sehr zu gefährlicher können das nicht publik stellen.

00:59:28: Aber ihr könnt hier TPD-FiveSix Cyber haben.

00:59:30: Das läuft auf dem Sollmodell also auf dem kleineren Modell.

00:59:34: Das ist betreibbar und das bringt uns viel Kohle und würde unsere Umsätze erhöhen.

00:59:38: Also verwendet doch bitte das Ja?

00:59:41: Also das ist meine Lesweise dieser Nachricht.

00:59:47: Und sie ist zu kombinieren mit Astra, weil Astra also das ist wirklich der größte, diese Message dass es viel zu gefährlich ist.

00:59:56: Das ist ungefähr dieselbe Message wie damals Mythos und das ist ja auch das Problem, dass Mythos halt wirklich zu groß war und deswegen ich betreibbar war.

01:00:04: nicht die Kapazitäten da waren.

01:00:05: dann kam der Größe aus.

01:00:07: Elon Musk hat gesagt hier ob's noch ein Rechenzentrum?

01:00:09: Da könntest du laufen lassen und dann was plötzlich kein Problem mehr.

01:00:13: Das hat doch mehr jetzt nicht.

01:00:15: Das ist meine Einordnung der Probleme und der Sachlage, ob das ein gutes Cyber-Modell ist oder nicht?

01:00:23: Ich behaupte, jedes dieser Modelle sei ein gutes Sowohl Angriff als auch Verteidigungsmodell.

01:00:28: Das haben wir bei Haggingfes gesehen also GLM-VII als Verteiligung gegen Astra höchstwahrscheinlich, also gegen das riesengroße Über drüber übermächtige für Menschen viel zu gefährliche Modell wurde von einem chinesischen Open Source-Modell der letzten Generation.

01:00:48: Auch wenn es groß ist, aber es hat glaube ich ein bis zwei Millionen Parameter nur, wurde da irgendwie davon gestoppt.

01:00:57: also die Diskussion diese anstoßen wollen ist meiner Meinung nach Das, wo Sie das hinrichten.

01:01:05: Aber wovon sie eigentlich ablenken?

01:01:07: Du hast ein gutes Stichwort gegeben mit chinesischen KI-Modellen.

01:01:12: Das bringt mich nämlich jetzt gerade auch zu etwas, was wir noch hier kurz ansprechen wollen.

01:01:18: Nämlich arbeitet laut Berichten der Financial Times, Bidance also das ist ja der Konzern, der hinter TikTok steht an einem KI-Modell mit bis zu zehn Billionen Parametern.

01:01:29: Es sind dann dreimal so groß wie Chemica III von Moonshot und das bisher größte chinesische Modell.

01:01:36: Und damit würden die Chinesen dann doch sehr nahe an Mythos V ran.

01:01:42: kommen an das aktuelle Spitzmodell von Entropic und würden damit auch die Argumentationen von Entropic im Hinblick auf den bevorstehenden Börsengang so ein bisschen angreifen und entkräften, nämlich dass man sich ja nur auf Spitzenmodelle konzentriere.

01:02:01: Und dass man da immer noch einen gewissen Abstand zu China hätte.

01:02:06: Also das wird ja eh schon hinterfragt und wird jetzt dadurch oder durch solche Entwicklungen noch mehr in Frage gestellt.

01:02:15: Ich kann mir gut vorstellen, dass du diese Einschätzung teilst, oder?

01:02:18: Ja, das ist der Propagandavor hier!

01:02:24: Man kann es wirklich als Krieg bezeichnen.

01:02:26: Das ist wirklich so.

01:02:26: ein Propaganda-Krieg Beidens ist übrigens der eine Player aus China der reingeschrieben hat, dass sie nicht mehr destillen.

01:02:37: Also das heißt alles was hier sozusagen behauptet wird von Anthropic, die ja nur deswegen so an der Frontier sind weil dir Daten destillt.

01:02:51: Bydance hat decidiert geschrieben, dass Sie das nicht tun und dass sie eben ein zehn Billionen Parameter Modell trainieren wollen ohne zu destillern.

01:02:59: Und wenn man das jetzt in Kontext bringt Man weiß es nicht genau, weil die Modulgrößen nicht ganz bekannt sind.

01:03:07: Aber man geht davon aus, dass Fabelfice um die fünf Billionen Parameter hat und Mythos um die sieben bis acht Millionen Parameter.

01:03:18: Und das heißt, die zehn Billionen-Parameter wäre wieder eine Größe geworden und größer!

01:03:25: Da kommt jetzt, da fängt man dann auch wieder an zu grübeln.

01:03:29: Weil wenn man sich ein bisschen beschäftigt mit so Transformmodellen und wie der Trainingslauf funktioniert und die Speicherarchitektur, die benötigt wird um so ein großes Modell zu trainieren Und die Rechenleistung, die du benötigst um so einen Modell to trainieren Dann Kommst du eigentlich drauf dass das eigentlich schon das harte Limit ist.

01:03:47: also Aktuell aus aktueller Sicht sind diese zehn Billionen angesprochen, sind diese zehn Billionen Parameter das größte Modell, dass überhaupt trainierbar wäre unter aktueller Speicherarchitektur und GPU-Architektu.

01:04:07: Weil viel größer kriegst du es gar nicht hin weil du gar nichts zu großen Cluster kriegts, weil die Netzwerktechnik um diesen großen Clustern aufzubauen in dieser Funktionalität und dieser Größe gar nichts... Also es gibt dieses Kaskaden nicht mehr.

01:04:23: Also man kann sagen bei vierhundert Gigabit pro Sekunde kannst du halt eine gewisse Anzahl von Clustern miteinander verbinden.

01:04:30: Jetzt kannst du die nächste Ebene vom Netzwerkinfrastruktur bauen, die schneller und noch mehr Daten in einer besseren Konnektivität miteinander sprechen.

01:04:44: aber dann wären wir schon nicht mehr in der klassischen Netzwerktechnik wie wir jetzt sind sondern werden wir schon bei Photonic Also komplett neue Server-Architekturen und dann könntest du die nächste Stufe der größeren Generationen von Servern, also von Modellen trainieren.

01:05:01: Und selbst wenn du das trainiert hättest um zehn Billionen Parametermodell in der Influence zu betreiben ist auch schon eine Challenge.

01:05:10: Da müsstest du also zehn Billion Parameter.

01:05:13: kannst du davon ausgehen dass du ca.

01:05:16: zehn Terabyte Speicher brauchst nur um das Modell zu laden.

01:05:21: Und dann, wenn du jetzt eine Million Token noch dazu, also Token wie nur eine Million hättest, dann brauchst du nochmal nette Gigabyte die du für jede Anfrage benötigst.

01:05:34: Das heißt du bist bei so einem, man kann so Hundert Gigabyte kannst du eine GPU sagen hat einen GPU.

01:05:44: Also die High End das heisst wieder viertausend GPUs musst du zusammenschließen, damit du nur das Modell lobst.

01:05:54: und dann bist du schon beim Multirack System.

01:05:56: Also es geht nicht mehr in einem Single-Rack-System sondern du brauchst Multidata Center Systeme vielleicht sogar.

01:06:03: also ich zweifle an dass Bitens die Rechenkapazitäten hat um sein Modell zu rechnen.

01:06:13: Aber wenn man sich die Presse Nachricht an genauer tut, dann sagen sie ja in sechs Monaten werden Sie das trainieren und dann wird es noch weiter.

01:06:23: Also in einem Jahr mehr oder weniger wird das fertig trainiert sein.

01:06:27: Und das ist auch realistisch weil frühestens in einem jahr wirst du... Wenn Du nicht quasi an Tropic bist oder Open AI bist kannst Du mit der aktuellen Rechenkapazität nicht so ein großes Modell bauen Oder brauchst Du viel Kohle.

01:06:44: Und dann kommst du aber an diese ganzen Restriktionen.

01:06:47: Du kannst ja remote Data Center mieten über Thailand oder also sich Singapur, aber auch diese Kapazitäten sind beschränkt.

01:06:55: Also sie nicht in der größten Ordnung da wie es einen Anthropic oder OpenAI oder Google oder Amazon haben.

01:07:02: Das heißt das wird extrem lange dauern so was zu trainieren.

01:07:05: Aber es reicht um ihnen die Suppe zu spucken Vor allem Anthropic weil ihr bald den Börsengang machen wollen.

01:07:13: Darum geht es wahrscheinlich in erster Linie.

01:07:17: Okay, jetzt noch eine Spezialanwendung von KI.

01:07:23: Das ist auch eine Meldung die ich interessant finde und wir reden ja hier oft über gesundheitliche medizinische Anwendungen.

01:07:30: und auch übers Wetter haben wir auch schon ein paar mal gesprochen.

01:07:33: und es gibt jetzt mit Weathernext Cyclones von Google DeepMind einen KI System das sowohl die Zugbahn als auch die Intensität von tropischen Wirbelstürmen, also vor allem Hurricanes dürften da im Blick sein besser vorher sagen kann und das mit weniger Ressourcenaufwand.

01:07:54: Also so wie ich das verstanden habe war es ja bisher so dass man immer sich entscheiden musste ob man eher den Fokus auf die Zugbahn zu Klons legt oder eher auf die Windgeschwindigkeiten innerhalb des Zyklons.

01:08:07: Und mit diesem Modell kann man anscheinend jetzt beides relativ gut vorhersagen, zumindest mit einer größeren Präzision als das bisher der Fall war.

01:08:17: also dass man zum Beispiel bei einer fünf Tagesvorhersage die Position des Sturms mit zweihundertdreißig Kilometer Abweichung vorher sagen kann statt wie bisher dreihundertsiebzig Kilometer und das sogar noch bei einem größeren Datenraster.

01:08:37: was natürlich gerade in Zeiten zunehmender Wetterextreme immer wichtiger wird.

01:08:42: So eine Anwendung, weil sehr wahrscheinlich ist dass wir in Zukunft noch viel mehr tropische Wirbelstürme oder auch überhaupt Sturmereignisse haben werden.

01:08:52: die Meere heizen sich auf die Temperaturen steigen Die Energie in der Atmosphäre insgesamt nimmt zu und sodass das sicherlich auch ein wachsender Zweig der KI-Anwendungen sein wird.

01:09:06: und wie schätzt du das ein, Jusof?

01:09:09: Ja ich meine wir haben ja schon öfter über das Weather Next Projekt von Google geredet.

01:09:16: Von DeepMind und dass es genau so ein Use Case ist und dass sie hier immer weiter auch in die Spezialisierung reingehen von Zyklonen untergleichen finde ich ganz cool.

01:09:27: Interessant fand ich ehrlich gesagt weil die alten Modelle Passierten ja auf diesem der Fusion, also die die Die passierten auf seinem diffusionsmodell wo quasi entrauscht wird.

01:09:42: Also sie sehen das Bild und dann wird entrauschet und dann sehen wir quasi die Entwicklung.

01:09:47: Und dass ist jetzt aber anders gibt es eine eigene neue technologie die heißt functional generative networks Und Das ist das hat halt wohl den vorteil dass es mit einem durchlauf quasi komplett erstellt wird, dabei auch noch achtmal schneller sein soll.

01:10:05: Damit kannst du... also damit hast du halt den Vorteil dass du sagen kannst okay launch jetzt ein tausend Instanzen und simuliere ein Tausend Varianten von dem Ding und dann kann ich das besser vergleichen wie die Wahrscheinlichkeit ist, dass irgendwas eintritt und damit hast Du natürlich Spass ressourcen Das und bist auch noch genauer, obwohl ob deine Granularität der Daten viel breiter ist.

01:10:33: Also hier verwenden die gar nicht diese dezidierten Windmodelle also diese wo du halt die Daten von irgendwelchen Kuben sozusagen rausrechnest.

01:10:49: Wettermodelle funktionieren ja so, dass du quasi den Bereich in so Abschnitte teilst und dann so ein Würfel rausschneidest.

01:10:55: Und jedes dieser Würfel wird simuliert.

01:10:58: Dann wird das alles in einen Riesenrechner reingeschmissen und dann versucht zu simulieren wie sich die einzelnen Luftwürfel sozusagen verhindern würden.

01:11:10: Das passiert jetzt aber bei dem WeatherNext Zeitlohn nicht so sondern Die nehmen quasi im gesamten Bereich und schauen sich diese Netzwerke an.

01:11:22: Und simulieren einfach tausend Parallel, dann werden sie das aus.

01:11:27: Das ist halt dann deutlich schneller, deutlich effizienter.

01:11:33: Aber es ist ja nur als Opensource, wenn ich das richtig rausgehört habe... Und es soll quasi als Ergänzung dienen und nicht als Ersatz, weil wahrscheinlich manche Funktionen dann doch nicht so ganz funktionieren.

01:11:47: Und du musst ja trotzdem wahrscheinlich irgendein Gegenpart haben zu vergleichen ob deine Simulation besser war als die von so einem Großrechner.

01:11:57: Deswegen sagen sie auch dass das nur ein Genzend zu sehen ist... ...und nicht als ersatz!

01:12:04: Weil wenn glaube ich diese Großrechner aufhören würden oder diese Wetteranbieter, diese Messdaten aufzusammeln.

01:12:15: Ich glaube dann hätte Google ganz schnell ein Problem weil sie nicht mehr Vergleichswerte hätten können, keine Reinforcement Learning haben können und nichts haben was Ground Truth quasi ist.

01:12:26: Und zwar in dieser Granularität, die sehen ja nur Quasi-Wetterbild aus den Satelliten.

01:12:31: also man muss das glaube ich alles ein bisschen relativ sehen, aber es ist wieder ein Beispiel wie Google eigentlich die Welt zieht und wo Google also DeepMind vor allem ihre Fußabdrücke hinterlässt.

01:12:47: Es ist nicht der Chatbot.

01:12:48: Okay!

01:12:49: Und jetzt müssen wir auch noch sprechen über Minimax H-III.

01:12:54: da sind nämlich jetzt die Gewichte draußen.

01:12:55: haben wir auch schon darüber gesprochen in den letzten Wochen?

01:12:58: und ja du hast sie getestet?

01:13:00: Ja ich habe sie getested massiver Sprung.

01:13:04: Also wir verwenden ja hier für unsere YouTube Videos, verwenden wir hier die Open Source Variante Warn II.

01:13:14: Also wenn ihr da drinnen Videos seht oder animierte Videos dann sind sie auf unserem eigenen GPU Rechner auf dem Model WarnII, also auf dem Open Source Modul gebaut.

01:13:28: und jetzt gibt es endlich eine Alternative dazu und zwar das Minimax H-III.

01:13:32: Und da siehst du halt jetzt eine komplett neue Variante.

01:13:35: Erstens einmal kannst du hier schon fünfzehn Sekunden Videos generieren, nicht mehr nur fünf Sekunden.

01:13:41: Zweitens einmal ist die Auflösung eine deutlich bessere und du hast auf vierundzwanzig Frames per Second.

01:13:47: Nicht mehr nur, ich glaube zwölf Frames waren es ursprünglich bei Warn zwei und zwei.

01:13:51: Das heißt das Rückglück nicht so.

01:13:53: Bei vierund zwanzig frames ist es schon sehr flüssig!

01:13:56: Die Bildqualität ist unglaublich und es ist Audio- und Video Und ich habe das sogar mal getestet, indem ich mich selbst geklont habe.

01:14:05: Die Ergebnisse sind unglaublich!

01:14:07: Es ist nicht mehr zu unterscheiden von der Realität.

01:14:09: Ja

01:14:09: stimmt, kann ich bestätigen?

01:14:11: Ist es wirklich

01:14:12: beeindruckend?!

01:14:13: Das öffnet wieder Tür und Tor für jeglichen Mists.

01:14:16: Weil jetzt das erste Open Source-Modell.

01:14:18: jeder, der ein stärkeren Rechner hat, kann jetzt wirklich alles bauen.

01:14:23: Man kann's kaum von der realität unterscheiben.

01:14:25: Wobei wir sagen müssen also wir zwei die uns hier hört und seht... Wir sind echt Versprochen.

01:14:32: Okay, jetzt wie angekündigt?

01:14:36: Du wolltest uns ja gerne mal deinen digitalen Zwilling präsentieren, den du gebaut hast und da sind wir alle sehr gespannt!

01:14:45: Ich auch übrigens.

01:14:46: Ja ich werde das hier auch mal gleich scheren damit wir das dann noch im Video haben.

01:14:55: Dann legen wir mal los.

01:15:00: Ja, also mal direkt gleich herinspringen.

01:15:05: Ich habe ja von dem Projekt geredet digitaler Zülling und ich möchte euch gleich einmal die Hintergründe sagen warum wir das gemacht haben und was man da quasi berücksichtigen muss und was es eigentlich genau ist.

01:15:25: Also es ist quasi eine KI, die unser komplettes Unternehmen kennt die ganze Historie, alle E-Mails, alle Vorgänge und alle Verträge.

01:15:40: Und das kann Fragen dazu beantworten.

01:15:43: Und nach und nach lernen sogar unsere Prozesse.

01:15:47: Aber es wird keine Produktvorstellung, sondern ich möchte mal die Grundsatzfragen durchgehen.

01:15:57: muss man von Grund auf durchdenken, bevor man so ein Projekt überhaupt startet.

01:16:02: Ich glaube da draußen denken gerade viele über sowas ähnliches nach und wer diese Fragen überspringt der baut am Ende irgendeinen Spielzeug und noch schlimmer wäre vielleicht sogar ein Detail einen Datenblick also.

01:16:26: Und damit ich gleich mal direkt zur Regel Nummer eins komme, und dies bei uns wirklich eine ziemlich harte Regelung zwar von Tag Eins.

01:16:36: Die Daten verlassen niemals das Haus.

01:16:39: also kein einziges Kundendatum geht oder keine Kundendaten gehen an irgendeine externen KI am Bieter an keine Cloud API an niemandem.

01:16:51: alles war es bei uns auf einer eigenen Hardware, auf eine eigene GPU Server im eigenen Netz.

01:16:58: Und warum erzähle ich das als Allererstes noch bevor der ganzen Technik graben?

01:17:03: Weil diese Entscheidung alles andere bestimmt.

01:17:07: also die Modellwahl, die Hardware und die Architektur, die Kosten... Alles hängt von dieser einen Frage ab.

01:17:13: Also wofür du wohl dürfen meine Daten lieben.

01:17:23: Jetzt werden wir euch jetzt sagen, aber die besten Modelle sind auch in der Cloud unterstimmt und wir nutzen sie auch.

01:17:30: Aber mit einer ganz klaren Arbeitsteilung.

01:17:35: also die großen Excel-Modelle sind bei uns was ich dir architekt.

01:17:39: Die bauen das System, die schreiben und prüfen den Code aber die sehen nur Kotostruktur niemals Kundendaten und eigentliche Arbeit an den Daten Das Suchen, das Einordnen, das Zusammenfassen.

01:17:55: Das machen lokale So-as-Modelle bei uns im Haus.

01:17:58: Da komme ich mal später noch drauf.

01:18:01: und noch ein Punkt den fast jeder unterschätzt.

01:18:05: DSGVO heißt ja nicht nur nichts rausgeben.

01:18:09: Das heisst auch Löschkonzepte und gleichzeitig – und das weist sich wir fast schon auf Bewahrungspflichten Stichwort diese Belegpflicht.

01:18:27: Beides muss von Anfang an in die Architektur rein, sowas nachzurüsten ist richtig, richtig teuer.

01:18:36: Also kann ich nur aus eigener Erfahrung sagen.

01:18:41: Solche Regeln muss man auch testbar verankern.

01:18:46: also das ist eine der wichtigsten Sachen.

01:18:49: Sonst gehen Sie beim ersten Umbau komplett verloren.

01:18:52: Das habe ich auch schon erlebt, ja?

01:18:54: Also merkst du mal eins, erst entscheiden wo die Daten leben dürfen dann erst über die Modelle und Features reden.

01:19:05: So jetzt zur Kernfrage was muss so ein System eigentlich können?

01:19:13: Und da empfehle ich jedem bevor ihr über Technik redet schreibt mal auf welche Fragen euer System beantworten soll.

01:19:21: Wir haben das gemacht und dabei kommen eigentlich immer vier Typen von Fragen raus.

01:19:27: Ich gehe die mal mit euch durch, die seht ihr hier auf der Folie.

01:19:31: ja.

01:19:31: erstens.

01:19:33: Die einfachste wie ist der Status vom Vorgang OP-E-Ans zu Drei was auch immer also von unserer Opportunity?

01:19:41: Also eine exakte Nummer, irgendeine Bestellnummer oder sowas, dass nennt man eine lexikalische Suche klingt banal ist aber die Pflicht.

01:19:51: Also wenn die Nummer nicht hundertprozentig sitzt, glaubt ihr keiner irgendwas.

01:19:56: Das heißt diese Abfrage muss sitzen, die lexikalische Suche.

01:20:02: Zweitens wann gab es zum Beispiel die letzte Störung bei Kunden was ich bergmarren?

01:20:10: Und jetzt wird's interessant.

01:20:11: das Wort Störung steht ja wahrscheinlich in keiner einzigen E-Mail.

01:20:15: da steht vielleicht selber Down oder Ausfall oder das Ding bliebst schon wieder.

01:20:20: Das heißt, das System weiß also muss nach der Bedeutung suchen.

01:20:25: Also nicht nach dem Wort und das ist die sementische Suche.

01:20:29: Dann drittens und es ist ein Klassiker aus dem Alltag jemand tippt Meininger statt Neiningach.

01:20:38: Also einem Buchstabefeld und so eine dumme Suche findet dann nix.

01:20:44: Also braucht er braucht seine gewisse Fehler-Toleranz für Tippfehler, Schreibvarianten und Umbenennungen.

01:20:51: Das darf alles nicht ins Leere gehen weil dann stoppt es gleich von Anfang an.

01:20:56: Und viertens das ist die Königsdisziplin.

01:21:00: Was ist bei Konzernen sich Nordstern in den letzten drei Monaten alle schief gelaufen?

01:21:07: Da muss der System jetzt erstmal rausfinden welche Tochterfirma überhaupt zu dem Konzern gehören Dann je Tochterfinger Vorgänge einsammeln, dann bewerten was davon ein Problem war und das Ganze zusammenfassen.

01:21:24: Das ist keine Suche mehr sondern eine kleine Rechercheaufgabe also mehrere Schritte hintereinander und das läuft über einen Grafen Datenbank oder einen Agenten gleich mehrere vielleicht.

01:21:44: Und der Punkt unten auf der Folie ist mir auch wichtig, wer nur eine Suchtechnik baut, beantwortet nur ein Viertel der echten Fragen.

01:21:54: Also das ist auch wichtig!

01:21:59: Gut und wie baut man das jetzt?

01:22:03: Für jeden dieser vier Fragen gibt es das passende Werkzeug.

01:22:07: Ihr seht das hier als Zuordnung für die exakte Suche ganz klassische Datenbank Volltext-Suche.

01:22:15: bei uns über über vierhunderttausend, also vierhundneinzigtausende E-Mails und siebzehntausenden, siebzenausigsehnte Vorgänge, siebenundzwanzigtausender Seriennummern.

01:22:27: Also nichts Exotisches aber es muss sauber gebaut sein!

01:22:31: Also du musst das alles in diese Tat.

01:22:35: Für die Beteutungssuche so genannte Embeddings plus einer Vektordatenbank.

01:22:41: Und für alle die den Begriff noch nicht kennen ein Embedding heißt einfach Text wird in sein Zahlenvektor übersetzt und die Inhaltlich-Texte liegen dann nahe beieinander.

01:22:52: Störung findet auch Serverausfall, obwohl kein gemeinsames Wort vorkommt aber es ist im selben Vektor.

01:22:59: Das läuft bei uns wieder komplett lokal.

01:23:05: Für die Fehler-Toleranz, also unscharfe Indexes, hier ist der Stichwort Trigramm-Ähnlichkeit, also drei Buchstaben Snippets Vergleich plus ein gepflegtes Register mit Namensvarianten.

01:23:22: Also so lösen wir das.

01:23:24: und für die Königsdisziplin einen Wissenscarf, also die Beziehung Konzern, Tochtervorgang, E-Mail plus ein Agent.

01:23:34: und ein Agent heißt hier ein Sprachmodell des dass diese ganzen Suchwerkzeuge selbstständig nacheinander benutzt, wie ein Sachbearbeiter das tun würde.

01:23:45: Erst nachschauen und dann einen Sammeln bewerten.

01:23:49: Und der wichtigste Satz auf dieser Folie steht ganz unten zuverlässig wird das alles nicht durchs Baum sondern erst durchs Messen.

01:23:58: also jede Suchart wird bei uns regelmäßig gegen Fälle geeicht und die muss ein Mensch geprüft haben.

01:24:06: und da kommen wir aber hier nochmal gleich dazu.

01:24:14: Jetzt kommt der Punkt, der wirklich fast von jedem unterschätzt wird.

01:24:19: Die beste Suche nützt euch gar nichts wenn die Daten nicht verlinkt sind.

01:24:24: Was meine ich damit?

01:24:25: Die Antwort auf die Frage was lief bei diesem Auftrag?

01:24:31: Liegt verstreut in E-Mails angeboten Bestellungen Rechnungen, Seriennummer und CLM-Einträge Und nichts davon zeigt von alleine aufeinander.

01:24:40: Ja wir haben dafür eine Verlinkungskaskade gebaut, die bildet genau das nach was ein erfahrener Mitarbeiter macht wenn er etwas sucht.

01:24:50: Erstens eindeutige Nummern Vorrangnummern Angebotsnummer Rechnungsnummer Bestellennummer und zwar kleine Praxistipp im Betreff und in Texten suchen nicht nur in Datenbankfeldern weil solche Felder fallen manchmal aus oder ja sind leer oder nicht gut gefühlt.

01:25:13: Zweitens, exakte Absender-Adressen.

01:25:16: und da war eine Warnung aus der Praxis nehmt niemals nur die Domäne.

01:25:22: also wenn da steht jusuf.seit harte Erwartungen kommen dann nicht nur Harte Erwartungen nehmen sondern wirklich den gesamten sobald ihr Kunden mit Adressen habt wie Gmail Firmen durcheinander in einen Topf obwohl das nicht sein sollte.

01:25:41: und drittens Firmen Namen in allen schreibweisen und wieder kehr also wieder erkennbaren Betreffzeilen über ganze antwortketten hinweg.

01:25:52: Und jetzt der schöne wir haben diese kaskade gemessen also nicht nicht geglaubt.

01:25:57: Wir haben sie gegen fälle laufen lassen, die ein menschfeuer von hand sozusagen zugeordnet hat.

01:26:03: Das ergebnis hundert Prozent Wiederfindung aus diesen von Hand geprüften Problemfällen.

01:26:13: Und genau solche Messungen sind es, die aus einem Bauchgefühl so ein verlässliches System machen.

01:26:25: und damit zur Gretchenfrage, die mir jeder stellt.

01:26:30: Woher weißt du dass der Antwort stimmt?

01:26:32: Halluziniert das Ding nicht!

01:26:34: Und meine Antwort drauf ist Halluzination ist kein Modelproblem Das ist ein Architekturproblem.

01:26:40: Vier Mechanismen, die bei uns Pflicht sind.

01:26:43: Erstens Quellenpflicht Jede Antwort verlinkt ihre Belege Die Original-Email den belegten CM Eintrag Ein Klick und ich sehe das Original ohne Quelle keine Aussage.

01:26:56: Punkt.

01:26:58: Zweitens Das Modell darf nur aus dem Antworten was die Suche geliefert hat nicht aus seinem Weltwissen.

01:27:08: Und wenn sie die Suche nichts findet, dann sagt das System nichts gefunden.

01:27:14: Das ist eine gute Antwort!

01:27:16: Lieber ein ehrliches weiß ich nicht als eine schön erfundene Geschichte.

01:27:21: Drittens und das ist vielleicht der wichtigste Punkt... Der Mensch als Schiedsrichter bei uns prüft was sich der Fachmann stichproben korrigiert und jede Korrektur wird gespeicherte.

01:27:33: Wahrheit, Ground Truth nenne ich das?

01:27:37: an der wir die Automatik messen.

01:27:40: Ganz konkret bei uns, die KI-Zuordnung lagen am Anfang bei seventy vier Prozent Trefferquote nach zwei Eicherunden bei eighty-one Prozent und die Messkriterien also Messkritischen Punkte liegen jetzt bei über ninety Prozent.

01:27:56: das sind ehrliche Zahlen und die kennen wir nur weil wir sie messen.

01:28:03: und viertens aus der Kategorie unterschätzt Betriebssicherheit, keine Geschichte dazu und es ist neugierig was passiert.

01:28:15: Ein Model-Dienst war gestoppt und ein Nachtjob wollte trotzdem loslegen.

01:28:21: ohne Sicherung hätte der lauter falsche Ergebnisse in die Datemark geschrieben.

01:28:27: Unser Wächter hat stattdessen sauerart gebrochen und solche Sicherungen sind der Unterschied zwischen einem zwischen einer Demo und einem Produktivsystem.

01:28:37: Das heißt, du musst einfach Sicherungen einbauen für den Betrieb weil es passiert immer irgendeine... Die Frage nach dem richtigen Modell höre ich auch ständig und unsere Antwort ist Es gibt nicht das eine Modell.

01:29:00: Es gibt zwei Rollen.

01:29:01: Also Rolle eins der Architekt.

01:29:05: Das ist das beste verfügbare Modell, also ein externes Rückklot aus der Cloud.

01:29:11: Das entwirft das System, schreibt den Code und denkt die Prozesse durch aber wie vorhin schon gesagt, er sieht nur Kotonstrukturen.

01:29:18: Nikon Rolle zwei.

01:29:22: Das ist quasi das Arbeitstier, ein lokales Open Source Modell dass die Massenarbeit macht.

01:29:28: Also klassifizieren extra hier und suchen hunderttausend Fakt Tag um Nacht.

01:29:33: Und worauf man da achten muss.

01:29:36: Erstens großes Context Window, bei uns sind es nur noch nachdenken.

01:29:41: Damit man auch lange E-Mail verläufe damit die auch reinpassen.

01:29:45: Ordentlich Durchsatz und die Fähigkeit von der Antwort strukturiert nachzudenken.

01:29:52: Also diese Thinking Modelle sind zwar langsam aber deutlich.

01:29:56: genau das heißt ist wichtig Thinking Modell auch zu nutzen.

01:30:01: Und dazwischen sitzt bei uns ein Gateway also eine einheitliche Schnittstelle vor allen Modellen.

01:30:08: Das heißt, wenn nächstes Monat ein besseres Modell rauskommt, tauschen wir es aus ohne dass das System umzubauen ist.

01:30:16: Keine Abhängigkeit von einem Anbieter.

01:30:19: also alles läuft über ein Gateway und noch eine Praxis Erfahrung.

01:30:27: Das lokale Modell wird irgendwann euer Engpass.

01:30:30: Also Durchsatzmessen nach Jobstackling und die GPU bewusst auftellen.

01:30:36: Also bei uns läuft eine Karte fürs Tagesgeschäft, also wir haben zwei GPUs drinnen und eine für Batch- und Kreativlasten.

01:30:44: Wenn ich irgendwelche Experimente fahre.

01:30:47: So!

01:30:48: Und jetzt der Teil, den mich ehrlich gesagt am meisten begeistert.

01:30:52: Bis hierhin war es ein Wissenssystem, also ist beantwortet Fragen.

01:30:58: Aber der Zwilling soll ja irgendwann mitarbeiten?

01:31:01: Wie bringt man ihn das bei ohne irgendeinen Risiko einzugeben?

01:31:06: Die Antwort?

01:31:07: Wir lassen ihn in die Vergangenheit nachspielen.

01:31:10: Ihr seht den Ablauf hier auf Zerfolie, der Zwilling bekommt eine echte Kundenanfrage von damals und zwar exakt mit dem Wissenstand von damals, blickt in Zukunft das technisch verboten.

01:31:26: also er kann nicht schauen was er kann ich schieten.

01:31:30: dann entscheidet er was würde ich jetzt tun welcher Partner welche Rückfrage welches Angebot?

01:31:37: Und dann vergleichen wir das mit dem, was unsere Leute damals wirklich gemacht haben.

01:31:43: Also die Mitarbeiter Das heißt Die eigene Historie ist der Ground Truth Der Maßstab und es ist Gold wert weil kein Benchmark aus dem Internet kein fremdes Test Set kennt eure Prozesse Eure Historie schon.

01:32:02: Bei uns läuft sein Messlauf über rund viertausend echte Fälle Ohne Risiko, keine E-Mails gehen raus.

01:32:10: Kein Datensatz wird verändert aber die Maßstäbe sind auf jeden Fall da und daraus wird dann eine richtige Lernschleife.

01:32:23: also der dritte Schritt.

01:32:28: Schritt eins abweichungen sortieren wo weichter Zwilling von der Realität ab.

01:32:33: falsche Kategorie falscher Partner falsche Reihenfolge jede Klasse wird gezählt.

01:32:39: Schritt zwei, der Mensch kuratiert.

01:32:41: Der Fachmann schaut auf den Fall und sagt so machen wir das und zwar darum.

01:32:47: Und aus dieser Antwort wird dann eine explizite Regel mit Begründung nachlesbar kein Black Box.

01:32:56: Drittens die Regel muss sich beweisen.

01:32:59: nächster Messlauf hat sich die Quote verbessert?

01:33:02: wenn nein fliegt sie wieder raus ganz nüchtern weil Man erzählt ja auch vielleicht Blödsinn oder glaubt, dass er so ist.

01:33:09: Ist es aber nicht.

01:33:10: und jetzt der Nebeneffekt mit dem wir selbst nicht so wirklich gerechnet haben das Unternehmen bekommt dabei zum ersten mal eine vollständige aktuelle Prozessdokumentation aus geliebter also aus der gelebten Praxis nicht aus irgendwelchen Workshops.

01:33:27: die schreibt sich quasi nebenbei Und Der Weg nach vorne geht in stufen.

01:33:34: also heute Simulation und Assistent.

01:33:37: Der Zwilling schlägt vor, der Mensch entscheidet.

01:33:40: Dann Testumgebung und irgendwann einzelne Prozessschritte produktiv Aber immer – das ist bei uns Gesetz mit einem Menschen in letzter Instanz So!

01:33:53: Und zum Mitnehmen die sechs Fragen, die euch stellen solltet bevor ihr die erste Zeile gut schreibt oder anfängt.

01:34:01: Lass sie mal durch Eins Datenhoheit Wo dürfen meine Daten leben?

01:34:06: Und was bleibt zwingend im Haus?

01:34:09: Das entscheidet die gesamte Architektur.

01:34:12: Zweitens, das Frageinventar.

01:34:16: Welche Fragen soll das System beantworten und welche der vier Sucharten brauche ich dafür?

01:34:24: Drei – Die Verlinkung über welchen Nummern adressen Muster hängen meine Datenquellen zusammen!

01:34:32: Das ist das total unterschätzte Fundament.

01:34:36: Vier Nachprüfbarkeit.

01:34:39: Verlinkt jede Antwort ihre Quellen, sagt das System lieber nicht gefunden statt zu raten und messe ich regelmäßig an menschlich geprüften Fällen nach.

01:34:52: die Lernschleife.

01:35:10: Womit messe ich Fortschritt?

01:35:13: Und da sage ich euch, die eigene Historie als Maßstab schlägt fast jeden Benchmark.

01:35:19: Wer diese sechs Punkte sauber durchdacht hat, der baut kein KI-Spielzeug und ein Betriebssystem fürs Eignung.

01:35:30: Für alle Technikinteressierten, die jetzt sagen, Jusuf wie läuft das denn genau konkret hier mal der komplette Stack von oben nach unten ganz oben Ein Edge mit doppelter Autodifizierung, intern strikt getrennte API-Tokens und alles andere ins Netz isoliert.

01:35:53: Also gar nicht erst von außen erreichbar.

01:35:55: also das ist quasi der Zugriff.

01:35:58: Darunter die Anwendungen ein Web GUI mit einem Chat der echte Werkzeuge aufruft dazu unsere Kurationscockpits und eine Statistik Schnittstelle, also wir haben hier im Speziellen einen PricingAPI in einer Statistikepi.

01:36:18: Dann der Intelligenzlehrer und die läuft komplett lokal auf zwei GPUs.

01:36:25: ein Leitell-LM Gateway als einheitliche Schnittstellen dahinter ein Gwenndreibt.sechs mit Thinkingmodus und hundertfünfunddreis, also hunderttwanzigtausend Doken als Hauptmodell.

01:36:39: Dazu die gesamte Dokumenten Pipeline, also ein Vision-Modell plus Dockling, Stirling PDF, Tesserack OCR und Market Down.

01:36:50: Damit wird wirklich jedes Anhangsformat zu durchsuchbaren Text Und BGE M III für den Beddings plus einen Reranker der die Suchtreffer nach Elevanz sortiert, dann auf der Datenschicht ein Postgrease SQL als einzige Wahrheit.

01:37:15: Da ist auch der CM-Spiegel, Mail Corpus, Process Register, Wissen Simulation und das Schöne alle drei Suchindexe in derselben Datenbanker so dass den Full Text das Trigramm für die Tippfehler und PG Vector für die Bedeutung, also bgvektor ist ja die Vektor-Datenbank.

01:37:37: Dazu die Register als Verlinkungsschicht und Quadrant – das ist wieder eine Vektordatenbank – als Getechnis für den Akkenten.

01:37:47: Und ganz unten der Betrieb, das läuft auf Docker Container, CrownJobs mit Wechtern und über vierhundert automatische Tests.

01:37:56: Das einzige Externe im ganzen Bild, ganz gelb unten ist Architekt Der baut das System, aber er kennt keine Kundendaten.

01:38:06: Das ist bei uns Claude Febel V in dem Fall und ja...das ist unser digitaler Zwilling!

01:38:17: Was sagst du Christian?

01:38:19: Ich bin erst mal sprachlos.

01:38:21: Aber ich habe natürlich es aufmerksam verfolgt und finde es faszinierend.

01:38:26: Eine Frage, die sich mir dabei gestellt hat ist wenn du sagst das System lernt aus historischen Cases.

01:38:38: Ich gehe zwar davon aus... dass nicht alle Cases immer hundertprozentig problemlos durchlaufen, sondern dass es auch immer mal vielleicht Probleme gibt.

01:38:47: Habt ihr nur solche Case verwendet die reibungslos durchgelaufen sind oder habt ihr auch Cases verwendete bei denen's Schwierigkeiten gab?

01:38:55: Weil man ja aus Problemen wahrscheinlich sogar noch besser lernen kann als aus Dingen die gut laufen.

01:39:00: Ja das ist das Schöne an so statistischen Modellen.

01:39:04: Man glaubt selber immer... Das ist alles sehr individuell.

01:39:07: aber wenn du das mal Wenn du erstens einmal eine sehr große Anzahl von Fällen hast, dann weißt du es gibt Ausnahmen klarerweise.

01:39:15: Aber und das ist das Thema... Du nimmst diese Ausnahmen her und dann nimmste den Experten der Versuch zu erklären warum das jetzt eine Ausnahme ist?

01:39:26: Und dann wird das dieser Ausnahme ein... Diese Regel kannst du dann einbauen und sagen wenn all das davor nicht also nicht geklappt hat.

01:39:35: Wenn all die IF-Schleifen vorne nicht funktioniert haben oder nicht matchen, dann schau ihn in das Register von Ausnahmen und such dir die Richtige dazu raus!

01:39:45: Und dann kannst du sehr gut entscheiden ist es jetzt relevant?

01:39:49: Ist es nicht relevant?

01:39:51: Du kannst doch sagen ab welchen Qualitiescore willst du das quasi übernehmen oder nicht?

01:39:58: Weil du kannst sagen wenn du zu hundertprozentig sicher bist dann go for it.

01:40:04: Du kannst dir mal was sagen, wenn du zu neunzig Prozent sicher bist.

01:40:07: Go for it!

01:40:08: Oder teilweise gibt es Fälle wo du schon mit sechzig Prozent zufrieden sein musst weil weil es jetzt vielleicht nicht ganz klar ist wenn du mit einem Partner kommunizierst zum Beispiel der antwortet auf deine Frage du antwortest zurück dann musst du vielleicht mit dem Kunden noch reden da kunde antwortete und in diesem Kommunikations Stream ist zb irgendeine Lücke weil irgendwas im CRM nicht eingetragen hat oder weil ein e-mail dann aus der privaten Inbox gelaufen ist und nicht aus der Office-Inbox.

01:40:37: Das heißt, du hast Lücken da drinnen!

01:40:39: Und jetzt kannst du hergehen und sagen oder es ist ein großes Drama?

01:40:43: Oder du sagst ja das sind Fälle die passieren.

01:40:47: Das heisst ich habe nur eine Wahrscheinlichkeit dass sich weiß was als nächstes kommt und passieren.

01:40:53: auf dieser Wahrscheinlichheit treffe ich eine Entscheidung und dann wird das durch den Mitarbeiter validiert ob das jetzt der richtige Weg ist.

01:41:01: Der Mitarbeiter weiß natürlich, wenn das jetzt das E-Mail vorher war.

01:41:08: Das muss ich ihm jetzt antworten oder er kann dann im CRN vielleicht nachschauen und sagen hey aber jeder Fall ist ja schon abgeschossen eigentlich.

01:41:17: Also man muss ein bisschen Flexibilität waren aber du hast halt dadurch dass du einen Agenten hast der all die Informationen sammelt Mit einer gewissen Wahrscheinlichkeit erstellt du dann einen Rewranker hast, also quasi wie bei so einer Suchmaschine.

01:41:39: Der Rewranker geht jetzt her und sagt weil ich dir jetzt nochmal aus den Fünfzig Artgebnissen die Top fünf welche inhaltlich tatsächlich zu dem Thema passen was Du jetzt gefragt hast oder was jetzt als nächstes in der Simulation passieren soll?

01:41:54: Und da kann ich das immer weiter einschränken um.

01:41:56: je besser mein Rule Set ist und je besser meine Datenbasis ist Du besser kann ich es machen und du wirst nie diese hundertprozentige Sicherheit haben, aber das ist genau der Punkt.

01:42:06: Also wir sind jetzt noch in der Phase dass es noch nicht produktiv ist.

01:42:11: ja also es ist der digitale Zwilling ist im Moment ein Werkzeug.

01:42:16: Das heißt Es baut mir Statistiken es baut mehr es hat einen Preis.

01:42:20: also Produktiv ist die Preising API API.

01:42:23: das heißt anhand der Historie kann Ich jetzt schon in einer gewissen Wahrscheinlichkeit sagen welcher preis für welches Produkt ich welchem Kunden geben kann.

01:42:32: Ich habe jetzt auch eine Statistik-API, wo ich messe bei diesen Produkten hab' ich diese Abschlusswahrscheinlichkeit.

01:42:42: oder wir sind zum Beispiel bei diesem Produkten antworten wir schnell auf Kundenanfragen und bei diesem Produkt antwort mir nicht so schnell.

01:42:51: oder wenn einer Anfrage in dieser Größenordnung kommt dann ist die Medianzeit für eine Entscheidung.

01:42:59: Und dann kann ich hier tracken und sagen, hey in meinem CRM ist das jetzt schon dreißig Tage offen.

01:43:05: Alarm alarm!

01:43:06: Wir müssen jetzt irgendwas tun weil in der Regel müsste es in den nächsten drei Tagen die Entscheidung gefällt werden.

01:43:13: So kannst du diese Dinge reinbringen und versuchen zu optimieren ohne dass du jetzt hundertprozentige Sicherheit haben musst.

01:43:25: Okay, weitere Frage die sich mir noch gestellt hat.

01:43:27: Wenn du sagst es gibt den externen Architekten Cloud Code mit fable-fünf kannst du mal so skizzieren inwieweit Cloud Code da konzeptionell tätig war.

01:43:40: Wir haben ja jetzt ... Du hast ja beschrieben auch und gezeigt diese verschiedenen Ebenen die Komponenten die da beteiligt sind zum Beispiel auch die unterschiedlichen Applikationen die zb zu dienen, Anhänge auszulesen und so weiter.

01:43:57: Wie viel kam da sozusagen als menschlicher Input rein?

01:44:01: Zu Cloud Code.

01:44:02: Und wieviel hat praktisch auch Cloud Code konzeptionell beigetragen indem es zum Beispiel gesagt hat wir brauchen die und die Schichten Wir brauchen die die Software.

01:44:11: Also das würde mich mal interessieren

01:44:13: Sehr viel also sehr viel ist meine erste Antwort die mir einfällt.

01:44:19: Also Cloud Code, was Cloud Code in Wirklichkeit tut ist.

01:44:24: Mein lokales Modell also ich habe zum Beispiel der digitale Twinis zum Beispiel.

01:44:29: es gibt eine Chat-Goye und da stelle ich jetzt die Frage wie läuft's mit Ticket Y?

01:44:35: oder wie viele Störungen hat der Kunde X y?

01:44:38: Und jetzt versucht das lokale Modell diese Frage zu beantworten aber es darf nur Antworten aus Ergebnissen von Werkzeugen, die es ausgeführt hat.

01:44:50: Jetzt fehlt aber zum Beispiel das Werkzeug oder Statistiken über Ausfälle also um Zugang quasi eine richtige Query auf den Datenbank zu machen auch auf der Inzidentliste ja?

01:45:00: Das fehlt ihm jetzt.

01:45:02: und dann sagt sie kann ich nicht beantworten weil ich habe keinen Zugriff drauf.

01:45:06: Ja!

01:45:07: Aus dem produziert sich eine Fehlermeldung und ein Problemstatement.

01:45:11: dieses Problemstatements geht dann an Cloudcode.

01:45:15: Er sagt, ich konnte diese Frage nicht beantworten.

01:45:19: Weil mir das und das Werkzeug

01:45:21: fehlt.".

01:45:21: Und dann geht der Cloud Code hin und sagt, diese Informationen stehen in der Datenbank.

01:45:26: Das sind die Felder, die hier befragt werden müssen.

01:45:29: Das ist jetzt die Inseln-Datenbank oder dass es jetzt die Kundendatmange oder das DCL-Datmenbank oder was auch immer.

01:45:34: Und das kennt alle Felder da drinnen!

01:45:37: Und weiß wo welche Felder wie befüllt werden aus dem Trainingslauf?

01:45:44: Und dann baut sie eines dort Procedure, oder halt ein Werkzeug und implementiert das.

01:45:50: Wenn du das nächste Mal das Modell fragst, hat sie Zugang auf dieses Werkzeug?

01:45:55: Also ich

01:45:55: glaube dass ist auch einer der wichtigsten Aspekte und was sehr faszinierend ist einfach diese Interaktion zwischen der lokalen KI bei dir und eben der externen KI die dann zur Rate gezogen wird, wenn die lokale KI nicht weiter kommt.

01:46:16: Ohne natürlich dann sensible Daten zu bekommen sondern sie bekommt nur die allgemeine Problemstellung.

01:46:24: Genau weil die Großseg also der Code kennt jede Tabelle kennt jeder weiß welche Daten wie gefüttert wurden, wie sie trainiert wurden und in die Vektor-Datenbank eingepflegt wurden auch alle Kategorien.

01:46:41: Und dann weiß sie, wenn jetzt der Quennen sagt ich kann nicht auf die Inzidenz zugreifen.

01:46:48: Dann weiß der Claude er muss jetzt zum Beispiel eine Vektorabfrage machen zu Inzidens oder zu Störungen oder zu gewissen oder eine Multi-Abfrage wo zum Beispiel einzelne IDs, also Störungs-IDs und Vektorabfragen kombiniert werden müssen.

01:47:13: Ja?

01:47:14: Und dann stellt sie quasi, baut sie ein Tool das da quen einfach bedienen kann und einfach nur die Felder ausfüllen muss drinnen.

01:47:24: Also was Cloud Code dann braucht an der Stelle sind dann zumindest mal Metadaten des Systems, also Tabellennamen.

01:47:31: wie sind die Spalten bezeichnet, aber es kann daraus eben keine Rückschlüsse auf die sensiblen Daten ziehen.

01:47:38: Kann aber gleichzeitig trotzdem dabei helfen dass die lokale KI dann das tun kann was sie tun möchte?

01:47:49: Genau also weil es liefert.

01:47:52: Es gibt auch Fälle wo zum Beispiel Daten anonymisiert werden.

01:47:56: Also es gibt zum Beispiel eine Funktion Zum Beispiel eine konkrete Abfrage starten möchte aber ich möchte die Kunden Daten nicht an Klo weitergeben.

01:48:06: Dann gibt es eine Funktion, die der Quen nutzt alle Kundendaten also einfach zu ersetzen mit kunde xy oder ähm Seriennummer eins zwei drei vier fünf ja das wird dann den eckigen Klammern quasi ersetzt und dann wird dass weil zum Beispiel wenn er nur Konzepte abfragen muss in der Datenbank, wie E-Mails geschrieben werden.

01:48:31: Dann formalisiert sie das und ersetzt die Kundendaten mit der Art und Weise, wie diese Kundendaten geschrieben werden.

01:48:37: zum Beispiel jetzt ist immer Opportunity Nummern starten immer mit OP und dann Sex zahlen.

01:48:44: Und dann wird das halt formalisiert in eine Regular Expression eingefügt und dann weitergegeben.

01:48:50: und dann weiß der Klot ich muss das jetzt in einer RegExpone Oder ich weiß, da sind jetzt fünf Zahnen und die haben jetzt irgendeine Bedeutung oder keine Bedeitung.

01:49:00: Und kann dann dementsprechend eine Regular Expression entwickeln, die dann die richtige Antwort liefert?

01:49:06: Okay, und Frage für mich so zu abschließen, weil du sagst es ist noch nicht produktiv was glaubst du, womit rächest du?

01:49:14: So zeitlich wann würde das... Wann werdet ihr das mal im produktiven Umfeld einsetzen können?

01:49:19: Da gibt's ja schon irgendwie so ein.

01:49:25: Die Preising API ist schon live.

01:49:27: Also ich habe eine kleine API gebaut, die quasi das eigenes Produkt aus dem gesamten Wissenssystem, die isoliert und predictet was jetzt der beste Preis für irgendeinem Produkt gewesen sein sollte.

01:49:43: Genauso die Statistik API, dies auch schon in Produktion.

01:49:47: Das heißt alle Prozessabläufe werden bereits gemessen und aus den Prozess abläufen, werden dann schon Notifications erstellt.

01:49:56: Die alarmieren sagen hey übrigens da ist was durch ein Raster gefallen.

01:50:00: bitte kümmer zu euch drum oder dass es jetzt da da müsste sein Augenmerk drauf haben weil statistisch gesehen passiert jetzt in nächster Zeit diese Entscheidung.

01:50:09: das ist schon die Produktion Aber das ist einfach, das sind statistische Werte die tun noch nicht weh.

01:50:14: Das ist nur höchst im Worst Case dieses Arbeit für den Mitarbeiter.

01:50:17: was als nächstes kommt ist ich sehe also anhand dadurch dass er alle Prozesse und alle Opportunities alle Abkundenabläufe schon mehrfach simuliert hat mittlerweile ist der siebzehnte Run hat er über vierhundert achtzig Prozisse identifiziert Und jeder diese Prozesses hat hat Messwerte in welcher Qualität sie zutreffen.

01:50:43: Und es gibt hier Prozesse, die hundert Prozent.

01:50:45: Die könnte ich theoretisch jetzt sofort live schalten indem ich sage immer wenn ein E-Mail kommt das klar identifiziert wird dass das Prozess dreihundert zwölf ist.

01:50:57: ja da habe ich quasi einen Agenten der einfach immer nur die inbox checkt und sagt das ist jetzt ein e-mail reingekommen Ich habe identifiziert prozess dreihundert zwelf und automatisiere ihn so fort Und dann ist er raus, kein Mitarbeiter merkt das keiner muss irgendwas tun.

01:51:13: Er kriegt nur noch mit der Mitarbeiter die Notifikation ja oder nein?

01:51:17: Ja und so kann ich jeden dieser Prozesse jederzeit live schalten wenn ein gewisses Qualitätskriterium erreicht hat.

01:51:24: Es ist jetzt nur meine Frage des Wollens und des Weitermessens und auch des Mehrwerts weil es gibt Prozisse die haben zwar hundert Prozent aber kommen nur einmal im Monat vor Ist nice Das zahlt sich jetzt nicht aus, das heißt für andere Prozesse die haben wir teilweise schon automatisiert in anderen Projekten.

01:51:47: Nicht im Twin-Projekt.

01:51:50: Da muss ich mich quasi gegen die andere Automatisierung messen.

01:51:54: Ist diese Automatisierung besser oder ist mein Twin besser?

01:51:57: Und sobald hier der Twin besser ist Geht er rein und wird einfach ersetzt.

01:52:03: Es ist einfach ein Flawless, ich kann es auch jederzeit wieder zurückdrehen!

01:52:06: Also sehr interessant und faszinierend... für alle, die uns jetzt nur hören und sich sehen im Podcast.

01:52:14: Wir empfehlen euch, schaut euch auch die Folge auf unserem YouTube-Kanal an, denn da habt ihr dann alles noch mal komplett mit den Folien, die der Jussuf gezeigt hat.

01:52:26: Ich glaube auf der Totspur hat man schon sehr viel mitbekommen aber ich denke mit den Fohlen zusammen ist das Ganze nochmal... Noch mal klarer und ihr könnt selbstverständlich auch, wenn ihr Fragen habt euch melden.

01:52:42: Und Joseph gibt euch da dann auch gerne Antwort, wenn Ihr ja auch für die Praxis konkret wissen wollt wie man da rangehen kann.

01:52:52: also vielen Dank für die Präsentation.

01:52:54: ich fand es auch sehr spannend.

01:52:56: Jetzt ist bei all diesen interessanten Informationen auch die Zeit wirklich richtig schnell vergangen, wenn ich mal so auf die Uhr schaue.

01:53:04: Also wir werden das natürlich noch post-producen.

01:53:08: aber wir stehen jetzt hier live bei zwei Stunden fünf Minuten und es ist wirklich schnell gegangen.

01:53:13: also ich habe nicht den Eindruck dass jetzt wieder schon zwei Stunden hier miteinander reden.

01:53:16: Aber ja ich denke mal hier machen wir mal einen Cut bis zum nächsten Mal weil wir haben bestimmt auch Bis zum nächsten mal wieder neue Themen oder was

01:53:24: meinst du?

01:53:25: nicht überstrapazieren.

01:53:27: Und wie gesagt, ich freue mich wirklich wenn ihr Fragen habt so zu dem wie man das baut oder ja welche wie man anfängt gerne einfach jederzeit schreiben.

01:53:39: Ich freue mich darüber und wir haben es jetzt endlich geschafft dass wir es jetzt wirklich hier auch mal gezeigt haben weil jetzt haben was drei Folgen lange rausgezögert und jetzt ist es da auch wenn's jetzt überlänge hat wieder aber jetzt dann Ja

01:53:51: und es hat sich gelohnt.

01:53:52: also das Warten hat sich Die Länge dieser Podcast Folge hat sich auch gelohnt, denn das ist ja genau das was wir hier auch gerne machen wollen.

01:54:02: Nämlich auch zeigen wie man diese ganzen Dinge dann in der Praxis einsetzen kann.

01:54:06: Das heißt ja auch der Praxispitch und das war jetzt mal wirklich Praxis wie sie sein sollte.

01:54:13: also ich fand es auch sehr faszinierend und inspiriert mich auch schon wieder für Neue Projekte, die ich jetzt schon wieder mir ausdenke.

01:54:21: Danke dafür!

01:54:22: Danke für deine Zeit auch hier wieder, dass wir ja diese zwei Stunden hier miteinander geplaudert haben und danke vor allem natürlich auch an euch alle, die ihr uns jetzt hier zugehört und zugeschaut habt.

01:54:34: bleibt mir eigentlich nicht viel mehr als euch schon wieder auf die nächste Woche hinzuweisen.

01:54:41: Nächste Woche haben wir noch mal eine kleine Sonderepisode in diesem Sinne, dass ich da nochmal alleine euch bespaßen werde denn Jusuf ist nächste Woche nicht da.

01:54:53: aber ja ich freue mich wenn ihr dann trotzdem auch dabei seid und ich werde euch auch wieder spannende Themen mitbringen.

01:55:01: Ich freue mich auf unsere nächste gemeinsame Folge in zwei Wochen.

01:55:05: Und ja, an dieser Stelle verabschiede ich mich schon mal und sage Tschüss.

01:55:09: Bis zum nächsten

01:55:22: Mal!

01:55:28: einen Realitätsbezug zu haben und zwar real.

01:55:31: Und auch Message an euch, wir machen das wirklich!

01:55:34: Das sind nicht nur Erzählungen von denen wir hier behaupten, da sind Dinge die wir tatsächlich alle auch wirklich tun.

01:55:42: Wir reden nicht nur von den Dingen, wir tun sie Wenn ihr Fragen habt, irgendwas wissen wollt, bewertet uns sehr gerne auf YouTube.

01:55:53: Wir freuen uns über jegliche Zuschriften, jegliche Bewertung, jegliches Feedback und wir melden uns auch gerne bei... also beantworten noch alles.

01:56:03: Ja bis dahin will ich euch nicht länger aufhalten.

01:56:05: nächste Woche seitdem Christian alleine wird auf jeden Fall auch sehr spannend und vor allem nicht so lang sicher!

01:56:13: Und ja bis dahIN wird er eine schöne Woche.

01:56:16: Tschüss bis in zwei Wochen von meiner Seite.