GPT 5.6 mit hoher Leistung - oder doch lieber Open-Source-KI nutzen?

Shownotes

Jeder vierte Social-Media-Beitrag mit mehr als 250 Wörtern stammt komplett aus einer KI. Auf LinkedIn sind es über 40 % der längeren Posts. Pangram Labs hat dafür mehr als eine Million Beiträge ausgewertet.

Parallel dazu verschiebt sich die Frage, wem die KI eigentlich gehört: Hugging-Face-CEO Clément Delangue berichtet, dass die meisten Firmen nach der Experimentierphase von teuren Frontier-APIs auf Open-Source-Modelle wechseln. Und das „Reverse Information Paradox" beschreibt, warum jede Korrektur an einem gemieteten Modell ein Stück institutionelles Wissen an den Anbieter zurückgibt.

Dazu neue Modelle im Wochentakt – GPT-5.6, Grok 4.5, Soofi S aus Deutschland – und eine Rating-Herabstufung, die zeigt, was der KI-Boom bilanziell kostet. Christian moderiert diese Folge noch einmal alleine, Yusuf ist kommende Woche wieder dabei.

Warum diese Folge wichtig ist

Die Trennlinie verläuft dieses Mal zwischen gemieteter und eigener KI. S&P stuft Oracle herab, weil rund die Hälfte der offenen Vertragsverpflichtungen von 638 Milliarden Dollar an einem einzigen Kunden hängt: OpenAI. Wer die Infrastruktur baut, trägt das Risiko.

Für Website-Betreiber wird gleichzeitig konkret, was Vertrauenswürdigkeit in KI-Antworten bedeutet. Perplexity kennzeichnet Quellen jetzt sichtbar mit vier Stufen. Wer dort ohne Kennzeichnung auftaucht, hat ein Problem, das sich nur redaktionell lösen lässt.

Und die Pangram-Zahlen liefern den unangenehmen Kontext: Ausgerechnet im beruflichen Netzwerk unter Klarnamen lassen Menschen die KI für sich sprechen.

Themen der Folge

  • Pangram-Studie: Wie viel KI wirklich in Social Media steckt: Pangram Labs hat über eine Million Beiträge untersucht. Ergebnis: Jeder vierte Beitrag mit mehr als 250 Wörtern ist vollständig KI-generiert, Substack ausgenommen. LinkedIn stellte nur ein Drittel der untersuchten Posts, lieferte aber 62 % aller erkannten KI-Inhalte. Über 40 % der längeren LinkedIn-Beiträge kommen komplett aus der Maschine. Auf X liegt der Anteil rein menschlich verfasster Artikel bei 53,2 %, wenn man KI-gestützte Mischformen mitzählt. Auffällig ist der Unterschied zwischen Post und Antwort: Auf Reddit schrieben Menschen 98,1 % der Antworten selbst, während Hauptbeiträge eine 5,25-mal höhere Wahrscheinlichkeit hatten, aus der KI zu stammen. Christians Lesart: Je stärker der Post als Visitenkarte funktioniert, desto eher übernimmt die KI.
  • Perplexity stuft Quellen in vier Vertrauensstufen ein: Perplexity zeigt neben jeder Quelle ein Schild-Icon, das die Vertrauenswürdigkeit anzeigt. Stufe 1 bleibt ohne Kennzeichnung, darüber folgen „Credible", „Trusted" und „Authoritative". Beim Mouseover erklärt Perplexity, was für die Quelle spricht und wo es hakt – bei „Credible" etwa redaktionelle Mängel, die eine höhere Einstufung verhindern. „Trusted" trifft oft Fachblogs und Nischenseiten, „Authoritative" bleibt anerkannten Autoritäten vorbehalten, zum Beispiel Beiträgen direkt von Google. Christians Einordnung: EEAT wirkt damit sichtbar in die KI-Suche hinein. Expertise, Erfahrung, Autorität und Vertrauenswürdigkeit lassen sich jetzt am Icon ablesen.
  • Satya Nadella und das „Reverse Information Paradox": Microsoft-CEO Satya Nadella hat dazu einen viel beachteten Post verfasst. Kenneth Arrows klassisches Informationsparadoxon beschreibt das Risiko des Verkäufers, sein Wissen beim Verkauf preiszugeben. Bei KI-Modellen dreht sich das um: Der Käufer gibt sein wertvollstes Wissen ab, nur um die gekaufte Intelligenz überhaupt brauchbar zu machen. Jeder Prompt, jedes Werkzeug, jede Korrektur fließt als „Abgas" zurück zum Modell-Anbieter. Der wirtschaftliche Wert wandert damit zu den Eigentümern der Infrastruktur. Die vorgeschlagene Antwort ist eine Vertrauensgrenze mit fünf Bausteinen: eigene Evaluierungsprozesse und Kontrolle über das institutionelle Gedächtnis, proprietäre Lernumgebungen im eigenen Haus, eine vom einzelnen Modell entkoppelte Orchestrierungsebene, daraus folgende Kostenvorteile und am Ende eine Lernschleife, die den Wert der eigenen KI-Investitionen verzinst.
  • Hugging Face: Der Trend geht weg von gemieteter KI: CEO Clément Delangue beschreibt ein Muster, das sich wiederholt. Firmen starten mit kommerziellen Frontier-APIs, um zu experimentieren. Sobald es in die Produktion geht und skaliert, wechseln die meisten auf Open-Source-Modelle, weil die API-Kosten aus dem Ruder laufen. Gefordert werden Kontrolle, Transparenz und volles Eigentum an den eigenen KI-Fähigkeiten – Delangue nennt das „Software 2.0". Rund die Hälfte der Fortune-500-Unternehmen arbeitet inzwischen mit Hugging Face, dort liegen fast drei Millionen öffentliche Modelle. Chinesische Open-Source-Modelle verzeichnen dabei die meisten Downloads und haben die USA überholt. Sie tragen auch einen Großteil der Forschung an Stanford oder Harvard, weil sich nur an offenen Systemen wirklich forschen lässt. Delangue widerspricht der These, Chinas Erfolg beruhe auf Distillation westlicher Modelle. Sein Argument zur Sicherheit: Offene Systeme waren historisch sicherer als geschlossene, weil Fachleute Schwachstellen sehen und beheben können. Das größte Risiko sieht er in der Machtkonzentration bei ein bis zwei Konzernen. Unterinvestiert sind aus seiner Sicht lokale KI, Biologie, Chemie und Robotik. Hugging Face selbst arbeitet kapitaleffizient, steht kurz vor der Profitabilität und hat seit drei Jahren kein frisches Investorengeld aufgenommen.
  • KIs Next Top Model I: GPT-5.6-Familie (OpenAI): Drei Stufen, ein Versprechen: mehr Leistung bei niedrigeren Gesamtkosten. Sol ist das Flaggschiff für komplexe Aufgaben, Terra das ausgewogene Alltagsmodell, Luna das schnellste und günstigste. Neu ist der Multi-Agenten-Modus „Ultra", der standardmäßig vier Agenten parallel arbeiten lässt. Sol erreicht 80 Punkte im Artificial Analysis Coding Agent Index. Über „Programmatic Tool Calling" führen die Modelle kleine Programme direkt aus, koordinieren Werkzeuge und filtern große Datenmengen selbst. In der Wissensarbeit verarbeitet GPT-5.6 unstrukturierte Kontexte aus Slack, Notion oder Google Drive und hält sich beim Bau von Präsentationen und Tabellen an Referenzvorlagen und Corporate Design. Im Cyberbereich liegt die Stärke auf der defensiven Seite: sichere Code-Reviews, Patchen, Bedrohungsmodellierung. Ein neuer „Reasoning Monitor" prüft Gespräche in Echtzeit. Für erweiterte defensive Cyber-Funktionen gibt es das Programm „Trusted Access" mit Identitätsprüfung und hardwaregestützten Passkeys. Preise pro Million Token: Sol 5 / 30 USD, Terra 2,50 / 15 USD, Luna 1 / 6 USD. Free- und Go-Pläne bekommen Terra, zahlende Nutzer alle drei Modelle, Pro und Enterprise zusätzlich „Ultra".
  • KIs Next Top Model II: Grok 4.5 (SpaceXAI): Am 8. Juli veröffentlicht, 1,5 Billionen Parameter auf der neuen V9-Foundation-Architektur. Der eigentliche Hebel liegt im Trainingsmaterial: SpaceXAI hat die Entwicklerplattform Cursor für 60 Milliarden Dollar gekauft und deren reale Entwicklerdaten ins Training gegeben. Das Modell hat dadurch weniger die Syntax gelernt als das Verhalten von Software-Ingenieuren – diff-basierte Überarbeitungen, Debugging über Systemgrenzen hinweg, Arbeit mit CLIs. Im DeepSWE-1.0-Benchmark erreicht Grok 4.5 62,0 % und schlägt damit Claude Opus 4.8 (55,75 %), bleibt aber hinter GPT-5.5 (64,31 %). Bei der SWE Marathon Resolution Rate liegt es mit 29,0 % vor Opus 4.8 (26,0 %) und Fable 5 (24,0 %), im Terminal Bench 2.1 bei 83,3 %. Der Preis ist die eigentliche Ansage: 2 USD Input und 6 USD Output pro Million Token. Ein Durchlauf kostet damit etwa ein Fünftel eines Opus-4.8-Laufs und ein Neuntel eines Fable-5-Laufs. Geschwindigkeit: 80 Token pro Sekunde. In der EU ist das Modell wegen offener regulatorischer Fragen noch nicht verfügbar.
  • KIs Next Top Model III: Meta Muse Spark 1.1 und drei Open-Source-Modelle: Meta bringt mit Muse Spark 1.1 erstmals ein kostenpflichtiges API-Modell und verlässt damit den Open-Source-Pfad. Das multimodale Reasoning-Modell zielt auf agentische Workflows und Tool-Use, der Preis liegt bewusst niedrig, um kostensensible Firmenkunden abzuwerben. Auf der offenen Seite: Mistrals Robostral Navigate lässt Roboter allein über eine handelsübliche RGB-Kamera und Sprachbefehle durch 3D-Räume navigieren und macht teure LiDAR-Hardware überflüssig. Robbyant LingBot-VLA 2.0 löst das Cross-Embodiment-Problem über einen einheitlichen kanonischen Vektor und übersetzt Bild- und Sprachbefehle direkt in Bewegungen für Industrieroboter genauso wie für humanoide Systeme. Cohere Transcribe Arabic transkribiert arabische Dialekte in Echtzeit und lässt OpenAIs Whisper v3 Large bei Genauigkeit und Tempo deutlich hinter sich.
  • Soofi S: Der Durchbruch bei KI aus Deutschland? Ein deutsches Konsortium aus Fraunhofer, DFKI, Universitäten und Start-ups hat ein vollständig quelloffenes Basismodell veröffentlicht, gefördert vom Wirtschaftsministerium. 31,6 Milliarden Parameter, aber durch die hybride Bauweise aus Mamba-2 und Mixture-of-Experts werden pro Token nur rund 3,2 Milliarden aktiviert. Das drückt den Rechenaufwand und macht lange Texte günstig. Mit etwa 15,3 % deutschen Trainingsdaten setzt Soofi S bei deutschsprachigen Aufgaben und beim Programmieren neue Bestmarken unter den offenen Modellen. Bei komplexer Mathematik und reinem Faktenwissen bleibt es hinter den großen internationalen Modellen. Architektur und Trainingsdaten liegen fast vollständig offen, trainiert wurde komplett in München auf der Cloud-Infrastruktur der Deutschen Telekom. Zielgruppe sind regulierte Branchen wie Verwaltung, Banken und Gesundheitswesen sowie die Industrie, die KI datenschutzkonform auf eigenen Servern betreiben wollen. Ein ChatGPT-Konkurrent ist es nicht, der Dialog-Feinschliff fehlt.
  • S&P stuft Oracle herab: Von „BBB" auf „BBB-", das kurzfristige Rating auf „A-3", Ausblick stabil. Die Gründe: Das KI-Infrastrukturgeschäft verlangt enorme Vorabinvestitionen in langfristige Rechenzentren-Leasings, der Weg zur Profitabilität ist unsicher, Komponenten werden teurer. Bis zum Geschäftsjahr 2028 soll dieses riskantere Geschäft fast 60 % der Einnahmen ausmachen, gegenüber 27 % im Jahr 2026. Die Capex-Prognose für 2027 wurde auf 90 bis 95 Milliarden Dollar angehoben, das freie operative Cashflow-Defizit dürfte bei fast 42 Milliarden Dollar liegen, die bereinigte Verschuldungsquote über zwei Jahre über 4x bleiben. Das größte Klumpenrisiko heißt OpenAI: Auf den Kunden entfällt schätzungsweise die Hälfte der ausstehenden Vertragsverpflichtungen von 638 Milliarden Dollar. Zahlt OpenAI nicht, bleibt Oracle auf Leasingverträgen sitzen, die sich schwer weitervermieten lassen. Zur Gegenfinanzierung laufen eine Vorzugsaktien-Ausgabe über 5 Milliarden und eine geplante Eigenkapitalemission über 20 Milliarden Dollar. Eine weitere Herabstufung droht bei einer Verschuldungsquote dauerhaft über 4,5x oder wenn bis 2029 kein positiver Cashflow zustande kommt.

Key Takeaways

  • Lange Posts sind mehrheitlich Maschinenarbeit: Jeder vierte Beitrag über 250 Wörter ist komplett KI-generiert, auf LinkedIn über 40 % der längeren Posts. Wer dort mit eigener Stimme schreibt, fällt inzwischen auf.
  • EEAT wird in der KI-Suche sichtbar: Perplexity zeigt Vertrauensstufen direkt am Icon. Redaktionelle Mängel, Autorenangaben und Quellenqualität entscheiden mit darüber, ob eine Seite als „Credible", „Trusted" oder „Authoritative" gilt.
  • Gemietete KI hat einen versteckten Preis: Prompts, Werkzeuge und Korrekturen fließen als institutionelles Wissen zurück an den Anbieter. Wer das verhindern will, braucht eigene Evals, eigene Lernumgebungen und eine Orchestrierung, die vom einzelnen Modell unabhängig bleibt.
  • Der Weg führt von der API zum eigenen Modell: Experimentieren mit Frontier-APIs, produktiv mit Open Source – dieses Muster beschreibt Hugging Face bei den meisten skalierenden Projekten. Kostengründe treiben den Wechsel, Kontrolle und Transparenz halten ihn.
  • Preis wird zum Wettbewerbsfeld: Grok 4.5 liegt bei 2 / 6 USD pro Million Token und kostet pro Aufgabe rund ein Fünftel eines Opus-4.8-Laufs. Wer Agenten-Schwärme plant, rechnet ab sofort anders. In der EU ist das Modell allerdings noch nicht verfügbar.
  • Deutschland hat jetzt ein eigenes offenes Basismodell: Soofi S kommt mit offengelegter Architektur, offengelegten Trainingsdaten und einem Training komplett auf Telekom-Infrastruktur in München. Für regulierte Branchen ist das die interessanteste Option seit Langem.
  • Der KI-Boom taucht in den Bilanzen auf: S&P begründet die Oracle-Herabstufung mit 90 bis 95 Milliarden Dollar Capex und einem Klumpenrisiko namens OpenAI. Die Infrastruktur-Wetten der Hyperscaler haben ein Gegenüber, und das sind die Ratingagenturen.

Wichtigster Satz der Folge

„Ehrlich gesagt, ich kann mir nicht vorstellen, wie man aus dieser Geschichte rauskommen kann. Denn eine zuverlässige Kennzeichnung von KI-generierten Inhalten, die gibt es einfach nicht – und die wird es auf absehbare Zeit vermutlich auch nicht geben."

Hosts

  • Yusuf Sar (LinkedIn)
  • Christian Kunz (LinkedIn)
  • Hashtags

KIundTechtoGo #GPT56 #Grok45 #SoofiS #OpenSource #HuggingFace #Perplexity #EEAT #Oracle #Hardwarewartung #KIPodcast #TechPodcast #AINews

Episoden-Details

Episode: 80 Explizit: Nein Sprache: de Aufnahmedatum: 2026-07-14 Veröffentlichung: 2026-07-15 Dauer: 30:12

Transkript anzeigen

00:00:09: Und herzlich willkommen zu einer neuen Ausgabe von KI und Tech to Go, der Praxis-Pitch hier auf hardwarewartung.com!

00:00:17: Ja wie ihr sehen könnt bin ich in dieser Woche nochmals alleine Und ja, das ist einfach deshalb weil Yusuf noch im Urlaub ist.

00:00:26: Aber nächste Woche ist er dann wieder da und dann werden wir hier diese Sendung wieder zu zweit machen.

00:00:32: aber in dieser Woche habt ihr nochmal mit mir das Vergnügen!

00:00:37: Ich hoffe dass es auch für euch interessant und dass ich euch spannende Themen mitgebracht habe.

00:00:42: Anfang möchte ich gerne mit einer Analyse auf die gestoßen bin von PENGRAM Labs.

00:00:50: Eine Million Social Media Beiträge untersucht sogar mehr als eine Million und herausgefunden, dass der Anteil von KI-generierten Inhalten gerade auf großen Plattformen sehr stark zugenommen hat.

00:01:02: Und das ja inzwischen echt ein großer Anteil der Beiträge aus KI-Feder stammen.

00:01:09: Hier sind insbesondere längere Beiträge betroffen.

00:01:12: Auf fast allen Plattforms sind längere Texte deutlich häufiger generiert als kurze.

00:01:18: Insgesamt ist jeder vierte Social Media Beitrag mit mehr als zweieinfünfzig Wörtern vollständig von einer KI verfasst und lediglich Substack stellt hier eine Ausnahme dar.

00:01:30: Am stärksten betroffen, ist LinkedIn und obwohl die Plattform nur ein Drittel der untersuchten Beiträge ausmacht stammen immerhin zwei Drittel oder fast zwei Drittel, zweiundsechzig Prozent aller erkannten KI-Beiträge Von LinkedIn und über vierzig Prozent der längeren Beiträge, die waren vollständig KI generiert.

00:01:54: Die Nutzer scheinen bereit zu sein, KI vor allem in beruflichen Netzwerken unter ihrem echten Namen für sich sprechen zu lassen während sie auf anonymem Plattform selten genutzt wird.

00:02:06: Viel KI-Unterstützung gibt es auch!

00:02:07: Auf X, wenn man sowohl vollständig KI generierte als auch KI unterstützte Inhalte zusammenzählt dann liegt X sogar vorne.

00:02:15: Fast die Hälfte der Artikel auf X nutzt in irgendeiner Weise KI so dass nur dreinfünfzig Prozent etwa der Artikel als rein menschlich verfasst eingestuft wurden.

00:02:26: ja und dann noch eine interessante Unterscheidung Hauptbeiträge versus Kommentare.

00:02:32: Eigenständige Beiträge, sogenannte Top-Level-Posts werden wesentlich häufiger von KI verfasst als Antworten.

00:02:39: Auf Reddit beispielsweise sind achtundneunzig Prozent von Menschen geschrieben während Hauptbeiträge eine mehr als fünfmal höhere Wahrscheinlichkeit aufweisen KI generiert zu sein und ein ähnlicher Trend war auch auf LinkedIn zu beobachten.

00:02:55: Ja, manche von euch werden sicherlich dieses Gefühl schon länger haben das Vieles was ihr da auf den Social Network seht KI Generiert ist.

00:03:05: jetzt gibt es dazu Man kann sagen einen Beweis oder zumindest mal starke Indizien Und ich gehe mal davon aus dass dieser Trend in Zukunft auch weiter zunehmen wird.

00:03:19: Das ist natürlich gerade für die Betreiber dieser Plattform nicht sehr erfreulich, aber auch für die Communities, die sich da bewegen.

00:03:28: Ich finde das kann man ganz gut zum Beispiel anhand von Bildern sehen.

00:03:33: Früher war es ja so dass man mit Bildern den Menschen durchaus in Erstaunen versetzen konnte und heute ist das ja komplett anders weil man bei jedem Bild insbesondere bei solchen nicht im alltäglichen entsprechend gleich den Verdacht hat, das könnte KI generiert sein.

00:03:51: Und ich glaube dass hier manche soziale Netzwerke besonders stark getroffen sind zum Beispiel TikTok.

00:03:57: Das betrifft nicht nur Bilder sondern auch Videos.

00:04:00: auf TikTok präsentieren die Menschen ja gerne was sie können welche Fähigkeiten Sie haben sei es jetzt Tanzen Artistik oder andere Dinge und jedes Video jedes Bild auf TikTok steht heute im Verdacht KI generierter zu sein.

00:04:15: sicherlich für den einen oder anderen Content Creator eine Katastrophe.

00:04:18: Und ehrlich gesagt, ich kann mir nicht vorstellen wie man aus dieser Geschichte rauskommen kann denn ja eine zuverlässige Kennzeichnung von KI-generierten Inhalten gibt es einfach nicht und die wird's auf absehbare Zeit vermutlich auch nicht geben.

00:04:34: aber Stichwort Vertrauen das Versuch gerade per Plexity ein bisschen nach vorne zu stellen und zwar wenn es um die Quellen geht die in den Antworten von Perplexity erscheinen.

00:04:49: Diese Quellen werden nämlich jetzt nach einem abgestuften System als mehr oder weniger vertrauenswürdig eingeteilt und das zeigt eben, dass ja gerade auch für die KI-Plattformen die Vertrauenswirklichkeit der Quellen eine immer wichtigere Rolle spielt.

00:05:05: also es gibt bei Perplexty im Grunde vier Kennzeichnungsstufen.

00:05:10: Die erste Stufe Die ist einfach daran zu erkennen, dass es keine Kennzeichnung gibt.

00:05:15: Also das heißt Quellen werden ohne ein besonders vertrauensmerkmal dargestellt.

00:05:21: Die zweite Stufe die nennt sich dann credible und ab Stufe zwei sieht man auch einen Vertrauens- oder Trust Icon neben der Quelle.

00:05:29: Credible bedeutet, dass eine Quelle grundsätzlich glaubwürdig ist.

00:05:34: Und in diesem Zusammenhang werden auch kleinere Mängel genannt die einer noch höheren Bewertung entgegenstehen zum Beispiel im redaktionellen Bereich.

00:05:44: Die nächste höhere Stufe und das ist dann auch gleichzeitig zweithöchste Stufe Das is trusted und hier befinden sich vertrauenswürdige Quellen die eine hohe Reputation genießen aber die noch keine Autorität sind.

00:05:58: Fachspezifische Blogs und Nischen-Websites können zum Beispiel in diesen Bereich fallen.

00:06:03: Und die höchste Stufe, die nennt sich dann auch Authoritative.

00:06:07: In dieser Kategorie landen Quellen von anerkannten Autoritäten, die allgemein bekannt sind und als hochwertig angesehen werden.

00:06:17: Ein Beispiel dafür sind Beiträge, die z.B.

00:06:20: direkt von Google stammen.

00:06:22: Und die Einteilung der Quellen durch Perplexity, die zeigt wie wichtig es ist auf die sogenannten EEAT-Signale zu achten.

00:06:31: Also auf fachliche Expertise, praktische Erfahrungen, Autorität und Vertrauenswürdigkeit.

00:06:37: Und diese Signale wirken sich nicht nur auf die klassische Google-Suche aus, sondern werden offenbar auch von KI System wie Perplexity genutzt und das ist nachvollziehbar.

00:06:48: Denn gerade KI Antworten sind ja häufig von Spam und falsche Informationen betroffen.

00:06:55: Ein interessanter Post hat Satya Nadella seines Zeichen CEO von Microsoft über das sogenannte Informationsparadox verfasst.

00:07:04: Also er nennt es das Reverse Information Paradox und das beschreibt ein zentrales Problem für Unternehmen im Zeitalter der KI.

00:07:13: Während beim klassischen Informationsparadoxon des Ökonom Kenneth Arrow, der Verkäufer Gefahr läuft sein Wissen durch den Verkaufpreis zu geben ist bei KI Modellen genau umgekehrt.

00:07:25: Der Käufer nämlich riskiert sein wertvolles proprietäres Wissen wegzugeben, nur um die gekaufte Intelligenz überhaupt effektiv nutzen zu können.

00:07:35: Das heißt je mehr ein Unternehmen einen KI-Modell nutzt und korrigiert, desto mehr institutionelles Wissen fließt in Form von Prompt Werkzeugen und Korrekturen das sogenannte Exhaust zurück an den Modellanbieter.

00:07:49: Und das führt dann dazu dass der wirtschaftliche Wert zunehmend zu den Eigentümern der KI-Infrastruktur anstatt bei den eigentlichen Schöpfern und Urhebern des Wissens zu bleiben.

00:08:01: Und um dieses Paradoxon zu lösen, und zu findern dass die eigenen Produktionsmittel und Daten an andere übertragen werden müssen Unternehmen eine strikte Vertrauensgrenze sie sogenannte Trust Boundary aufbauen.

00:08:13: Anstatt nur reine Daten zu schützen müssen in der KI-Error die eigenen Lernmechanismen geschützt werden.

00:08:21: Und dafür gibt es fünf entscheidende Maßnahmen.

00:08:24: Die erste Maßnahme ist Kontrolle.

00:08:27: Unternehmen müssen eigene Evaluierungsprozesse erstellen, die definieren was im Unternehmenskontext als gut gilt und die volle Kontrolle über ihr Gedächtnis und ihr Wissen sowie die Feedbacks im eigenen Haus behalten.

00:08:41: Zudem müssen sie direkte Einfordern Modellausgaben zur Schulung eigener Modelle nutzen zu dürfen.

00:08:48: Die zweite Maßnahme, das sind Fähigkeiten.

00:08:51: Es sollten Lernumgebungen innerhalb der eigenen Unternehmensgrenzen aufgebaut werden um Modelle anhand echter Arbeitsabläufe zu trainieren ohne dabei Unternehmswissen nach außen zu geben.

00:09:04: Dann gibt es die Wahlfreiheit als dritte Maßnahme und zwar sollte die Orchestrierungsebene von einzelnen KI-Modellen entkoppelt werden, sodass das Unternehmen nicht abhängig von einem einzigen Modell ist und jederzeit wechseln kann.

00:09:18: Das hatten wir hier auch schon ein paar Mal im Podcast dass gerade für zentrale Produktionsprozesse Es problematisch ist, sich auf ein bestimmtes KI-Modell zu stützen.

00:09:30: Sondern hier sollte man auf eine Art Orchestrierung bzw.

00:09:35: auf eine Flexibilisierung setzen.

00:09:37: Als vierte Maßnahme werden die Kosten genannt.

00:09:39: durch die Entkopplung der Modelle können Kontextaufgaben und KI-modelle auf die effizienteste und kostengünstigste Weise kombiniert werden ohne an Qualität einzubüßen.

00:09:49: und schließlich und endlich Wachstum als fünfte Maßnahme die so ein bisschen sich als Resultat der vorherigen ergibt.

00:09:59: Es entsteht nämlich dann eine kontinuierliche Lernschleife, eine sogenannte Hill Climbing Machine durch die sich der Wert der KI Investitionen und damit das gesamte Unternehmen stetig weiterentwickelt und steigert.

00:10:15: Und passend dazu bin ich auf einen Video Interview gestoßen mit Clemont de Lange, dem CEO von Huggingface und er ist ein bisschen auf den Trend eingegangen der weg zeigt.

00:10:31: Von gemieteter KI hin zu Open Source mit Eigenverantwortung.

00:10:37: Viele Unternehmen beginnen ihre KI-Projekte zunächst mit der Nutzung kommerzieller Schnittstellen API's von großen Anbietern um nur ein bisschen zu experimentieren und sobald diese Projekte skalieren Produktionsreife dann erreichen, dann wechseln die meisten Firmen zu Open Source Modellen weil die Kosten der kommerziellen APIs zu hoch werden.

00:11:01: Unternehmen möchten keine ausgelagerten Blackbox Systeme sondern fordern Kontrollentransparenz und das volle Eigentum an ihren KI-Fähigkeiten.

00:11:11: also passend zu dem was Nadella auch in seinen Blog Post geschrieben hat Dieser Wandel, der wird von Delang auch als Software-Zwuppe.null bezeichnet bei dem vier Firmen ihre Technologiestacks wieder selbst aufbauen und kontrollieren.

00:11:27: Mittlerweile nutzt rund die Hälfte der Fortune Fünfhundert Unternehmen – die Plattform HG&Face – auf der fast drei Millionen öffentliche Modelle verfügbar sind.

00:11:36: Die Dominanz chinesischer Open Source Modelle ist da ein besonderer Aspekt Denn diese verzeichnen auf Huggingface aktuell die meisten Downloads und haben damit auch die USA überholt.

00:11:49: Und diese Modelle werden nicht nur von den Start-ups in den USA genutzt, sondern bilden auch die Grundlage für einen Großteil der Forschung an westlichen Universitäten wie zum Beispiel auch Stanford oder Harvard weil sich nur an offenen Systemechte Forschung betreiben lässt.

00:12:04: und Delang widerspricht der Annahme Dass der Erfolg Chinas lediglich auf dem Kopieren westlicher Modelle durch die sogenannte Distillation basiert, vielmehr verfügelt das Land über hervorragende Forscher, die einen sehr offenen und auch kollaborativen Ansatz verfolgen.

00:12:25: Und er appelliert an die US-Regierung Open Source Entwicklung stärker zu unterstützen Technologische Souveränität zu bewahren.

00:12:32: Und gegen der oft geäußerten Sorge, dass offene KI-Modelle gefährlich sein argumentiert, gelangt das Open Source historisch gesehen immer sicherer wahr als geschlossene Systeme.

00:12:44: die Transparenz offener Modelle ermöglichen es Sicherheitsexperten Schwachstellen zu verstehen und auch Gegenmaßnahmen zu entwickeln, während geschlossene Modelle eine gefährliche Machtasymetrie schaffen.

00:12:56: Und das größte Risiko in der KI ist demnach die Konzentration der Macht.

00:13:03: Hier droht eine Welt, in der ein oder zwei Tech-Unternehmen einen hohes Maß an Macht- und Reichtum erlangen und somit dann auch gefährliche Monopole oder Oligopoly bilden und Open Source hingegen Fördert den Wettbewerb und gibt den Nutzern auch eine Wahl.

00:13:21: Gerade im Bereich lokale KI, Wissenschaft und Robotik gibt es Nachholbedarf Und hier sind auch Open Source Modelle ein wichtiger Baustein, gerade weil Roboter in private und physische Umgebungen eingreifen.

00:13:39: Da ist Vertrauen besonders wichtig.

00:13:41: Nutzer wollen bei Maschinen in ihren eigenen vier Wänden genau wissen welche Daten gesammelt werden weshalb geschlossene instransparente Systeme hier besonders abschreckend erkennt.

00:13:51: Genau also das zeigt alles sehr stark im Richtung Open Source KI umso mehr, wenn sensible Bereiche Unternehmensdaten oder auch zentrale Prozesse involviert sind.

00:14:07: Ja und damit kommen wir zur Kategorie KI's Next Top Model und da müssen wir natürlich über GPT-Fünf Sekt Reden.

00:14:14: also das ist ja kein einzelnes Modell, sondern es eine komplette Familie von Modellen und die ist auf ausgelegt laut Aussage von Open AI neue Maßstäbe bei Intelligenz und Effizienz zu setzen.

00:14:26: Und dabei auch eine höhere Leistung bei gleichzeitig niedrigeren Gesamtkosten als bisherige Modelle zu liefern.

00:14:33: und dazu ein Hinweis am Rande.

00:14:36: Das wird wahrscheinlich auch ein Grund dafür sein dass Entropic jetzt den Zugang zu Fable verlängert hat, weil hier anscheinend eine viel bessere Effizienz bei GPT-Five Sechs zu verzeichnen ist gegenüber Fable und Entropic versuchen muss auch dem Wettbewerb standhalten.

00:15:00: Und das könnte sich also zumindest im Konsumer oder im Low-Cost-Bereich als Nachteil für einen Tropic darstellen und für Open AI Vorteile.

00:15:10: Wie ist jetzt diese GPT-Films VI Familie aufgebaut?

00:15:13: Wir haben drei Varianten.

00:15:15: Wir haben einmal das SOL Modell, das ist das neue Flaggschiffmodell für höchste Ansprüche und komplexe Aufgaben.

00:15:22: In der Mitte finden wir TERRA ein ausgewogenes Modell das speziell für alltägliche Aufgaben erstellt wurde Und mit LUNA haben wir ein schnelles und besonders kosteneffizientes Modell.

00:15:33: Und es gibt wichtige neue Funktionen, wie zum Beispiel den Multiagenten-Modus für besonders anspruchsvolle Aufgaben.

00:15:41: Kann man die Einstellung Ultra wählen in der dann standardmäßig vier Agenten parallel arbeiten und das verkürzte Zeit bis zum Ergebnis und verschiebt die Leistungsgrenzen auch deutlich nach oben bei komplexen Evaluierungen.

00:15:56: Tunutzung ist auch ein Schwerpunkt und Sol ist das bisher leistungsstärkste Modell für solche Aufgaben.

00:16:04: Es setzt mit achtzig Punkten im Artificial Analysis Coding Agent Index einen neuen Branchenstandard, dank des neuen Programmatic Tool Calling können die Modelle leichtgewichtige Programme direkt ausführen, Tools koordinieren und große Datenmengen selbstständig filtern.

00:16:23: Im Bereich Design und Wissensarbeit liefert GPT-FiveSex einen deutlichen Sprung nach vorne im Bereich Designurteilsvermögen.

00:16:32: Es ist in der Lage, funktionale Benutzeroberflächen zu erstellen und durch Computernutzungen visuelle Fehler eigenständig zu erkennen und zu beheben.

00:16:40: In der Wissenarbeit verarbeitet es unstrukturierte Kontexte aus Programmen wie Slack, Notion oder Google Drive und erstellt präzise Präsentationen Tabellen-Kalkulationen, die sich auch strikt an Referenzvorlagen und Corporate Design halten.

00:16:56: Also es ist ja auch ein Thema bei dem es früher bei der KI immer mal wieder Schwächen gab und hier hat sich anscheinend die Präzision deutlich verbessert.

00:17:06: Ja und nicht zu vergessen Cybersicherheit und Forschung – hier glänzt das Modell nämlich besonders bei defensiven Aufgaben, wie zum Beispiel sichere Code Reviews, Patching und Bedrohungsmodulierung.

00:17:17: Und bei wissenschaftlichen Aufgaben und der Beschleunigung der KI-Forschung zeigt deutliche Verbesserungen.

00:17:23: Ja also das Ganze klingt sehr attraktiv weshalb wir gleich mal auf die Verfügbarkeit und die Preise schauen wollen.

00:17:30: Die Modellfabrie Emilia wird ab sofort weltweit in ChatGPT, Codex und auch der API ausgerollt.

00:17:41: Ein kostenlosen oder ein Go-Plan hat der erhält Zugriff auf GPT-Fünf, sechs Terra.

00:17:46: Also das mittlere Modell zahlende Nutzer für PlusPro Business und Enterprise.

00:17:52: Kunden können auf Solterra und Luna zugreifen.

00:17:55: Wobei Pro und Enterprise Kunden die Ultraleinstellung nutzen können.

00:18:02: US-Dollar pro eine Million Token bei der Eingabe und dreißig US Dollar.

00:18:07: Bei der Ausgabe Terra liegt bei zwei Dollar fünfzig, beziehungsweise fünfzehnt Dollar und Luna bei einem US Dollar bzw.

00:18:14: sechs US Dollar.

00:18:15: zusätzlich führt GPT-Fünfzechs ein planbares Prompt Catching ein das wiederkehrende Eingaben deutlich verbildet.

00:18:24: ja und da müssen wir auch noch über GROC four Fünf kurz reden.

00:18:27: Das wurde am achten Juli von SpaceX AI, also der neu formierten Entität nach der Integration von XAI in SpaceX veröffentlicht und positioniert sich als hochspezialisiertes Foundation-Modell Software-Erwicklung und komplexe Code-Analysen.

00:18:45: Es stellt einen Frontalangriff auf die bisherige Marktwührerschaft von OpenAI und Entropic in der Agenten-Orchesterierung dar – also zumindest ist das das Ziel!

00:18:56: Ob das dann auch in der Realität der Fall ist wird man sehen Aber auch hier einige interessante Daten dazu.

00:19:02: Zunächst einmal basiert das Modell auf der neuen, V-neuen Foundation Architektur und umfasst ein bis fünf Billionen Parameter.

00:19:11: Die größte technologische Vorteil des Modells liegt in dem Supplemental Training und SpaceX AI hat die Entwicklerplattform Cursor übernommen und deren reale Entwickler-Daten dann in die Trainings-Pipelines integriert.

00:19:29: Und durch diese Daten erlernte GROC zum Beispiel nicht nur die reine Syntax-Fancode, sondern auch das kontextuelle Verhalten von Softwareingenuern.

00:19:41: Das beherrscht diffbasierte Überarbeitung Debugging in komplexen Systemübergreifenden Umgebungen sowie auch die Interaktion mit Kommando-Zeilenwerkzeugen.

00:19:54: Zudem wurde das Modell über hunderttausende Software-Engineeringaufgaben mittels Reinforcement Learning optimiert und es liefert auch einige beeindruckende Benchmark-Ergebnisse, zum Beispiel den DEEP SVE-I-Null Bench Mark.

00:20:10: Hier misst man autonomes Agentenverhalten in komplexen Codebasen und GROC-VIV-V erreicht hier eine Erfolgsquote von zweiundsechzig Prozent.

00:20:19: damit schlug es Claude Opus und liegt nur knapp hinter GPT V der SVE Marathon Resolution Rate Pass One.

00:20:30: bei extremen langlaufenden Aufgaben zeigt GROCK mit neunzwanzig Prozent und liefert hier eine höhere Ausdauer als zum Beispiel Claude Opus.

00:20:40: four acht, mit sechsundzwanziger Prozent.

00:20:42: Und auch als Fable mit vierundzwantig Prozent untereinander.

00:20:45: Auch der Terminal Bench two eins.

00:20:46: hier erreichte das Modell dreieinachtzig, drei Prozent und er geht damit auf Augenhöhe mit den absoluten Spitzen Reitern der Branche.

00:20:56: Auch bei den Preisen ist GROG-FürFünf attraktiv, da werden nämlich nur zwei US Dollar pro Million Input Token und sechs US Dollar Pro Million Output Toking fällig.

00:21:07: Kombination mit einer behaupteten Verdopplung der Tokeneffizienz sinken die Kosten pro Gelösteraufgabe.

00:21:14: Damit deutlich.

00:21:15: Analysen zeigen auch, dass ein Durchlauf mit GROC-VIV nur etwa ein Fünftel der Kosten eines OPUS VIII Laufs und einen Neunkel eines FABL VIII Durchlaufs verursacht.

00:21:27: Die Geschwindigkeit spielt ja auch noch eine Rolle für viele Anwendungen und hier wird die Infarenzgeschwindigkeit mit achtzig Token pro Sekunde.

00:21:36: angegeben.

00:21:37: Aufgrund noch ausstehender regulatorischer Anpassung ist GROC-V derzeit noch nicht in der EU verfügbar, ein Start in die EU wird jedoch für die nahe Zukunft erwartet.

00:21:48: und dann müssen wir der Vollständigkeit halber auch noch Meta Muse Spark.

00:21:54: mit diesem multimodalen Reasoning Modell wendet sich Meta erstmals vom Open Source Ansatz ab und bietet ein kostenpflichtiges API-Model an Workflows und Werkzeugnutzung entwickelt.

00:22:08: Meta nutzt hierbei eine sehr niedrige Preisstrategie, um postensendible Unternehmenskunden von der Konkurrenz

00:22:16: abzuwerben.".

00:22:17: Ja und wir haben viel über Open Source Modelle gesprochen.

00:22:19: deshalb müssen wir natürlich auch Open Source-Modelle dies neu gibt hier vorstellen.

00:22:25: da haben wir einmal Mistral AI Robustrial Navigate Und das quelloffene Modell revolutioniert die autonome Roboter Navigation, es ermöglicht Robotern die Orientierung in drei D-Räumen.

00:22:40: Allein durch eine handelsübliche RGB Kamera und Sprachbefehle, wodurch teure Liederhardware obsolet wird.

00:22:48: Robbie & Lingboard VLR II Null ist ein Open Source Modell dass das komplexe Cross-Embodiment Problem der Robotik löst, es nutzt einen einheitlichen kanonischen Vektor um visuelle und sprachliche Eingaben direkt in Bewegungsbefehle für verschiedene Robotertypen zu übersetzen was zum Beispiel in der Industrie oder auch für humane Roboter wichtig ist.

00:23:13: Und wir haben noch Cohere Transcribe Arabic im Bereich der akustischen KI spezialisiertes Open Source Modell für die Echtzeit-Transkription.

00:23:24: Arabische Dialekte, das in Benchmark-Tests konkurrenten wie Open, AIS, Whisperer, VIII, Large hinsichtlich Genauigkeit und Geschwindigkeit massiv deklassierten kann.

00:23:35: Und ja wir wollen den Blick auch immer ein bisschen nach Europa richten und schauen was tut sich da?

00:23:42: Und da bin ich speziell jetzt auf Deutschland gestoßen und zwar auf Sophie S. Sophie S. ist ein vollständig quelloffenes KI-Basismodell, das von einem deutschen Konsortium an dem zum Beispiel Frauenhofer DFKI Universitäten und Startups beteiligt sind entwickelt und auch vom Wirtschaftsministerium gefördert wurde Und Ziel ist es Europas digitale Souveränität zu stärken.

00:24:08: Das Modell besitzt ungefähr einunddreißig, sechs Milliarden Parameter ist aber durch eine hybride Bauweise extrem effizient.

00:24:19: Pro erzeugten Award bzw.

00:24:21: Drucken werden nur etwa drei Komma zwei Milliarden Parameters aktiviert was den Rechenaufwand stark wie minimiert und auch die Verarbeitung langer Texte kostengünstig macht.

00:24:31: Durch einen hohen Anteil an deutschen Trainingsdaten, der liegt bei etwa fünfzehn Prozent, setzt sovieles bei deutschsprachigen Aufgaben und beim Programmieren von Code neue Bestmarken.

00:24:41: unter den offenen Modellen und weil das Ganze auf Effizienz getrimmt ist fällt es dagegen bei sehr komplexer Mathematik und bei reim Faktenwissen hinter die internationale Konkurrenz zurück.

00:24:54: Im Gegensatz zu den oft instransparenten Modellen aus den USA oder China legt Sophie S seine Architektur und Trainingsarten fast vollständig offen, zudem wurde das Modell komplett in Deutschland, genau gesagt in München auf der Cloud-Infrastruktur der Deutschen Telekom trainiert.

00:25:11: Und so vieles ist kein direkter Konkurrent zu Chatbots wie ChatGPT, weil es ein Basismodell ohne speziellen Dialogfeinschiff ist.

00:25:19: Es richtet sich gezielt an regulierte Branchen wie zum Beispiel öffentliche Verwaltung, Banken, Gesundheitswesen und die Industrie, die KI-Anwendung datenschutzkonform und auch kostengünstig auf eigenen Servern betreiben möchten.

00:25:34: Jetzt schauen wir noch ein bisschen auf die große, weite Wirtschaft und da gibt es keine so guten Nachrichten für OpenAI und Oracle.

00:25:44: Und zwar hat S&P Global Ratings die langfristige Kreditwürdigkeit von Oracle von dreifach B auf dreifache B minus sowie das kurzfristige Rating auf A-III Harap gestuft, behält jedoch einen stabilen Auswirk bei.

00:26:02: Und die wesentliche Gründe für diese Harapstufung sind einmal ein steigendes Geschäftsrisiko durch KI Investitionen – das Wachstum im Bereich KI Infrastruktur erhöht das Gesamtrisikoforacle Und das Geschäftsfeld erfordert enorme Vorabinvestitionen.

00:26:20: Da haben wir auch schon oft hier drüber gesprochen im Podcast, also Investition in langfristige Rechenzentrums-Leasingverträge.

00:26:29: und es birgt auch Risiken durch einen unsicheren Weg zur Profitabilität steigende Komponentenkosten sowie einen sich schnell wandelnden Wettbewerb und das im Vergleich zum traditionellen Softwaregeschäft.

00:26:41: Risikoreichere Cloud-Infrastrukturgeschäfte wird voraussichtlich bis zum Geschäftsjahr.

00:26:50: Dann haben wir auch noch einen schwächeren Cashflow und höhere Verschuldung.

00:26:54: Die Prognose für die Investitionsausgaben im Jahr twenty-seven zwanzig wurde massiv von neunzig auf fünfundneinzig Milliarden US Dollar angehoben, das wird voraussichtlich zu einem drastischen Defizit beim freien operativen Cashflow von fast zweiundvierzig Milliarden US dollar führen.

00:27:10: in der Folge wird erwartet dass die von S&P bereinigte Verschulungsquote in den nächsten zwei Jahren bei dem Wert von über vierfach verbleibt Und es gibt aus dem auch noch ein hohes Risiko durch OpenAI.

00:27:23: In OpenAI stellen in diesem Zusammenhang ein zentrales Kreditrisiko dar, weil das Unternehmen schätzungsweise für etwa die Hälfte der ausstehenden vertraglichen Verpflichtung von Oracle in Höhe von sixhundert achtunddreißig Milliarden US Dollar verantwortlich ist.

00:27:40: und sollte OpenAI seine Zahlungsverpflichtungen nicht erfüllen können könnte Oracle auf großen und umfassenden Rechenzentrums Leasing-Verträgen sitzen bleiben, die sich nur schwer oder zu schlechteren Konditionen neu vermieten lassen.

00:27:57: Trotz dieser Risiken bleibt der Ausblick stabil weil S&P erwartet dass Oracle beständige Fortschritte in Richtung Profitabilität machen wird sobald die neuen Kapazitäten ans Netz gehen und das Geschäft skaliert.

00:28:11: um die Cashflow-Defizite zu decken und seinen Investment Grate Rating zu sichern, verfolgt Oracle ja eine Strategie, die durch eine Ausgabe von Vorzugsaktien und einige geplante Eigenkapitalemission im Kalenderjahr.

00:28:30: Ein weiterer Herabstufung könnte jedoch drohen wenn die Verschuldungsquote dauerhaft über vier Komma fünffach bleibt.

00:28:38: die KI-Strategie fehlschlägt oder Oracle bis zum Geschäftsjahr, und es kann keinen positiven Cashflow generieren.

00:28:48: Ja und damit sind wir am Ende dieser Ausgabe von KI & Tech To Go der Praxispitch.

00:28:55: Es war wieder ein Rundumflag über verschiedene Themen Und ich hoffe das war für euch was interessantes dabei.

00:29:02: Danke an dieser Stelle dass ihr so lange zugehört habt.

00:29:05: Wenn ihr jetzt noch dabei seid, dann kann ich euch schon auf die nächste Folge in der nächsten Woche hinweisen.

00:29:11: Dann wieder zusammen mit Yousuf!

00:29:13: Dann werden wir das zu zweit machen.

00:29:15: Dann wird es wahrscheinlich auch etwas länger gehen weil wir uns immer ausführlicher über die Themen unterhalten.

00:29:21: Das war mehr im Sinne einer News-Zusammenfassung aber ich hoffe wie gesagt dieser Telegram Stil hat euch geholfen und interessiert.

00:29:30: Ich würde mich sehr freuen auch im Namen von Yousof wenn ihr diesen Podcast oder diesem Kanal abonnieren würdet und uns eine Bewertung hinterlasst, schickt uns auch gerne eure Meinung, eure Kommentare, eure Themenwünsche.

00:29:45: Wir gehen auf alles ein und lesen uns auch alles durch.

00:29:49: Bleibt mir nicht viel mehr als euch eine gute Zeit zu wünschen bis zur nächsten Woche!

00:29:54: Ich freue mich wenn ihr dann wieder dabei seid und ja dann hören wir uns hier an dieser Stelle.

00:29:59: Bis dahin tschüss macht's gut euer Christian.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.