00:00:09: Hallo und herzlich willkommen zu einer neuen Ausgabe von KI & Tech To Go, der Praxis-Pitch hier auf hardwarewartung.com.

00:00:18: Ja wie ihr sehen könnt bin ich in dieser Woche alleine.

00:00:21: Jusuf ist im Urlaub und ja ich habe wieder das Vergnügen euch hier auf den aktuellsten Stand der Technik und der KI zu bringen und hab dazu schon einige Themen vorbereitet.

00:00:34: vielleicht mal ein kurzer Rückblick auf letzte Woche.

00:00:38: Joseph und ich hatten uns ja darüber unterhalten, dass möglicherweise Cloud Fable V wieder verfügbar gemacht werden könnte.

00:00:48: Und meine Vermutung war auch, dass das schon relativ kurzfristig passiert und sie da ist es wieder da.

00:00:56: also ihr könnt jetzt Cloud Fables V wieder verwenden nachdem es ja vorübergehend aufgeheißt der US Regierung deaktiviert war.

00:01:05: Ihr müsst natürlich wissen, wenn ihr das Ganze benutzt dass das relativ teuer werden kann im Bezug auf die Token ja, dass das verwendet schon reichlich Rechenkapazität und ihr solltet es auch wirklich nur für Dinge verwenden, die ein solch mächtiges Modell benötigen.

00:01:25: Fahrt ihr wahrscheinlich besser wenn ihr Opera VIII oder Sonnet V nutzt.

00:01:28: Das reicht für viele Anwendungsfälle auch.

00:01:31: Also ich persönlich erstelle ja sehr viel Content oder führe auch Analysen durch auf Basis von Excel-Tabellen und so weiter.

00:01:39: Da bin ich also bisher mit Opera-Fiat oder Sonnet-Fünf sehr, sehr gut gefahren und da braucht es jetzt nicht so ein mächtiges Tool wie Fable V. Das ist dann eher was im Bereich Softwareentwicklung, Bugging

00:01:51: usw.,

00:01:51: da ist das dann gut.

00:01:52: aber wir werden nachher auch noch ein Beispiel hören, dass zeigt was Fable-V wirklich drauf hat und was man damit für Dinge tun kann für die man früher wahrscheinlich Wochen oder Monate gebraucht hätte, aber dazu später mehr.

00:02:10: Lass uns erstmal einsteigen mit unserer Kategorie KI's Next Topmodel.

00:02:15: und da bin ich auf zwei neue Modelle gestoßen, die es gab seit der letzten Woche Und zwar einmal Linstral-Eins V. Ich hoffe ich habe das richtig ausgesprochen und zwar wurde das von Mistral AI veröffentlicht, es ist ein spezialisiertes Agentenmodell dass sich auf deterministische mathematisch bewiesene Korrektheit fokussiert und damit sollen dann Halluzination zum Beispiel bei der Code-Generierung vermieden werden.

00:02:45: Das Ganze basiert auf einer sehr effizienten Mixture of Experts Architektur mit Hundert neunzehn Milliarden Gesamtparametern und da werden jeweils nur sechs Milliarden pro Token aktiviert, ja dadurch ist das Ganze effiziente und ermöglicht es auch das Modell lokal auf ganz herkömmliche Hardware auszuführen.

00:03:06: Ja, ein Kernmerkmal ist die tiefe Integration in das Lean-IV-Ökosystem.

00:03:10: Rhetor-Code oder mathematische Beweise werden nicht blind ausgeführt sondern mechanisch von Lean IV auf logische Integrität geprüft und LeanSTRALE-iV erreicht Bestwerte in komplexen mathematischen Benchmarks wie zum Beispiel PutnamBench und zielt auch das Proof Engineering sowie auch formale Verifikationen in der Softwareentwicklung ab.

00:03:34: Und das Ganze als Open-Source-Lizenz unter Apache.null verfügbar.

00:03:40: Das zweite Modell, das ich euch mitgebracht habe in dieser Woche ist LongCat.nl und das wurde vorgestellt von chinesischen Konzern MyTuan.

00:03:51: Es ist ein gigantisches Mixer of Expertsmodell mit sage und schreibe, bei einem Kilometer bis zu einer Million Parameter.

00:03:58: Und das wird eingesetzt für das autonome Programmieren auf kompletter Repository-Ebene und nutzt sogenannte Zero Computation Experts, um die Aktivierung dynamisch zwischen Dreiunddreißig und Sechsefünfzig Milliarden Parametern pro Talken zu steuern.

00:04:16: und einfache Textbestandteile ohne Rechenaufwand durchzuleiten.

00:04:21: Dank der Innovation Longcat Spars Attention bietet das Modell ein nutzbares Kontextfenster von einer Million Token, mit dem sich die gefürchtete Memory Wall bei großen Coated Barsen durchbrechen lässt.

00:04:33: Als hochspezialisiertes Entwicklermodell übertrifft Longcat Zwei Null im Coding Benchmark SWE Bench Pro sogar das proprietäre Spitzenmodell GPT-VV, auch wenn es bei allgemeinen Agentenaufgaben hinter Premiumgeneralisten zurückbleibt.

00:04:49: Und neben den technischen Aspekten ist Long劇 II Null auch geopolitisch relevant, dass unter der MIT Lizenz veröffentlichte Modell wurde komplett auf fünfzigtausend chinesischen KI Prozessoren trainiert und das zeigt, dass China hier doch eine gewisse Hardware-Souveränität an den Tag legt und seine Abhängigkeit von Chipherstellern aus dem Westen sowie von US Exportkontrollen nach und nach auch los wird.

00:05:19: Zudem bietet es für Entwickler steuerbare Denkmoli in Form von expliziten Sinkblöcken, für transparente Planungsschritte.

00:05:29: Ja also das dazu.

00:05:32: Ich denke mal gerade der Bereich Open Source KI-Modelle wird ein Bereich sein, der immer wichtiger wird.

00:05:38: Es wird ja immer mehr auch davor gewarnt sich auf geschlossene propriettäre KI Modelle aus den USA zu verlassen weil Wir auch gesehen haben in der Vergangenheit, dass es damit schnell vorbei sein kann.

00:05:51: Siehe Fable von Tropic und wenn man seine Produktionen und seine Prozesse auf solche Modelle stützt und die dann eines Tages einfach nicht mehr verfügbar sind... dann kann das gravierende Auswirkungen haben.

00:06:05: Kommen wir zum nächsten Themenblock, ich berichte ja hier auch immer gern über die SEO-Bubble und KI hat natürlich auch große Auswirkung auf diese ganzen Aktivitäten, die im Bereich SEO stattfinden, auf das Erstellen von Inhalten, auf die Sichtbarkeit an verschiedenen Stellen Meldung gestoßen beziehungsweise auf eine Neuheit die Cloudflare, also der Anbieter des Content Delivery Networks eingeführt hat oder vorgestellt.

00:06:34: Und zwar gibt es jetzt die Möglichkeit zum selektiven Blockieren von KI-Bots.

00:06:40: Das ist natürlich für all diejenigen interessant, die grundsätzlich schon in der KI und den Antworten des Chatbots sichtbar sein wollen, die aber nicht möchten dass jetzt alle Inhalte abgegriffen werden und dann ohne Link zum Beispiel dargestellt werden.

00:06:54: Und das ist relativ möglich mit einer neuen Variante, die es bei der Agentenverwaltung in Cloudflare gibt Und zwar wird dabei unterschieden zwischen verschiedenen Arten von KI-Bots, nämlich einmal Searchbots dann Agents und zum dritten dann noch Bots zum Trainieren eingesetzt werden.

00:07:17: Während Search klassisch dem Aufbau von Sucheindices vorbehalten ist und damit auch Chancenschaft aus der Suche Traffic zu erhalten steht Agent für Echtzeitaktionen, die ein KI-Agent im Namen eines Nutzers durchführt.

00:07:32: Zum Beispiel das Ausfüllen eines Formulas oder auch das Aufgeben einer Bestellung.

00:07:36: und die dritte Kategorie Training.

00:07:38: Das ist dann der Use Case, der von manchen eben nicht gewünscht ist, die Content anbieten.

00:07:42: Hier greift nämlich der KI-Bot Informationen ab um damit neue Modelle zu trainieren oder um bestehende Systeme zu verbessern.

00:07:50: Über dieses Botmanagement-System in Cloudflare ist es auch möglich, beim Sperren oder Freigeben nach Seiten mit und ohne Anzeigen zu unterscheiden.

00:07:58: Und dabei ist die Annahme das Seitenmitanzeigen dazu gedacht sind über Traffic zu monetisieren so dass diese eher für KI Bots gesperrt werden um die Daten zum Trainieren sammeln.

00:08:11: Ab dem fünften September wird es dann für alle drei Use-Cases neue Standardwerte geben in Cloudflare.

00:08:17: Das gilt für alle neuen Domains, die zu Cloudflaren zukommen.

00:08:20: Die Kategorien Agent und Training werden dann für Seiten mit Anzeigen standardmäßig gesperrt während Search für alle Seiten erlaubt bleibt.

00:08:28: und bei sogenannten Multi Purpose Crawlern Die mehrere Use Cases erfüllen wird ab dem fünften September die jeweils strikteste Vorgabe für alle Use Caces greifen.

00:08:39: Ein Crawler, der zum Beispiel als Agent und für die Suche dient, wird dann keinen Zugriff mehr auf Seiten mit Werbung haben – es sei denn man wählt andere Einstellungen.

00:08:48: Zusätzlich gibt es eine weitere Dimension, die man zur Steuerung der KI-Bots verwenden kann wie mit den abgerufenen Inhalten nämlich umgegangen werden.

00:08:55: Und hier gibt es drei Möglichkeiten, nämlich immediate, reference & full.

00:09:00: Immediat bedeutet eine reine Interaktion, wobei nichts gespeichert wird.

00:09:04: Reference bezieht sich auf das Indexieren, auf das Bilden von Auszügen und das Schaffen von Links.

00:09:09: Und full steht für das Zusammenfassen und komplette Reproduzieren enthalten.

00:09:15: Dazu testet Cloudflare das neue Signal Use, dass in der Robots TXT angegeben werden kann.

00:09:25: Das Ganze soll dann eben noch feinere Steuerung der Bots ermöglichen.

00:09:32: Ja und noch eine Änderung, verifizierte Bots sind ab sofort nicht mehr automatisch per Default bei Cloudflare zugelassen.

00:09:38: Verifiziert bedeutet das ein Bot sich selbst eindeutig durch eine Signatur öffentlich der IP-Liste oder Reverse DNS identifiziert.

00:09:46: Zudem darf es kein missbräuchliches Verhalten geben und dazu gehört zum Beispiel, dass die Direktiven in der Robots TXT auch beachtet werden.

00:09:54: Ja und zur besseren Einordnung der KI BOTS stellt Cloudflare mit BOTBASE eine neue Datenbank zur Verfügung und dort sind alle bekannten Bots enthalten.

00:10:03: Zum neuen Content Signal in der robots txt.

00:10:06: da gibt's auch schon eine Reaktion von Google genau gesagt von John Müller Und er hat davon abgeraten, das zu verwenden.

00:10:15: Er hat geschrieben auf Reddit dass man keine nicht-offiziell unterstützten Anmerkungen oder Direktiven in der Robots TXT einsetzen sollte weil es einfach nur unnötiger Ballast sei und die Verwaltung erschweren würde.

00:10:35: Und Crawler würden ohnehin nur die Direktive verwenden die sie auch berücksichtigen.

00:10:40: Jetzt muss man natürlich dazusagen, dass John Müller zu Google gehört und Google profitiert natürlich ganz stark davon.

00:10:46: Dass Inhalte per Bot von Webseiten abgerufen werden können und es ist nur leicht verständlich das er dann auch in seiner Funktion als Google Mitarbeiter solche neuen Initiativen nicht automatisch gut heißen kann.

00:11:03: aber Er hat schon ein bisschen recht, wenn er sagt es bringt nicht so etwas einzusetzen.

00:11:08: Wenn das nicht weitläufig unterstützt wird.

00:11:11: Das heißt man wird einfach abwarten müssen ob sich da eine neue Standard etabliert.

00:11:16: in dem Fall kann man dann natürlich durchaus dass auch einsetzen.

00:11:19: also ich persönlich fände es auf jeden fall hilfreich.

00:11:23: Und dann noch etwas, was ich euch auch nicht vorenthalten möchte.

00:11:26: Was im Kontext zu SEO steht und zwar geht es KI Tracking also das Tracken der Sichtbarkeit eurer Website in den KI-Plattformen aber auch in die Google AI Overviews oder im Google AI Mode.

00:11:41: Es gibt ja inzwischen unzählige Tools mit denen man solche Trackings durchführen kann.

00:11:45: Das Problem ist nur dass diese Tools oftmals ziemlich teuer sind, weil sie Credit basiert sind.

00:11:51: Das heißt ihr müsst im Prinzip für jeden Prompt den ihr kontrolliert, den ihr checked müsst ihr Credits bezahlen und je nachdem welches Tool ihr verwendet kann das eben recht teuer werden vor allem dann wenn ihr diese Prompts auch regelmäßig oder mehrfach abrufen wollt.

00:12:07: Das solltet ihr nämlich tun denn das einmalige Abrufen einer KI-Plattform für bestimmte Prompts das bringt euch recht wenig weil die Ergebnisse sich einfach mit jedem Abruf komplett ändern können.

00:12:20: Also um ein einigermaßen gutes Bild zu bekommen, müsst ihr sehr viele Proms sehr oft abrufen und das wird dann eben teurer.

00:12:28: Aber es gibt einen Tool auf der ich gestoßen bin, mit dem könnt ihr da wirklich Kosten sparen, zwar nennt man sich das FreeSOV.

00:12:36: Und dieses Tool benötigt von euch nur eines nämlich eure API Keys für KI-Plattformen eurer Wahl, die ihr eben nutzen wollt zum Beispiel GPT oder Gemini, was auch immer.

00:12:50: Ihr tragt dann diese API Keys ein und könnt mit diesem Tool einen Prompt Tracking durchführen.

00:12:57: Ihr könnt außerdem auch den API Key von Data for SEO eintragen.

00:13:01: Das ist eine Bibliothek von sammelten Daten zur KI-Sichtbarkeit aber auch zu Google Rankings.

00:13:09: Das könnt ihr dann auch einbinden in FreeSOV und habt dann die Möglichkeit, eben euer Tracking aufzusetzen.

00:13:15: Dazu müsst ihr zunächst mal eine Marke anlegen bestehend Ausnahme- und Domain.

00:13:20: Ihr könnt auch einen oder mehrere Wettbewerber anlegen.

00:13:24: im nächsten Schritt müssen dann Topics eingerichtet werden das heißt es sind übergreifende Themenbereiche die ihr überwachen wollt und zu jedem Topic dann ein oder mehrere.

00:13:33: wenn ihr das alles angeht legt habt, dann kann es auch schon losgehen.

00:13:36: Dann kann FreeSOV für euch tracken.

00:13:40: Den Link auf das Tool habe ich euch in den Show Notes hinterlegt und ihr könnt das relativ einfach testen.

00:13:48: kleiner Hinweis dazu also ich persönlich bin ja immer so ein bisschen misstrauisch wenn nicht einer fremden Software vertrauliche Daten wie zum Beispiel API Keys übergeben muss.

00:13:58: Keine Garantie an dieser Stelle, dass eure Daten da auch vertrauensvoll behandelt werden.

00:14:03: ich habe allerdings schon verschiedene Empfehlungen jetzt gelesen zu diesem Tool und die deuten für mich zumindest darauf hin das es zuverlässig ist und man es nutzen kann.

00:14:13: aber die Entscheidung und die Verantwortung liegt dann natürlich letztendlich bei.

00:14:18: Ja, ich hatte es ja vorhin schon angesprochen im Zusammenhang mit Fable-Fünf und jetzt wollte ich euch diese Geschichte nicht vorenthalten.

00:14:27: Und zwar wurde das Spiel Command & Conquer General Zero Hour mithilfe von Fable Five portiert und zwar auf iPhone und iPad.

00:14:38: Dieses komplexe Game, komplexes Strategiespiel einfach mal so von Fable V portiert auf eine andere Plattform.

00:14:47: Das Ganze hat im ersten Schritt nur ungefähr forty-fünf Minuten gedauert und dann laut dem Entwickler, der das Ganze gemacht hat dann noch ein paar Stunden fürs Debugging und fertig war die Geschichte.

00:14:59: Er hat es dann auf X gepostet, zusammen mit Screenshots und auch der Art und Weise wie man das ganze jetzt spielen kann.

00:15:06: also man kann sich wirklich auch mit Touchgästen auf dem Tablet spielen.

00:15:09: Das Spiel ist also so wie ich das sehe einwandfrei portiert worden Und wenn man überlegt, was eine solche Portierung noch vor KI an Aufwand bedeutet hätte.

00:15:20: Also sowohl personell als auch zeitlich dann ist das jetzt schon wirklich ein ganz neue Welt in der wir uns heute bewegen.

00:15:28: und ja schaut es euch einfach mal an ich bin mal gespannt was da in Zukunft noch alles passieren wird.

00:15:35: Noch eine Kurzmeldung, die ich euch auch nicht vorenthalten möchte und zwar will Microsoft weitere Viertausendachtende Jobs abbauen insbesondere im Bereich der Xbox aber auch andere Bereiche wie die Cloud können betroffen sein.

00:15:49: ausdrücklich wird gesagt dass es jetzt nichts mit KI zu tun habe also beziehungsweise das jetzt keine Ersetzung durch KI stattfindet.

00:15:58: Man kann es natürlich zwischen den Zeilen schon herauslesen, dass sich durch die KI bestimmte Dinge geändert haben und das dann sicherlich auch eine Effekt hat auf die internen Strukturen und Arbeitsabläufe.

00:16:11: Und das fügt sich schon recht gut ein in das Bild was wir so betrachten in den letzten Wochen und Monaten Also gerade im Tech-Bereich immer mehr Jobs wegfallen.

00:16:23: Der Vorwand ist oftmals, dass es aufgrund von KI passiert weil KI einfach effizienter sei.

00:16:30: aber Joseph und ich haben ja auch schon mal darüber gesprochen das ist in vielen Fällen einfach nur vorgeschoben zum Beispiel Personalüberhänge die man in den vergangenen Jahren also gerade auch in der Coronazeit aufgebaut hatte um jetzt los zu werden.

00:16:44: und da ist die KI immer eine willkommene Ausrede.

00:16:48: Aber ich glaube nicht, dass die der Grund ist.

00:16:53: Man muss eh darüber nachdenken ob diese ganzen Geschichten, die wir jetzt hören von wegen Job-Apokalypse und KI schafft alle Jobs ab.

00:17:02: Ob das stimmt?

00:17:02: Also meiner Meinung nach ist es nicht der Fall... Die Vermutung, dass durch KI mehr Jobs entstehen als verschwinden.

00:17:13: Natürlich gibt es Veränderungen.

00:17:15: Es gibt Jobprofile die so nicht mehr gebraucht werden oder sich ändern müssen.

00:17:20: Gerade im Bereich der Einstiegs-Jobs wird es Änderungen geben.

00:17:23: Also die klassischen Junioraufgaben werden sich auch verändern Aber man wird auch weiterhin Juniors brauchen für verschiedene Aufgaben Nur das sie dann halt andere Sachen machen müssen.

00:17:34: Ich sehe da eher optimistisch in die Zukunft.

00:17:37: Apropos optimistisch in die Zukunft schauen.

00:17:40: Ich freue mich schon auf die nächste Folge hier von KI und Tech to Go, auch wenn ich sie nochmal alleine bestreiten muss.

00:17:46: Nächste Woche ist Josef noch weg aber dann in zwei Wochen ist er wieder da!

00:17:51: Ich hoffe dass es euch auch mit mir alleine ein bisschen gefallen hat und das ist für euch auch interessant war – das eine oder andere Thema.

00:17:59: Lasst es mich gerne wissen oder schreibt uns gerne, wenn ihr Rückmeldungen habt, Themenwünsche oder Feedback geben wollt.

00:18:05: Alle Links findet ihr sowohl auf der Website als auch in den Show Notes der verschiedenen Plattformen.

00:18:12: Das Ganze werde ich dann noch als YouTube-Video zur Verfügung stellen, sodass Ihr dann wirklich auf der Plattform Eurer Wahl und mit dem Medium Eurer Wahl das ganze hier hören und sehen könnt!

00:18:25: So, das wäre es aber wirklich gewesen und ja, ich freue mich wenn ihr das nächste Mal wieder dabei seid.

00:18:31: Bis zum nächsten mal, tschüss Euer Christian.