Von KI-Überforderung zur Problemlösung: Open Source, neue Modelle und der Mehrwert in der Praxis

Shownotes

Update aus der AI Community: Vorstellung der seit zwei Jahren bestehenden Community mit diversen Teilnehmern Regelmäßiger Austausch über aktuelle KI-Tools und -Projekte Wertvoller Austausch und Kosteneinsparungen durch die Community Diskussion über die Überforderung durch die Geschwindigkeit der KI-Entwicklung Anfangs-Euphorie bei der Nutzung von ChatGPT für einfache Aufgaben Stillstand in der Projektentwicklung trotz exponentieller Technologieentwicklung

Ziel Herausforderung der KI-Implementierung: Beispiel: Automatisierung von Angebotsprozessen mit KI Scheitern der Entwicklung durch externe Teams trotz hoher Kosten Lösung durch No-Code/Low-Code-Plattform Make, die einen schnellen Prototypen ermöglichte Entscheidung, vorhandene Technologien zu nutzen statt eigene zu entwickeln Die Angst, durch ständige Neuerungen den Überblick zu verlieren

Der richtige Ansatz: Fokus auf das Problem statt auf die Technologie Das Problem muss es wert sein, gelöst zu werden und einen Mehrwert generieren Das Problem klein machen und Abhängigkeiten entfernen, um schnell loslegen zu können Analyse der vorhandenen Datenquellen zur Umsetzung des Problems Schrittweise Erhöhung der Komplexität Flexibilität bei der Tool-Auswahl je nach Problemstellung Nüchterner Ansatz: Tools gezielt für bestimmte Problemstellungen einsetzen

Open Web UI: Vorstellung einer Open-Source-Plattform zur Verbindung verschiedener KI-Konnektoren Möglichkeit, eigene Modelle lokal laufen zu lassen oder externe APIs zu nutzen Nutzung eines Bots für den Zugriff auf verschiedene Modelle Steuerung durch Programmierung (Python) möglich Eingebautes Retrieval Augmented Generation (RAG) für die Nutzung eigener Datenquellen Erklärung des Vektormodells für semantische Suchen und Keyword Matching Eigene Funktionen (Python) können integriert werden Vielversprechende Technologie, trotz Beta-Status

Neue KI-Modelle und deren Auswirkungen: Open AI bietet kostenlos das neue Modell ChatGPT 4o an, nachdem DeepSeek R1 viele Nutzer gewonnen hat Softbank investiert erneut in Open AI Quen 2.5 von Alibaba ist besser als viele andere Modelle (auch besser als Flax) in verschiedenen Kategorien (Text-to-Image, Video) und kostenlos nutzbar

Diskussion über die Kosten und die Zukunft der KI: Die Zeit, in der KI-Tools kostenlos zur Verfügung stehen, könnte sich dem Ende neigen Vergleich mit der Internetblase und kostenlosen SMS-Diensten Eventuelle Umstellung auf Pauschalverträge für KI-Dienste Google investiert massiv in Infrastruktur (Rechenzentren) Es ist unklar, ob diese Investitionen sich auszahlen werden Wachstum von Google Cloud und YouTube Mögliche Überinvestition in Rechenzentren

Insolvenz von Tandberg Overland und deren Auswirkungen auf die Storage-Branche