Folge deinen Lieblingspodcasts, höre offline und im Auto mit CarPlay und Android Auto und mach immer dort weiter, wo du warst. Kostenlos ausprobieren.
KI Modelle werden leistungsfähiger und teilweise günstiger. Gleichzeitig steigen in vielen Unternehmen die tatsächlichen AI Kosten deutlich.
Wie passt das zusammen?
Andreas Wiener spricht mit Yavuz Bogazci, Geschäftsführer bei valantic, darüber, warum Unternehmen beim Einsatz von KI nicht nur auf Technologie und Use Cases schauen dürfen, sondern sehr früh auch Kosten, Skalierbarkeit und messbaren Nutzen berücksichtigen müssen.
Denn aus einer einfachen Aufgabe können schnell zehntausende Tokens werden. Was für einen einzelnen Mitarbeiter kaum relevant erscheint, kann bei hunderten Nutzern und täglicher Anwendung zu erheblichen Kosten führen.
Im Gespräch geht es deshalb um die entscheidende Frage: Wann schafft KI tatsächlich Mehrwert und wann wird lediglich eine bestehende Aufgabe mit einer zusätzlichen Kostenposition versehen?
Andreas und Yavuz diskutieren, warum Unternehmen wiederkehrende AI Anwendungen zentralisieren sollten, wie sich individuelle Nutzung in skalierbare Lösungen überführen lässt und weshalb nicht jedes Problem ein Large Language Model oder einen AI Agent braucht. Manchmal sind Machine Learning, klassische Automatisierung oder sogar einfache Regeln die bessere Lösung.
Außerdem geht es um Claude, unterschiedliche Kostenmodelle, Caching, Abhängigkeiten von Plattformanbietern und die Frage, wie Unternehmen ihre Architektur so aufbauen, dass sie langfristig zwischen Technologien wechseln können.
Die zentrale Botschaft: Wer den ROI erst betrachtet, wenn KI bereits flächendeckend eingeführt wurde, ist zu spät. Kostenkontrolle, Governance und Nutzenmessung müssen von Anfang an Teil der AI Strategie sein.
