KI-Kosten steuern: Das dkd-KI-Nutzungs- und Kosten-Dashboard

Wie lassen sich KI-Kosten im Unternehmen transparent erfassen, analysieren und steuern? Mit dem dkd-KI-Nutzungs- und Kosten-Dashboard machen wir die Nutzung von Generative AI über LiteLLM sichtbar – von individuellen Budgets und verwendeten KI-Modellen bis zu projektbezogenen Kosten. Der Beitrag zeigt, wie ein zentrales KI-Kostenmanagement dabei hilft, Budgets zu planen, Kosten verursachungsgerecht zuzuordnen und die KI-Nutzung im Unternehmen datenbasiert zu optimieren.

Nachdem wir über die Grundlagen im Blogartikel KI absichern: die souveräne, datenschutzkonforme LiteLLM Plattform eingangen sind, soll es hier um konkrete Beispiele des KI-Kostenmanagement gehen.

KI-Kosten im Unternehmen transparent machen

Die Frage kam irgendwann von selbst. Bei dkd arbeiten inzwischen viele mit KI – über chat.dkd.de, in Claude Code, in OpenCode. Alle Anfragen laufen zentral über LiteLLM, und damit lagen auch alle Antworten dort: in der Datenbank hinter dem LiteLLM-Backend. Das war für praktisch niemanden erreichbar und wer wissen wollte, was ein Projekt an KI-Kosten verursacht hat oder wie nah jemand an seinem Budget ist, musste jemanden mit Zugang fragen – und der hat die API von Hand abgefragt.

Das ist keine Basis, auf der man über Budgets, Preise oder Modellauswahl diskutieren kann. Genau dafür gibt es jetzt das dkd-KI-Nutzungs- und Kosten-Dashboard: damit alle dieselben Zahlen sehen und ohne jedes Mal jemanden fragen zu müssen.

Entwicklung eines KI-Kosten-Dashboards mit LiteLLM

Die erste Version konnte genau eine Sache: Kosten pro LiteLLM-Tag anzeigen. Das reichte, um grob zuzuordnen, welche Ausgaben zu welchem Projekt gehören, und es war an einem Nachmittag gebaut. Mehr sollte es zunächst auch nicht sein – es sollte sich erstmal klären, ob das überhaupt für jemanden einen Wert hat.

Die weiteren Wünsche kamen dann von allein: Welche Modelle werden wie intensiv genutzt? Wie hoch sind die KI-Kosten für eine konkrete Aufgabe (z.B. über ein Ticket organisert)? Wie plane ich damit ein Budget? Die folgenden Versionen haben den Ausgangspunkt entsprechend erweitert.

Technisch ist das Dashboard bewusst schlicht gehalten: eine R-Shiny-Anwendung, die in Docker-Containern auf unserer ShinyProxy-Infrastruktur läuft und für alle dkd-Mitarbeitenden über das Intranet erreichbar ist.

Funktionen des dkd-KI-Nutzungs- und Kosten-Dashboards

My Usage – die eigene KI-Nutzung

Der Bereich, den alle bei dkd sehen. Wie viel habe ich in den letzten Wochen verbraucht, welche Modelle nutze ich tatsächlich, und wo lande ich am Monatsende, wenn es so weitergeht?

• Verbrauch aufgeschlüsselt nach Nutzungsbereich: API-Key und chat.dkd.de
• Verlauf der letzten 30 Tage und der letzten sechs Monate
• Budgetstand pro Key samt Hochrechnung auf das Ende der Budgetperiode – mit Warnung, wenn die Hochrechnung das Budget überschreitet
• Top-Modelle und der Anteil an Cached Input, der die Kosten spürbar drückt
• „vs others": eine Perzentil-Einordnung des eigenen Verbrauchs im Team. Vollständig anonym, es werden keine Einzelwerte und keine Namen anderer Nutzender angezeigt

KI-Kosten nach Projekten, Tickets & Tags auswerten

Jeder LiteLLM-Aufruf kann Tags tragen, und wer seine Arbeit taggt, sieht hinterher, was ein Ticket oder ein Projekt an KI-Kosten verursacht hat. Der Tags-Bereich gliedert das nach Tag-Art: Issues, Projekte, Credentials und alles Übrige.

• Tags mit einer Ticket-URL werden gegen Redmine aufgelöst: statt einer nackten URL steht dort der Titel des Tickets, das zugehörige Projekt und ein direkter Link
• Ein Filter blendet auf Wunsch nur die eigenen Tags ein
• Die Rollup-Ansicht fasst zusammen, was pro Redmine-Projekt zusammengekommen ist

Das ist die Grundlage dafür, KI-Kosten künftig fair auf Projekte und Kunden aufzuteilen. Sie ist allerdings nur so gut wie die Tags, die gesendet werden. Das ist aber eine eigene Geschichte für die wir unsere eigenen Plugins entwickelt haben.

KI-Kosten & Modellnutzung im Unternehmen analysieren

• Ausgaben dieses Monats, letzten Monats und die Differenz dazwischen
• Ausgaben pro Tag und pro Provider
• Top-Modelle, wahlweise nach Kosten oder nach Tokens
• Top 10 Clients: welche Werkzeuge und Systeme tatsächlich die Last erzeugen
• Monatlicher Verlauf über sechs Monate

KI-Budgets und Kostenkontrolle für die Geschäftsführung

Die Geschäftsführung bekommt einen eigenen Tab: alle definierten Budgets mit ihrem aktuellen Stand, getrennt nach persönlichen und geteilten Keys, dazu pro Person der Kostenverlauf und die verwendeten Tags.

Datenschutzkonformes KI-Kostenmanagement mit LiteLLM

Das Dashboard speichert nichts. Es ist zustandslos, hat keine eigene Datenbank und braucht kein Backup – alle Zahlen kommen live aus der LiteLLM-API, deren Daten separat gesichert werden. Ausgewertet wird ausschließlich das, was LiteLLM ohnehin erfasst: Nutzername, Modell, Tokens, Kosten. Keine Prompts, keine Antworten, keine Inhalte.

KI-Kosten im eigenen Unternehmen transparent machen

Sie möchten wissen, wie sich ein solches KI-Nutzungs- und Kosten-Dashboard auch in Ihrem Unternehmen einsetzen lässt? Sprechen Sie uns gerne an.

Dashboard für Ihr Unternehmen anfragen

Quellen & weiterführende Links

[1] KI-Transformation? Wir sind Ihre KI-Agentur
[2] Der Weg der dkd-KI-Transformation: Über Abenteurer, Stabilisierer, Balancierer
[3] Prompten, bitte!
[4] Starfruit AI
[5] KI absichern: die souveräne, datenschutzkonforme LiteLLM Plattform