Unternehmen kürzen KI-Ausgaben drastisch, da Token-Kosten 2024 explodieren.

Laut Barron's überdenken Unternehmen ihre KI-Investitionen neu, nachdem sie im Jahr 2024 mit unerwarteten Kostenüberschreitungen bei Token konfrontiert waren. Preistransparenz und Budgetkontrolle werden dabei zu großen Herausforderungen an der Wall Street.

Reasoning-Modelle und KI-Agenten sind die Hauptkostentreiber. Reasoning-Modelle führen umfangreiche interne Berechnungen durch, bevor sie Ausgaben generieren, und verbrauchen dabei weitaus mehr Token als der letztendlich produzierte Text. KI-Coding-Agenten sind noch teurer: Sie benötigen bis zu 1.000 Mal mehr Token als menschliche Programmierer, um gleichwertige Aufgaben zu erledigen. Viele Unternehmen führen mittlerweile Dashboards ein, um die KI-Nutzung der Mitarbeiter zu überwachen, und verlagern sich auf kosteneffizientere Modelle, darunter günstigere Alternativen aus China, oder warten auf Preissenkungen großer Anbieter. Erschwerend kommt hinzu, dass verschiedene Modellanbieter Token unterschiedlich zählen – die Zählmethode von Anthropic weist einen 30-40% höheren Verbrauch aus als die der Konkurrenz –, was es Analysten erschwert, die Trends bei der KI-Einführung zu verfolgen.