2024年、トークンコストの急騰により企業がAI支出を削減

バロンズによると、企業は2024年に予期せぬトークンコスト超過に直面した後、AI投資の再評価を行っており、価格透明性と予算管理がウォール街全体で大きな課題となっている。推論モデルとAIエージェントが主なコスト要因である。推論モデルは出力を生成する前に長い内部計算を実行し、最終的に生成されるテキストよりもはるかに多くのトークンを消費する。AIコーディングエージェントはさらにコストがかかり、同等のタスクを完了するために人間のプログラマーよりも最大1000倍多くのトークンを必要とする。多くの企業は現在、従業員のAI使用状況を監視するためのダッシュボードを導入し、中国からの低コスト代替品を含むよりコスト効率の高いモデルへ移行しているか、大手プロバイダーからの値下げを待っている。さらに複雑なことに、モデルプロバイダーによってトークンの数え方が異なり、Anthropicの計数方法は競合他社よりも30~40%高い使用量を示しており、アナリストがAI導入の傾向を追跡するのを困難にしている。
免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし