Мода на "токенмаксинг" в AI уходит: компании считают расходы

Корпоративная мода на «токенмаксинг» — максимальное использование AI-токенов — начинает сходить на нет. Компании, которые в начале года бросали искусственный интеллект на любую задачу, теперь видят, что счета растут, а реальная отдача — нет.

Сначала была весенняя эйфория, подогретая технологическими гигантами: все стремились выжать как можно больше AI-сгенерированного контента из ChatGPT, Claude и других моделей. Но к лету настроения сменились на противоположные.

«С помощью AI очень легко создать то, что вам не нужно», — говорит Винсент Гусдорф, глава AI-аналитики в Moody's Ratings и автор недавнего отчёта, который призывает к более дисциплинированному подходу.

Термин «токенмаксинг» означает максимальное использование токенов — строительных блоков генеративного AI, каждый из которых соответствует примерно трем четвертям слова. Обычно есть лимит на их количество, а более дорогие версии продуктов предлагают более высокие потолки.

«Когда начали приходить счета, люди поняли, что эти новые инструменты довольно дороги и их нужно использовать с умом», — добавляет Гусдорф.

Технические директора считали высокое потребление токенов знаком отличия

Ещё несколько месяцев назад руководители Кремниевой долины подавали высокое потребление токенов как признак продуктивных сотрудников. Стереотипный «токенмаксер» засиживался допоздна, пренебрегая личной жизнью, и управлял армией круглосуточных AI-агентов.

Сэм Альтман из OpenAI в мае говорил, что «взволнован тем, что произойдёт со стартапами, делающими ставку на токенмаксинг». Дженсен Хуан из Nvidia заявил: «Если ваш инженер за 500 тысяч долларов не сжигает 250 тысяч на токенах, что-то не так». А в Meta даже проводили внутренние соревнования, поощряющие использование токенов.

Этот тренд поднял выручку разработчиков больших языковых моделей вроде Anthropic и OpenAI, но он провалился, когда стало ясно: это не лучшая стратегия для всех остальных. Сатья Наделла из Microsoft признал, что токенмаксинг может вызывать зависимость, и предупредил: клиенты платят дважды — сначала за токены, а потом отдают все свои данные. Алекс Карп из Palantir пошёл ещё дальше, назвав ситуацию «полностью неправильной»: американские бизнесы в частных беседах «в ярости» от того, что платят за токены, не получая ценности.

Бизнес ищет лучшую «маршрутизацию» AI-задач

Консультант Bain & Company Джу Ван отмечает, что многие крупные компании начали пристальнее смотреть на отдачу от AI-инвестиций. «Затраты на токены удваиваются почти каждый месяц. Скажем, 200 долларов на разработчика. Умножьте на 20 тысяч разработчиков — и получается сумма, которую ни один руководитель не заложил в бюджет».

Иногда проблема в том, что применяют AI-кувалду для щелчка ореха. «Не каждой задаче нужен Claude Opus 4.6, — говорит она об одной из мощных моделей Anthropic. — Но многие компании по умолчанию используют Opus для всего, включая генерацию писем». Это привело к поиску инструментов для «маршрутизации моделей», когда простые запросы отправляются на дешёвые и эффективные AI-системы, а сложные — на мощные.

Открытые AI-модели из Китая как дешёвая альтернатива

Разработчик Хассан Эль Мгари говорит, что компании в шоке от «безумных денег» на подписки американских AI-продуктов, поэтому всё меньше поощряют высокое потребление. «Лучше просто дать сотрудникам понять, как использовать эти инструменты, и пусть они применяют AI тогда и столько, сколько нужно».

Тем временем сторонники токенмаксинга нашли новую игрушку: открытые модели китайских стартапов вроде Moonshot Kimi или Zhipu GLM. Они почти не уступают топ-моделям из США, но стоят копейки. «В теории это может продлить жизнь токенмаксингу, — говорит Раффи Крикориан, CTO Mozilla. — Но в целом индустрия осознаёт, что токенмаксинг — это глупость». Он сравнивает это с тем, как раньше количество строк кода считали показателем продуктивности программиста — потом от этой идеи отказались. «Токенмаксинг проходит тот же путь. Через год мы будем вспоминать об этом с улыбкой».