Как использовать qm: open-source харнесс для мультиагентных задач

qm — это open-source харнесс для мультиагентной работы. Если коротко: инструмент, который организует и запускает несколько ИИ-агентов. Проект живёт на GitHub, набрал 13 236 звёзд и не просит денег. Ни за API, ни за лицензию.

Зачем это нужно? Платные API считают каждый токен, а здесь модель работает локально. Данные не покидают вашу машину, нет rate limit, нет счётчика. Для небольшой команды или личного проекта это весомый аргумент.

Что это вообще такое

qm позиционируют как «мультиагентный харнесс для работы». То есть это не одна модель, а обвязка для взаимодействия с агентами: вы даёте задачу, qm распределяет её между сущностями, собирает результат. Ядро — open source.

Основные свойства из описания проекта:

• Open source. Исходники открыты, можно развернуть на своём железе и менять как угодно.
• Self-hosted. Всё работает на вашей инфраструктуре, а не в чужом облаке.
• Приватность. Данные остаются локальными. Никакой передачи в сторонние сервисы.
• Производительность. Заявлен «top-tier» уровень возможностей и оптимизированный инференс.
• Доступность. Простой API, документация и растущее комьюнити.

Три способа начать работу

Первый — самый ленивый. Открываете репозиторий yc-software/qm, пробуете онлайн-демо, гоняете свои промпты. Ничего устанавливать не нужно.

Второй — самохостинг. Клонируете репозиторий, ставите зависимости и запускаете:

1. Клонируйте репозиторий: git clone с адресом на GitHub.
2. Установите зависимости: pip install -r requirements.txt.
3. Запустите проект: python run.py.

Третий способ — через MonkeyCode. Это оболочка для работы с моделями, и qm подключается в неё как модель. После установки MonkeyCode вы просто указываете qm в настройках и используете локальный инференс.

Мой опыт

Я протестировал qm в связке с MonkeyCode. Скорость — быстрые ответы, без задержек. Локальная обработка даёт о себе знать: нет ожидания на серверной стороне. Качество — адекватные результаты, модель понимает контекст и выдаёт понятные сообщения об ошибках. Стоимость — ноль. Никаких платежей, никаких лимитов на количество запросов.

На что смотреть при запуске

• Не пропускайте онлайн-демо. Если нужно быстро проверить, подходит ли qm — это бесплатно и занимает две минуты.
• Для self-hosted понадобится Python и зависимости. Пропустите pip install — посыпется импорт.
• Учитывайте, что локальный инференс нагружает железо. На ноутбуке без GPU может быть медленно.
• Если используете MonkeyCode, убедитесь, что qm подключён как модель в настройках. Иначе код будет ходить в API по умолчанию.

Есть ли подвох

qm — open source. Это значит, что поддержка — сообщество, а не коммерческий отдел. Если вам нужен SLA или гарантии, self-hosted придётся обслуживать самому. Но для экспериментов и внутренних инструментов это честный размен.

Вывод

qm — не очередная библиотека, а рабочий инструмент. Он бесплатный, открытый и достаточно быстрый. Если вы работаете с агентами и устали от счетов за API, попробуйте онлайн-демо. Если боитесь, что данные утекут в облако, поднимите self-hosted. Порог входа низкий. А 13 тысяч звёзд на GitHub — неплохой индикатор того, что проект живой.