РБК
Стихийный ИИ есть почти в каждой компании. Как взять это под контроль
Автор: Стятюгин Роман
Черновики, шаблоны, проверка текстов: сотрудники уже используют ИИ, не дожидаясь корпоративных решений. Как из такого стихийного применения сделать безопасный и управляемый процесс, поясняет Роман Стятюгин (VK Tech)
Согласно исследованию MIT NANDA "The GenAI Divide: State of AI in Business 2025", 90% сотрудников регулярно используют личные аккаунты для рабочих задач, тогда как официальная корпоративная подписка на большие языковые модели есть только у 40% компаний. Это значит, что точечное, нерегламентированное использование ИИ есть почти везде, но оно остается разрозненным - каждый решает свою задачу, а не работает в единой системе.
Когда сотрудник использует публичный сервис для загрузки договоров, CRM-выгрузок или финансовых моделей, эти данные выходят за контур внутреннего контроля компании. Удачный промт может остаться исключительно в личном аккаунте сотрудника, при этом после его ухода из компании он исчезнет вовсе. Кроме того, без системы учета сложно оценить, какие задачи решаются с помощью ИИ и дает ли это ощутимый выигрыш во времени. Отсутствие таких данных затрудняет принятие управленческих решений в этой области. Корпоративные пилоты не закрывают этот разрыв
В том же исследовании MIT есть вторая половина картины: до 95% корпоративных пилотов генеративного ИИ не дают измеримой отдачи. Авторы объясняют это тем, что инструменты не накапливают контекст и не встраиваются в реальные рабочие процессы: сотруднику проще открыть привычный чат-бот, чем внутренний сервис.
К этому можно добавить еще одну причину - компании не готовы дать агенту право на реальное действие в IТ-системах - создать заявку, изменить запись, отправить документ, - пока не могут проверить каждый его шаг. Пилот, в котором ИИ только советует, эффекта не даст: он не упрощает работу сотрудников.
Разрыв закрывается не выбором "правильной" модели, а инфраструктурой, у которой есть несколько важных свойств.
Изоляция должна быть реализована на уровне архитектуры, а не за счет настроек конкретной модели. Компания на этапе проектирования заранее определяет, к каким системам и массивам данных имеет доступ каждый агент, а также четко фиксирует перечень разрешенных для него действий. Такой подход гарантирует, что потенциальная ошибка одного агента не повлияет на работу смежных сервисов и не вызовет каскадных сбоев в общей инфраструктуре.
В системе должен быть виден полный цикл работы: что именно планировал сделать агент, к каким инструментам он обращался в процессе и какой результат в итоге получил. Такая прозрачность выполняет сразу две функции - служит основой для внутреннего аудита и поставляет ценный материал для последующей оптимизации поведения агентов.
Помимо инструкций, задаваемых через промпты, необходимо внедрить жесткие правила (хуки), которые действуют поверх любых текстовых указаний. Промпт по своей сути является рекомендацией для модели и может быть проигнорирован, тогда как контрольные точки срабатывают всегда. В их числе - автоматическое скрытие персональных данных до того, как они попадут в итоговый ответ, безусловная блокировка скидки при превышении установленного порога, а также обязательная запись в журнал каждого обращения к внешней системе. Такой подход позволяет включить человека в процесс принятия решения (human in the loop) в ситуациях, где это необходимо.
Еще одним важнейшим механизмом масштабирования экспертизы служит общая библиотека практик, где хранятся навыки. Под навыками понимаются наборы инструкций и правил для выполнения конкретной задачи, описанные на естественном языке без использования программирования. Они доступны всем агентам компании для повторного использования, что превращает личную находку отдельного сотрудника в корпоративный актив и обеспечивает единообразие решений в схожих бизнес-сценариях. Четыре шага для старта корпоративного ИИ Шаг 1. Оценить готовность
Проверьте шесть пунктов: есть ли ответственный руководитель с бюджетом и полномочиями; связан ли сценарий с измеримым результатом (ROI, скорость, затраты); готовы ли данные и архитектура; какой уровень подготовки у специалистов; определены ли безопасность, доступы и граница между решением ИИ и решением человека; выдержит ли технологическая база рост нагрузки.
Провал по любому пункту становится причиной отложить запуск, а не ускорять его. Шаг 2. Выбрать процессы, а не модель
Не стоит выбирать модель и внедрять ее везде. Эффективнее взять два-три процесса с понятными показателями (документооборот, закупки, HR, поддержка клиентов) и сформулировать метрику. Не "внедрить ИИ в закупки", а "сократить проверку заявки с двух дней до четырех часов". Дальше развилка: если процесс раскладывается на четкую последовательность шагов и цена ошибки невелика, нужна классическая автоматизация, она дешевле. Если процесс требует адаптации и работы с неструктурированными данными, нужен агент в изолированном контуре. Шаг 3. Собрать личные практики в общий стандарт
Почти в каждой компании уже есть сотрудники, которые нашли работающие способы применять ИИ. Задача компании - найти этот опыт и перенести в единую платформу: оформить в промпты, шаблоны и готовые сценарии из общей библиотеки, чтобы знание было доступно всем. Шаг 4. Встроить ИИ в процесс
Сценарии переводятся в автоматический режим на уровне платформы: поступил договор - система готовит анализ, пришла заявка - собирается контекст, зарегистрирован инцидент - запускается цепочка действий. Сложные задачи закрывают мультиагентные системы, где ведущий агент распределяет работу между специализированными исполнителями. Как понять, что получилось
Достаточно четырех показателей: доля сотрудников, работающих с корпоративным ИИ вместо личных аккаунтов; время цикла выбранного процесса до и после; доля задач, которые агент выполняет без эскалации на человека; число сценариев, переиспользующих один и тот же навык.
Последняя метрика показывает, накапливает компания актив или каждый раз собирает решение заново.
По прогнозу Gartner, к 2028 году агентные возможности будут содержать 33% корпоративных приложений против менее 1% в 2024-м. Это значит, что вопрос "внедрять или нет" скоро закроется сам собой.