Эксперт Т1: путь к управляемому ИИ в корпорациях укладывается в пять этапов и 13 недель
Около 13 недель занимает построение промышленного ИИ-контура в корпорациях. Для этого компаниям придется пройти через масштабные изменения на пяти важнейших для бизнеса уровнях. Об этом на форуме Kazan Digital Week рассказал заместитель
руководителя направления «Искусственный интеллект» ИТ-холдинга Т1 Сергей Карпович.
Первые ИИ-проекты нередко возникают в разных подразделениях независимо друг от друга: одна команда создаёт помощника для работы с обращениями, другая — ассистента для подготовки документов, третья экспериментирует с аналитикой данных. Такой подход
позволяет быстро проверить гипотезы, но при тиражировании может приводить к повторяющимся расходам, несовместимым базам знаний и разным правилам доступа к информации.
По словам эксперта, переход к такой модели требует изменений на пяти уровнях. Первый уровень — модели. Доступ к ним должен централизоваться через единую точку в защищённом контуре, где действуют общие правила, ограничения и механизмы контроля.
Второй уровень — знания. Разрозненные базы необходимо заменить общим семантическим слоем. Система должна находить сведения в проверенных нормативных документах, регламентах и ведомственных источниках, а сотрудник — видеть, на основании чего подготовлен ответ.
Третий уровень — цифровые сотрудники. Всех ИИ-агентов следует включить в общий реестр. Для каждого из них необходимо зафиксировать владельца, назначение, версию, доступные операции и жизненный цикл.
Четвёртый уровень — экономика. Наряду с бюджетом проекта необходимо измерять стоимость конкретной операции — обработки обращения, документа или заявки. Это позволяет сравнивать эффект от внедрения с исходными показателями процесса.
Пятый уровень — риски. Контроль нужно выстраивать не только после выполнения действия, но и до него: через ограничения доступа, обязательные согласования, журналирование операций и возможность перехода к ручному режиму.
Значение такого контроля возрастает по мере того, как ИИ переходит от подготовки ответов к выполнению действий в государственных информационных системах.
Для российского госсектора, по мнению эксперта, принципиально важно предусматривать размещение моделей, данных и исполнения агентов в защищённом контуре уже при выборе архитектуры и подрядчиков, а не переносить эти вопросы на этап промышленного запуска.
Аналогичные принципы управляемости закладываются и в зарубежные модели. Великобритания включает в число государственных принципов применения ИИ понимание ограничений технологии, управление жизненным циклом системы и осмысленный
человеческий контроль. Сингапур предлагает ограничивать автономию агентов,предоставлять им минимально необходимые права и расширять полномочия постепенно — после тестирования и с постоянным мониторингом.
Сергей Карпович рекомендует начинать переход к целевой модели с одного процесса, у которого есть ответственный владелец, измеримый результат и ограниченный уровень риска. За 13 недель можно пройти путь от анализа процесса и фиксации исходных показателей до создания и проверки ассистента, его ограниченной эксплуатации и оценки результатов. Этот срок является ориентиром для одного процесса: фактическая продолжительность зависит от готовности данных, количества интеграций и требований безопасности.