Названы основные уязвимости ИИ-агентов: что ждет ИТ-рынок

Крупные российские и мировые компании всё активнее используют искусственный интеллект как инструмент решения определённых бизнес-задач. Однако по мнению экспертов, возможности ИИ-агентов не стоит переоценивать, а их работку и внедрение должны осуществлять специалисты с широким набором компетенций, спрос на которых будет расти

Внутренние задачи

В России внедрение агентных сценариев ещё несколько кварталов назад тормозил дефицит моделей с достаточным качеством для агентных задач, однако с 2026 года ситуация изменилась — модели стали крупнее и лучше, после чего началась волна принятия технологии, рассказал «Московской газете» руководитель Yandex AI Studio Артур Самигуллин. Российский рынок ИИ-агентов активно развивается, только на платформе Yandex AI Studio компании уже запустили более 30 тысяч агентов. 

По словам эксперта, бизнес разрабатывает эти инструменты в основном для решения внутренних задач: для работы с внутренними базами знаний, анализа документов и других процессов, которые можно автоматизировать и получить от этого очевидную ценность для бизнеса.

«Например, компания «Норникель» тестирует несколько десятков сложных агентских систем и личных ассистентов для сотрудников. Также TEBOIL создал ИИ-агента, который на основе внутренней базы знаний помогает клиентам быстро подобрать масло нужной вязкости и спецификации. До конца сентября 2026 года Yandex B2B Tech запустит универсального ИИ-агента для бизнеса: он сможет автоматизировать до половины задач офисных сотрудников, на которые обычно уходит до трети рабочего времени, и взять на себя часть рабочих обязанностей менеджеров, аналитиков, бухгалтеров, маркетологов и не только. С его помощью сотрудники смогут работать с привычными рабочими сервисами и инструментами, при этом выполняя часть работы с помощью ИИ», — рассказал Артур Самигуллин.

Сейчас ИИ-агенты уже переходят от экспериментов к промышленной эксплуатации, но пока в основном в конкретных, хорошо формализованных процессах — клиентском сервисе, HR, продажах, аналитике, финансах, закупках, юридической функции и работе с документами в целом, отметила в беседе с «Московской газете» руководитель отдела подбора персонала MWS AI (входит в МТС Web Services) Наталья Рейслер. На данном этапе агент наиболее эффективен там, где можно четко описать процесс, входные данные и критерии качества. Например, в массовом найме рекрутер тратит в четыре раза меньше времени на обработку входящих резюме.

«ИИ-рекрутер анализирует резюме, задаёт кандидату недостающие вопросы, проводит первичный скрининг, рассказывает об условиях вакансии, отвечает на типовые вопросы и помогает назначить время собеседования. Отдельный агент собирает данные по воронке и готовит аналитику для HR. В результате специалист подключается уже на тех этапах, где действительно требуется человеческое решение — финальный отбор, переговоры по офферу и нестандартные ситуации», — сказала Наталья Рейслер.

Масштаб использования ИИ-агентов: уязвимости и риски

Если говорить о рисках в работе, то ИИ-агент может удалить или изменить данные, раскрыть учётные данные, выполнить нежелательный код, отправить информацию во внешний сервис, либо совершить ошибочное действие в производственной системе, рассказал «Московской газете» руководитель отдела информационной безопасности MWS AI Андрей Коршунов.

«Это знакомые риски автоматизации и управления привилегиями, но особенность ИИ состоит в том, что результат его работы менее детерминирован: невозможно заранее перечислить все команды, которые он решит использовать для достижения поставленной цели. Поэтому ИИ нельзя предоставлять больше прав, чем необходимо для конкретной задачи. Нужны изолированная среда, минимальные привилегии, резервные копии, журналирование и обязательное подтверждение необратимых операций. ИИ должен помогать человеку выполнять работу, а не бесконтрольно распоряжаться рабочей станцией или продуктивной инфраструктурой», — пояснил эксперт по кибербезопасности.

По словам ИТ-эксперта Алексея Бойко, можно с уверенностью говорить об активном использовании в бизнесе ИИ-агентов, уже десятки процентов компаний и организаций их применяют в своей работе, еще больше планируют начать это делать в ближайшие два года, и это очень высокие темпы внедрения для новой технологии. В России Сбер внедрил более 900 ИИ-агентов в промышленную эксплуатацию, используют их также, например, в группе компаний X5. Высокая эффективность успешных проектов внедрения ИИ во многом объясняет тот фантастически высокий уровень внимания к этой технологии, высочайшие темпы развития ИИ-инфраструктуры и технологий. Хотя окупить расходы на начальное внедрение ИИ не так уж легко, интеграция ИИ в бизнес-процессы организации зачастую становится ее конкурентным преимуществом.

«Основной тренд — переход от генеративного ИИ, отвечающего на вопросы, к ИИ-агентам, способным самостоятельно решать те или иные задачи. Уже идёт переход от «цифровых помощников» к «цифровым сотрудникам». Следующим шагом станут мультиагентные системы для решения сложных задач», — прогнозирует Андрей Бойко.

При этом уязвимостей у ИИ-агентов множество, заметил эксперт: это Agent Goal Hijacking (когда злоумышленник внедряет в данные скрытые вредоносные конструкции, которые ИИ-агент не может отличить от легитимных); Identity and Privilege Abuse (использование легитимных данных для выполнения несанкционированных операций); Unexpected Code Execution (генерирование кода, не предусмотренного разработчиками системы); Insecure Inter-Agent Communication (недостаточная защита каналов связи между автономными ИИ-агентами); Human-Agent Trust Exploitation (когда ИИ-агент манипулирует действиями человека с помощью убедительной коммуникации); Tool Misuse and Exploitation (агент использует легитимные инструменты небезопасным образом); Memory and Context Poisoning (внедрение дезинформирующего контента в долгосрочную память ИИ-агентов); Agentic Supply Chain Vulnerabilities (зависимость ИИ-агентов от вредоносных сторонних компонентов); Cascading Failures (когда отказ одного из компонентов системы приводит к выходу из строя других) и Rogue Agents (ИИ-агент действует автономно и преследует свои цели).

«Есть недоверие к поставщикам решений ИИ из-за встречающихся ошибочных генераций («галлюцинаций»), ИИ-агенты иногда считаются «новым вектором уязвимостей». Для успешного их использования необходима глубокая интеграция с существующими системами, что не всегда является простой задачей. Внедрение ИИ в организациях требует немалых стартовых инвестиций, а бесконтрольное применение взаимодействующих между собой ИИ-агентов может привести к хаосу. Остается высоким процент неудачных проектов», — констатирует ИТ-эксперт.

Всемирный экономический форум в Future of Jobs 2025 относит сети и кибербезопасность к числу навыков, спрос на которые будет расти быстрее всего в ближайшие годы, при этом ещё быстрее растёт спрос на навыки в области ИИ и больших данных, рассказал «Московской газете» эксперт по электронной коммерции Павел Литвак. 

С ИИ-агентами ситуация немного другая – это ещё молодой рынок, но компании уже переходят от экспериментов с чат-ботами к системам, которые могут самостоятельно выполнять последовательность действий: искать информацию, работать с документами и CRM, формировать отчёты, запускать процессы и взаимодействовать с другими программами.

«Например, Microsoft в исследовании Work Trend Index 2025 сообщал, что 46% руководителей уже используют агентов для полной автоматизации отдельных рабочих процессов или бизнес-процессов, а 78% руководителей рассматривают найм на новые AI-роли. В исследовании 2026 года Microsoft также отмечает, что наиболее продвинутые пользователи уже применяют агентов для многошаговых рабочих процессов и создания мультиагентных систем. Поэтому специалист, который умеет не просто написать промпт, а спроектировать ИИ-агента под конкретный бизнес-процесс, подключить его к корпоративным системам, настроить права доступа, проверить качество и обеспечить безопасность, будет становиться всё более востребованным», — прогнозирует собеседник.

При этом, по мнению Павла Литвака, не стоит переоценивать текущие возможности ИИ-агентов. Сегодня они уже способны эффективно решать достаточно конкретные и повторяемые задачи: анализировать большие объёмы информации, классифицировать обращения, готовить документы и отчёты, искать данные в нескольких источниках, помогать сотрудникам с продажами и поддержкой клиентов, автоматизировать отдельные этапы бизнес-процессов. Но чем больше у агента самостоятельности и доступа к реальным системам, тем выше цена ошибки.

«Главная проблема в том, что обычный чат-бот в основном выдаёт ответ, а агент получает возможность действовать. Если агент имеет доступ к почте, CRM, финансовой системе, базе данных или внутренним документам, ошибка уже может привести не просто к неправильному тексту, а к реальному изменению данных, отправке информации или финансовой операции. И здесь возникает отдельный класс киберрисков. Среди прочего это перехват целей агента, неправильное или злоумышленное использование инструментов, злоупотребление идентификацией и правами доступа, отравление памяти и контекста, уязвимости цепочки поставок и каскадные сбои. То есть, ИИ-агент может стать одновременно и инструментом защиты, и новым инструментом атаки. С одной стороны, ИИ уже помогает специалистам по безопасности быстрее анализировать события, искать аномалии, проводить расследования и автоматизировать рутинные операции. С другой стороны, те же технологии позволяют злоумышленникам автоматизировать поиск уязвимостей, анализировать информацию и ускорять атаки. В 2026 году есть реальные инциденты, связанные с чрезмерными полномочиями агентов, злоупотреблением инструментами, утечкой данных и атаками через контекст и инструкции», — заключил эксперт по электронной коммерции, добавив, что для некритичных задач можно позволять агенту действовать практически самостоятельно, а для операций, связанных с деньгами, персональными данными, доступом к инфраструктуре или юридически значимыми решениями, необходимы ограничения прав, журналирование действий, проверка результатов и в ряде случаев обязательное подтверждение человеком.

Главная уязвимость ИИ-агентов в том, что цена ошибки растет вместе с их самостоятельностью. Если обычный ИИ-помощник ошибся, человек получил неверный ответ. Если ошибся агент, он уже может что-то отправить, изменить в системе, согласовать или запустить дальше по процессу, рассказала «Московской газете» генеральный директор digital-агентства полного цикла Adventum Евгения Грунис.

«Есть и менее очевидные риски. Например, агент читает резюме, а внутри текста спрятана инструкция, которая заставляет его действовать не так, как задумано. Поэтому любой внешний документ, письмо или сообщение, с которым работает агент, нельзя автоматически считать безопасным. Но уязвимость иногда вообще находится не в агенте. Если сам процесс плохо устроен, данные «грязные», а права доступа выданы слишком широко, агент просто быстрее и в большем масштабе воспроизведет эту проблему. Поэтому защищать нужно не только саму модель. Важно ограничивать права агента, разделять действия по уровню риска, контролировать доступ к данным и оставлять человеку решения, где цена ошибки высока. И прежде, чем внедрять агента я бы сначала задала вопрос: сам процесс в нынешнем виде точно стоит автоматизировать?», — подчеркнула Евгения Грунис.

По мнению эксперта, сегодня бизнес еще в основном думает, где и как внедрять ИИ-агентов. А следующий этап будет сложнее: придется решать, как вообще должна выглядеть компания, в которой агентов много.

«Создавать их [ИИ-агентов, — прим. ред.] тоже будут по-разному. Какие-то компании будут строить агентов сами централизованно под ключевые процессы, какие-то — привлекать внешние команды, а где-то сотрудники смогут сами собирать простых агентов под свои задачи. Но независимо от того, кто их создал, довольно быстро встанет вопрос управления уже самими агентами: какие данные доступны каждому из них, какие действия им разрешены, где они дублируют друг друга и кто отвечает за результат их работы.

Следующий шаг — связки агентов. Один собирает информацию, второй ее обрабатывает, третий выполняет действие, четвертый проверяет результат. То есть, компании придется проектировать уже не только работу людей, но и совместную работу людей и цифровых исполнителей. Но здесь есть важный момент. Агент не должен становиться заплаткой поверх плохо устроенного процесса. Если сегодня человек вручную переносит данные между пятью системами, это еще не значит, что завтра нужно поручить агенту делать то же самое. Возможно, правильный ответ — вообще пересобрать процесс и убрать часть этих действий. И будет обратное движение. После первой волны экспериментов часть агентов начнут убирать. Где-то обычная автоматизация окажется дешевле и надежнее. Где-то человек будет проверять результат дольше, чем сделал бы работу сам. Где-то затраты на контроль и интеграции съедят весь эффект. Поэтому я бы не ждала будущего, в котором в каждой компании просто станет очень много ИИ-агентов. Скорее начнется серьезная пересборка: какие задачи вообще стоит отдавать агентам, как связывать их между собой, где оставлять человека и какие процессы больше не нужны в прежнем виде. Мне кажется, одним из самых ценных навыков для бизнеса станет как раз умение быстро понять, где агент действительно даст эффект, а где на него вообще не стоит тратить время и деньги», — подчеркнула гендиректор Adventum.

Спрос на специалистов: опыт и умение говорить «просто о сложном»

Спрос на специалистов по кибербезопасности рос стабильно по мере цифровизации бизнеса, развития облачных технологий, и в 2026 году, несмотря на общее «охлаждение» рынка труда, интерес работодателей к экспертам в этой области все больше увеличивается, сообщил «Московской газете» директор по продажам и развитию бизнеса кадровой компании ЮНИТИ Андрей Утешев. 

В дополнение к базовым требованиям (желательно высшее или среднее техническое образование, знание законодательства по своему направлению), данным специалистам важно обладать и рядом личных качеств, таких, как аналитическое и критическое мышление, определенные организационные и коммуникационные навыки, стрессоустойчивость, а также способность и желание учиться, поскольку получение новых знаний в данной области может напрямую влиять на успешность выполнения должностных обязанностей. Иногда в числе требований можно встретить и такое пожелание работодателей, как умение сотрудника говорить простыми словами о сложных вещах, например, для презентации реализованных задач руководству и коллегам из «нетехнических» департаментов, отметил кадровик. Однако, как и в сфере ИТ, больше всего у претендентов на ту или иную должность в сфере кибербезопасности работодатели ценят опыт. 

«В вакансиях руководителя по кибербезопасности в Москве или Санкт-Петербурге зарплатное предложение для кандидатов с опытом работы более 5 лет может составлять порядка 400+ тыс. рублей. Для специалистов и аналитиков с опытом работы более 3 лет, например, в Нижнем Новгороде, можно найти вакансии с уровнем зарплаты от 100-150 тыс. рублей. Начальный доход для выпускников без опыта работы в регионах может составлять от 30-50 тыс. рублей, в Москве примерно от 70 тыс. рублей», — рассказал Андрей Утешев.

В перспективе будет расти спрос не только на программистов и специалистов по кибербезопасности, но и на людей, которые умеют правильно проектировать связку «бизнес-процесс + ИИ-агент + человек + система контроля», прогнозирует Павел Литвак: «Именно это сейчас является наиболее перспективной компетенцией: не просто создать агента, а встроить его в бизнес так, чтобы он действительно экономил время и деньги, при этом не создавая новый неконтролируемый риск».