Нейросети внедряются втрое быстрее, чем их защита. Каковы риски?

Скорость внедрения искусственного интеллекта (ИИ) в российских компаниях, разрабатывающих программное обеспечение (ПО), опережает скорость создания его защиты. Эксперты обращают внимание на риски бесконтрольного внедрения нейросетей, а также на то, что разработчики ПО выступают, по сути, первопроходчиками. И в будущем эти риски затронут и другие отрасли экономики.

Результаты исследования Ассоциации разработчиков программных продуктов (АРПП) "Отечественный софт" и AppSec Solutions говорят о том, что отрасль, создающая программное обеспечение для банков и промышленности, сверхактивно внедряет ИИ, но не умеет его защищать. Разработчики софтверных продуктов - самая технологически зрелая часть российского бизнеса. Искусственный интеллект раньше всего вошел в их производственный контур, поэтому именно здесь впервые проявляются проблемы, с которыми через два-три года столкнутся остальные компании. Ошибки этой отрасли сегодня - по сути, карта рисков для всей экономики завтра.

Когда эксперты говорят о рисках бесконтрольного внедрения ИИ, речь идет не только об утечках программного кода.

Сервисы с использованием искусственного интеллекта, а во многих случаях и другие организации, получают доступ к документам, переписке и корпоративным системам. А ИИ-агенты уже могут выполнять действия вместо сотрудников.

"Исследование показало, что среди компаний, внедряющих искусственный интеллект в рабочие процессы, только 23% используют базовые системы контроля безопасности. При этом 69% опрошенных заявили, что не зафиксировали атак, однако они также и не проводили оценку угроз. Такой результат требует внимания рынка, поскольку скорость внедрения ИИ втрое опережает скорость выстраивания его защиты",- отмечает исполнительный директор АРПП "Отечественный софт" Ренат Лашин.

Он напомнил, что приказ ФСТЭК N 117 и методика 2026 года уже сегодня помогают определить важные ориентиры для обеспечения безопасности ИИ в организациях. Важно помочь разработчикам освоить этот каркас: дать разъяснения и продемонстрировать практические подходы, полагает эксперт.

Представители ИТ-компаний отмечают, что практически все их сотрудники активно применяют большие языковые модели в формате чатов: 59% - частично, 41% - массово. При этом такие сервисы зачастую работают как "теневой искусственный интеллект", то есть без контроля со стороны организации. Уязвимость такой практики проявляется даже при обычном запросе: сотрудник вставляет клиентский договор в чат ИИ-сервиса, и организация теряет контроль над передачей сведений.

Другой сценарий - промпт-инъекция (запрос к нейросети), то есть вредоносная инструкция внутри документа или страницы, которую анализирует модель. Она может заставить ИИ-помощника выдать данные или выполнить чужую команду.

Особое место занимают ИИ-агенты - автономные программы, которым делегированы полномочия и предоставлен доступ к корпоративным инструментам. Их тестируют или используют 74% компаний, тогда как оценку угроз для своих ИИ-систем провели только 9%. При этом "ошибка агента не показывается на экране - она исполняется", говорится в исследовании.

"Рынок осознанно принимает непокрытый риск, потому что не располагает ни экспертизой, ни процессами, позволяющими этот риск измерить", - считает гендиректор AppSec Solutions Юрий Сергеев.

Вопрос о том, кто отвечает за действия автономного ИИ-агента, остается открытым

Главным барьером в области защиты искусственного интеллекта 70% представителей ИТ-бизнеса называют нехватку экспертизы. При этом 82% компаний не проводят обучение по безопасности ИИ.

"Сегодня экспертные рабочие группы при Минцифры, правительстве и отраслевом консорциуме уже систематизируют угрозы. Их работа позволяет определить, для каких задач риск применения искусственного интеллекта высок, а для каких - минимален", - отмечает старший управляющий директор Swordfish Security Антон Башарин.

Аналогичный разрыв между уровнем внедрения и защиты искусственного интеллекта фиксируют и глобальные исследования. По прогнозу Gartner, к 2028 году платформы безопасности ИИ будут использовать более половины предприятий против менее 10% сегодня. При этом внедрение агентных систем опережает создание средств их защиты примерно в восемь раз. Опрос ISACA - международной ассоциации аудита и контроля информационных систем - за 2026 год показал, что лишь 12% организаций имеют протестированный процесс аварийной остановки ИИ-систем.

Эти тренды показывают, что разработчики программного обеспечения первыми проходят путь, который в будущем ожидает все отрасли экономики. При этом вопрос о том, кто отвечает за действия автономного ИИ-агента, остается открытым. Сегодня соответствующие риски несет каждая компания, внедрившая искуственный интеллект.