Дипфейки, мошенничество и "фермерский" контент: Что ждет интернет в ближайшие 10 лет

Маркировка контента, отслеживание сгенерированных материалов и борьба с мошенническими схемами на международном уровне - темы, которые эксперты обсудили на первой сессии Третьего международного форума "Диалог о фейках 3.0", который открылся 29 октября в Москве. В нем принимают участие более 2 тысяч специалистов из 80 стран: эксперты в области фактчекинга, представители государственных ведомств и международных организаций, ученые, журналисты и студенты профильных направлений.

СМИ, соцсети и звонки мошенников - главная сфера применения дипфейков. Их цель почти всегда - введение в заблуждение и обман. В то же время злоумышленники могут рассчитывать на различный эффект: создание социальной напряженности, продвижение экстремистских взглядов и, собственно, мошенничество.

"Мы планируем в ближайшее время создать межведомственную рабочую группу, у нас на самом деле такое поручение есть", - рассказал заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации Александр Шойтов.

По словам замминистра, сейчас работа по предупреждению злонамеренного использования генеративного ИИ идет в двух направлениях. Первое - маркировка оригинального контента криптографическими методами, создание "безопасных зон", где будет размещаться только верифицированная информация. Второе направление - это выявление и борьба с вредоносными фейками. Шойтов указал на то, что эффективность этой работы довольно высокая, но не стопроцентная. При этом даже то небольшое количество недостоверных материалов, которые все-таки просачиваются в общественное пространство, могут нанести серьезный урон.

При этом чиновник предупредил, что излишнее регулирование сферы ИИ может существенно затормозить ее развитие и принести больше вреда, чем пользы. "Мы находимся на пороге создания такого явления, как "мертвый интернет": когда боты будут сами создавать контент, и сами же его комментировать", - предупредил первый заместитель председателя IT-комитета Госдумы Антон Горелкин.

Фото: Георгий Пархоменко/ РГ

По его мнению, имеет смысл маркировать не сгенерированный контент, а публикации, созданные пользователями, как фермерские продукты на полках магазинов. При этом, скорее всего, такая мера - вопрос ближайших лет.

В сфере борьбы с мошенничеством, в том числе с помощью использования технологий дипфейков, он отметил одну из наиболее эффективных мер - самозапрет на выдачу кредитов, которым воспользовались уже почти 17 миллионов граждан. При этом перед ее введением была проведена серьезная работа по поиску наиболее безопасного и удачного решения. "Мы фиксировали большой общественный запрос на такую меру, как самозапрет кредитов", - подчеркнул Горелкин.

Он признал, что полностью победить мошенников невозможно, и государство, в том числе в лице правоохранительных органов, почти всегда находится в позиции догоняющего. В то же время это не значит, что работать в этом направлении не нужно. Первоочередная цель - сокращение инфраструктуры мошенников, создание наиболее некомфортных условий для их деятельности.

Проблема в том, что в современном мире мошенники - это уже давно не одиночки, а хорошо оснащенные и скоординированные преступные группы, нередко пользующиеся поддержкой государства. Борьба с международными скам-структурами ведется, но ей не хватает системности. Так, в ООН разработали конвенцию по борьбе с киберпреступностью. Что характерно, ее не подписали США и страны ЕС. По словам Горелкина, это связано с тем, что они сами используют этих специалистов как элемент гибридной войны.

Он также подчеркнул, что мошенническая индустрия сравнялась по объему с наркоторговлей, и меры по борьбе с ней приняли соответствующий масштаб. Именно из этого вытекают не вполне популярные меры против ряда цифровых платформ, которые не готовы целенаправленно бороться со скамерами.

"У нас в Индии 1,5 миллиона кибератак каждый месяц", - отметил председатель Глобального института цифрового управления Манасви Тапар. Он также рассказал о ряде схем, которые используются мошенниками, но подчеркнул, что это уже известные методы работы, и в будущем, несомненно, появятся новые угрозы.

Одной из наиболее опасных схем эксперт назвал так называемый сим-свап - создание копии сим-карты, к которой привязаны платежные сервисы пользователя. Другой уязвимостью, которой пользуются мошенники, является оплата по QR-кодам, которые распространены как в Индии (где есть своя система быстрых платежей по номеру телефона), так и в России. Правда, в нашей стране размещение фейковых счетов для оплаты таким образом распространено меньше.

Фото: Георгий Пархоменко/ РГ

По словам Манасви Тапара, в даркнете мошенники могут получить доступ к фрод-сервисам достаточно серьезного уровня. Так, одну из крупных южнокорейских компаний вынудили перевести средства на счет мошенников, создав ИИ-аватары практически всех руководящих сотрудников, которые использовались во время фейковой видеоконференции. И когда финансовый директор фирмы по видеосвязи распорядился перевести деньги на указанный счет, у жертвы не возникло даже подозрения, что где-то может крыться подвох.

Тапар посетовал на то, что сугубо технических мер для борьбы с мошенниками недостаточно, необходим глобальный и комплексный подход, а значит, и политическая воля. Он также отметил, что самое большое количество скам-атак приходится на государства Глобального Юга, на БРИКС+, и призвал ведущие страны возглавить противодействие.

Эксперты указали на то, что чаще всего сталкивается с мошенниками молодежь, но она же и активнее всего пользуется защитными системами: антиспам фильтрами, определителями подозрительных номеров, назначением доверенного лица для подтверждения банковских операций и блокировкой массовых звонков через операторов. При этом для защиты представителей более взрослого поколения порекомендовали чаще говорить с ними, в том числе рассказывать об угрозах, с которыми они могут столкнуться, даже не пользуясь интернетом.