Искусственный интеллект опасен: миф или реальность?

Еще недавно разговор об угрозах ИИ выглядел как теоретический, сегодня это уже практика. Причем практика, которая проявляется не в абстрактных сценариях, а в конкретных кейсах: от выборов до рынка труда и мошенничества. И если собрать эти кейсы вместе, становится понятно: речь идет не о точечных сбоях, а о системном сдвиге.

Политика: когда кампанию можно сгенерировать

Выборы — один из наглядных кейсов. Уже в 2024 году в США избиратели получили автоматические звонки с голосом, имитирующим Джо Байдена, где им советовали не идти голосовать. Позже выяснилось, что это была фальшивка, созданная с помощью ИИ.  Это важный момент: технологии не просто создают фейки,  а значительно усиливают уже существующие риски — дезинформацию и манипуляции.

На выборах в мире уже активно проявляется так называемый «эффект лжеца», когда любой реальный компромат можно объявить дипфейком [созданный нейросетями медиаконтент/изображения/видео/аудио, который с высокой степенью реалистичности имитирует реальные записи] и тем самым обнулить его значимость.

Если раньше дезинформация требовала ресурсов, то сейчас она масштабируется почти бесплатно. Эксперты прямо говорят: ИИ делает фейки дешевыми, быстрыми и массовыми.

Это меняет саму логику информационных кампаний:

• можно генерировать тысячи сообщений;
• имитировать массовую поддержку;
• создавать иллюзию общественного мнения.

И главное, что делать это можно почти в реальном времени. При этом особую уязвимость представляют именно локальные выборы и небольшие сообщества — там меньше проверок и меньше медийного внимания.

Какие нейросетевые технологии будут применять на выборах в России, мы увидим в ближайшее время. Большая предвыборная кампания только вступает в свою самую активную фазу.

Мошенничество: дипфейки уже стоят миллионы

Еще один уровень — экономика и безопасность. По данным исследований, дипфейк-мошенничество уже вышло на «промышленный масштаб».

Это качественно новый тип угрозы:

• подделывается не текст, а личность;
• атакуется доверие внутри любых сообществ или организаций;
• подделка не требует серьезных технических навыков.

Фактически, ИИ уже делает возможным то, что раньше требовало сложных спецопераций.

Один из видов мошенничества, который уже массово разошелся по России, — дипфейк видео-сообщение от действующего/бывшего начальника. В мессенджере приходит «кружочек» —формат, к которому все привыкли: быстрое видео, живое лицо, узнаваемый голос.
Отправитель спокойно рассказывает,  что сейчас идет большая проверка, и с вами свяжется «сотрудник», нужно просто ответить и помочь. И в этот момент у получателя часто не возникает сомнений. Потому что это не текст, не письмо, не странный незнакомый номер. Это лицо, которое знаешь. А дальше уже работает классическая схема: звонок от «сотрудника органов», давление, срочность, деньги.

И самое неприятное здесь даже не в том, что это обман. А в том, что ломается базовое доверие к реальности. Потому что раньше «увидел и услышал человека» — это был почти стопроцентный якорь, больше — нет. Нужно дополнительно проверять.

Рынок труда: автоматизация без тормозов

История с «ИИ отнимет работу» долго была спорной. Теперь появляются более конкретные сигналы. Теперь речь уже не о том, что нейросеть заменит кого-то на работе, а о том, что она решит, кто нужен организации, а кто нет.

По данным опросов:

• 64% менеджеров уже используют ИИ при решениях об увольнениях;
• 66% — при планировании сокращений.

Это важный сдвиг. ИИ становится не просто инструментом работы, а инструментом управления людьми.

Параллельно возникает другой риск, о котором говорят экономисты:
компании могут попадать в «ловушку автоматизации», где они вынуждены сокращать сотрудников быстрее, чем экономика способна их перераспределить. И это уже не вопрос отдельных профессий, это вопрос устойчивости системы в целом.

Кризис доверия: главный эффект, который сложнее всего измерить

Все эти кейсы объединяет один общий результат — подрыв доверия. Исследования показывают, что подавляющее большинство журналистов считают, что ИИ значительно увеличит риски дезинформации.

А опросы населения фиксируют:

• люди плохо отличают ИИ-контент от реального;
• большинство ожидает негативного влияния на выборы.

И здесь возникает ключевой эффект: проблема уже не в том, что появляется ложь, а в том, что у людей исчезает уверенность в правде. Кажется, что ИИ не «ломает» систему напрямую. Он делает ее более хрупкой.

• усиливает манипуляции;
• ускоряет дезинформацию;
• снижает стоимость обмана;
• автоматизирует управленческие решения;
• подрывает доверие.

И важно здесь вот что: это не история «про будущее». Это уже происходит. Дипфейки со знакомыми голосами, фальшивые видео, поддельные «кружочки» в Telegram — это не эксперименты и не редкие кейсы. Это рабочие инструменты, которые прямо сейчас используют не только мошенники, но  и маркетологи, политики, и целые крупные корпорации.

Главная проблема в том, что у людей ломается базовая настройка: раньше ты мог доверять голосу, лицу, знакомому формату общения. Сейчас — нет. И это как раз та самая реальная угроза ИИ, о которой так много говорят.

Ксения Журавкова