Большинство россиян переживают, что технологию используют мошенники: украдут сбережения или возьмут кредит, скопировав внешность и голос с помощью ИИ. Почти половина боится, что обманут их близких. Об этом говорится в исследовании сервиса коммуникаций Контур.Толк и продуктовой группы Контур.Эгида. В опросе приняли участие 1200 работающих россиян.
30% респондентов считают большой угрозой, что ИИ может скопировать голос и внешность реального человека. Еще треть опрошенных более оптимистичны: они беспокоятся, но считают, что защититься от дифпейка возможно. 22% видят и плюсы, и минусы технологии. Остальные 16% относятся к развитию ИИ спокойно.
Больше всего опрошенные опасаются мошенников, которые могут использовать дипфейки. 50% переживают, что их сбережения украдут или оформят кредит, еще 43% тревожатся о том, что мошенники сгенерируют голос и обманут близких. 22% переживают из-за возможных репутационных рисков, например, ложных обвинений в раскрытии корпоративной информации.
По словам психологов, большинство мошенников обладают психопатическими характеристиками. Они безразличны к моральным нормам, умело входят в доверие, подавляют волю жертвы, отличаются жестокостью. В этом и заключается опасность: многие продолжают верить в «добрые намерения» злоумышленника, даже становясь жертвами. Дипфейк многократно усиливает воздействие благодаря высокому уровню реалистичности.
«Когда человек сталкивается с манипуляцией, важно дать мозгу время включить рациональное мышление. Один из простых и эффективных способов — повторять таблицу умножения или считать в обратном порядке. Можно использовать технику «испорченной пластинки» — настойчиво и монотонно повторять свою позицию без оправданий и лишних объяснений», - рассказывает Владлена Мазуркевич, психоаналитик, преподаватель УрФУ.
Чтобы защититься от дипфейков, почти половина опрошенных используют двухфакторную аутентификацию, задают контрольные вопросы для входа в сервисы, устанавливают самозапрет на взятие кредитов (21%). 10% договорились с близкими о кодовом слове при подозрительном звонке, 8% удаляют фото, видео из соцсетей или вовсе не публикуют новые. Однако 64% не предпринимают никаких мер для защиты.
Эксперты по информационной безопасности предупреждают: атаки мошенников становятся многоходовыми и персонализированными. Данные из разных источников складываются в единый сценарий: паспортные данные, телефон, банковская карта, даже информация о привычках, например, посещении фитнес-клуба. В итоге звонок «от клуба» звучит естественно, и человек не замечает подвоха.
«Опасность дипфейков заключается не только в прямых мошеннических звонках или запросах денег. Дипфейк может стать инструментом атаки на корпоративную репутацию или частью атаки на компанию: достаточно одного поддельного видео или заявления от лица руководителя, чтобы вызвать кризис доверия и репутационные потери. Юридическая защита от таких угроз пока несовершенна, и это усиливает ответственность бизнеса. Фактически именно компании должны первыми выстраивать внутренние барьеры: внедрять практики проверки информации, тренировать сотрудников и формировать у них привычку перепроверять даже то, что кажется очевидным, - говорит Даниил Бориславский», - говорит эксперт по информационной безопасности Контур.Эгиды, директор по продукту Staffcop.
«Генераторы дипфейков постоянно развиваются, поэтому традиционные методы для выявления дипфейков, такие как проведение рукой перед камерой, становятся гораздо менее эффективными. ИИ должен противостоять ИИ. Например, встроенный в Контур.Толк детектор дипфейков анализирует видеопоток и выявляет визуальные несоответствия, которые указывают на использование нейросетей для создания изображения», - обращает внимание Роман Теплоухов, системный аналитик Контур.Толка, эксперт Центра ИИ в Контуре.
Искусственный интеллект также используется в сфере информационной безопасности: нейросети берут на себя часть задач в центрах мониторинга безопасности (SOC), действуя как начинающие специалисты, разгружая аналитиков. Чем сложнее становятся атаки, тем системнее должна быть защита, и тем выше значение подготовки людей и инструментов расследования, уверены эксперты.
«Основными целями кибератак с использованием дипфейков остаются топ-менеджеры, сотрудники финансовых и и юридических отделов, лица, принимающие решения. Их основной актив - это доступ к критическим важной и конфиденциальной информации. Злоумышленники изучают окружение жертвы, связи с другими сотрудниками компании, поэтому такие атаки не могут быть массовыми. Например, в 2024 году для одной атаки на лицо, принимающее решение, мошенники тратили не менее одного-полутора миллионов рублей (аренда серверов в ЦОДе, команда дата-сайентистов, ПО для создания реалистичного дипфейка). В случае успеха подобные расходы окупаются. Перед подобными атаками уязвимы все сектора экономики, при этом наиболее подвержены угрозам финансовый и промышленный сектор, государственные организации», - подчёркивает Максим Бузинов, руководитель R&D-лаборатории Центра технологий кибербезопасности ГК «Солар».