Наиболее серьёзная угроза от ИИ — это не роботы-убийцы и тотальная слежка, а резкий рост изощрённой киберпреступности, подпитываемой генеративным ИИ. Это уже обошлось американцам в 16,6 миллиарда долларов в 2024 году, что на 33% больше, чем годом ранее, и вдвое больше потерь за три года. Реальная цифра, вероятно, выше, так как менее 20% пострадавших сообщают о мошенничестве.
Новое Лицо Киберпреступности
Недавние дискуссии на саммите Crosscurrent Института Аспена выявили пугающую тенденцию: северокорейские оперативники используют ИИ-генерированные накладки на лица, чтобы проходить удалённые собеседования в западных технологических компаниях. Затем эти оперативники работают одновременно на нескольких должностях, переправляя зарплаты и разведданные в Пхеньян. Они используют ИИ для создания резюме, подготовки к собеседованиям и убедительного выдавания себя за легитимных кандидатов.
Это не только о финансовом воровстве; это новая форма государственной кибершпионажа. Способность незаметно проникать в компании представляет собой значительный риск для безопасности, но к ней относятся не с той же срочностью, что и к более сенсационным угрозам ИИ.
Генеративный ИИ Усиливает Мошенничество
Проблема ускоряется. Генеративный ИИ делает киберпреступность быстрее, дешевле и убедительнее, чем когда-либо. Фишинговые электронные письма теперь не отличимы от легитимных сообщений благодаря языковым моделям на основе ИИ. Синтетические личности — с фальшивыми фотографиями и биографиями — легко создаются, позволяя мошенникам обходить системы проверки подлинности.
Клонирование голоса уже привело к кражам на миллионы долларов. В одном случае сотрудник финансового отдела компании Arup в Гонконге перевёл 25 миллионов долларов после видеозвонка с дипфейком, в котором участвовали финансовый директор компании и коллеги. Все участники были сгенерированными ИИ подделками. Глобальный отчёт об угрозах CrowdStrike на 2026 год показал, что атаки с использованием ИИ выросли на 89% в годовом исчислении, при этом среднее нарушение распространяется по сети менее чем за 30 секунд.
Почему Это Важно
Киберпреступность — это не новость, но масштаб и изощрённость беспрецедентны. Индустриализация мошеннических операций в Юго-Восточной Азии в сочетании с ростом криптовалюты и удалённой работы создала идеальный шторм. Deloitte прогнозирует, что потери от мошенничества, поддерживаемого генеративным ИИ, в США могут достичь 40 миллиардов долларов к 2027 году.
Особенно опасна эмоциональная манипуляция. Романтические аферы, часто нацеленные на уязвимых людей, становятся всё более убедительными с помощью ИИ. Жертвы часто отказываются верить в то, что их обманули, даже когда им предъявляются явные доказательства.
Оборона Против Наступления
В то время как финансовые учреждения и правоохранительные органы используют ИИ для борьбы с мошенничеством (ФБР заморозило сотни миллионов украденных средств в прошлом году), консенсус экспертов мрачен. Роб Джойс, бывший директор по кибербезопасности АНБ, предупреждает, что мы вступаем в период, когда наступление далеко опережает оборону. Элис Марвик, директор по исследованиям Data & Society, разделяет этот пессимизм.
Проблема усугубляется недоотчётностью и нормализацией. Ежегодные рекордные потери воспринимаются как неизбежные издержки ведения бизнеса в Интернете, скрывая крутизну кривой.
Итог
Мошенничество с использованием ИИ — это реальная и неминуемая опасность. В отличие от спекулятивных рисков ИИ, эта угроза уже существует, стоит миллиарды и использует человеческие слабости. Гонка между наступлением и обороной сильно смещена в пользу атакующих, и масштаб проблемы указывает на то, что она будет только ухудшаться, если не будут приняты значительные меры противодействия.
