Сварить чуму на кухне под диктовку бота. В MI5 оценили реальные угрозы нейросетей. Нейросети добрались до терроризма
Искусственный интеллект перестал быть для спецслужб гипотетическим риском. Британская контрразведка MI5 уже сталкивалась с террористами, которые пытались применять нейросети для разведки и подготовки атак, а следующим этапом могут стать автономные дроны и помощь в создании новых видов биологического оружия. Глава MI5 Кен Маккаллум в годовом обзоре назвал происходящее началом новой эпохи национальной безопасности.
По словам Маккаллума, искусственный интеллект (ИИ) уже ускоряет противостояние между атакующими и защитниками в киберпространстве. Нейросети позволяют быстрее собирать сведения о целях, совершенствовать методы нападения, создавать персонализированную пропаганду и материалы для радикализации. MI5 также выявляла попытки террористов использовать ИИ для улучшения разведки и подготовки атак, причем отдельную опасность создают беспилотники с элементами искусственного интеллекта.
Наибольшую тревогу у руководителя MI5 вызывает пока не реализованный сценарий, при котором нейросети резко снижают порог доступа к знаниям, необходимым для создания химического, биологического или радиологического оружия. В разговоре с журналистами Маккаллум допустил даже появление с помощью ИИ новых патогенов, ранее не встречавшихся. Подобный риск уже обсуждают разработчики крупнейших моделей: OpenAI, Anthropic и Google DeepMind усиливают ограничения на запросы, связанные с биологическим оружием, и отдельно проверяют способности нейросетей в биологии.
Опасность связана не только с появлением принципиально новых средств нападения. ИИ способен дать сравнительно неопытным злоумышленникам доступ к знаниям и инструментам, которые раньше требовали профильной подготовки, времени и команды специалистов. Маккаллум подчеркнул, что многие потенциальные террористы остаются технически слабыми, однако нейросети могут помочь преодолеть часть ограничений и превратить доступную информацию в практически применимый план.
Одновременно MI5 обращает внимание на уязвимость привычной инфраструктуры. Финансовые системы, энергосети, цепочки поставок и промышленность проектировались в условиях значительно меньшего цифрового давления. Взлом банковского приложения способен оставить человека без доступа к счетам, дрон на взлетной полосе может остановить аэропорт, а кибератака на больницу задержать лечение. В 2026 году MI5 возвела защиту и устойчивость инфраструктуры в отдельное ключевое направление работы наряду с борьбой с терроризмом и государственными угрозами.
Для анализа нового класса рисков Великобритания запустила AITAC, Центр оценки угроз искусственного интеллекта. Подразделение работает внутри MI5 и объединяет специалистов контрразведки, Института безопасности ИИ, Национального центра кибербезопасности и Национального агентства по борьбе с преступностью. Центр должен отделять реальные возможности нейросетей от преувеличений и оценивать угрозы, связанные как со злоупотреблением технологиями людьми, так и с развитием самих ИИ-систем.
Маккаллум отдельно указал на проблему выравнивания ИИ, при которой поведение более развитой системы может перестать совпадать с намерениями человека. Руководитель MI5 считает подобный сценарий принципиально новым: человечество прежде не сталкивалось с технологическим субъектом, потенциально способным превзойти людей в анализе и принятии решений. Британские спецслужбы намерены изучать подобные риски совместно с партнерами по Five Eyes, одновременно стараясь сохранить технологическое преимущество перед террористическими и государственными противниками.