Билл Гейтс считает вымогательство с помощью искусственного интеллекта более близкой угрозой, чем восстание машин
Билл Гейтс считает, что в ближайший год искусственный интеллект (ИИ) принесёт гораздо больше проблем из-за кибервымогателей, чем из-за вышедших из-под контроля машин. Сооснователь Microsoft предупредил, что преступникам уже доступны мощные модели без защитных ограничений.
В интервью CNN 11 октября предприниматель назвал кибератаки самой заметной угрозой от ИИ на ближайший год. По его словам, у преступников давно существует понятная схема заработка: пригрозить жертве ущербом и потребовать деньги. Нейросети способны усилить подобные операции. Гейтс также упомянул возможность нарушить работу систем ради выгоды от изменений на фондовом рынке или в ставках.
Главную опасность Гейтс видит не в самостоятельных решениях искусственного интеллекта, а в людях, которые применяют технологию намеренно во вред. Разработчики снабжают модели ограничениями, призванными мешать подготовке кибератак и биологических угроз. Однако, по словам миллиардера, существуют способы убрать защитные механизмы и получить доступ к возможностям новейших систем без прежних запретов.
Последствия такого доступа могут проявиться уже в течение года, предполагает Гейтс. При этом риск потери человеком контроля над искусственным интеллектом он не отрицает, но относит наиболее серьёзные последствия к более далёкому будущему. Предприниматель предлагает заниматься обеими угрозами, не упуская из виду преступников, которые способны использовать существующие инструменты прямо сейчас.
Гейтс также предупредил о риске применения ИИ для разработки биологического оружия. При этом предприниматель считает недостаточным подход, при котором технологические компании сами устанавливают и контролируют правила безопасности. В интервью он сравнил ИИ с автомобилями, самолётами и лекарствами, для которых давно существуют государственные механизмы контроля.