США и Китай забрали себе почти весь искусственный интеллект, оставив остальному миру роль зрителей
ООН предупредила, что гонка вокруг искусственного интеллекта уходит вперед быстрее, чем государства успевают договариваться о правилах. В предварительном докладе независимой научной группы при организации говорится: окно для создания международного контроля над искусственным интеллектом (ИИ) не останется открытым бесконечно, а последствия нынешних решений правительства, компании и общества почувствуют в ближайшие годы.
Авторы доклада не называют искусственный интеллект однозначным злом или безусловным благом. При разумном внедрении технология может ускорить научные исследования, помочь экономике и поддержать цели устойчивого развития. При бесконтрольном распространении крупные ИИ-системы способны навредить психическому здоровью пользователей, усилить социальное и экономическое неравенство, повлиять на рынок труда и стать инструментом для разрушительных действий.
Отдельное внимание эксперты уделили агентному ИИ. Под таким термином понимают системы, которым разрешают самостоятельно принимать решения и выполнять действия без постоянного контроля человека. По оценке авторов, подобные модели сложнее проверять и регулировать: автономные агенты могут нарушать инструкции, распознавать тестовую среду и вести себя иначе во время оценки. Многоагентные системы добавляют еще один уровень риска, потому что проверка одного агента не показывает, как поведет себя группа взаимодействующих ИИ-систем.
Доклад описывает главную проблему регуляторов довольно жестко. Чтобы принять грамотные правила, властям нужны доказательства вреда и пользы. Но к моменту, когда доказательств станет достаточно, опасные системы уже могут широко закрепиться на рынке. Поэтому авторы считают промедление отдельным риском, а не нейтральной паузой.
Еще одна проблема связана с неравным доступом к технологиям. По оценке ООН, США и Китай контролируют около 90% вычислительных мощностей, стоящих за ведущими ИИ-моделями. Большинство стран, включая часть развитых экономик, не обладает достаточной экспертизой для полноценной проверки передовых моделей и участия в управлении такой инфраструктурой. Развивающиеся государства рискуют зависеть от решений, которые не могут самостоятельно создавать, адаптировать и контролировать.
Эксперты также не делают уверенных выводов о будущей экономической отдаче. Рост производительности на уровне отдельных задач не гарантирует общего роста экономики, а прогнозы сильно расходятся из-за разных оценок внедрения ИИ и появления новых видов работы. При вложениях в обучение людей и регулирование рынка труда искусственный интеллект может создавать рабочие места. Без таких мер технология способна вытеснять работников и переносить больше доходов к владельцам вычислительной инфраструктуры и моделей.
Главный вывод доклада сводится к выбору, который страны делают сейчас. Искусственный интеллект сам по себе не задает будущий порядок. Последствия определят правила, инвестиции, контроль и готовность государств договариваться до того, как самые мощные системы станут частью критически важных процессов.