Учёные заставили искусственный интеллект… спать и видеть сны. И именно так избавили его от галлюцинаций
Мозг днём запоминает новую информацию, а во сне разбирает накопившиеся воспоминания: закрепляет полезные и ослабляет лишние. Похожий принцип исследователи перенесли в сети Хопфилда, одну из классических моделей искусственного интеллекта. Новая версия алгоритма научилась работать с реальными данными, где одни признаки часто встречаются намного чаще других, например с почти полностью белыми или очень тёмными изображениями.
Сети Хопфилда появились в 1982 году и стали одной из первых математических моделей ассоциативной памяти. Искусственные нейроны в подобных системах связаны между собой, а состояние всей сети хранит запомненный образ. После обучения модель способна восстановить знакомый объект даже по неполному или повреждённому изображению.
Человеческий мозг решает похожую задачу постоянно. Разные деревья отличаются формой кроны, цветом листьев и размером ствола, однако человек без труда относит их к одной категории. Ассоциативная память связывает несколько непохожих изображений с общим понятием. Сеть Хопфилда тоже может обучиться на фотографиях деревьев, собак и яблок, а затем узнать нужный объект по кадру с шумом или недостающими деталями.
У простейшей версии модели есть серьёзное ограничение. Она хранит сравнительно мало образов: примерно 13 воспоминаний на каждые 100 нейронов. Оставшуюся ёмкость занимают ложные состояния, которые не соответствуют ни одному объекту из обучающего набора.
Математически такие состояния называют ложными аттракторами. Сеть стремится к ним во время восстановления образа, как шар скатывается в ближайшую впадину. Ложный аттрактор смешивает признаки нескольких настоящих воспоминаний. В результате модель может собрать из частей знакомых объектов несуществующую комбинацию и принять её за правильный ответ. По смыслу процесс напоминает галлюцинацию.
Для очистки памяти исследователи ранее предлагали алгоритмы «сновидения». После обучения сети давали случайное начальное состояние и позволяли свободно переходить между доступными конфигурациями. В ходе этого перебора система обнаруживала ложные аттракторы и ослабляла связи, которые к ним приводили.
Слишком долгая очистка создавала новую проблему. Вместе с ошибочными состояниями сеть начинала стирать и полезные воспоминания. Потеря ранее выученной информации получила название катастрофического забывания. Модель освобождала память от ложных образов, но одновременно разрушала правильные.
В 2025 году исследователи разработали алгоритм Daydreaming, или «Дневные грёзы», который объединил обучение и очистку. Сеть больше не разделяла работу на две отдельные фазы. Во время запоминания новых образов алгоритм одновременно укреплял правильные состояния и подавлял ложные.
Совмещение двух процессов резко увеличило ёмкость. Вместо 13 воспоминаний на 100 нейронов сеть смогла приблизиться к теоретическому пределу: одному воспоминанию на каждый нейрон. Система больше не тратила большую часть памяти на смешанные конфигурации, которые не имели отношения к обучающим данным.
Однако первая версия Daydreaming хорошо работала лишь с уравновешенными наборами. Для чёрно-белых изображений подходящие данные должны содержать примерно одинаковое количество чёрных и белых пикселей. В лабораторных экспериментах это условие выполнить легко, но реальные фотографии редко подчиняются строгому балансу.
Сильно пересвеченный снимок может состоять почти целиком из белых пикселей, а ночной кадр из чёрных. Когда один цвет явно преобладает, разные изображения становятся похожими друг на друга. Общий фон занимает большую часть кадра и мешает сети заметить детали, по которым можно различить отдельные объекты.
Проблему хорошо объясняет распознавание лиц. При одинаковом крупном плане и схожем фоне множество пикселей совпадает на всех фотографиях. Если алгоритм сравнивает абсолютные значения, общие участки получают слишком большое влияние. Форма глаз, линия рта и другие отличительные черты теряются на фоне повторяющейся информации.
Ранние способы борьбы с перекосом требовали анализировать состояние всей сети сразу. Такие глобальные операции помогают математической модели, но плохо согласуются с работой мозга. Биологический нейрон связан с ограниченным числом соседей и не получает сведения обо всей нервной системе перед каждым изменением связи.
Новая версия получила название Centered Daydreaming, или «Центрированные дневные грёзы». Алгоритм сравнивает не сами значения пикселей, а их отклонения от среднего. Для набора лиц система сначала определяет условное среднее лицо, а затем сосредотачивается на чертах, которые отличают каждый снимок от общей основы.
Этот принцип легко представить на примере тёмных фотографий. Почти чёрный фон перестаёт считаться главным признаком, поскольку встречается во всём наборе. Алгоритм уделяет больше внимания редким светлым участкам, контурам и другим изменениям относительно среднего изображения. Именно различия несут информацию, необходимую для распознавания.
Centered Daydreaming сохранил способность сети восстанавливать воспоминания даже при сильном перекосе данных. Преобладание белых или чёрных пикселей почти не ухудшало результат, хотя первая версия алгоритма в подобных условиях теряла точность.
Изменения при этом остаются локальными. Каждый искусственный нейрон корректирует связи на основе доступной ему информации, а не обращается к полному состоянию модели. Такое устройство ближе к биологическим системам, где клетки взаимодействуют с ограниченным кругом соседей.
Сети Хопфилда намного проще современных больших нейросетей, однако упрощённая структура помогает исследователям подробно проследить процесс обучения. В сложных моделях миллиарды параметров затрудняют поиск причины конкретной ошибки, а небольшая ассоциативная сеть позволяет увидеть, как появляются ложные воспоминания и какие связи помогают их устранить.
Работа над Centered Daydreaming показывает, как модель может отделять важные различия от преобладающего фона без централизованного управления. Подобные механизмы в дальнейшем могут пригодиться при создании более понятных и экономных систем искусственного интеллекта, однако исследование пока описывает улучшение классической модели памяти, а не готовую замену современным нейросетям.