Скормили черновик статьи ChatGPT или Claude? Не удивляйтесь, если OpenAI или Anthropic украдут ваше открытие
Учёные всё чаще доверяют чат-ботам самое ценное: черновики статей, код, результаты экспериментов и идеи, которые ещё никто не видел. Теперь у исследователей появился неприятный вопрос: может ли разработчик искусственного интеллекта (ИИ) позже представить похожую находку как достижение собственной модели? Два недавних спора вокруг OpenAI и Anthropic усилили такие опасения, хотя доказательств кражи неопубликованных работ пока нет.
Первый громкий конфликт возник после того, как OpenAI объявила о решении задачи Навье-Стокса, одной из знаменитых математических задач тысячелетия. Математик Тристан Бакмастер вместе с коллегой двигался в близком направлении и во время работы пользовался Codex, куда отправлял запросы по своей ещё не опубликованной работе. После объявления OpenAI математик задался вопросом, не помогли ли его разговоры с ИИ конкурентной команде быстрее прийти к результату.
OpenAI после внутренней проверки заявила, что запросы Бакмастера за два месяца до публикации никак не могли повлиять на систему, в том числе через обучение. Компания также утверждает, что её доказательство существенно отличается от результата Бакмастера и его коллеги. Прямых свидетельств того, что OpenAI получила математические идеи из личных сеансов Codex, исследователи не представили.
Вскоре похожий спор возник в биологии. Anthropic объявила, что сотни агентов Claude просмотрели огромную базу последовательностей ДНК и нашли необычную систему ART у бактериофагов, вирусов, заражающих бактерии. В центре находки находится обратная транскриптаза, фермент, который копирует информацию из РНК в ДНК. Рядом Claude заметил повторяющиеся участки ДНК и дополнительный белок, после чего исследователи проверили находку в лаборатории.
Но биолог Марио Родригес Местре сообщил, что его группа изучала ту же молекулярную систему несколько лет. По словам учёного, во время работы он загружал в Claude черновик диссертации, рукопись будущей статьи и другие ещё не опубликованные результаты. Anthropic ответила, что модель, сделавшая находку, не обучалась на пользовательских переписках. Местре тоже не утверждает, что располагает доказательствами заимствования.
Именно неопределённость тревожит часть научного сообщества сильнее всего. Большие языковые модели стали удобными рабочими инструментами: с ними ищут литературу, пишут код, проверяют гипотезы и разбирают сложные расчёты. Во время обычного диалога исследователь может постепенно передать сервису целую цепочку ещё не опубликованных идей, причём потом почти невозможно установить, повлиял ли конкретный разговор на будущую модель или результат другого проекта.
Правила обработки таких переписок зависят от сервиса, типа аккаунта и настроек. OpenAI предупреждает, что содержимое личных аккаунтов ChatGPT и Codex может использоваться для обучения моделей, если пользователь не отключил соответствующую настройку. В корпоративных продуктах компания по умолчанию не обучает модели на запросах и ответах клиентов. Anthropic также позволяет владельцам потребительских аккаунтов выбирать, можно ли использовать их разговоры для улучшения Claude, а данные коммерческих клиентов по умолчанию в обучение не отправляет.
Пока ни история с математикой, ни случай с биологической системой не доказали, что ИИ-компания присвоила чужую неопубликованную идею. Но оба конфликта показали новую проблему научной работы: чат-бот одновременно помогает развивать гипотезу и получает доступ к материалам, которые автор ещё не готов раскрывать. Поэтому для черновиков, результатов до публикации и других ценных материалов исследователям приходится думать о конфиденциальности ещё до того, как они нажмут кнопку отправки.