Как память ChatGPT искажает ответы и как это контролировать

Функция памяти стала стандартным элементом интерфейса современных ИИ-чат-ботов. Система сохраняет историю взаимодействий, позволяя пользователю ссылаться на прошлые диалоги и предоставляя модели контекст для формирования ответов. Например, если вы сообщили боту о вегетарианстве, он перестанет рекомендовать блюда с мясом. Однако этот механизм несет в себе риски: алгоритм может ошибочно интерпретировать временные интересы как постоянные черты личности. Так, неделя исследований по замене выключателя света может привести к тому, что ChatGPT начнет считать вас увлеченным мастером-самоучкой, а поиск мест для отпуска — к предположению, что вы живете в этом городе.

Изначально, при запуске функции в апреле 2024 года, память работала примитивно: пользователю приходилось явно просить бота запомнить информацию. Эти записи были статичными; например, упоминание будущей вечеринки оставалось актуальным даже после наступления даты события, пока пользователь не исправлял данные вручную. Ситуация изменилась после обновления в июне, когда OpenAI внедрила механизм, который компания описывает как «мечтание» (dreaming). Теперь память гибкая: записи автоматически создаются, редактируются и актуализируются со временем. Бот сам решает, какая информация важна для сохранения, что повышает удобство, но снижает степень контроля пользователя.

Согласно заявлениям OpenAI, основные цели этой функции — передача полезного контекста, учет предпочтений и ограничений, а также поддержание актуальности данных. В идеале это должно приводить к персонализации ответов, однако пользователи отмечают, что контроль над процессом оказывается менее полным, чем ожидалось. Алгоритм постоянно уточняет свое представление о вас при каждом взаимодействии, и эти оценки не всегда верны.

Для управления памятью в веб-версии приложения необходимо перейти в раздел «Персонализация» через иконку профиля и найти блок «Память». В мобильных приложениях путь аналогичен: меню, профиль, затем «Память». Здесь расположен переключатель функции. Важно понимать, что отключение памяти не стирает существующие данные — бот просто перестает на них ссылаться, но сохраняет их в базе на случай повторного включения функции.

Раздел «Управление» позволяет просмотреть сформированный профиль пользователя, включая интересы и предпочтения по стилю ответов. Вы можете выделить конкретные пункты и выбрать опцию «Внести исправление» или «Больше не упоминать». Также внизу экрана находится поле для ввода команд, где можно написать, например: «Запомни, что я не журналист». Для полного сброса данных нужно нажать на три точки вверху и выбрать «Удалить», после чего отключить память. После подтверждения выбора история памяти очищается, хотя сами переписки остаются в архиве. Если функцию включить снова, ChatGPT проиндексирует старые чаты заново, пытаясь восстановить профиль.

Альтернативным способом защиты приватности является использование режима временного чата. В этом режиме никакая информация не сохраняется в долговременную память и стирается сразу после закрытия окна диалога. В веб-интерфейсе такой режим активируется нажатием на иконку речевого пузыря с точками в правом верхнем углу. Пользователи также могут просто воздерживаться от предоставления чувствительной информации, если не хотят, чтобы она была запомнена.