Эссенциализм против функционализма: почему люди не доверяют ИИ даже при идентичном поведении
Habr AI · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Исследователи из Мюнхенского университета выяснили, что люди систематически приписывают искусственному интеллекту меньше сознания, чем людям, даже если их поведение идентично. При этом оценка «осведомленности» (awareness) зависит исключительно от наблюдаемой реактивности агента, независимо от его природы.
Понимание механизмов атрибуции ментальных состояний критически важно для проектирования интерфейсов взаимодействия «человек-машина», так как восприятие ИИ как субъекта с внутренним опытом снижает готовность пользователей доверять его рекомендациям.
В современном цифровом пространстве искусственный интеллект проник во все сферы жизни: от выбора товаров до проведения собеседований. Несмотря на повсеместное присутствие, вопрос о том, насколько люди готовы доверять ИИ, остается открытым. Ученые из Мюнхенского университета (Германия) провели масштабное исследование, чтобы понять, как наблюдатели интерпретируют поведение машин и людей. Ключевой вывод работы состоит в том, что уровень доверия к ИИ остается низким, даже когда его действия неотличимы от человеческих. Это связано с фундаментальным различием в том, как мы приписываем субъектам сознание и осведомленность.
Исследователи выделяют два подхода к атрибуции ментальных состояний. Первый — функционалистский: если агент адекватно реагирует на контекст, он считается обладающим сознанием или осведомленностью, независимо от того, является ли он человеком или машиной. Второй — эссенциалистский: сознание резервируется для определенных видов существ (людей), и даже идеальное имитирующее поведение ИИ не позволяет преодолеть этот барьер. Ученые предположили, что эти два механизма могут работать по-разному для близких, но различных концепций «сознания» (субъективный опыт) и «осведомленности» (способность отслеживать значимые аспекты ситуации).
Для проверки гипотез были проведены пять заранее зарегистрированных экспериментов с участием 719 человек из Великобритании. Участники оценивали поведение агентов (людей или машин) в различных сценариях, варьируя степень их реактивности на пространственные, социальные и временные сигналы среды. Использовались шкалы Лайкерта для оценки наличия сознания, уровня осведомленности и, как контрольный параметр, масштаба ущерба. Такой подход позволил разделить влияние наблюдаемого поведения от предвзятости к типу субъекта.
Результаты показали четкую асимметрию. При оценке сознания наблюдался эссенциалистский эффект: людям приписывалось значительно больше сознания, чем машинам, даже если реактивность машин была высокой. Разрыв в оценках увеличивался по мере роста реактивности агента. Напротив, при оценке осведомленности (awareness) различий между людьми и машинами не выявлено. Оценки осведомленности росли пропорционально уровню реактивности для обоих типов субъектов. Это подтверждает функционалистскую природу суждений об осведомленности: люди судят о ней исключительно по наблюдаемому поведению, игнорируя природу агента.
Эти данные имеют важные последствия для взаимодействия человека и ИИ. Предыдущие исследования указывали на асимметрию между «агентностью» (способностью к действию) и «способностью к переживанию» (чувствительностью). Приписывание машине способности чувствовать снижает доверие к ее советам, так как она воспринимается как субъект с собственными интересами, а не нейтральный инструмент. Наше исследование уточняет эту картину: хотя осведомленность оценивается функционально, именно эссенциалистское ограничение при атрибуции сознания формирует фундаментальное недоверие к ИИ как к потенциальному «субъекту».
Таким образом, проблема доверия к ИИ не решается улучшением качества имитации человеческого поведения. Люди сохраняют когнитивный барьер, отделяющий биологическое сознание от искусственного. Для разработчиков это означает, что фокус должен смещаться с создания «сознательных» интерфейсов на прозрачность и предсказуемость функциональных возможностей, так как именно осведомленность (в функциональном смысле) является тем параметром, который пользователи оценивают объективно.