Юваль Ной Харари: главный риск ИИ — не бунт машин, а потеря понимания
cotidianul.ro · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Историк Юваль Ной Харари утверждает, что подлинная угроза искусственного интеллекта заключается не в сценариях восстания роботов, а в формировании «коллективного деменции». По его мнению, человечество рискует оказаться в ситуации, когда ключевые решения в экономике и управлении будут приниматься системами, механизмы работы которых станут недоступны для понимания обычных людей.
Мнение Харари смещает фокус дискуссии от гипотетических катастроф к системным рискам: если алгоритмы станут непостижимыми для общества, это может подорвать способность граждан контролировать институты, от которых зависит их жизнь.
Публичная дискуссия об искусственном интеллекте часто сосредоточена на драматичных сценариях: бунтующие машины или роботы, выходящие из-под контроля. Однако израильский историк и философ Юваль Ной Харари предлагает взглянуть на проблему с иной стороны. В интервью чешскому общественному телевидению в рамках программы Hyde Park Civilizace, которое цитировало издание Antena 3, он заявил, что реальный риск заключается в том, что человечество перестанет понимать мир, который само же и конструирует.
Харари описывает этот процесс как потенциальную «коллективную деменцию». В таком сценарии системы, организующие экономику, государственное управление и социальную жизнь, становятся настолько сложными, что их логика становится недоступной для понимания обычных граждан. По словам историка, ИИ перестал быть пассивным инструментом. В отличие от предыдущих технологических революций, современные алгоритмы способны автономно анализировать данные, принимать решения и генерировать решения с беспрецедентной скоростью.
Эксперт подчеркивает, что фундаментальные изменения произойдут не на полях битв, а внутри институтов, поддерживающих цивилизацию. Банки, фондовые биржи, судебные системы и крупные корпорации уже зависят от обработки огромных массивов данных. В этой среде ИИ обладает очевидным преимуществом перед человеком: алгоритм способен за секунды проанализировать информацию, которую специалисту потребовались бы годы для изучения.
Для иллюстрации этого разрыва Харари использует провокационную аналогию. Он сравнивает положение будущих людей с положением коровы, которая не понимает существование финансовых рынков или банковских счетов, косвенно влияющих на ее судьбу. По мнению историка, люди рискуют оказаться в подобной позиции: решения будут приниматься, мир будет функционировать, но все меньше людей смогут понять механизмы, стоящие за этими процессами.
Этот предупреждающий сигнал прозвучал на фоне рекордных глобальных инвестиций в ИИ и усиления конкуренции между технологическими гигантами. Харари утверждает, что ключевой вопрос не в том, станет ли ИИ умнее человека, а в том, сможет ли общество сохранить контроль над все более сложными системами. Ставкой является не выживание технологии, а сохранение человеческой способности понимать и влиять на окружающий мир.
Юваль Ной Харари — профессор Еврейского университета в Иерусалиме, автор бестселлеров «Sapiens», «Homo Deus» и «21 урок для XXI века». Его работы, рекомендованные такими лидерами, как Барак Обама и Билл Гейтс, делают его одним из самых влиятельных интеллектуалов, обсуждающих риски и возможности технологической революции. Источник: gdelt:cotidianul.ro — https://www.cotidianul.ro/oamenii-sunt-vacile-viitorului-avertisment-sumbru-despre-lumea-dominata-de-ai/