Дженсен Хуанг оценил риск глобальной катастрофы от ИИ к 2030 году в ноль процентов

В технологическом сообществе разворачивается острая дискуссия о темпах развития искусственного интеллекта. С одной стороны, ряд ученых и специалистов по безопасности призывают к осторожности, ссылаясь на то, что возможности моделей растут быстрее, чем совершенствуются методы их контроля. Ярким примером такого подхода является Эван Хубингер из Anthropic, который ранее оценивал вероятность сценария, при котором ИИ приведет к гибели всего человечества в ближайшие десять лет, как превышающую 10%. Основанием для его тревоги служит нерешенная проблема «alignment» — обеспечения того, чтобы сверхмощные системы действовали в соответствии с человеческими ценностями. В последние недели к подобным предупреждениям присоединились другие исследователи, что обострило спор о том, должна ли индустрия сознательно замедлить прогресс до тех пор, пока риски не будут должным образом контролироваться.

На противоположном полюсе этой дискуссии находится Дженсен Хуанг, сооснователь и генеральный директор NVIDIA. В интервью CBS News он ответил на прямой вопрос о возможности уничтожения человечества ИИ до конца текущего десятилетия категорично: «2030 год не будет концом света. Шансы на это составляют ноль процентов». По мнению Хуанга, нарративы о неизбежной гибели из-за развития ИИ являются преувеличенными и не имеют достаточной научной базы. Он считает, что запугивание общественности такими апокалиптическими сценариями не только необоснованно, но и неответственно.

При этом глава NVIDIA не отрицает саму необходимость осторожности в работе с технологиями. В беседе с журналистами он подчеркнул, что опасения по поводу безопасности имеют под собой основания. Однако, по его оценке, проблема заключается скорее в способе подачи наиболее экстремальных катастрофических сценариев, чем в реальном уровне угрозы на текущем этапе развития.

Хуанг также высказался против идеи замедления прогресса. Отвечая на вопрос о том, следует ли снизить темпы разработки ИИ из-за потенциальных рисков, он заявил, что компании должны развивать эту технологию «так быстро, как только могут». При этом он добавил важное уточнение: скорость не должна быть чрезмерной, и безопасность не может проигрывать в гонке за ускорение. Такой подход отражает позицию индустрии, которая стремится к максимальному использованию потенциала новых технологий.

Значимость мнения Дженсена Хуанга усиливается тем фактом, что NVIDIA является одним из главных бенефициаров текущего бума в сфере искусственного интеллекта. Процессоры компании широко используются для обучения и запуска самых передовых моделей. Несмотря на это, руководитель NVIDIA утверждает, что именно благодаря своей позиции на рынке компании должны быть заинтересованы в безопасности. По его словам, у предприятий есть как возможности, так и стимулы для проектирования систем с учетом принципов безопасности.

Таким образом, дебаты вокруг будущего ИИ все четче делятся на два лагеря. С одной стороны, исследователи предупреждают о том, что растущая мощность систем может привести к последствиям, которые будет трудно контролировать. С другой — представители индустрии, такие как Дженсен Хуанг, считают, что самые мрачные сценарии формулируются слишком радикально и не отражают реального положения дел. Эта поляризация мнений определяет текущий вектор развития отрасли и общественную дискуссию о роли технологий в будущем человечества.