Anthropic и Accenture выделят по миллиарду долларов на независимую оценку ИИ
distributique.com · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
Anthropic и Accenture объявили о партнерстве, в рамках которого каждая компания инвестирует не менее одного миллиарда долларов за пять лет в независимую оценку моделей искусственного интеллекта. Совместные команды будут интегрированы в процессы разработки для тестирования уязвимостей и проверки механизмов безопасности.
Ценность: Сотрудничество знаменует появление новой роли встроенных оценщиков внутри лабораторий ИИ, что позволяет сделать независимый аудит постоянным элементом разработки передовых моделей и помогает компаниям лучше контролировать риски при их внедрении.
Anthropic и Accenture объявили о стратегическом партнерстве, направленном на укрепление системы оценки безопасности передовых моделей искусственного интеллекта. В рамках соглашения каждая из компаний планирует инвестировать не менее одного миллиарда долларов в течение пяти лет. Эти средства будут направлены на создание независимых команд, которые будут заниматься тестированием уязвимостей, проведением упражнений «red teaming», оценкой соответствия моделей этическим нормам (alignment) и проверкой эффективности защитных механизмов.
Ключевой особенностью этого подхода является интеграция оценщиков непосредственно в структуру лаборатории. Команды, которые будут управляться подразделением Faculty от Accenture, получат значительно расширенный доступ к внутренним процессам разработки. Это позволит специалистам отслеживать этапы проектирования и обучения моделей, анализировать ключевые решения разработчиков и оперативно сообщать о потенциальных инцидентах или уязвимостях.
В Anthropic отмечают, что подобная модель взаимодействия является новшеством в отрасли. На данный момент не существует общепринятых стандартов, определяющих объем информации, к которой должны иметь доступ внешние оценщики. Также отсутствуют устоявшиеся рамки для финансирования таких проектов и форматов предоставления отчетов о результатах работы.
Важно подчеркнуть, что партнерство с Accenture носит неэксклюзивный характер. Лаборатория намерена сотрудничать с несколькими организациями, занимающимися оценкой ИИ. Это свидетельствует о стремлении сделать независимый аудит постоянным и многоуровневым элементом жизненного цикла разработки сложных моделей.
Данная инициатива отражает общий тренд в технологической индустрии на повышение прозрачности и управляемости рисков. По мере того как компании внедряют все более мощные ИИ-системы, потребность в надежных механизмах контроля их поведения и безопасности становится критически важной для устойчивого развития отрасли.