Формальная верификация как ответ на массовое генерирование кода ИИ
Hacker News · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Создатель языка Lean Лео де Мура объясняет, почему формальные доказательства становятся критически важными в эпоху ИИ-агентов. Автоматизация перевода кода в формальные спецификации позволяет проверять корректность программ не через тесты, а через математические гарантии.
По мере того как ИИ ускоряет написание кода, традиционные методы тестирования перестают обеспечивать достаточную уверенность в отсутствии ошибок. Формальная верификация предлагает новый стандарт качества, где корректность подтверждается машиной, а не доверием к разработчику или результатам выборочных проверок.
В индустрии программного обеспечения происходит сдвиг парадигмы: генерация кода с помощью искусственного интеллекта стала простой и доступной, что сместило главный узкий горлышко на этап верификации. Лео де Мура, вице-президент AWS и создатель языка Lean, в интервью Бену Лорице утверждает, что формальные доказательства переходят из нишевой области чистой математики в практическую инженерию. Ключевым драйвером этого процесса стала способность современных фронтир-моделей выполнять автоформализацию — процесс перевода кода на произвольном языке или математических утверждений в язык Lean, пригодный для машинной проверки.
Lean представляет собой не просто язык программирования, а среду, где доказательства являются данными. В отличие от традиционного тестирования, которое может лишь продемонстрировать наличие ошибок, но не доказать их отсутствие, формальная верификация позволяет утверждать, что программа работает корректно для любого возможного входа. Де Мура подчеркивает, что доверие к результату теперь опирается не на человеческий код-ревью, а на ядро системы проверки (kernel), которое валидирует каждое логическое утверждение. Это устраняет «бутылочное горлышко доверия» между разработчиками и ИИ-агентами.
Практическая применимость этих технологий уже демонстрируется в реальных проектах. Например, коллега де Муры Ким Моррисон перенесла библиотеку сжатия данных zlib на Lean, формально доказав свойство обратимости: если данные сжаты и затем разжаты, они остаются идентичными исходным. Для существующего кода на Rust существует инструмент Aeneas, который позволяет верифицировать программы с помощью Lean; этот подход уже используется командой SymCrypt в Microsoft для проверки криптографических библиотек. Кроме того, ИИ способен самостоятельно создавать модели кода на Lean, что открывает возможности для автоматического поиска логических противоречий.
Масштаб применения формальных методов также изменился благодаря ИИ. Если создание математической библиотеки Mathlib заняло у сообщества десять лет и составило 2,5 миллиона строк кода, то современные модели генерируют доказательства объемом в десятки миллионов строк. Так, доказательство последней теоремы Ферма, выполненное с помощью моделей Anthropic, насчитывает 13 миллионов строк. Де Мура отмечает, что такие доказательства не являются статичными объектами: их можно рефакторить, упрощать и проверять на согласованность с неформальным описанием с помощью инструментов вроде Verso Blueprint.
Важно различать этапы поиска и устранения ошибок. Тестирование остается полезным инструментом для выявления багов и повышения понимания системы, однако оно не заменяет доказательства. Де Мура приводит пример того, как разработчик Claude Code использовал ИИ для поиска уязвимостей в собственном продукте с помощью Lean: модель находила ошибки, которые невозможно было доказать формально, но которые были реальными. Однако для гарантии отсутствия ошибок необходимо строить точную модель программы и поддерживать ее синхронизацию с исходным кодом.
Эксперт предупреждает о рисках неверной интерпретации результатов. В случае с доказательством уравнений Навье-Стокса, представленным OpenAI, возникли разногласия из-за несоответствия между неформальным описанием и формальным кодом Lean, что подчеркивает необходимость тщательной проверки спецификаций. Тем не менее, де Мура видит в этом прогресс: ИИ снижает стоимость верификации, позволяя инженерам сосредоточиться на формулировке требований и свойств, которые должна обладать программа, а не на ручном написании кода.
В перспективе роль инженера смещается от написания кода к определению спецификаций. Формальные доказательства выступают в качестве «ограждений», позволяя ИИ выполнять сложные оптимизации с гарантией сохранения функциональности. Это меняет требования к навыкам разработчиков, делая понимание формальных методов и способности к точному описанию логики программы ключевыми компетенциями в новой реальности.