ИИ пишет код, но инженерия системы остается за человеком

Hacker News · оригинал

Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Использование ИИ-агентов для генерации кода не снимает с разработчиков ответственности за архитектурные решения и верификацию результатов. Ключевым вызовом становится управление контекстом и обеспечение прозрачности процессов принятия решений в условиях ограниченных возможностей моделей.

Материал предлагает практическую рамку для интеграции ИИ в инженерные процессы, смещая фокус с автоматизации написания кода на сохранение контроля над качеством, контекстом и ответственностью за результат.

Распространенное утверждение о трансформации разработки ПО под влиянием искусственного интеллекта требует уточнения: ИИ способен взять на себя значительную часть реализации, анализа и тестирования, однако ключевые решения о том, что именно строить и какие доказательства достаточны для принятия результата, остаются в зоне ответственности инженера. Автор статьи предостерегает от упрощения роли разработчика до «печатной машинки», подчеркивая, что автоматизация задач не тождественна замене рабочих мест и требует доказательной базы, выходящей за рамки впечатляющих демонстраций.

Одной из главных проблем является хрупкость контекста в длинных сессиях взаимодействия с моделью. Суммаризация истории диалога может привести к потере важных условий, которые делали то или иное архитектурное решение разумным. Например, указание «использовать локальный кэш» теряет смысл без понимания причины — необходимости работы экрана без подключения к сети. Для решения этой проблемы автор рекомендует создавать устойчивые документы, такие как PROJECT_GUIDE.md, где фиксируются цели продукта, границы системы и критерии качества. Эти файлы должны быть подключены к инструментам через поддерживаемые механизмы инструкций проекта, а не просто существовать в репозитории.

Практический подход предполагает явное определение следующего поведения перед генерацией кода. На примере гипотетического мобильного поискового экрана автор демонстрирует важность формулировки приемочных тестов: отображение совпадений, обработка пустых результатов и предотвращение перезаписи старых данных новыми запросами при асинхронной фильтрации. Инженер должен решать технические вопросы, такие как необходимость асинхронности, на основе требований к производительности и размеру данных, а не слепо следовать шаблонам. Выбор архитектуры, например однонаправленный поток данных, должен быть осознанным решением, задокументированным в проектных заметках.

Верификация генерируемого кода требует критического подхода. Форматтеры проверяют стиль, компиляторы — синтаксис, а тесты — поведение в конкретных условиях, но ни один из этих инструментов не гарантирует правильность выбора продуктового поведения. Тесты могут быть нестабильными из-за внешних факторов, а сгенерированные тесты способны закрепить те же ошибки, что и реализация. Поэтому проверка утверждений должна проводиться вручную на основе заранее определенных приемочных критериев, включая случаи ошибок. Локальные хуки и серверные проверки помогают автоматизировать контроль, но окончательное решение о принятии изменений остается за человеком.

Документация в условиях ИИ-разработки требует особого внимания к пропорциональности. Создание длинных цепочек документов для небольших изменений увеличивает нагрузку на ревью и поддержку. Автор ссылается на работы Биргитты Бёкелер и Франсуа Занинотто, указывая на разные подходы к спецификациям: от написания спецификаций первым делом до их использования как основного источника истины. Выбор подхода зависит от контекста: для регулируемых отраслей или публичных интерфейсов нужны детальные спецификации, тогда как для быстрых итераций достаточно кратких приемочных тестов. Критерием полезности документа является его вклад в принятие решений и возможность его поддержки.

Итоговая модель работы строится на цикле: определение поведения, предоставление контекста, проверка интерпретации агентом, инспекция изменений, сбор доказательств и принятие решения. Если ревью становится неуправляемым, следует уменьшать размер инкрементов или улучшать проверки, а не требовать от ИИ большего объема кода. Этот подход не является контролируемым исследованием производительности, но представляет собой рабочую позицию, основанную на инженерных стандартах: возможность объяснить, что было запрошено, что изменилось и почему доказательства поддерживают принятие этих изменений.