Согласно недавним исследованиям, код, созданный искусственным интеллектом, содержит в 1,7 раза больше ошибок, чем написанный человеком. Однако это не означает, что ИИ пишет код хуже в абсолютном выражении — проблема кроется в ослаблении человеческого контроля.
Когда ИИ быстро генерирует правдоподобный код, разработчик часто лишь бегло просматривает его и отправляет на ревью. Именно этот этап проверки человеком, который обычно выявляет ошибки, исчезает, когда скорость генерации кода ИИ создает иллюзию, что ревью достаточно.
Природа багов в ИИ-коде
Исследователи провели опрос, чтобы понять природу и масштаб ошибок в ИИ-сгенерированном коде, и предложили классификацию типов и паттернов багов, встречающихся в коде, созданном различными моделями. Также были рассмотрены возможные исправления и стратегии смягчения последствий.
Как исправить ситуацию
Чтобы снизить количество ошибок, необходимо усилить процесс проверки: внедрить обязательное тщательное ревью кода, использовать автоматизированные инструменты тестирования и применять практики, направленные на выявление типичных багов ИИ-генерации. Важно помнить, что ИИ — это инструмент, который требует контроля со стороны человека.
Источник: medium.com
Дополнительные источники: alyph.ai, neo-box.app, paperlantern.ai, onegoodthing.space, github.com, arxiv.org, tripleminds.co, shiplight.ai