Для борьбы с изменениями в коде от ИИ-систем предложено предоставлять запись сеанса...

Для борьбы с изменениями в коде от ИИ-систем предложено предоставлять запись сеанса разработки

Сопровождающий веб-браузер Dillo высказал идею о том, как проверять, внесены ли изменения в код со стороны человека или ИИ. По его мнению, разработчикам нужно предоставлять записи сеансов работы.

Проект Dillo принимает патчи, которые создают только люди, однако их отсев отнимает много времени. Теперь новым участникам проекта предлагается присылать записи сеансов работы, чтобы подтвердить, что это не ИИ. При использовании Vim сеанс может быть записан, например, при помощи утилиты asciinema. Отмечается, что достаточно будет одной такой записи.

Пока эта идея обсуждается и не переведена в разряд обязательных требований. Не исключено, что запись сеанса тоже можно создать с помощью ИИ-системы. Однако первые эксперименты показали, что подобные записи можно отличить от сделанных вручную, так как они не содержат свойственных человеку действий, ошибок и размышлений в ходе работы.

Между тем GitHub обновил документацию реестра. Теперь привычная команда npm publish только отправляет пакет в очередь — чтобы он стал доступен миллионам разработчиков, мейнтейнеру нужно дополнительно подтвердить релиз с двухфакторной аутентификацией. Это первое серьёзное изменение модели публикации за всю историю npm. Мера, в частности, направлена на борьбу с галлюцинациями LLM при генерации кода.

источник