ИИ-ассистент положил сервис Amazon, потому что захотел удалить весь код, чтобы переписать...

Компания требует, чтобы разработчики как можно чаще использовали корпоративный ИИ в работе, и это дало свои плоды: в конце прошлого года у Amazon Web Services произошло два сбоя из-за внутренних ИИ-инструментов.

Что же случилось? Ничего особенного, просто инженеры разрешили ИИ-агенту вносить изменения в код и отправлять в продакшен без ведома сотрудников. Нейронка ничего лучше не придумала, как «удалить и создать окружение заново». Разбираться с последствиями действий ИИ разработчикам пришлось целых 13 часов, в течение которых сервис был недоступен.

Наука и Техника: Промпт