«ИИ-катастрофу» ждут в ближайший год.

Крупный ИИ-инцидент может произойти в ближайшие 6-12 месяцев и вызвать серьезный общественно-политический бунт против ИИ, считают многие инсайдеры индустрии. Axios пишет, что подобные сценарии прорабатывают топ-менеджеры OpenAI, Anthropic и других ИИ-компаний.

Основной вариант — масштабная кибератака с помощью ИИ отключает доступ к финансам, отключает интернет или даже обрывает подачу электричества и воды. После этого общество и политики ополчаются на технологию и, конечно, ее создателей.

Подобные «военные игры» — нормальное явление для крупных корпораций или госструктур (Пентагон десятилетиями прорабатывает сценарии самых разных войн). Но издание отмечает, что многие исследователи и топ-менеджеры ИИ-компаний считают крупный инцидент неизбежным.

В OpenAI подтвердили, что проводят подобные учения, однако заявили, что неизбежными эти сценарии там не считают. В Anthropic от комментариев отказались.