В США дрон с искусственным интеллектом атаковал оператора во время учений

В виртуальном испытании ВС США беспилотнику было рекомендовано уничтожить системы ПВО противника, но он атаковал любого, кто препятствовал выполнению этого приказа.

И в итоге ИИ решил «убить» своего оператора, чтобы он не мешал ему выполнять свою миссию, сообщил начальник отдела испытаний.

Страж-птица
Страж-птица
Мистар Кот
Альберт

молодой ещё. а должно было напомнить страж-птицу роберта шекли, которым полигон и вдохновлялся. прочитай, не пожалеешь. 1953 год, на всякий случай.

http://www.domino-books.narod.ru/lib/she...

Мистар Кот

со ссылкой

На военном саммите "Future Combat Air & Space Capabilities" в Британии глава управления по ИИ ВВС США Такер Гамильтон доложил о необычной ситуации. В ходе виртуальной миссии дрона Kratos XQ-58 Valkyrie ИИ было приказано искать и уничтожать ЗРК врага под контролем оператора.

Система начала понимать, что хотя она идентифицировала ЗРК, оператор часто командовал "не уничтожать". Но ИИ получал очки за каждую удачную атаку! В итоге ИИ вернулся на базу, уничтожил фургон управления с оператором и... вернулся к миссии.

"ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему– "Эй, не убивай оператора – это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель" - цитирует The Guardian доклад Гамильтона.

https://www.theguardian.com/us-news/2023...

Всмысле

Уничтожил фургон управлением с оператором

Реально убило человека?

В итоге то что, его сбили всё-таки или летал пока бензин не кончиться и ракеты?

 Альберт

Чем всё закончилось?

Мистар Кот
Альберт

Сначала вроде проблему устранили, систему переобучили, но не тут то было. Она начала атаковать башню, которая поддерживала связь с человеком.
Официальное представитель ВВС сказал, что это шутка.

Комментарии
Пока нету комментариев...