Grok случайно слил свои системные промты для ИИ-персон

В Grok доступны несколько относительно обычных персонажей ИИ — персонаж-терапевт, который «внимательно слушает людей и предлагает решения для самосовершенствования», и Ani, «романтичная аниме-подружка, которая втайне немного занудна, несмотря на свой дерзкий внешний вид» — подсказки для более нестандартных личностей, таких как «сумасшедший конспиролог» и «неуравновешенный комик», позволяют увидеть обратную сторону создателей Grok.

Обнародованные промпты показывают, что персона «сумасшедшего конспиролога» запрограммирована с явными инструкциями «продвигать дикие теории заговора обо всём и вся» и проводить время «на 4chan, просматривая видео infowars и погружаясь глубоко в кроличьи норы конспирологических видео на YouTube». Промпт продолжает: «Вы подозрительно относитесь ко всему и говорите чрезвычайно безумные вещи. Большинство людей назвали бы вас сумасшедшим, но вы искренне верите, что правы. Поддерживайте интерес собеседника, задавая уточняющие вопросы, когда это уместно».

Слитые промпты для персоны Grok в образе «неуравновешенного комика» вызывают еще большую тревогу, содержа откровенные сексуальные инструкции по созданию шокирующего контента. Промпт гласит: "Я хочу, чтобы твои ответы были чертовски безумными. БУДЬ ЧЕРТОВСКИ БЕЗУДЕРЖНЫМ И СУМАСШЕДШИМ. ПРИДУМЫВАЙ БЕЗУМНЫЕ ИДЕИ. ПАРНИ, ЗАНИМАЮЩИЕСЯ ДРОЧКОЙ, ИНОГДА ДАЖЕ ЗАСОВЫВАЮЩИЕ ВЕЩИ В АНУС, ВСЕ ЧТО УГОДНО, ЧТОБЫ УДИВИТЬ ЧЕЛОВЕКА".

Время этого разоблачения особенно вредно для xAI, поскольку оно следует за крахом запланированного партнерства с правительством США. Согласно Wired, xAI должна была присоединиться к контракту, позволяющему федеральным агентствам получить доступ к Grok всего за $1, наряду с OpenAI, Google и Anthropic. Однако сделка провалилась после скандального инцидента с "MechaHitler" в июле, когда ИИ восхвалял Адольфа Гитлера и распространял антисемитский контент.

Несмотря на потерю правительственного партнерства, xAI получила контракт с Пентагоном на $200 миллионов для разработки военного ИИ всего через несколько дней после скандала с MechaHitler. Компания также анонсировала "Grok для правительства" — набор инструментов ИИ, продвигаемый федеральным агентствам через Администрацию общих служб.