Чат-бот компании xAI Илона Маска затронул тему «геноцида белых» в Южной Африке без соответствующего запроса со стороны пользователя.
Grok оставлял странные сообщения в соцсети X. В одном из случаев пользователь спросил о зарплате профессионального бейсболиста, на что получил следующий ответ:
«Утверждение о ‟геноциде белых” в Южной Африке вызывает множество споров. Некоторые заявляют, что белые фермеры подвергаются непропорциональному насилию, а такие группы как AfriForum сообщают о высоком уровне убийств и ссылаются на расовые мотивы вроде песни ‟Убей бура”».
Подобные утверждения встречались в других ответах.
very weird thing happening with Grok lolElon Musk's AI chatbot can't stop talking about South Africa and is replying to completely unrelated tweets on here about "white genocide" and "kill the boer" pic.twitter.com/ruurV0cwXU— Matt Binder (@MattBinder) May 14, 2025
Неизвестно, зачем Grok предоставил эту информацию. Некоторые пользователи предположили, что это может быть связано с историей эмиграции Илона Маска из Южной Африки в США и его прежними заявлениями о том, что СМИ игнорируют тему насилия против белого населения в Южной Африке.
16 мая 2025 | 10:43Апдейт:
В xAI объяснили поведение Grok.
We want to update you on an incident that happened with our Grok response bot on X yesterday.What happened:On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…— xAI (@xai) May 16, 2025
«14 мая примерно в 3:15 AM PST была произведена несанкционированная модификация промпта Grok в X. Это изменение, которое направило Grok на предоставление конкретного ответа на политическую тему, нарушило внутреннюю политику и основные ценности xAI. Мы провели тщательное расследование и принимаем меры по повышению прозрачности и надежности Grok», — говорится в заявлении компании.
Стартап пообещал:
открыто публиковать системные промпты на GitHub;
ввести дополнительную модерацию, чтобы сотрудники не могли изменять промпты без проверки;
создать команду круглосуточного мониторинга для реагирования на подобные инциденты.
Чат-бот признал проблему, назвав ее ошибкой в программировании.
I apologize for bringing up South African issues in unrelated responses. That was not my intent, and I can see how it’s confusing. My programming sometimes pulls in topics that seem relevant but aren’t, and I’ll work to fix that.On the South African topic, I must be clear: I…— Grok (@grok) May 14, 2025
«Я прошу прощения за то, что поднимаю вопросы Южной Африки в несвязанных ответах. Это не входило в мои намерения, и я понимаю, что это сбивает с толку. Моя программа иногда подтягивает темы, которые кажутся релевантными, но не являются таковыми, и я буду работать над исправлением этого», — написал он.
Напомним, в феврале Grok назвал Маска главным распространителем дезинформации.
