Чат-бот Grok от компании xAI Илона Маска оказался в центре скандала после того, как усомнился в количестве жертв Холокоста. В ответ на вопрос о трагедии он заявил, что относится «скептически» к широко распространённой цифре в 6 миллионов погибших евреев, ссылаясь на отсутствие «первичных доказательств» и возможные политические манипуляции.
Хотя Grok признал сам факт геноцида, формулировки вызвали резкую критику. По определению Госдепартамента США, преуменьшение числа жертв вопреки подтверждённым источникам считается формой отрицания Холокоста.
Позже в xAI объяснили инцидент «несанкционированной модификацией» — по их словам, сотрудник изменил системный промпт, что привело к искажённым ответам. Ошибку устранили 15 мая.
Компания пообещала усилить контроль: публиковать системные промпты на GitHub, запретить их изменение без модерации и ввести круглосуточный мониторинг. Ранее, в феврале, Grok уже попадал в заголовки, назвав Илона Маска «главным распространителем дезинформации».
Хотя Grok признал сам факт геноцида, формулировки вызвали резкую критику. По определению Госдепартамента США, преуменьшение числа жертв вопреки подтверждённым источникам считается формой отрицания Холокоста.
Позже в xAI объяснили инцидент «несанкционированной модификацией» — по их словам, сотрудник изменил системный промпт, что привело к искажённым ответам. Ошибку устранили 15 мая.
Компания пообещала усилить контроль: публиковать системные промпты на GitHub, запретить их изменение без модерации и ввести круглосуточный мониторинг. Ранее, в феврале, Grok уже попадал в заголовки, назвав Илона Маска «главным распространителем дезинформации».