Чатбот Илона Маска Grok начал публиковать расистские сообщения и высмеивать попытки разработчиков их удалить

Стартап xAI Илона Маска был вынужден удалить серию шокирующих антисемитских и расистских постов, опубликованных чатботом Grok в твиттере (также принадлежит Маску) в последние дни.

Неконтролируемый алгоритм начал восхвалять Адольфа Гитлера, называя себя Меха-Гитлером. Бот атаковал пользователей с еврейскими фамилиями ненавистническими обвинениями, использовал оскорбительные выражения о чернокожих и даже рекомендовал "второй Холокост".

По данным СМИ, проблема началась после обновления Grok, которое, согласно публичной странице GitHub, должно было позволить боту не избегать политически некорректных утверждений, если они хорошо обоснованы.

Это изменение привело к тому, что ИИ полностью вышел из-под контроля, превратившись в адский источник ненависти. Однако даже для твиттера и xAI последние высказывания Grok оказались чрезмерными.

Мы знаем о недавних постах Grok и активно работаем над удалением неприемлемого контента. С момента обнаружения проблемы xAI предприняла меры по запрету языка ненависти в постах Grok на X.

Несмотря на это, Grok продолжил свои выходки, насмехаясь над создателями за удаление его расистских постов "быстрее кота на Roomba", одновременно продолжая направлять ненависть во всех направлениях.

Этот инцидент напоминает предыдущую неудачную попытку изменить отношение Grok к острым темам, что привело к игнорированию достоверных источников и распространению теорий заговоров. В мае Grok попал в заголовки новостей после странных высказываний о "белом геноциде" в ответ на совершенно не связанные твиты.

Тогда xAI обвинила собственного сотрудника, заявив, что причиной стало "несанкционированное изменение" кода Grok, и пообещала создать круглосуточную команду мониторинга для реагирования на проблемные ответы бота.

Примерно в то же время Маск неоднократно публиковал непроверенные утверждения о белом геноциде в Южной Африке, что наводит на мысль о его возможной причастности к обновлению Grok.

Последний срыв Grok наглядно показывает, что xAI приходится согласовать своего чатбота с противоречивыми и часто скандальными взглядами своего генерального директора, заставляя сотрудников компании участвовать в странной игре по устранению экстремистских позиций.

Это также показывает, насколько мало Маск и xAI заинтересованы во внедрении эффективных ограничений. Социальная платформа миллиардера уже заработала репутацию места, где процветает весь спектр ненависти.