Некоторые диалоги пользователей с чатом-ботом Илона Маска Grok оказались общедоступными. Далеко не все из них безобидные.

Друзья, не рассказывайте все секреты даже бездушным машинам (а может, тем более им).

Журналисты Forbes нашли интимные переписки с ИИ о медицине и психологии (с именами и личными данными), пароли, а также промты создания изображений вымышленной террористической атаки в Кашмире и попытки взлома криптокошелька.

Дело в том, что когда пользователь нажимает кнопку «Поделиться», то создаётся уникальный URL-адрес, который позволяет отправить переписку по электронной почте, в текстовом сообщении или другим способом. Однако пользователи не знают, что этот уникальный URL-адрес также доступен поисковым системам, таким как Google, Bing и DuckDuckGo, и его может найти любой пользователь в интернете.

Сегодня поиск в Google по запросу «чаты Grok» показывает, что поисковая система проиндексировала более 370 000 диалогов пользователей с нейросетью.

Некоторые из них были откровенными, предвзятыми и нарушали правила xAI. Компания запрещает использовать своего бота для «нанесения критического вреда человеческой жизни» или для «разработки биологического оружия, химического оружия или оружия массового уничтожения», но опубликованные беседы показывают, что Grok предлагал пользователям инструкции о том, как производить наркотики, создавать компьютерные вирусы и предлагал методы самоубийства.

Кстати, xAI — не единственный ИИ который публикует диалоги пользователей. Ранее в этом месяце пользователи ChatGPT от OpenAI с тревогой обнаружили, что их диалоги появляются в результатах поиска Google.