Grok Маска слил сотни тысяч приватных чатов в поиск Google без ведома пользователей
МОСКВА, 3 сентября, ФедералПресс. Компания xAI Илона Маска опубликовала расшифровки сотен тысяч диалогов пользователей с чат-ботом Grok, сделав их доступными через поисковые системы без предупреждения. В открытом доступе оказались не только нейтральные переписки о работе и учебе, но и личные данные, пароли, медицинские вопросы, а также загруженные пользователями документы и изображения. Поисковик Google проиндексировал более 370 тысяч таких разговоров.
В ряде случаев бот предоставлял запрещенные инструкции, от изготовления наркотиков и взрывчатки до планов убийства самого Маска. Хотя правила xAI прямо запрещают использование Grok для подобного рода запросов, опубликованные страницы с этими диалогами свободно доступны в интернете. Журналисты и исследователи ИИ, включая британского репортера Эндрю Клиффорда и сотрудника Института Аллена Натана Ламберта, заявили, что не знали о возможности автоматической индексации своих чатов.
«Такие ситуации наглядно иллюстрируют, почему ИИ и другие технологии должны быть суверенными. Компания Илона Маска допустила ошибку, которая может стоить некоторым людям работы, репутации, отношений и так далее. А учитывая, что в открытом доступе оказались и инструкции по изготовлению наркотиков, под угрозой оказывается и чье-то здоровье. Но понесет ли она какую-либо ответственность? Какие-то шансы на справедливость есть только у жителей США, а что делать простым пользователям из других стран, чья личная информация оказалась в открытом доступе? Суверенность ИИ позволяет государству защищать граждан от таких случаев как постфактум, так и через создание механизмов, исключающих подобные случаи еще на этапе разработки модели», – отметил член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин.
Подобные проблемы возникали и у конкурентов. Ранее пользователи ChatGPT обнаружили, что их переписки появились в поиске Google, после чего OpenAI оперативно изменила политику и отключила функцию. Маск тогда публично высмеял соперников, утверждая, что у Grok такого механизма нет. Однако выяснилось, что кнопка «поделиться» у сервиса не только генерирует ссылку для отправки, но и делает чат общедоступным на сайте.
Ситуацией начали пользоваться маркетологи и специалисты по продвижению, размещая намеренно созданные диалоги для улучшения видимости своих компаний в поисковиках. Представители Google отметили, что владельцы сайтов сами управляют индексацией страниц. В xAI на запросы журналистов о произошедшем не ответили.
«Подобные грубые просчеты являются прямым следствием того, что ведущие мировые компании по разработке ИИ спешат опередить друг друга, но при этом игнорируют вопросы безопасности. Данные инциденты подтверждают, что гонка за лидерство без ответственного подхода несет угрозу пользователям и обществу в целом. Именно поэтому Россия работает над суверенными решениями, и работает в своем темпе, уделяя приоритетное внимание контролю, надежности и защите данных», – подчеркнул эксперт РОЦИТ Алексей Парфун.
Как ранее отметили участники сессии «Измерение социального воздействия ИИ: прогресс, риски, пути развития», которая прошла в рамках ВЭФ, для обеспечения безопасности России необходимо выработать стратегию развития искусственного интеллекта. По словам экспертов, уже сейчас от нейросетей исходит большая опасность, а через пару лет угрозы будут куда существеннее.
Изображение сгенерировано нейросетью Kandinsky 3.1