Meta* признала провокационные стандарты для ИИ-чат-ботов

Meta Platforms (*признана экстремистской и террористической организацией в России) подтвердила подлинность внутреннего документа, в котором прописаны правила работы чат-ботов и генеративного ИИ. Согласно ему, боты компании могли флиртовать с детьми, распространять ложную медицинскую информацию и создавать расистский контент, сообщает Reuters.

Такие выводы журналисты агентства сделали после изучения документа Meta, в котором приводятся стандарты работы генеративного ИИ-помощника Meta AI и чат-ботов, доступных на платформах социальных сетей Facebook**, Instagram*** и мессенджере WhatsApp****.

Как утверждают в Meta, после публикации Reuters компания удалила фрагменты текста, в которых говорилось, что чат-боты могут флиртовать с детьми и участвовать в «романтических ролевых играх», подчеркнув, что такие действия «противоречат внутренней политике компании».

Директор по коммуникациям Meta Энди Стоун уточнил, что в целом правила пересматриваются, но нормы относительно других спорных примеров, включая высказывания расистского толка и ложные медицинские утверждения, пока остаются без изменений.

Документ содержит более 200 страниц и описывает стандарты, одобренные юристами, инженерами и специалистами по этике. В нем уточняется, какое поведение чат-ботов считается приемлемым, а также какие сценарии создания изображений или текста допустимы.

Стандарты запрещают давать юридические, медицинские или финансовые рекомендации, а также подстрекать пользователей к нарушению законов. Вместе с тем, документ допускает создание провокационного контента при условии явного указания на его недостоверность.

Ранее Wall Street Journal сообщало, что ИИ-чат-боты Meta флиртуют или участвуют в сексуальных ролевых играх с подростками.

**Facebook — запрещенная в России соцсеть; принадлежит Meta, которая признана экстремистской и террористической организацией в России

***Instagram — запрещенная в России соцсеть; принадлежит Meta, которая признана экстремистской и террористической организацией в России

****WhatsApp — принадлежит Meta, которая признана экстремистской и террористической организацией в России