Регулирование использования искусственного интеллекта: опыт Китая
В августе 2023 года Минцифры РФ предложило разработать Цифровой кодекс, а в ноябре 2023 года начало экспертное обсуждение концепции проекта этого акта. Помимо прочего, ожидалось, что в новом кодексе появится регулирование использования искусственного интеллекта, ожидаемое профессиональным юридическим сообществом, на что указывают результаты исследования.
Несмотря на критику концепции, с которой выступил Совет при Президенте РФ по кодификации и совершенствованию гражданского законодательства, сам Совет признаёт, что имеющиеся правовые акты «архаичны и внутренне противоречивы, а закреплённый в них категориальный аппарат не соответствует терминологии как частного, так и публичного права».
В свете этого кодификация массива норм об информации и цифровых технологиях представляется неизбежной, хотя, несомненно, не может быть подготовлена наспех и требует детальной обстоятельной проработки и учёта как сугубо технической стороны регулируемых вопросов, так и опыта регулирования соответствующих отношений – как российского, так и зарубежного.
Ранее коллеги писали на Закон.ру о том, что 9 декабря 2023 г. Европарламент согласовал ограничения для искусственного интеллекта, однако, прежде чем согласованный Парламентом и Советом ЕС проект вступит в силу, за его принятие ещё должны проголосовать оба эти органа.
Вместе с тем Китай оказался в числе юрисдикций, которые оперативно ответили на правовые вызовы использования технологий искусственного интеллекта, приняв Временные меры по управлению сервисами генеративного искусственного интеллекта (неофициальный перевод на английский и ссылка на официальную публикацию).
Полагая небесполезным ознакомление с этим документом, ниже предлагаю его перевод на русский язык.
Временные меры по управлению сервисами генеративного искусственного интеллекта
Раздел 1. Общие положения
Статья 1
В целях содействия здоровому развитию и стандартизированному применению генеративного искусственного интеллекта, обеспечения национальной безопасности и социальных и общественных интересов, а также защиты законных прав и интересов граждан, юридических лиц и других организаций настоящие меры сформулированы в соответствии с Законами КНР «О сетевой безопасности», «О безопасности данных», «О защите личной информации», «О научно-техническом прогрессе» и другими законами и административными регламентами.
Статья 2
Настоящие меры применяются к использованию технологии генеративного искусственного интеллекта для предоставления общественности КНР услуг по генерированию текста, изображений, аудио, видео и другого контента (далее именуемых «сервисами генеративного искусственного интеллекта»).
Если иные нормативные правовые акты затрагивают использование сервисов генеративного искусственного интеллекта для публикации новостей, производства фильмов и телепередач, литературного и художественного творчества и иных видов деятельности, нормы соответствующего нормативного правового акта имеют приоритет перед настоящими Мерами.
Если промышленные организации, предприятия, образовательные и научно-исследовательские учреждения, государственные учреждения культуры, соответствующие профессиональные учреждения и т.д. разрабатывают и применяют технологию генеративного искусственного интеллекта и не предоставляют сервисы генеративного искусственного интеллекта населению, положения настоящих Мер не применяются.
Статья 3
Государство придерживается принципов развития и безопасности, сочетая поощрение инноваций с соблюдением законности, что выражается в принятии эффективных мер поощрения инноваций и развития генеративного искусственного интеллекта и осуществляя инклюзивный, разумный и иерархический надзор за сервисами генеративного искусственного интеллекта.
Статья 4
Предоставление и использование сервисов генеративного искусственного интеллекта должно осуществляться в соответствии с законами и административными регламентами, уважать общественную мораль и этику, а также соответствовать следующим правилам:
(1) Придерживаться основных социалистических ценностей и не создавать контент, запрещенный законами и административными регламентами, такой как подстрекательство к подрыву государственной власти, свержение социалистической системы, угроза национальной безопасности и интересам, нанесение ущерба имиджу страны, призывы к расколу страны, разрушение национального единства и социальной стабильности, пропаганда терроризма, экстремизма, пропаганда этнической ненависти, этнической дискриминации, насилия, непристойностей, порнографии, а также ложной и вредной информации;
(2) В процессе разработки алгоритма, отбора обучающих данных, создания и оптимизации моделей [программ, применяющих один алгоритм или более для выявления устойчивых связей (паттернов), выработки прогнозов или принятия решений без участия человека], а также предоставления услуг принимать эффективные меры для предотвращения дискриминации по признаку этнической принадлежности, убеждений, страны, региона, пола, возраста, рода занятий, состояния здоровья и т.д.;
(3) Уважать права интеллектуальной собственности и деловую этику, не посягать на коммерческую тайну и не использовать преимущества алгоритмов, данных, платформ и т.д. для осуществления монополистической деятельности и недобросовестной конкуренции;
(4) Уважать законные права и интересы других лиц, не ставить под угрозу физическое и психическое здоровье других лиц и не нарушать права на изображение гражданина, репутацию, честь, неприкосновенность частной жизни, не нарушать требования к обработке персональных данных;
(5) Основываясь на характеристиках типов сервисов, принимать эффективные меры для повышения прозрачности сервисов генеративного искусственного интеллекта и повышения точности и надежности генерируемого контента.
Раздел 2. Технологическое развитие и управление
Статья 5
Государство поощряет инновационное применение технологии генеративного искусственного интеллекта в различных отраслях и областях, генерацию позитивного, полезного и качественного контента, исследования и оптимизацию сценариев применения технологии генеративного искусственного интеллекта и создание экосистемы приложений, использующих технологию генеративного искусственного интеллекта.
Государство поддерживает отраслевые организации, предприятия, образовательные и научно-исследовательские учреждения, государственные учреждения культуры и связанные с ними профессиональные учреждения в сотрудничестве в области инноваций, связанных с технологией генеративного искусственного интеллекта, создания, преобразования и применения информационных ресурсов, а также предотвращения сопутствующих рисков.
Статья 6
Государство поощряет независимое развитие базовых технологий, таких как алгоритмы генеративного искусственного интеллекта, каркасы (frameworks), чипы и поддерживающие программные платформы, осуществляет международные обмены и сотрудничество на основе равенства и взаимной выгоды и участвует в разработке международных норм, регулирующих использование генеративного искусственного интеллекта.
Государство призывает: (1) содействовать созданию инфраструктуры генеративного искусственного интеллекта и платформы общедоступных учебных информационных ресурсов; (2) содействовать совместному использованию вычислительных мощностей и повышать эффективность использования вычислительных мощностей; (3) содействовать упорядоченному доступу к классификации общедоступных данных и систематизаторам, а также расширять высококачественные ресурсы общедоступных учебных данных; (4) поощрять использование безопасных и заслуживающих доверия чипов, программного обеспечения, инструментов, вычислительных мощностей и информационных ресурсов.
Статья 7
Поставщики услуг генеративного искусственного интеллекта (далее именуемые провайдерами) должны осуществлять обучение искусственного интеллекта и обработку данных в соответствии с законом и соблюдать при этом следующие правила:
(1) Использовать данные и базовые модели из легальных источников;
(2) Не нарушать права интеллектуальной собственности третьих лиц;
(3) Обрабатывать персональные данные только при наличии согласия субъекта персональных данных или иного законного основания;
(4) Принимать эффективные меры для улучшения качества обучающих данных и повышения достоверности, точности, объективности и разнообразия обучающих данных;
(5) Соблюдать иные нормы законодательства, в частности, законов «О сетевой безопасности в КНР», «О безопасности данных в КНР», «О защите персональных данных в КНР» и иные нормативные требования соответствующих компетентных ведомств.
Статья 8
Если маркировка данных выполняется в процессе исследований и разработок технологии генеративного искусственного интеллекта, провайдер должен сформулировать четкие, конкретные и исполнимые правила маркировки, которые отвечают требованиям этих мер; провести оценку качества маркировки данных, тестирование точности содержания маркировки; обучение для персонала по маркировке, чтобы повысить осведомленность о требованиях закона, а также обеспечить надлежащее исполнение персоналом требований по маркировке.
Раздел 3. Технические характеристики обслуживания
Статья 9
Провайдер несет ответственность производителя сетевого информационного контента в соответствии с законом и выполняет обязательства по обеспечению информационной безопасности сети. Провайдер обязан выполнять требования законодательства о персональных данных и несёт ответственность за их обработку в соответствии с законом.
При регистрации пользователя сервиса генеративного искусственного интеллекта (далее именуемого пользователь) провайдер должен обеспечить ознакомление пользователя с соглашением об оказании услуг, разъясняющим права и обязанности обеих сторон.
Статья 10
Провайдеры должны разъяснять и раскрывать категории пользователей, случаи и способы использования своих сервисов, направлять пользователей к научному и рациональному пониманию и использованию технологии генеративного искусственного интеллекта в соответствии с законом и принимать эффективные меры для предотвращения чрезмерного использования несовершеннолетними пользователями сервисов генеративного искусственного интеллекта.
Статья 11
Провайдеры обязаны защищать вводимую пользователями информацию и записи об использовании в соответствии с законом, и не должны собирать персональные данные, не требующиеся для использования сервиса, и не должны незаконно хранить вводимую информацию и записи об использовании, которые могут идентифицировать пользователей, и не должны незаконно предоставлять третьим лицам вводимую информацию пользователей и записи об использовании.
Провайдер обязан незамедлительно принимать и обрабатывать индивидуальные запросы на доступ, воспроизведение, исправление, дополнение и удаление персональных данных в соответствии с законом.
Статья 12
Провайдеры должны идентифицировать сгенерированный контент, такой как изображения, видео и т.д., в соответствии с «Положением об управлении углубленным обобщением информационных услуг Интернета».
Статья 13
Для обеспечения нормального использования пользователями сервисов генеративного искусственного интеллекта провайдеры должны обеспечивать безопасное, стабильное и непрерывное оказание услуг.
Статья 14
Если провайдер обнаруживает незаконный контент, он должен незамедлительно принять меры по удалению, такие как прекращение генерации и передачи, уничтожение контента, а также сообщить в соответствующие компетентные ведомства; провайдерам надлежит осуществлять обучение искусственного интеллекта в целях недопущения генерации незаконного контента.
Если провайдер обнаружит, что пользователь использует сервис генеративного искусственного интеллекта для осуществления незаконной деятельности, он должен принять такие меры, как предупреждение, ограничение функций, приостановление или прекращение предоставления такому пользователю услуг в соответствии с соглашением, вести записи о фактах деятельности пользователя и сообщать в соответствующее компетентное ведомство.
Статья 15
Провайдеры должны создавать и совершенствовать механизмы (в т.ч. удобные порталы) подачи жалоб и сообщений о нарушениях, публиковать процедуры обработки и сроки обратной связи, своевременно принимать и обрабатывать жалобы и сообщения о нарушениях, а также предоставлять информацию о результатах обработки.
Раздел 4. Надзор, инспекция и юридическая ответственность
Статья 16
В пределах своих полномочий департаменты, в частности, интернет-коммуникаций, развития и реформ, образования, науки и техники, промышленности и информационных технологий, общественной безопасности, радио и телевидения, прессы и издательского дела должны усилить управление сервисами генеративного искусственного интеллекта в соответствии с законом.
Принимая во внимание характеристики технологии генеративного искусственного интеллекта и ее применения в соответствующих отраслях и областях, компетентные ведомства должны совершенствовать регулирование на основе научных методов, адаптированных к инновациям и развитию, и сформулировать правила или руководящие принципы для регулирования соответствующих отраслей и областей.
Статья 17
Провайдеры сервисов генеративного искусственного интеллекта с атрибутами общественного мнения или возможностями социальной мобилизации, должны проводить оценку безопасности в соответствии с соответствующими национальными нормативными актами и выполнять процедуры регистрации алгоритмов, а также процедуры внесения изменений и аннулирования в соответствии с «Правилами управления рекомендательными алгоритмами информационных услуг Интернета».
Статья 18
Если пользователи обнаружат, что сервисы генеративного искусственного интеллекта не соответствуют законам, административным регламентам и положениям настоящих мер, они вправе подать жалобу или сообщить об этом в соответствующие компетентные ведомства.
Статья 19
Соответствующие компетентные ведомства должны осуществлять надзор и контроль за деятельностью сервисов генеративного искусственного интеллекта в соответствии со своими обязанностями, а провайдеры обязаны содействовать такому контролю и надзору в соответствии с законом, при необходимости объяснять источник обучающих данных, их масштаб, тип, правила маркировки, механизм алгоритма и т.д., а также предоставлять необходимые технические данные и прочие поддержку и содействие.
Учреждения и персонал, участвующие в оценке безопасности, надзоре и контроле за деятельностью сервисов генеративного искусственного интеллекта, должны в соответствии с законом обеспечивать сохранение режимов государственной тайны, коммерческой тайны, неприкосновенности частной жизни и конфиденциальности персональных данных, доступ к которым они получают при исполнении своих обязанностей, и не должны разглашать или незаконно предоставлять такие данные третьим лицам.
Статья 20
Если сервисы генеративного искусственного интеллекта, функционирующие на мощностях, расположенных за пределами территории КНР, не соответствуют законам, административным регламентам и положениям настоящих мер, департамент интернет-коммуникаций должен уведомить соответствующие учреждения о принятии технических и других необходимых мер в отношении таких сервисов.
Статья 21
Если провайдер нарушает положения настоящих мер, соответствующий компетентный департамент привлекает его к ответственности в соответствии с положениями законов КНР «О сетевой безопасности», «О безопасности данных», «О защите персональных данных», «О научно-техническом прогрессе» и иных законов и административных регламентов.
Если законы и административные регламенты не предусматривают ответственности за выявленное нарушение, компетентный департамент выносит нарушителю предупреждение, указав на выявленное в его деятельности нарушение и предписав устранить его в течение ограниченного периода времени; если провайдер отказывается исполнить предписание или её деятельность несёт риск причинения существенного ущерба, провайдеру должно быть предписано приостановить оказание соответствующих услуг.
За деятельность, угрожающую общественной безопасности, провайдер несёт ответственность в соответствии с законом; если в деятельности провайдера имеется состав преступления, такая деятельность подлежит расследованию для привлечения виновных к уголовной ответственности в соответствии с законом.
Раздел 5. Дополнительные положения
Статья 22
Термины используются в настоящих мерах в следующих значениях:
(1) Технология генеративного искусственного интеллекта — модели искусственного интеллекта и связанные с ними технологии, способные генерировать контент, такой как текст, изображения, аудио и видео.
(2) Поставщики услуг генеративного искусственного интеллекта — физические и юридические лица, использующие технологии генеративного искусственного интеллекта для предоставления услуг создания контента (включая предоставление услуг путем предоставления программируемых интерфейсов и т.п.).
(3) Пользователи сервисов генеративного искусственного интеллекта — физические и юридические лица, использующие сервисы генеративного искусственного интеллекта для создания контента.
Статья 23
В тех случаях, когда законы и административные регламенты предусматривают получение соответствующих разрешений или лицензий для предоставления сервисов генеративного искусственного интеллекта, провайдер должен получить разрешение или лицензию в соответствии с законом.
Сервисы генеративного искусственного интеллекта с иностранными инвестициями должны соответствовать положениям законов и административных регламентов, регулирующих иностранные инвестиции.
Статья 24
Настоящие меры вступают в силу 15 августа 2023 года.