Юристы: логи с ИИ могут стать доказательствами в суде против вас

Что сказал Сэм Альтман

Глава OpenAI (компания-разработчик нейросети ChatGPT) Сэм Альтман в интервью предупредил, что переписки с нейросетями, которыми всё больше увлекается человечество, не защищены юридически.

«Если вы общаетесь с ChatGPT про свои наиболее приватные дела, а потом возникнет судебный иск или что-то в этом роде, нас могут обязать это предоставить, — сказал Альтман. И добавил, что считает такое положение дел неправильным.

Однако законов, которые бы защищали тайну переписки с роботами, пока нет. А вот откровенничают с ними порой побольше, чем с живыми людьми. Многие пользователи используют нейросети в качестве врачей, юристов, психологов, не задумываясь, что в отличие от реальных специалистов у ИИ нет понятия «профессиональная тайна».

Кто может прочитать ваши диалоги с ИИ

Если говорить о ChatGPT, то по американским законам он хранит удалённые диалоги на серверах до 30 дней. Но если пользователь включил специально опцию запоминания чатов (или, вернее, не отключил её), то диалоги спокойно могут храниться месяцами.

Политика компании предусматривает, что она может хранить диалоги и дольше, если это нужно по юридическим соображениям или соображениям безопасности. Для этого они должны получить соответствующий запрос от правоохранительных органов.

В постоянно совершенствующиеся нейросетевые модели встраивают всё новые ограничители и предохранители, чтобы ИИ не выдавал пользователям преступные рекомендации, нелегальную и неэтичную информацию. Но даже если сам ИИ не становится соучастником преступления, запросы пользователей-то всё равно остаются и могут вызвать недоумение и даже пристальное внимание полиции.

Можно ли использовать ИИ-логи как доказательства в суде в России

Краткий ответ: да, но с рядом ограничений. Пока нет ни закона, ни заключения Верховного суда, которые бы регулировали именно этот тонкий момент. Но база для того, чтобы «всё сказанное в диалоге с ИИ было использовано против вас» уже есть.

Чирагов привёл несколько возможных сценариев, при которых диалоги с ИИ могли бы быть использованы в качестве доказательств преступления:

• Доказательство в трудовых (дисциплинарных спорах): например, сотрудник загрузил внутренние документы в сервис ИИ.
• Судебные споры: например, если ИИ сгенерировал некорректный документ, по которому были приняты действия, переписка может быть доказательством ненадлежащего информирования или ошибки. «К сожалению, такие дела уже есть», — отметил юрист.
• Фиксация намерений или действий: пользователь может в переписке с ИИ описывать свои планы, идеи, действия или даже признания, которые потом могут быть использованы как индикатор мотива или умысла.

При этом эксперты по нейросетям говорят, что идея использовать диалоги с чат-ботом в качестве доказательств — довольно сомнительная. Многое зависит от промпта (как сформулирован запрос) и доказательства умысла пользователя. Например, противоправную информацию у ИИ мог бы спрашивать писатель детективов, ищущий фактуру для прописывания злодея.

Палюлин уточнил, что для того, чтобы переписка с российскими нейросетями, откуда правоохранителям довольно просто запросить информацию, была принята судом, нужно соблюсти ряд условий:

• необходимо подтвердить подлинность переписки, что можно сделать через экспертизу цифровых следов или заверение скриншотов нотариусом или следователем.
• получение таких данных должно происходить в рамках законного процессуального действия — например, если полиция изымает устройства пользователя или делает запрос у оператора связи.

«Если переписка извлекается без санкции суда или иного законного основания, она может быть признана недопустимой», — подчеркнул юрист.

Если же всё сделать по закону, такие логи могут присоединить к делу в качестве косвенных доказательств. Но иногда даже косвенные доказательства могут значительно повлиять на мнение суда.

«Например, в случае расследования дела об убийстве, переписка подозреваемого с нейросетью на тему способов утилизации трупа, совершенная в день предполагаемого убийства, будет косвенным доказательством вины», — предположил Палюлин.

При этом эксперт указал, что в случае с тем же ChatGPT российской полиции будет затруднительно истребовать и получить логи диалогов российских пользователей. Как и много других компаний из недружественных стран, OpenAI не ведёт обмен данными с Россией, не хранит данные на российских серверах, а сам чат-бот недоступен с российских IP.

Отдельный вопрос — тайна переписки, гарантированная Конституцией. Юрист указал, что формально чат с ИИ не подпадает под защиту в том же объеме, что и межличностная переписка. Но суды могут учитывать конфиденциальный характер таких данных, особенно если они содержат личную или медицинскую информацию.

А как это будет работать на деле, скорее всего, мы узнаем уже совсем скоро. Хотя эксперты указывают, что чёткая судебная практика отсутствует, Сэм Альтман своим интервью выпустил джинна из бутылки. Ведь со стороны правоохранительных органов было бы упущением не обратить внимание на ещё один источник получения доказательств, на который им любезно указали.