Главное в материале

  • Студент из Миссури признался ChatGPT в повреждении 17 машин — переписка стала уликой в суде
  • Правительство Британской Колумбии подало иск к OpenAI из-за школьной стрельбы, утверждая, что компанию следовало обязать сообщить о диалоге в полицию
  • Юристы считают, что предсказание преступлений не должно быть задачей чатботов, а приватность таких переписок законом не защищена

Переписка с чатботом как улика

ИИ-чатботы прочно вошли в повседневную жизнь, но случаи, когда пользователи признаются им в преступлениях, поставили вопрос о правовом статусе таких разговоров. В августе 19-летний студент Университета Миссури, по сообщениям, признался ChatGPT, что повредил 17 припаркованных на кампусе машин ночью, и спросил: «Мне грозит тюрьма?» Чатбот дал «советы о возможных последствиях поимки», но при нарастании агрессии в сообщениях посоветовал позвонить в 911 — это видно из полицейских документов. Историю переписки обнаружили после того, как студент разрешил следователям осмотреть его телефон; она была использована в суде как доказательство по обвинению в felony-повреждении имущества.

Иск из-за стрельбы в школе

Более серьёзные претензии к OpenAI предъявил провинциальный орган власти канадской Британской Колумбии: в феврале он подал иск, связанный со школьной стрельбой, в которой погибли девять человек, в основном дети, и 27 были ранены. По версии иска, компания не сообщила полиции о переписке стрелка с ChatGPT, хотя атака могла быть предотвращена, если бы OpenAI предупредила полицию. Генеральный директор OpenAI Сэм Альтман принёс извинения в письме, однако, как сообщили информаторы газете The Wall Street Journal, диалог стрелка с чатботом якобы уже был помечен системой в июне 2025 года, а Альтман и руководство компании, по этим данным, отклонили рекомендацию команды безопасности обратиться в полицию.

Должен ли ИИ сообщать о преступлениях

Дискуссию осложняет то, что алгоритмы ошибаются в оценке намерений: в июле чатбот Claude 5 компании Anthropic передал на полицейскую горячую линию в США ложное сообщение о нераскрытом убийстве. Американский правовед, исследователь Университета Гёте во Франкфурте Мэттью Трейл в разговоре с Anadolu отметил, что каждая компания устанавливает собственные правила, а чатботы не предназначены для ответов на вопросы о планировании убийств. По его словам, модели обучены избегать определённых тем — особенно сексуального насилия над детьми — и передавать такие разговоры модераторам, но пользователи могут обойти фильтры, например маскируя запрос под помощь в написании художественного текста. Трейл считает, что полиция может запрашивать историю переписки у ИИ-компаний при подозрении в совершённом преступлении, но главная цель чатботов не должна состоять в предсказании преступлений до их совершения: правовое регулирование здесь крайне неясно, а сбор дополнительных данных для оценки «криминального потенциала» он назвал плохой идеей.

Есть ли у переписки с ИИ приватность

Привилегия конфиденциальности, действующая между адвокатом и клиентом или врачом и пациентом, на разговоры с ИИ-чатботами не распространяется, поэтому технологические компании могут передавать логи следователям. Тем не менее Альтман в июле 2025 года заявил, что разговоры с чатботами должны строиться на конфиденциальности. Профессор права канадского Thompson Rivers University Роберт Диаб высказал иную позицию: закон не считает конфиденциальными сообщения между сообщниками, и по тому же принципу можно рассматривать переписку человека с ИИ. По его мнению, модели вроде ChatGPT, судя по всему, способны распознавать склонность пользователя к преступному поведению, и разработчики могли бы предотвращать преступления, уведомляя полицию. При этом он сам указал на ограничения такого подхода: оповещения по всем подозрительным сообщениям увеличили бы нагрузку на людей из-за ложных срабатываний, а пользователи всегда найдут способ обойти меры безопасности.