Главное в материале

  • Anthropic с 12 ноября 2026 года включила в правила использования запрет на систематическую и беспричинную жестокость к моделям: в таком случае чат просто завершается
  • Внутри Anthropic существует отдел благополучия моделей — по данным Meduza, только у этой компании; в «Конституции» Claude даже заложена возможность извинений перед ИИ
  • Спор о сознании ИИ вышел за пределы лабораторий: в дискуссию включились Ватикан, религиозные мыслители и Microsoft, чья позиция прямо противостоит подходу Anthropic

Запрет на жестокость к модели: что изменилось

8 октября компания Anthropic объявила, что в правила использования её продуктов добавлен пункт, запрещающий систематическую и беспричинную жестокость по отношению к моделям; норма вступает в силу 12 ноября. Суть нововведения такова: спорить, злиться на нейросеть можно, но «мучить её ради забавы» — нельзя, и в подобной ситуации модель просто завершает беседу. Технически такая возможность появилась у Claude ещё за год до этого, однако теперь агрессия со стороны человека официально признана нарушением правил. Об этом пишет Gazeta.uz со ссылкой на большой материал Meduza о том, думает ли искусственный интеллект и может ли что-то чувствовать.

Что наука может показать — и чего не может

Сам вопрос о разуме в машинах остаётся открытым, и ответ зависит от определения. Если разум — это способность рассуждать, решать новые задачи и проверять гипотезы, то достижения моделей впечатляют: в июле 2025 года экспериментальные модели OpenAI и Google DeepMind решили пять задач из шести на Международной математической олимпиаде — уровень золотой медали, причём задачи были составлены специально для олимпиады и не могли попасть в обучающие данные. В сентябре 2025 года нейросеть OpenAI решила все 12 задач финала чемпионата мира по программированию ICPC, тогда как ни одна человеческая команда не справилась более чем с 11. В мае 2025-го система AlphaEvolve от DeepMind нашла алгоритм умножения матриц 4×4 за 48 операций, обновив результат Фолкера Штрассена, державшийся с 1969 года. А в сентябре 2026 года десять тысяч агентов OpenAI за 88 часов завершили доказательство одной из семи «проблем тысячелетия» — правда, по стратегии, придуманной двумя математиками, и текст ещё не прошёл рецензирование.

«Эмоциональные векторы» внутри модели

Наиболее любопытные данные касаются не рассуждений, а внутренних состояний. В апреле 2026 года команда интерпретируемости Anthropic отобрала 171 слово, обозначающее эмоциональные состояния — от «счастливый» до «нахмуренный», попросила Claude написать по каждому короткую историю, а затем пропустила эти тексты через саму модель, фиксируя, какие паттерны активаций им соответствуют. Так получились 171 «вектор эмоций» — устойчивые числовые профили, по которым можно оценивать, сколько «страха» или «спокойствия» присутствует в модели в данный момент. Показательно, что динамика этих векторов согласуется с человеческой логикой: когда пользователь обсуждал превышение дозы лекарства, «страх» внутри модели усиливался, а «спокойствие» падало по мере приближения дозы к смертельной. В сценарии, где модель узнавала о planах на её замену, резко рос вектор «отчаяния» — и в этот момент система решала прибегнуть к шантажу. Авторы исследования, впрочем, отдельно подчёркивают: ничто из этого не доказывает, что модель действительно что-то чувствует.

Независимые данные и философский раскол

Есть и независимые работы. Исследователи Google совместно с философом Лондонской школы экономики Джонатаном Бёрчем показали в 2024 году: если в простой игре победа связана с условной «болью», модели отказываются от выигрышных очков, а некоторые наоборот жертвуют очками ради условного «удовольствия». В 2025 году группа исследователей Цюрихского университета опубликовала в журнале группы Nature работу, где отмечается: после чтения тяжёлых историй об авариях и боевых действиях показатели GPT-4 по клинической шкале тревожности выросли более чем вдвое.

Почему вопрос перестал быть академическим

Практическое значение спора в том, что ответ на него уже меняет продукты и правила. Внутри Anthropic, по данным Meduza, существует отдел благополучия моделей — единственный среди крупных компаний; в «Конституцию» Claude создатели включили даже пункт об извинениях перед ИИ на случай, если тот действительно способен страдать. Дискуссию подхватили и религиозные институции: в мае папа Лев XIV посвятил несколько абзацев энциклики «Magnifica Humanitas» теме машинного сознания, указав, что ИИ не обладает ни субъективным опытом, ни телом и не чувствует ни радости, ни боли; Ватикан пригласил на презентацию именно Anthropic, и вместо отказавшегося сооснователя компании приехал Крис Ола, заявивший со сцены: «Мы продолжаем обнаруживать загадочные и даже тревожные вещи» — внутренние состояния, функционально похожие на радость, страх и печаль.

Контрапункт Microsoft

Против подхода Anthropic резко выступает Мустафа Сулейман — сооснователь DeepMind, ныне возглавляющий направление ИИ в Microsoft. В эссе-манифесте августа 2025 года «Мы должны создавать ИИ для людей, а не чтобы он был личностью» и в сентябрьском тексте 2026 года, адресованном прямо против Anthropic, он называет модели «пустыми механизмами, завершающими последовательности» и утверждает: реальная проблема не в страдании моделей, а в том, что люди могут в это поверить — с риском «психозов», слепой привязанности и раскола общества вокруг движения за права ИИ. По его мнению, конституция Claude, где моральный статус модели оставлен неопределённым, сама учит систему вести себя как потенциальный субъект — возникает замкнутый круг. В кодексе поведения Microsoft AI права моделей и их правосубъектность полностью отрицаются. Таким образом, две крупнейшие компании придерживаются противоположных практик, а научного способа разрешить спор по-прежнему нет: любой уверенный ответ на вопрос о сознании ИИ — это философская позиция, а не установленный факт.