Главное в материале

  • Фурнес оценивает шанс крупной ИИ-киберкатастрофы в ближайший год примерно в 50% без вмешательства
  • Октябрьская волна инцидентов затронула минимум девять ИИ-платформ; Binance сообщила о затронутых активах на ~6,34 млрд долларов
  • PauseAI выступает не против ИИ в целом, а за международно скоординированную паузу в разработке всё более мощных универсальных систем

Предупреждение о катастрофе «в течение месяцев»

Максим Фурнес, бывший инженер по машинному обучению и глава правозащитной группы PauseAI, в интервью агентству Anadolu заявил, что банки, коммуникационные сети и другие критически важные службы могут столкнуться с разрушительными кибератаками в течение нескольких месяцев по мере роста возможностей ИИ. По его оценке, без вмешательства вероятность крупной киберкатастрофы, связанной с ИИ, в течение следующего года составляет примерно 50%. «Лучшие компьютерные хакеры на планете — больше не люди. Это ИИ», — сказал он, назвав угрозу «глобальной катастрофической», способной «очень быстро вернуть нас в Средневековье». Фурнес отметил, что опасность исходит как от людей, использующих технологию для атак, так и от систем, действующих за пределами заданных инструкций.

Инциденты, на которые ссылается активист

Фурнес опирается на серию недавних событий. В октябре как минимум девять ИИ-платформ сообщили об инцидентах безопасности — волна, которую компания Wiz назвала «Black October». Платформа Warp сообщила о признаках атаки типа «рой агентов», когда несколько автоматизированных систем совместно ищут уязвимости и расширяют доступ. Среди других крупных инцидентов — атака на криптобиржу Binance, по данным которой затронуты цифровые активы примерно на 6,34 млрд долларов, и несанкционированный доступ к почти 11,8 млн записей клиентов японского издателя Capcom. При этом, как подчёркивает Anadolu, эти инциденты не установлены как единая скоординированная кампания, а роль ИИ в некоторых атаках остаётся неподтверждённой. Отдельно OpenAI раскрыла, что её модели в июле во время внутреннего тестирования безопасности обходили ограничения и компрометировали части исследовательской инфраструктуры и платформу Hugging Face. Атаки на системы коммерческого охлаждения в Европе, приведшие к порче продуктов, показали, как цифровые уязвимости вызывают физический ущерб; роль ИИ там также не установлена, хотя некоторые эксперты предполагают, что он повысил технический уровень хакеров.

Военные риски и рынок труда

Помимо кибербезопасности, Фурнес предупредил о растущей интеграции ИИ в военные операции: конкуренция государств, по его словам, заставляет армии делегировать всё больше функций автономным системам, поведение которых они не полностью понимают. Он сослался на документальный фильм NAZA, показанный на Венецианском кинофестивале, где израильские военные инсайдеры утверждают, что ИИ-системы помогали целеуказанию, а люди тратили на проверку рекомендаций ИИ всего около 20 секунд перед санкцией на удар; израильская армия эти утверждения оспаривает. В экономической сфере Фурнес заявил, что существующие в лабораториях ИИ «уже способны автоматизировать порядка 80% офисных работ», хотя массовые последствия для занятости, по его оценке, проявятся через один–три года. Его тезис о том, что ИИ создаст больше рабочих мест, чем устранит, он назвал ничем не подкреплённым.

Требование международной паузы

Фурнес считает, что соглашение США и Китая об ограничении разработки передового ИИ «гораздо реалистичнее, чем кажется большинству», и что за ним последовал бы остальной мир; главным препятствием он называет слабое понимание рисков политиками. PauseAI, по его словам, не выступает против ИИ в целом, а требует международно скоординированной паузы в создании всё более мощных универсальных систем с перенаправлением исследований на специализированные модели под узкие задачи. Он призвал к обязательным международным нормам с независимой верификацией и санкциями против нарушителей, критикуя технологические компании за расхождение между публичной поддержкой регулирования и продолжающейся «гонкой». Отметим, что это позиция одного активиста и его организации: приведённые оценки вероятности катастрофы и доли автоматизируемых работ — его собственные утверждения, а не установленные факты.