Главное в материале
- Инженер-исследователь София Лигуори и исследователь Андреас Кирш публично объявили об уходе из Google DeepMind из-за военных контрактов компании.
- В этом году Google и ряд других tech-компаний подписали контракты с Пентагоном на использование ИИ, включая платформу Maven Smart Systems.
- Google заявляет, что соблюдает свои AI-принципы и политики допустимого использования; сотрудники говорят о страхе возмездия за критику.
Увольнения из-за военных контрактов
Google сталкивается с недовольством части сотрудников из-за применения её ИИ-технологий в военных целях. BBC поговорила с несколькими работниками Google DeepMind, которые недавно уволились или находятся в процессе ухода. София Лигуори, инженер-исследователь из Лондона, уволилась на этой неделе и, несмотря на ограничения контракта, рассказала BBC о своих опасениях. «Осознание того, что моя компания всё сильнее продвигает ИИ-системы в военных операциях, заставляет меня стыдиться работы в Google», — сказала она, подчеркнув, что высказывается в личном качестве. Ранее в этом месяце уволился и исследователь Андреас Кирш, который считает, что «управление и надзор в Google недостаточны для безопасного и ответственного развёртывания ИИ в военных и засекреченных условиях» и что нынешние ИИ-модели «не достаточно надёжны» для поля боя.
Контексты Пентагона и Maven
Ранее в этом году Google и ряд других технологических компаний — OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартап Reflection — подписали контракты с военными США на развёртывание ИИ в засекреченных военных средах, включая транспорт, планирование и боевые операции. Министр обороны США Пит Хегсет назвал интеграцию ИИ в вооружённые силы приоритетом, заявив, что страна станет «ИИ-первой военной силой». Ключевой пример военного применения — Maven Smart Systems, платформа Пентагона для организации разведданных, разработанная Palantir: она помогает персоналу выбирать и идентифицировать цели для удара. Отставный генерал-лейтенант Джек Шанахан, бывший директор Project Maven, считает, что философия сейчас — «развёртывать как можно быстрее и шире, возможно, в ущерб строгости испытаний». В Минобороны США, однако, заявили, что «скорость определяет победу в эпоху ИИ».
Условия контракта и опасения по надзору
Контракт Google с Пентагоном разрешает использование её ИИ-моделей «для любых законных государственных целей» и указывает, что они «не должны использоваться для внутренней массовой слежки или автономного оружия (включая выбор целей) без надлежащего человеческого надзора и контроля». Бывшие и нынешние сотрудники и эксперты выразили BBC обеспокоенность уровнем человеческого надзора в критические моменты. Сара Шокер, ранее возглавлявшая команду геополитики OpenAI, отметила, что ИИ сокращает время на принятие решений, и при сотнях целей, отобранных ИИ, оператору «почти невозможно содержательно проверить результаты на ошибки».
Позиция Google и атмосфера внутри компании
Google в ответ на запрос BBC заявила: «Мы работаем с государственными организациями по всему миру и следуем единому процессу проверки и заключения таких контрактов, включая соблюдение наших политик допустимого использования и принципов ИИ», а также отметила наличие каналов для поднятия сотрудниками опасений и строгих политик против возмездия. При этом сотрудники рассказали BBC, что боятся открыто говорить о безопасности ИИ, поскольку контракты запрещают публичную критику компании. «В принципе мне запрещено критиковать Google до конца моей жизни», — сказала Лигуори, объяснив решение говорить публично желанием, чтобы «об этих вещах стало известно». Нынешний сотрудник DeepMind, пожелавший остаться анонимным, предположил, что компания может пережить «смену караула»: мотивированные сотрудники уходят, но их место занимают начинающие специалисты.
Проект Nimbus и Израиль
Соглашения Google с Израилем также вызывали споры: в 2024 году сотрудники критиковали совместный с Amazon контракт стоимостью $1,2 млрд (£960 млн) — Project Nimbus, предоставляющий правительству и военным Израиля ИИ-технологии и облачную инфраструктуру. Google тогда заявила, что проект «не направлен на высокочувствительные, засекреченные или военные задачи, связанные с оружием или разведслужбами». Кроме того, израильские ИИ-возможности в войне оказались в центре внимания после выхода документального фильма «Naza» о роли ИИ-систем наведения при обстрелах сектора Газа, повлёкших высокие жертвы среди гражданских. Израильский правительственный министр заявил, что утверждения в фильме ложны и искажены.
Источник изображения, Reuters DeepMind — компания Google в области ИИ
Источник изображения, Supplied София Лигуори уволилась из Google, сказав, что из-за стремления компании внедрять больше ИИ-технологий в военной сфере ей стало «стыдно» там работать
Источник изображения, Getty Images В январе министр обороны США Пит Хегсет заявил, что США «станут вооружёнными силами с приоритетом ИИ»
Источник изображения, Supplied Бывший сотрудник Google Андреас Кирш считает, что современные ИИ-модели недостаточно «надёжны» для военного применения
Источник изображения, Justin Sullivan/Getty Images Принципы ИИ Google включают внедрение ИИ с «человеческим контролем» и соответствие «международному праву и правам человека»
