Главное в материале

  • CAISSI остался без постоянного руководителя: Коллин Бернс был отстранён через четыре дня, Крис Фолл ушёл через три месяца
  • Сотрудников попросили неформально отчитываться перед офисом Белого дома, сообщают двое бывших чиновников
  • Бюджет центра — 10 млн долларов в год, примерно восьмая часть бюджета британского аналога; офис ЕС по ИИ насчитывает более 125 сотрудников

Центр без руководителя и без публикаций

Государственное учреждение США, тестирующее передовые системы искусственного интеллекта на безопасность, не имеет постоянного руководителя и перестало публиковать свои исследования, сообщает Associated Press (по материалам euronews). Речь о Центре содействия инновациям и разработке стандартов для суперинтеллекта (CAISSI), входящем в состав Министерства торговли. Двое бывших правительственных чиновников рассказали агентству, что сотрудников центра недавно попросили неформально отчитываться перед одним из офисов Белого дома.

Кадровая нестабильность и вопросы Конгресса

CAISSI испытывает трудности с назначением руководителя: Коллин Бернс, ранее работавший в Anthropic, был отстранён от должности директора уже через четыре дня в апреле — по сообщениям, из-за связей с этой компанией. Его преемник Крис Фолл подал в отставку через три месяца. Сейчас обязанности директора исполняет Арвинд Раман, возглавляющий материнскую структуру центра — Национальный институт стандартов и технологий. В августе Конгресс поинтересовался, почему центр перестал публиковать отчёты по безопасности.

Политизация или повышение статуса

Критики считают, что сближение с Белым домом может политизировать работу центра: его выводы, по их словам, могут сглаживаться в угоду ИИ-компаниям, которые в значительной степени предоставлены сами себе в вопросах регулирования. Каролин Зигель Сингх из Федерации американских ученых заявила, что цель состояла в том, чтобы «беспартийные или двухпартийные технократические эксперты» формировали политику в общественных интересах. Другие, напротив, утверждают, что более тесная связь с президентом Дональдом Трампом может повысить известность центра и принести ему больше финансирования: CAISSI получает 10 млн долларов (8,94 млн евро) в год — примерно одну восьмую бюджета его британского аналога. Для сравнения, Канцелярия по вопросам ИИ ЕС, работающая в структуре Европейской комиссии и с августа имеющая полномочия штрафовать разработчиков наиболее продвинутых моделей, насчитывает более 125 сотрудников и, по сообщениям, нанимает ещё 40 человек.

Добровольное саморегулирование вместо проверок

В сентябре Трамп призвал ИИ-компании взять на себя обязательства по «колоссальному самоконтролю» в рамках добровольного соглашения, но его администрация не объяснила, как будет проверяться соблюдение этих обещаний. Белый дом не ответил на вопросы о CAISSI, вместо этого сославшись на новую Super Intelligence Force, которую возглавляет директор национальной разведки Джей Клейтон. Амос То из Центра правосудия Бреннана заявил AP, что подход к безопасности ИИ как к вопросу национальной безопасности чреват оттеснением на второй план защиты прав потребителей, приватности и гражданских свобод: «Все эти решения имеют огромные последствия для общества и должны быть разъяснены и обоснованы публично. И этого не происходит».