Главное в материале

  • Мамдани на мероприятии AI Now Institute заявил о «полном самоустранении федерального закона» в сфере ИИ и призвал горожан отстаивать контроль над технологией.
  • Ранее он запретил ИИ в начальных и средних школах и ввёл требование раскрывать использование ИИ в фото объявлений о недвижимости.
  • Он раскритиковал Superintelligence Task Force Трампа за ставку на саморегулирование компаний и сослался на данные Bloomberg о роли ИИ в февральском ударе по школе в Иране.

Выступление на «Народной ассамблее по ИИ»

В понедельник вечером в Webster Hall на Манхэттене мэр Нью-Йорка Зохран Мамдани и активистка, актриса сериала «Broad City» Илана Глейзер обсудили будущее ИИ на мероприятии The People's AI Assembly, организованном аналитическим центром AI Now Institute, изучающим социальные последствия технологии. Глейзер задавала мэру вопросы. Мамдани призвал нью-йоркцев сопротивляться ощущению, что ИИ неизбежно отберёт у них работу, повлияет на сознание детей и достоинство, и вернуть себе контроль. По его словам, стремительное внедрение технологии не является неизбежным, а госслужащие должны добиваться подотчётности от ИИ-компаний.

Городские меры против ИИ

Мэр напомнил о недавних решениях городской администрации. В прошлом месяце он распорядился запретить использование ИИ в начальных и средних школах. Глейзер, сама родитель, сказала, что появление технологии в классах её тревожит: «Это меня нервировало. Это ощущается как навязанное без согласия — будто это обязательно должно быть в школах. Два года назад этого не было. Почему оно должно быть в школах?» Летом мэр также представил политику, обязывающую арендодателей, брокеров и платформы недвижимости явно указывать, если фото или видео объявления созданы с помощью ИИ. Мера призвана защитить жителей от «house-phishing» — обмана через вводящие в заблуждение объявления.

Критика федеральной политики и отрасли

Мамдани раскритиковал «полную абдикацию федерального закона» в сфере ИИ. По его словам, на национальном уровне дискуссия об ИИ обычно подаётся как «гонка вооружений с Китаем», а гуманитарные опасения отодвигаются на второй план ради национальной конкуренции. Он также указал на «безрассудное внедрение технологии без осмысления её ограничений», сославшись на февральский удар США по школе в Иране, в котором погибли более 150 человек, включая как минимум 123 детей. По данным Bloomberg со ссылкой на участников внутреннего расследования Пентагона, одним из факторов удара стала избыточная опора на ИИ при выборе целей.

Подотчётность компаний и будущее регулирование

«Есть желание говорить об ИИ так, будто он непогрешим, будто его нельзя ставить под вопрос, будто регулировать его могут только те, кто его сейчас разрабатывает», — сказал Мамдани, отметив, что Facebook выдвигал похожие аргументы в 2008 году. По его мнению, за этим стоит «попытка уйти от любой подотчётности на любом уровне, не ставя под угрозу потенциальную оценку стоимости при IPO». TechCrunch напоминает, что Anthropic, как ожидается, выйдет на публичный рынок в этом году, а OpenAI заявляла о планах IPO в 2027 году. Мэр также раскритиковал объявленный ранее в этом месяце Superintelligence Task Force президента Дональда Трампа, который, по данным издания, сосредоточен в основном на саморегулировании мощных ИИ-компаний, а не на новых федеральных ограничениях — несмотря на предупреждения информаторов из Anthropic, Google DeepMind и OpenAI о том, что ИИ может привести к исчезновению человечества. «Когда мы смотрим на то, что придёт после этой федеральной администрации, нужен совершенно иной подход к тому, как мы думаем об ИИ, говорим об ИИ и какой подотчётности мы готовы добиваться», — заключил Мамдани.