Главное в материале

  • Макрон: ИИ должен быть запрещён там, где он угрожает психическому здоровью или мозгу детей
  • Хартия на Парижском форуме мира объединит, в частности, OpenAI и Anthropic: независимая оценка генеративных систем и предварительный аудит моделей до их попадания к детям
  • Комитет экспертов представит рекомендации во вторник; в пятницу в Дублине пройдёт первый саммит министров ЕС по ИИ

Запрет как принцип

Президент Франции Эмманюэль Макрон заявил в понедельник, что искусственный интеллект должен быть запрещён везде, где он создаёт риск для психического здоровья детей. «Если существует риск для детей при определённых способах использования ИИ, то его нужно запретить», — сказал он в интервью газете Les Echos, добавив: «Только потому, что это ИИ, не значит, что должен быть Дикий Запад». Макрон, который также добивается запрета некоторых социальных сетей для лиц младше 15 лет во Франции, подчеркнул, что ИИ следует запрещать, когда он угрожает «психическому здоровью детей или их мозгу» (euronews).

Хартия и рекомендации экспертов

Заявление прозвучало накануне принятия хартии по этой теме на Парижском форуме мира. Во вторник комитет экспертов должен представить Макрону рекомендации по защите от ИИ — области, которая, по словам издания, изучена меньше, чем влияние социальных сетей. После этого исследовательские лаборатории в рамках хартии возьмут на себя обязательства, включая независимую оценку генеративных систем ИИ, выводимых на рынок, и доступ к данным их моделей. Хартия, которая «призвана информировать национальные и европейские законодательные дебаты», объединит, в частности, американские компании OpenAI и Anthropic, сообщил офис Макрона. Компании примут «принцип предварительного аудита и предварительной сертификации, с предварительным рассмотрением моделей до того, как они окажутся в руках детей», сказал Макрон.

Международная координация и контекст ЕС

Целью, по словам Макрона, является создание «рамок, учитывающих опасности, которые делятся на три категории: наши дети, безопасность демократии и крупные вопросы национальной безопасности». Он также собрал около 50 глав государств и правительств, представителей международных организаций, компаний, исследователей и лабораторий на видеоконференцию о рисках ИИ для коллективной безопасности; участвовали премьер-министры Великобритании, Канады, Норвегии, Нидерландов и Японии, а также главы OpenAI, Anthropic, Mistral и Microsoft. «Диагноз разделяют все. Мы должны действовать вместе», — подытожил он в X. «Мы будем продвигать европейское регулирование и добиваться того, чтобы американцы, канадцы и другие поступали так же, как мы. Мы создаём зачатки регулирования передового ИИ», — добавил президент.

Расходящиеся подходы

Заявление прозвучало на фоне того, что региональные подходы к регулированию ИИ резко расходятся, особенно между США, ЕС и Китаем. В пятницу в Дублине под председательством Ирландии состоится первый саммит министров стран ЕС по вопросам ИИ: Евросоюз надеется, что встреча поможет национальным правительствам договориться о новом пути регулирования технологии и оживить вялый экономический рост блока, а лидеры одновременно пересмотрят уже введённые защитные меры, такие как акт об ИИ.