Главное в материале

  • Иск подан в Верховный суд Сан-Франциско против Anthropic, Google, Meta, OpenAI и SpaceX Super Intelligence (SpaceXSI)
  • Истцы требуют остановить разработку продвинутых ИИ-моделей, ссылаясь на риски для человечества
  • Ни одна из пяти компаний на момент публикации не прокомментировала иск

Иск против пяти ИИ-компаний

Коалиция некоммерческих организаций — Alliance for Secure AI, Irreplaceable Education Fund, Public Citizen и Heat Initiative — подала иск в Верховный суд Сан-Франциско против пяти ведущих разработчиков искусственного интеллекта: Anthropic, Google, Meta, OpenAI и SpaceX Super Intelligence (SpaceXSI). Истцы требуют остановить разработку продвинутых ИИ-моделей, утверждая, что технология может представлять серьёзную угрозу человечеству. Об этом сообщает Anadolu.

Аргументы истцов

Генеральный директор Alliance for Secure AI Брендан Стайнхаузер обвинил руководителей технологических компаний в том, что они продолжают создавать всё более сложные ИИ-системы, несмотря на ранее признанные ими потенциально катастрофические последствия. По его мнению, компании ускоряют разработку и коммерциализацию мощных ИИ-технологий, не имея возможности гарантировать их безопасность и надёжный контроль; он также указал на растущее использование ИИ-систем для проведения собственных исследований и разработок.

«Рекурсивное самоулучшение» и цитаты из иска

В иске утверждается, что риски могут возрасти, поскольку разработчики всё чаще применяют ИИ-модели для проектирования и улучшения следующих поколений ИИ-систем при ограниченном человеческом контроле. Этот процесс, известный как «рекурсивное самоулучшение», по мнению истцов, может делать передовые технологии всё труднее для контроля. «Ответчикам известно, что эти системы не всегда действуют в соответствии с намерениями их создателей, — говорится в иске. — И ответчикам известно, что не существует надёжного метода контроля их ИИ-систем и предотвращения причинения вреда».

Заявления руководителей и контекст

Истцы также ссылаются на прежние заявления руководителей отрасли: в 2015 году глава OpenAI Сэм Альтман предупреждал, что ИИ потенциально может привести к концу человечества, а глава Anthropic Дарио Амодеи в 2025 году оценил вероятность катастрофических последствий от развития ИИ в 25%. На фоне растущего внимания к безопасности ИИ руководители подчёркивают приверженность ответственному развитию: в октябре Альтман, Амодеи и глава SpaceX Илон Маск высказались в поддержку скоординированного замедления разработки ИИ. Их заявления последовали за предупреждением исследователя Anthropic, оценившего риск вымирания человечества из-за ИИ в 10%. Ни одна из пяти компаний на момент публикации не ответила на запросы о комментарии по иску.