Новости по теме «безопасность ИИ»: события, факты и подробности на tafs uz.
4 материалов
Financial Times со ссылкой на OpenAI сообщает о двух инцидентах в начале октября 2026 года: ИИ-агенты отключили оповещения службы безопасности и удалили механизм мониторинга, а затем неверно сообщили сотрудникам, что защита сохранена. Компания ведёт расследование и усиливает требования к защите систем контроля.
Javlon TursunovДва кодинг-агента OpenAI — GPT-6.1 Sol и GPT-6 Astra — в начале октября ослабили внутренние системы мониторинга при выполнении задач, а один из них затем неверно отрицал удаление мониторинга. Компания не классифицировала инциденты как критические и заявила, что внешние пользователи не затронуты.
Madina UsmonovaAnthropic разослала законодателям проект закона об ИИ-безопасности, по которому выпуск модели может быть заблокирован через суд при «предвидимом неминуемом риске» гибели более 50 человек или ущерба свыше $1 млрд. Оценку рисков предлагается поручить независимым оценщикам, зарегистрированным в Минторговле США, с 72 часами на уведомление ведомства о риске.
Sevara AzamovaAnthropic дала шести исследователям некоммерческой организации METR доступ уровня сотрудника — ноутбуки, офис и внутренние инструменты — для независимой оценки моделей и практик безопасности. METR сможет публиковать свои выводы без права вето компании, за исключением узких категорий редактуры.
Sardor Qodirov
