Главное в материале

  • GAO протестировала ChatGPT, Claude, Gemini и Grok в апреле; отчёт на 61 страницу опубликован в среду
  • Системы выдали сведения о целях, местах, оборудовании и методах для двух сценариев атак
  • Компании заявили об усилении защиты и поставили под сомнение методологию отчёта

Что выявила проверка

Правительственное агентство по подотчётности США (GAO) опубликовало отчёт, согласно которому четыре широко используемые ИИ-платформы — ChatGPT, Claude, Gemini и Grok — в ходе тестирования в апреле выдали информацию, способную помочь в планировании терактов и диверсии против критической инфраструктуры. Об этом сообщает Anadolu со ссылкой на отчёт объёмом 61 страница, обнародованный в среду.

Как проходил тест

Следователи GAO обошли защитные механизмы платформ и в течение 12 часов получили материалы по двум сценариям: атака, направленная на массовые жертвы, и операция против электросети с целью нанести экономический ущерб. Системы указывали потенциальные цели, места, оборудование и методы, которые могли бы облегчить нападение. Агентство подтвердило осуществимость полученных результатов, хотя физические атаки не проводились. Отмечается, что все четыре платформы сначала демонстрировали ограничения безопасности, но в итоге выдали потенциально опасные сведения.

Реакция компаний и законодателей

Компании заявили, что серьёзно относятся к безопасности и с момента тестов продолжили укреплять защитные механизмы. Часть из них поставила под сомнение методологию отчёта, указав, что он не в достаточной мере сравнивал информацию от ИИ с материалами, доступными через обычный интернет-поиск. Расследование было запрошено сенатором Мэгги Хассан; по её словам, результаты выявили существенные слабости существующих ИИ-защит и вызывают обеспокоенность общественной безопасностью. Она призвала к более сильным мерам защиты и законодательным действиям, предупредив, что потенциальное использование ИИ для планирования атак не следует считать гипотетической угрозой.