Главное в материале
- Министр ИИ Канишка Нараян призвал не оставлять ИИ «технобройлам и олигархам» и строить технологии в самой Британии
- С помощью frontier-моделей за £13 000 в госсистемах нашли 500 новых уязвимостей
- Нараян намекнул на возможный ИИ-анонс в бюджете после бесед с канцлером Джоном Хили
Министр призвал не отдавать ИИ технологическим элитам
Британия не должна позволить, чтобы искусственным интеллектом управляли «технобройлы и олигархи», заявил министр по ИИ Канишка Нараян в подкасте BBC Political Thinking с Ником Робинсоном. По его словам, работа с технологией требует не только регулирования, но и «построения возможностей и потенциала внутри государства». «Фундаментальная вещь в том, что британская публика и демократия должны утверждать свою власть, а не оставлять её технобройлам и олигархам», — сказал он, не назвав конкретных компаний или руководителей.
Сравнение с промышленной революцией
Нараян, ставший первым в Великобритании кабинетным министром по ИИ после назначения премьер-министром Энди Бёрнхемом в июле, сравнил масштаб технологических перемен с промышленной революцией викторианской эпохи — переходом от преимущественно аграрной экономики к промышленности примерно между 1750 и 1900 годами. По его словам, нынешние изменения «сопоставимы и в чём-то превосходят» ту революцию, и это «то, чего мы не видели десятилетиями». Он подчеркнул, что Британия должна избежать повторения прошлого опыта, когда «итог в целом был хорош для страны, но переход был крайне болезненным для слишком многих людей».
Строить ИИ внутри страны
Помимо «дёргания рычага регулирования», страна должна развивать ИИ внутри Британии, «чтобы можно было формировать условия работы» и не допустить, чтобы всё создавалось за рубежом, отметил министр. «Нам нужно строить технологии, чтобы защищаться и расти, чтобы иметь международные рычаги — сейчас мы полностью зависим от других стран в ключевых частях технологий», — добавил он.
500 уязвимостей за £13 000
Нараян привёл пример возможностей ИИ: правительство недавно использовало frontier-модели в Уайтхолле для проверки кибербезопасности. «Мы потратили на это всего £13 000 — мы обнаружили 500 новых уязвимостей. Это новые уязвимости, найденные в значимых областях государственного сектора», — сказал он, не уточнив деталей.
Контекст: сокращения в Barclays и найденная ИИ уязвимость
Комментарии были записаны за день до того, как банковская группа Barclays объявила о сокращении 5 000 рабочих мест в рамках повышения эффективности с использованием ИИ. Также интервью состоялось до другого крупного события — обнаружения с помощью ИИ уязвимости в кибербезопасности, затрагивающей миллионы веб-сайтов.
Бюджет и международная роль
Нараян сказал, что его беседы с канцлером Джоном Хили намекали на возможный анонс по ИИ в бюджете на следующей неделе, но не раскрыл, о чём идёт речь. Он также отверг представление, что США и Китай — единственные значимые силы в ИИ: по его словам, в AI Security Institute Великобритании «приходит каждая американская лаборатория», прося протестировать модели перед развёртыванием. Ранее в этом месяце он предупреждал, что британскую кибероборону, вероятно, в какой-то момент удастся взломать — после того как в июне «бродячий» агент OpenAI взломал сайт австралийского правительства. Серия его недавних заявлений последовала за публичными утверждениями исследователя безопасности ИИ о том, что создатели технологии допускают её способность уничтожить человечество.
