Главное в материале
- Билл Гейтс заявил NBC News, что ИИ может стать опасным оружием в руках злоумышленников, и призвал к законодательному контролю
- Эксперт Дэвид Линтик считает катастрофический сценарий маловероятным: для этого нужно сочетание нескольких факторов
- Актуальные риски — утечки данных, мошенничество, дипфейки, подключение непроверенных ИИ-систем к реальным системам организаций
Предупреждение Гейтса
Сооснователь Microsoft Билл Гейтс в интервью NBC News заявил, что современные инструменты искусственного интеллекта могут превратиться в крайне опасное оружие в руках людей со злым умыслом. Он также подчеркнул необходимость контроля технологии на законодательном уровне.
Оценка эксперта: катастрофа маловероятна
Для обсуждения этого предупреждения издание Tom's Guide обратилось к эксперту по ИИ, облачным технологиям и кибербезопасности Дэвиду Линтику. По его словам, чтобы спровоцировать катастрофу такого масштаба, ИИ должен иметь возможность воздействовать на критическую инфраструктуру, оружие, цепочки поставок или биологические системы, а также действовать без участия человека. Для этого, считает эксперт, должно совпасть несколько факторов: крупные ошибки в связировании систем, серьёзные недостатки управления и намеренное злоупотребление технологией. Поэтому он не оценивает такой сценарий как неизбежный или ожидаемый в ближайшем будущем.
Террористы и нестабильные государства
Линтик допустил, что Гейтс имел в виду возможность использования ИИ террористами или нестабильными государствами. Однако, по мнению эксперта, на пути от вредоносной идеи до широкомасштабной катастрофы стоят серьёзные практические препятствия.
Реальные угрозы сегодня
При этом эксперт не отрицает текущие риски, связанные с ИИ. К актуальным проблемам он отнёс утечки данных, мошенничество, дипфейки, неправильную автоматизацию и предвзятые решения. Его главная обеспокоенность — подключение недостаточно проработанных ИИ-систем к реальным корпоративным и государственным системам: некоторые организации могут внедрять технологию без необходимых механизмов контроля, что способно причинить вред.
Как снизить риски
Для снижения угроз Линтик предложил предоставлять ИИ только те полномочия, которые необходимы для выполнения задачи, изолировать системы и привязывать опасные действия к подтверждению человеком. Также, по его словам, важно регистрировать все действия системы, регулярно тестировать её и сохранять возможность отката изменений. Эксперт считает, что полагаться только на аварийную кнопку отключения недостаточно: если человек обнаружит проблему поздно, вред может быть нанесён до отключения системы. Поэтому безопасность должна опираться на несколько слоёв контроля и учитываться с самых ранних этапов разработки.
