Главное в материале

  • Apple обновила правила App Store: запрет на ИИ-генерацию оскорбительного контента и «bait-and-switch»-приложения с функциями «нудификации»
  • Компания будет удалять приложения с функциями, не заявленными при проверке
  • В июле Сан-Франциско требовал от Apple и Google удалить нудификационные приложения

Обновление правил App Store

Apple на выходных ужесточила правила для разработчиков, запретив приложения, которые используют ИИ для создания оскорбительного контента, а также те, что маскируются под обычные программы для прохождения проверки App Store, а затем превращаются в «нудификаторы» или выносят такие функции на первый план. Компания обновила формулировки о ИИ и пользовательском контенте, потребовав от разработчиков достаточных мер для модерации нежелательных материалов.

Требования к приложениям с пользовательским контентом

По словам Apple, приложения с пользовательским контентом обязаны фильтровать неприемлемые материалы, давать пользователям возможность жаловаться на оскорбительный контент и блокировать недобросовестные аккаунты. Запрещены также приложения со скрытыми или незадокументированными функциями, включая те, что скрывают вредоносные возможности — например, «нудификацию» — до одобрения (схема bait-and-switch). Apple заявила, что будет удалять приложения, добавляющие функции, отсутствовавшие в версии, отправленной на проверку. В юридическом разделе правил компания также усилила формулировки о запрете приложений, содействующих торговле людьми и эксплуатации детей.

Контекст и давление регуляторов

Apple сообщала, что в прошлом году процесс проверки заблокировал более 150 000 приложений и удалил 193 000 аккаунтов разработчиков из-за мошенничества и злоупотреблений. В июле власти Сан-Франциско потребовали от Apple и Google очистить магазины от нудификационных приложений: городской прокурор Дэвид Чиу обвинил компании в извлечении прибыли из них через комиссии магазинов. В апреле отчёт Tech Transparency Project показал, что в магазинах обеих компаний размещались нудификационные приложения, некоторые из которых имели рейтинг пригодности для несовершеннолетних.