Apple запретила приложения с ИИ-дипфейками и «раздеванием» в App Store

Apple обновила правила App Store, запретив разработчикам скрывать вредоносные функции во время модерации и активировать их после одобрения приложения. В частности, этот запрет касается сервисов, создающих откровенные изображения реальных людей без их согласия, в том числе с помощью искусственного интеллекта.

Разработчики приложений с пользовательским контентом теперь обязаны не только пресекать появление подобных материалов, но и оперативно удалять их. Им также предписано фильтровать неприемлемый контент, внедрить механизмы жалоб для пользователей и блокировать аккаунты, распространяющие оскорбительные материалы. Обновлённые правила напрямую распространяются и на контент, сгенерированный ИИ.

Если приложение маскирует свои возможности во время проверки или внедряет их после публикации, его удалят из App Store, а создателя — исключат из Apple Developer Program. В качестве примера таких скрытых функций (также известных как bait-and-switch) Apple снова привела инструменты для генерации интимных изображений без согласия людей.

За прошлый год Apple заблокировала более 150 тысяч небезопасных приложений и закрыла свыше 193 тысяч аккаунтов разработчиков. Ранее компания уже предупреждала xAI о возможном удалении Grok из App Store из-за генерации интимных дипфейков, однако после внедрения защитных фильтров Apple одобрила обновлённую версию приложения.

Сталкивались ли вы с приложениями, которые меняли свои функции или добавляли скрытые функции уже после того, как вы их скачали?