Apple étend ses règles de l’App Store afin de viser plus explicitement les images intimes non consenties produites par intelligence artificielle. Selon la mise à jour des App Review Guidelines, les développeurs d’applications hébergeant ou générant de tels contenus doivent désormais les prévenir et les retirer de manière proactive.
Les contenus sexuellement explicites étaient déjà interdits sur la boutique, mais Apple inscrit désormais clairement les deepfakes et les usages de « nudification » dans son cadre de modération. L’enjeu porte notamment sur les outils capables de créer des images sexuellement explicites de personnes réelles sans leur consentement.
Les apps d’IA directement visées
La règle 1.2 révisée cite les applications de création de contenus par IA. Apple indique que les éditeurs restent responsables des contenus distribués par leurs plateformes et de leur suppression lorsqu’ils enfreignent les règles. Une application qui laisserait circuler des deepfakes intimes non consentis s’expose ainsi à un retrait de l’App Store.
Apple rappelle sa ligne de fermeté dans sa communication aux développeurs : « We do not hesitate to remove apps, and terminate the developers behind them, when they violate these guidelines. » La sanction peut donc dépasser le déréférencement d’une application et concerner le compte développeur lui-même.
Fin du contournement après la validation
Apple ajoute aussi la règle 2.5.19. Celle-ci précise que l’ajout de fonctions ou de fonctionnalités absentes de la version soumise à l’examen peut entraîner l’exclusion de l’App Store et de l’Apple Developer Program.
Cette disposition cible notamment les applications qui présenteraient une finalité inoffensive lors de la validation, avant d’activer après coup une fonction nocive, comme la nudification. Les fonctions cachées, non documentées ou dissimulées durant l’examen sont également prohibées : Apple cherche ainsi à fermer la voie à une stratégie de type bait-and-switch.
Enfin, Apple étend à la distribution alternative d’applications l’interdiction des logiciels facilitant la traite d’êtres humains ou l’exploitation d’enfants.
Ce que ça change
Pour les utilisateurs, ces règles renforcent l’obligation de modération des services d’IA disponibles dans l’écosystème Apple, y compris lorsque le contenu est généré par d’autres utilisateurs. Pour les développeurs, la conformité ne se limite plus à la version initialement soumise : toute évolution fonctionnelle devra rester cohérente avec ce qui a été examiné par Apple.
La clarification de la règle 2.5.19 place également les mécanismes de mise à jour et d’activation de fonctions sous surveillance, un point particulièrement sensible pour les applications capables de produire des images à partir de photos de personnes réelles.
À lire aussi
Source : Apple — Developer News, mise à jour des App Review Guidelines
Rédigé avec l'assistance d'outils d'IA, vérifié et validé par la rédaction.