
Apple est mise sous pression à Washington sur la modération des applications de « nudification », ces services utilisant l’IA pour générer des images de nudité ou pornographiques de personnes réelles sans leur consentement. Dans des lettres adressées aux dirigeants d’Apple, Google et Meta, les sénateurs démocrates Ron Wyden, Ed Markey et Ben Luján estiment que les trois groupes ne détectent et ne retirent pas efficacement ces services de leurs plateformes.
Les élus reprochent aussi à Apple et Google de pouvoir tirer des revenus de la distribution de ces applications, tandis que Meta est visé pour leur promotion publicitaire sur Facebook et Instagram. Ils considèrent que ces pratiques « victimisent les femmes et les filles dans le monde entier » et appellent les entreprises à rendre compte de leurs mesures de prévention et de retrait.
Apple a récemment durci ses règles de l’App Store
Le mois dernier, Apple a mis à jour les règles de l’App Store applicables aux apps permettant de créer des contenus par IA. Elles doivent désormais intégrer des protections contre les abus, notamment des outils pour filtrer les contenus répréhensibles, signaler les contenus offensants et bloquer les utilisateurs abusifs.
Apple avertit également que les applications principalement utilisées pour des contenus pornographiques ou pour objectifier des personnes réelles peuvent être retirées de l’App Store sans préavis. Le groupe maintient que les apps de nudification ont toujours été interdites par ses règles d’examen et qu’il les rejette ou les retire de manière proactive, y compris à la suite de signalements d’utilisateurs.
Cette ligne est néanmoins contestée par les sénateurs. Keith Chu, conseiller principal en communication et directeur adjoint des politiques auprès de Ron Wyden, souligne que clarifier une règle ne vaut pas application effective si les apps continuent de se multiplier dans les boutiques d’Apple et de Google, ou d’être promues sur les plateformes de Meta.
135 applications repérées lors d’une enquête
Dans sa dernière enquête publiée le mois dernier, le Tech Transparency Project (TTP) a identifié 135 apps capables de générer des images de nudité ou pornographiques sur l’App Store et le Play Store. Les chercheurs ont utilisé des comptes associés à des garçons âgés de 13 ans et ont constaté que des comptes configurés avec des contrôles parentaux pouvaient télécharger ces apps sans demander d’autorisation parentale.
Apple et Google ont retiré les applications identifiées par cette enquête. Le TTP relève toutefois que celles déjà installées continuaient de fonctionner sur les appareils concernés.
Ce que ça change
La pression politique déplace le débat de l’existence des règles vers leur efficacité opérationnelle : détection avant publication, retraits rapides et contrôle de l’accès des mineurs deviennent les points centraux. Pour Apple, l’enjeu est aussi celui de la crédibilité de l’App Review, alors que l’App Store constitue un élément clé de sa promesse de sécurité et de contrôle de l’écosystème.
Ron Wyden avertit que le Congrès pourrait intervenir si les plateformes ne renforcent pas leur action. Les réponses d’Apple aux questions des sénateurs seront donc particulièrement suivies, au-delà du seul cadre des applications de nudification.
À lire aussi
Source : Ron Wyden, Ed Markey et Ben Luján — lettres adressées aux PDG d’Apple, Google et Meta
Rédigé avec l'assistance d'outils d'IA, vérifié et validé par la rédaction.