Apple et Google font face à une nouvelle pression sur la modération de leurs boutiques d’applications. Le City Attorney de San Francisco a envoyé jeudi des lettres de mise en demeure aux deux groupes pour exiger le retrait de 13 applications d’IA présentées comme des outils de « face swap », mais utilisées pour « déshabiller » des photos de personnes réelles et produire des images nues non consenties.
D’après ces courriers, 8 applications sont distribuées sur l’App Store et 5 sur le Play Store. Le bureau du City Attorney demande aussi à Apple et Google de rompre leurs liens avec les développeurs concernés et de cesser de percevoir une part des paiements intégrés, en estimant que les deux plateformes « aident et encouragent » la vente d’images explicites générées par deepfake.
San Francisco cible aussi le modèle économique des plateformes
Le City Attorney qualifie cette pratique d’« illégale, nuisible et totalement inacceptable ». Son bureau estime en outre qu’Apple et Google ont perçu des millions de dollars de commissions via ces applications, un point important car il déplace le débat de la seule modération vers la responsabilité économique des plateformes.
Les deux entreprises disposent pourtant déjà de règles développeurs interdisant la pornographie. Le sujet n’est donc pas celui d’une absence de cadre, mais bien de son application effective à des apps qui se présentent comme de simples outils de permutation de visages alors qu’elles serviraient en pratique à générer des faux nus de personnes réelles.
Google a déjà supprimé les 5 apps citées sur le Play Store
Selon une porte-parole de Google, l’entreprise a supprimé « des centaines » d’applications intégrant des fonctions de « nudifying » pour violation de ses règles, y compris les 5 apps mentionnées dans les lettres. Aucune réponse équivalente d’Apple n’est mentionnée à ce stade sur le retrait des 8 applications visées sur l’App Store.
En juin, Apple avait déjà renforcé la formulation de ses règles de l’App Store sur la responsabilité des développeurs en matière de contenus pornographiques. Ce durcissement donnait un signal sur la sensibilité croissante du groupe à ce type d’usages, même si l’existence d’apps encore visées par la mise en demeure montre que la question reste ouverte dans l’exécution concrète des contrôles.
Ce que ça change
Pour Apple, l’enjeu dépasse le simple retrait de quelques applications : c’est la crédibilité de l’App Store comme espace filtré et sûr qui est en jeu. Si les autorités commencent à lier plus directement la commission prélevée par la plateforme à la diffusion de contenus illicites, la pression pourrait monter sur les procédures de validation et de surveillance après publication.
Pour les utilisateurs, cette affaire rappelle aussi que des apps présentées comme ludiques ou créatives peuvent servir à des usages profondément abusifs. Le point à surveiller sera la réponse d’Apple sur les 8 apps citées et, plus largement, la manière dont l’App Store fera respecter ses règles sur les deepfakes explicites.
À lire aussi
Source : San Francisco City Attorney — cease-and-desist letters to Apple and Google
Rédigé avec l'assistance d'outils d'IA, vérifié et validé par la rédaction.