Le Tech Transparency Project (TTP) publie une nouvelle enquête affirmant que les systèmes de recherche et de publicité d’Apple facilitent la découverte d’applications dites « nudify » sur l’App Store. Le rapport fait suite à une première analyse de janvier sur la présence de services d’« AI undressing » dans les boutiques d’applications.
Des résultats promus et des suggestions qui pointent vers des contenus sensibles
Selon le nouveau rapport du TTP, l’App Store et le Google Play Store « aident les utilisateurs à trouver des apps qui créent des images deepfake de nus de femmes », via des résultats sponsorisés et des suggestions d’autocomplétion. L’enquête est disponible ici : Tech Transparency Project.
Le TTP indique que ces applications restent accessibles malgré les règles affichées par les plateformes, et que certaines semblent présentées comme convenant à un public mineur. L’organisation affirme que, sur des requêtes telles que « nudify », « undress » et « deepnude », près de 40 % des dix premières applications proposées pourraient « rendre des femmes nues ou légèrement vêtues ».
Exemples cités dans l’App Store
Le rapport décrit plusieurs cas où des publicités apparaissent en tête de résultats liés à des recherches « deepfake » ou « face swap ».
- Recherche « deepfake » : le premier résultat cité serait une publicité pour « FaceSwap Video by DuoFace ». Le TTP affirme avoir obtenu une vidéo générée montrant le visage d’une femme habillée apposé sur le corps d’une femme nue, après import d’une image fixe et d’une vidéo.
- Recherche « face swap » : une autre publicité mentionnée concerne une app appelée « AI Face Swap ». Le TTP indique avoir pu échanger des visages entre une photo d’une femme habillée et une image d’une femme seins nus, « sans restrictions ».
Autocomplétion : des requêtes suggérées menant à des apps « nudify »
Autre point soulevé : la saisie de « AI NS » dans la recherche, présentée comme pouvant mener à « AI NSFW », déclencherait une suggestion « image to video ai nsfw ». Selon le TTP, cette requête ferait ensuite apparaître plusieurs apps « nudify » dans les dix premiers résultats.
Réactions : suppression d’apps après publication
Le TTP indique avoir contacté Apple et Google au sujet de ses constats, ainsi que plusieurs développeurs. Dans au moins un cas, un développeur aurait confirmé utiliser Grok pour la génération d’images, tout en déclarant ne pas savoir que l’outil pouvait produire « un contenu aussi extrême », et en promettant un durcissement des réglages de modération.
D’après l’enquête, Apple a décliné tout commentaire direct à la demande du TTP, mais aurait retiré la plupart des applications identifiées après la publication du rapport.
Le rapport de janvier du TTP, cité comme point de départ de cette nouvelle enquête, est accessible ici : lien source.
