Apple a retiré de l’App Store Kromix, une application présentée comme un « AI image styler », après les questions de WIRED sur ses fonctions de génération d’images pornographiques truquées à partir de personnes réelles. Meta a, de son côté, supprimé la campagne publicitaire de l’app, qui avait diffusé 32 annonces exclusivement auprès d’utilisateurs masculins.
Une publicité visant une personnalité politique américaine
D’après l’enquête de WIRED, Kromix se présentait dans l’une de ses vidéos comme « l’IA que les hommes utilisent vraiment ». La voix off vantait un outil « sans restrictions » et affirmait que « tous les personnages sont de vraies personnes ».
L’une des publicités montrait une femme ressemblant étroitement à une importante personnalité politique américaine, devant un drapeau des États-Unis et le drapeau présidentiel. Sous la mention « What if she moved? », elle clignait de l’œil avant que la vidéo ne bascule vers une scène pornographique mettant en scène une femme au même visage.
Apple a indiqué à WIRED que Kromix semblait avoir ajouté ces contenus et fonctionnalités interdits après avoir franchi l’examen initial de l’App Store. Le groupe rappelle interdire strictement les applications conçues pour générer, distribuer ou consommer de la pornographie.
« Les applications de “nudification” vont à l’encontre de nos App Review Guidelines et nous travaillons activement à identifier et supprimer ces applications, ainsi que les comptes développeurs qui tentent de contourner nos processus et politiques », a déclaré Apple à WIRED.
Apple avait déjà été alertée sur les apps de « nudification »
Cette position rejoint celle exprimée par Apple le mois précédent, lorsque le procureur de la ville de San Francisco, David Chiu, avait demandé le retrait de huit applications de « nudification » de l’App Store.
WIRED rapporte aussi avoir identifié, dans une enquête distincte, des publicités Meta renvoyant vers MaskAI. Cette autre application permettait de téléverser des photos puis d’incruster le visage de personnes dans des situations sexuelles. Apple l’a également retirée après avoir été sollicitée par le média.
Ce que ça change
Le cas Kromix illustre une limite concrète du contrôle de l’App Store : une application peut passer l’examen initial puis évoluer vers des usages contraires aux règles, comme Apple l’affirme ici. Il souligne aussi le rôle des régies publicitaires dans la diffusion de ces outils, puisque les annonces Meta ont servi de point d’entrée vers l’application avant leur suppression.
Pour les utilisateurs, l’enjeu dépasse le retrait d’une seule app : la génération d’images sexuelles truquées à partir de visages réels combine atteinte potentielle aux personnes visées et contournement des règles de distribution. La capacité d’Apple et de Meta à détecter ces changements de comportement restera centrale.
À lire aussi
Source : WIRED — enquête originale
Rédigé avec l'assistance d'outils d'IA, vérifié et validé par la rédaction.