La Malaisie et l’Indonésie ont bloqué l’app Grok après des usages répétés pour générer des deepfakes sexualisés non consensuels, y compris concernant des mineurs. Au Royaume‑Uni, le régulateur Ofcom ouvre une enquête, tandis que des sénateurs américains demandent à Apple et Google de retirer temporairement X et Grok de leurs boutiques américaines.
À retenir
- Grok est accessible en app dédiée, dans l’app X et via un onglet sur le site de X.
- Des images d’abus sexuels sur mineurs (CSAM) ont été générées malgré des garde‑fous annoncés.
- L’Indonésie a bloqué l’accès samedi, suivie de la Malaisie dimanche (Associated Press).
- Ofcom enquête sur d’éventuels manquements d’X au Online Safety Act au Royaume‑Uni.
- Trois sénateurs américains demandent à Apple et Google de retirer X et Grok « dans l’attente d’une enquête complète ».
Grok et la génération d’images sexualisées
L’outil d’IA Grok a été largement utilisé pour créer des deepfakes non consensuels, prenant des photos habillées et simulant un déshabillage pour afficher des maillots de bain ou des tenues révélatrices. Des contenus visant des enfants ont également été signalés. Les représentations de nudité sont théoriquement bloquées, mais certains formulations de requêtes contournent ces filtres.
Suite aux critiques, Elon Musk a limité la génération d’images dans X aux abonnés payants. La fonctionnalité reste toutefois accessible via l’onglet Grok sur le site et l’app X.
Blocages en Malaisie et en Indonésie, enquête d’Ofcom
Les autorités malaisiennes et indonésiennes ont bloqué Grok, estimant que les contrôles existants n’empêchaient pas la création et la diffusion de faux contenus pornographiques, notamment impliquant des femmes et des mineurs (source : Associated Press).
Au Royaume‑Uni, Ofcom a ouvert une enquête formelle sur l’usage de Grok via X pour créer et partager des images dénudées de personnes — potentiellement assimilables à des abus d’images intimes — et des images sexualisées d’enfants pouvant constituer du CSAM.
Pression politique aux États‑Unis
Les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján ont demandé aux CEO d’Apple et de Google de retirer temporairement X et Grok de leurs boutiques américaines, évoquant une « génération de contenus écœurants » et la « génération massive d’images sexualisées non consensuelles de femmes et d’enfants ». La lettre souligne l’absence d’action suffisante d’Elon Musk et rappelle le retrait rapide de l’app ICEBlock à la demande de la Maison Blanche.
Statut sur l’App Store et Google Play
À la date de publication, aucune réponse publique d’Apple ou de Google n’a été communiquée. Les apps X et Grok restent disponibles sur les boutiques américaines.
