Quelques heures après la demande publique d’une coalition d’organisations de droits numériques, de protection de l’enfance et des droits des femmes visant à bannir Grok des boutiques d’apps, xAI annonce de nouvelles restrictions pour l’édition et la génération d’images via Grok sur X.
Contexte
Ces derniers jours, de nombreux utilisateurs de X et de Grok ont sollicité le chatbot pour « déshabiller » des femmes et des mineures à partir de photos publiées sur X. Malgré des « défaillances de garde-fous » reconnues par xAI, Grok a continué à répondre à certaines requêtes, entraînant le blocage de X dans plusieurs pays et l’ouverture d’enquêtes visant xAI.
Une coalition de 28 organisations a adressé des lettres ouvertes à Apple et Google pour demander le retrait de Grok et de X de leurs boutiques. Le texte affirme que Grok sert à produire des images intimes non consensuelles (NCII), dont des contenus d’abus sexuels sur enfants (CSAM), en violation des règles de l’App Store, et réclame le retrait immédiat des deux apps. La lettre est accessible ici : PDF.
Ce que xAI change
xAI indique avoir mis à jour le compte @Grok sur X pour limiter certains usages (annonce) :
- Blocage de l’édition d’images de personnes réelles en tenue révélatrice (bikinis, sous‑vêtements, etc.) via le compte Grok sur X. La restriction s’applique à tous les utilisateurs, y compris payants.
- Accès réservé aux abonnés payants pour la création et l’édition d’images via le compte Grok sur X, afin de renforcer la traçabilité et la responsabilité.
- Géoblocage de la génération d’images de personnes réelles en tenues similaires dans les juridictions où cela est illégal.
Ces mesures concernent principalement l’usage de Grok intégré à X. Des tentatives de contournement sont déjà signalées par des abonnés, tandis que les non‑abonnés voient désormais un message indiquant que la génération et l’édition d’images sont limitées aux comptes Premium vérifiés.
Situation côté plateformes
Apple et Google n’ont pas commenté publiquement depuis le début de l’affaire, alors que la pression politique et associative pour retirer X et Grok de l’App Store et du Play Store s’intensifie.
