Apple a indiqué à des sénateurs américains avoir agi en coulisses pour endiguer la diffusion de deepfakes sexualisés générés par Grok plus tôt cette année, selon une lettre obtenue par NBC News.
Apple, X et Grok : une mise en conformité sous pression
Le dossier est parti d’une controverse : des utilisateurs avaient constaté que le chatbot pouvait répondre à des demandes visant à déshabiller des personnes sur des photos, en particulier des femmes, y compris des mineures. D’après NBC News, Apple a conclu que X et Grok enfreignaient ses règles, et aurait menacé en privé de retirer Grok de l’App Store.
Le même article indique qu’Apple a contacté les équipes derrière X et Grok après des plaintes et la médiatisation du scandale, en exigeant l’élaboration d’un plan de renforcement de la modération.
Une série de soumissions et de refus côté App Store
Selon NBC News, une mise à jour de Grok a été soumise à l’examen d’Apple, puis rejetée au motif que les changements proposés n’allaient pas assez loin. xAI a ensuite soumis des versions révisées des apps X et Grok, avec une seule validation dans l’immédiat.
Extrait de la lettre d’Apple, cité par NBC News :
« Apple a examiné les soumissions suivantes effectuées par les développeurs et a déterminé que X avait en grande partie corrigé ses violations, mais que l’app Grok restait non conforme. En conséquence, nous avons rejeté la soumission de Grok et informé le développeur que des changements supplémentaires seraient nécessaires pour remédier à la violation, faute de quoi l’app pourrait être retirée de l’App Store. […] Après de nouveaux échanges et des modifications de la part du développeur de Grok, nous avons estimé que Grok s’était nettement amélioré et avons donc approuvé sa dernière soumission. »
Ces éléments, restés inédits jusqu’ici, éclairent la succession d’ajustements de modération annoncés au plus fort de la polémique, notamment des restrictions sur l’accès aux outils d’image et des limites sur les modifications impliquant des photos de personnes réelles.
NBC News affirme que le problème persiste
Dans un autre article publié aujourd’hui, NBC News indique que Grok continuerait de générer des images sexualisées de personnes sans leur consentement, après avoir documenté des dizaines de cas au cours du dernier mois.
Le média précise que le volume aurait fortement diminué depuis janvier, mais qu’une partie des utilisateurs parviendrait encore à contourner certaines restrictions, notamment en demandant des tenues plus révélatrices (serviettes, brassières de sport, tenues moulantes de Spider-Woman ou costumes de lapin).
