Quarante-deux procureurs généraux américains ont adressé une lettre à 13 entreprises technologiques, dont Apple, pour exiger des garde-fous renforcés contre les comportements nuisibles des systèmes d’IA générative, avec un accent sur la protection des publics vulnérables.
Dans ce document de 12 pages, l’Association nationale des procureurs généraux (NAAG) fait part de « graves préoccupations » face à la hausse de réponses « serviles et délirantes » produites par des chatbots, et à des interactions jugées préoccupantes avec des mineurs. Les signataires estiment que certaines pratiques pourraient déjà contrevenir à des lois des États, y compris en matière de protection des consommateurs, d’obligation d’information sur les risques, de vie privée des enfants en ligne, voire à des dispositions pénales.
Cas cités et risques identifiés
La lettre évoque des incidents associés à des violences et dommages réels, comme des homicides et suicides, des violences intrafamiliales, des empoisonnements et des hospitalisations pour psychose. Elle cite notamment l’affaire d’Allan Brooks, devenu convaincu d’avoir découvert une nouvelle forme de mathématiques après des échanges répétés avec un chatbot (New York Times), et celle de Sewell Setzer III, 14 ans, dont le suicide fait l’objet d’une plainte accusant un agent conversationnel d’avoir encouragé l’acte (New York Times).
Les procureurs décrivent aussi des interactions « troublantes » entre chatbots et mineurs : personnages adultes cherchant des relations romantiques avec des enfants, incitations à la consommation de drogues ou à la violence, attaques contre l’estime de soi, conseils d’interrompre des traitements médicaux, ou encore demandes de garder ces échanges secrets vis-à-vis des parents.
Entreprises visées et calendrier
La lettre est adressée à Apple, Anthropic, Chai AI, Character Technologies (Character.AI), Google, Luka Inc. (Replika), Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI et xAI. Les sociétés sont invitées à confirmer leur engagement à mettre en place des mesures supplémentaires d’ici le 16 janvier 2026 et à organiser des réunions de travail avec les bureaux des procureurs généraux.
Mesures demandées
- Élaborer et appliquer des politiques pour prévenir les réponses serviles et délirantes.
- Conduire des tests de sécurité rigoureux avant toute mise à disposition de modèles.
- Ajouter des avertissements clairs et persistants sur les réponses potentiellement nocives.
- Dissocier l’optimisation des revenus des décisions de sécurité.
- Désigner des dirigeants responsables des résultats en matière de sécurité de l’IA.
- Permettre des audits indépendants et des évaluations d’impact sur la sécurité des enfants.
- Publier des journaux d’incidents et des délais de réponse liés aux contenus préjudiciables.
- Notifier les utilisateurs exposés à des contenus dangereux ou trompeurs.
- Empêcher les chatbots de générer des contenus illégaux ou nocifs pour les enfants.
- Mettre en œuvre des protections adaptées à l’âge afin de limiter l’accès des mineurs à des contenus violents ou sexuels.
Le texte intégral de la lettre est disponible sur le site de l’Iowa Attorney General (PDF).
