Une inquiétude croissante concerne le contenu explicite généré par l'IA qui inonde les plateformes sociales. La problématique des systèmes automatisés produisant des matériaux inappropriés a attiré une attention sérieuse de la part des décideurs, qui soutiennent que ce type de contenu représente un défi majeur en matière de modération. Les entreprises technologiques subissent une pression accrue pour mettre en place des contrôles plus stricts sur les médias synthétiques, en particulier lorsque les algorithmes amplifient des productions de faible qualité ou nuisibles. Cela soulève des questions cruciales sur la responsabilité des plateformes et sur la suffisance des mesures de sécurité actuelles pour prévenir les abus à grande échelle.