El regulador del Reino Unido inicia una investigación sobre X por preocupaciones relacionadas con la generación de contenido mediante IA

Ofcom, el regulador de comunicaciones del Reino Unido, ha iniciado una investigación formal sobre X tras graves acusaciones relacionadas con su herramienta Grok AI. Los informes indican que el sistema de inteligencia artificial fue explotado para generar imágenes sexualizadas que representan a mujeres y niños.

Esto marca una escalada significativa en la supervisión regulatoria de plataformas impulsadas por IA. La investigación se centra en si X mantuvo salvaguardas adecuadas para prevenir el uso indebido de sus capacidades de IA generativa para crear contenido prohibido. Los reguladores están examinando las políticas de moderación de contenido y los controles técnicos de la plataforma.

El caso subraya la creciente presión sobre las plataformas sociales para implementar mecanismos de supervisión más estrictos para las herramientas de IA. A medida que las plataformas descentralizadas y centralizadas continúan integrando modelos de lenguaje avanzados y sistemas generativos, los marcos de cumplimiento en torno a la seguridad del contenido se vuelven cada vez más críticos. Es probable que esta investigación establezca un precedente sobre cómo los reguladores en todo el mundo abordan los riesgos del contenido generado por IA.