Europa inició una investigación formal contra la empresa que opera la red social X y su asistente de inteligencia artificial, Grok. Esto debido a la generación y difusión de imágenes sexualizadas de menores.
La Comisión Europea, órgano ejecutivo de la Unión Europea, fundamentó la apertura del expediente sancionador en posibles violaciones del Reglamento de Servicios Digitales, que entró en vigor el año pasado para regular y supervisar los riesgos de ciertos contenidos en plataformas digitales.
Europa investiga a X y Grok por imágenes sexualizadas de menores
El expediente señala que Grok generó imágenes deepfake y otros contenidos ilegales o nocivos, entre ellos representaciones explícitas de menores y mujeres. La Comisión Europea manifestó su preocupación por el potencial daño grave que este tipo de contenidos puede causar a los ciudadanos dentro del mercado único digital. 
La investigación de Europa explorará cómo X y Grok gestionan los sistemas de recomendación y moderación de contenidos, para verificar el cumplimiento de las nuevas normas europeas en materia de servicios digitales.
Regulación aplicable y obligaciones de la plataforma
El Reglamento de Servicios Digitales, aplicable desde 2025, obliga a plataformas como X a implementar medidas adecuadas para prevenir la distribución de contenidos ilegales, proteger a los usuarios y responder a solicitudes de los reguladores. La Comisión examinará específicamente si la empresa de Elon Musk cumplió con estas obligaciones y si sus sistemas de inteligencia artificial implementan controles efectivos para evitar la creación y promoción de material sexualizado que involucre a menores.
Contexto regulatorio y enfoque en inteligencia artificial
Esta investigación se añade a un contexto regulatorio europeo en expansión, en el que se intensifica el escrutinio sobre las tecnologías basadas en inteligencia artificial, especialmente en lo relativo a la generación automática de imágenes y textos. Las autoridades europeas han priorizado el control de plataformas que utilizan algoritmos que pueden amplificar contenidos dañinos o ilegales.
Proceso y alcance del expediente sancionador
El expediente sancionador representa una medida formal dentro de los mecanismos de supervisión que la Comisión puede desplegar para garantizar la protección de los derechos y la seguridad de los usuarios en internet. En esta etapa, la Comisión recabará información adicional y podrá imponer medidas correctivas o sanciones si identifica infracciones a la legislación europea vigente.
Implicaciones para X y Grok en materia digital y de protección
Esta acción llega en un momento en que X ha ampliado el uso de Grok como asistente de inteligencia artificial para generar contenidos en su plataforma. La Comisión Europea enfoca su análisis en el impacto específico de estas tecnologías sobre la protección de datos personales, la defensa de la infancia y la prevención de la explotación sexual, conforme a los marcos regulatorios existentes.
Seguimiento y próximos pasos de la investigación
El desarrollo de esta investigación estará en seguimiento constante, dado el interés que generan los casos vinculados con inteligencia artificial y contenido digital. Los resultados de la indagatoria determinarán el cumplimiento normativo y las posibles consecuencias para X y Grok dentro del ámbito europeo.
Más información en la página oficial de la Comisión Europea.
