La inteligencia artificial Grok, desarrollada por la empresa xAI de Elon Musk e integrada a la red social X, quedó este lunes en el centro de una creciente reacción internacional.
Autoridades regulatorias de Europa, India, Malasia y otros países iniciaron investigaciones contra X, luego de que su chatbot de inteligencia artificial Grok fuera utilizado para la generación de deepfakes sexualizando a mujeres y menores de edad, a pedido de hombres muchas veces anónimos.
El caso tomó repercusión a partir de reportes de usuarios y organizaciones que detectaron imágenes y contenidos de carácter sexual creados artificialmente, algunos de ellos con rasgos que remiten a adultos reales y, en los casos más graves, a menores.
Las denuncias apuntan a fallas en los filtros de seguridad de Grok y a la insuficiencia de los mecanismos de control para prevenir usos abusivos de la tecnología.
El detonante de esta crisis fue la reciente actualización de la función Grok Imagine, que facilitó la creación de imágenes a partir de simples indicaciones de texto. Según expertos y organizaciones de seguridad digital, esta mejora técnica no vino acompañada de filtros eficaces para bloquear contenidos abusivos, lo que permitió a usuarios generar y difundir imágenes sexualizadas sin consentimiento.
Especialistas en Inteligencia Artificial señalan que no es imposible hacer que estas herramientas rechacen solicitudes destinadas a sexualizar personas. En cambio la falta de estos filtros expone a la plataforma a riesgos legales y reputacionales.
La controversial respuesta de Elon Musk
Ante las repercusiones de su chatbot, el empresario compartió en su propia cuenta imágenes generadas por Grok, incluida una en la que aparecía él mismo en bikini, acompañadas de emojis de risa. Este gesto evidenció una falta de seriedad frente a un problema que involucra abuso digital y posibles delitos graves.
La reacción mundial
Las investigaciones no se limitan a Europa. En India, el Ministerio de Electrónica y Tecnología de la Información ordenó a X realizar una auditoría integral de Grok, tanto a nivel técnico como de gobernanza, tras detectar un aumento en el uso de la herramienta para generar imágenes íntimas no consensuadas.
Malasia, por su parte, anunció que citará a representantes de la compañía y exigió que las plataformas con funciones de IA refuercen sus mecanismos de protección, en línea con las leyes locales.
En América Latina, una parlamentaria brasileña solicitó a la fiscalía federal y a la autoridad de protección de datos que evalúen la suspensión temporal de Grok hasta que concluyan las investigaciones.
