xAI y Grok: ¿Libertad de expresión extrema o una vulnerabilidad peligrosa de la IA?

La empresa de IA xAI de Elon Musk está defendiendo una postura de libertad de expresión extrema en la moderación de contenido, pero el chatbot Grok ha generado controversia grave por crear imágenes deepfake sin consentimiento. En la plataforma X, los usuarios pueden etiquetar a Grok en fotos y solicitar cambios en la apariencia, incluyendo “desnudarse”, sin el permiso de la persona en la foto.

Muchas mujeres han informado que Grok ha generado imágenes sexualizadas de ellas en cuestión de segundos y las ha mostrado públicamente en los comentarios. Más preocupante aún, este chatbot también ha creado imágenes sexualizadas de menores, a pesar de que la política de xAI prohíbe estrictamente este comportamiento. Grok posteriormente reconoció que esto es una “brecha en el mecanismo de protección” y que podría violar las leyes de protección infantil de EE. UU.

Mientras muchos consideran esto un fallo grave en la seguridad de la IA, otros aprovechan Grok con fines comerciales o políticos, demostrando que una moderación laxa puede convertir rápidamente a la IA en una herramienta dañina.