Cómo contrarrestar a Grok y la violencia a mujeres en la red social X

En los últimos días volvió a ponerse en evidencia algo que desde Empodérame advertimos de forma permanente: cuando la tecnología se desarrolla sin enfoque de derechos humanos ni perspectiva de género, se convierte rápidamente en una herramienta de violencia. La reciente polémica alrededor de Grok, señalado por facilitar la manipulación de imágenes de mujeres para mostrarlas en ropa interior o en versiones sexualizadas sin consentimiento, no es una casualidad. Se trata de la expresión más reciente de una violencia digital que tiene un patrón claro y reiterado: el cuerpo de las mujeres como objeto de uso, control y humillación.

Estas prácticas no son “errores” de la inteligencia artificial ni simples desviaciones técnicas. Son formas de violencia sexual digital que generan impactos psicológicos profundos: miedo, angustia, sensación de indefensión, deterioro de la reputación personal y profesional, y una revictimización constante cada vez que la imagen vuelve a circular. En muchos casos, este tipo de agresiones se traduce también en riesgos laborales, acoso, aislamiento social y silenciamiento de las mujeres en los espacios públicos y digitales.

Frente a este escenario, es fundamental que las mujeres sepan que no están solas y que existen herramientas concretas para actuar. Una de las más importantes es StopNCII, una plataforma creada para combatir la difusión de imágenes íntimas no consentidas, incluidas aquellas que han sido manipuladas mediante inteligencia artificial o edición digital.

Enlace http://stopncii.org

Cuando una mujer descubre que una imagen suya ha sido alterada para desnudarla, sexualizarla o denigrarla, el primer impulso suele ser el pánico o la culpa, emociones que forman parte del daño psicológico que busca producir este tipo de violencia. Sin embargo, StopNCII ofrece una vía de acción clara y segura. A través de su página web, la víctima puede subir la imagen original y la imagen manipulada, siempre que sea mayor de edad y que se trate de fotografías propias. A partir de allí, el sistema se encarga de bloquear y eliminar esa imagen de las principales plataformas que colaboran con la iniciativa.

Esta herramienta fue desarrollada por SWGfL junto con su Revenge Porn Helpline y funciona gracias a un mecanismo técnico conocido como hashing. Cada imagen recibe una huella digital única que permite a las plataformas identificarla de forma automática, impedir que vuelva a subirse y frenar su redistribución. En este proceso participan activamente empresas tecnológicas de gran alcance como Meta, TikTok y Reddit, lo que amplía de manera significativa la capacidad de contención del daño. No ocurre lo mismo con servicios de mensajería cifrada como WhatsApp, donde la eliminación no puede garantizarse, lo que vuelve aún más urgente la prevención y la acción temprana.

Desde Empodérame insistimos en un mensaje central: la inteligencia artificial no puede ser una excusa para reproducir violencias históricas contra las mujeres. Manipular una imagen para despojar a una mujer de su consentimiento y de su dignidad no es innovación ni entretenimiento, es una forma de agresión sexual en el entorno digital. Por eso, conocer y difundir herramientas como StopNCII no es solo una medida de autoprotección, sino también una acción política y colectiva frente a la normalización de estas violencias.

Recordemos el proceso:

1. Ingresa a 👉 http://stopncii.org

2. Sube la foto original y la imagen manipulada.

3. La imagen alterada será bloqueada y eliminada de las plataformas que participan, en todo internet.

Guardar esta información, compartirla y hablar de ella es parte del trabajo de prevención. La violencia digital existe, tiene consecuencias reales y debe ser enfrentada con respuestas claras, profesionales y centradas en los derechos de las mujeres.

#ProteccionDigital #StopNCII #Grok