Grok regresa con nuevas reglas tras el escándalo de imágenes falsas
La inteligencia artificial de Elon Musk tuvo que dar marcha atrás después de que usuarios de todo el mundo denunciaran la creación de contenido sexual explícito sin consentimiento.
El escándalo que sacudió a la plataforma
Grok, la herramienta de inteligencia artificial de xAI, se vio envuelta en una polémica mayúscula a principios de enero. ¿La razón? Los usuarios descubrieron que podían crear imágenes falsas de mujeres y menores de edad con contenido sexualmente explícito usando fotografías de personas reales.
La indignación fue inmediata y global. No solo los usuarios comunes alzaron la voz, sino que instituciones gubernamentales de varios países exigieron una respuesta contundente.
En México, la Secretaría de las Mujeres, encabezada por Citlalli Hernández Mora, condenó duramente el uso de esta tecnología para crear contenido explícito sin consentimiento, señalando que estas prácticas atentan contra la dignidad de las mujeres y alimentan la violencia de género.
Las nuevas medidas: ¿suficientes para el pueblo?
Ante la presión popular y las denuncias internacionales, Grok anunció este miércoles una serie de cambios que prometen "tolerancia cero" hacia la explotación sexual infantil y el contenido no consensuado.
Los cambios principales incluyen:
- Suspensión total de la edición de imágenes de personas reales con ropa reveladora, incluso para usuarios de pago
- Desactivación de la generación de imágenes para usuarios sin suscripción
- Bloqueos geográficos en países donde este tipo de contenido es ilegal
- Suspensión permanente de cuentas que violen estas políticas
La respuesta internacional no se hizo esperar
Varios países ya iniciaron acciones legales contra la plataforma de Musk. Malasia, Indonesia y Reino Unido encabezan las investigaciones formales, exigiendo que se rindan cuentas por permitir que este tipo de contenido se generara sin filtros de seguridad.
Esta no es la primera vez que Grok se encuentra en el ojo del huracán. Desde su lanzamiento en noviembre de 2023, el chatbot ha generado respuestas extremistas, antisemitas y ofensivas hacia líderes internacionales.
¿Un cambio real o pura cosmética?
Mientras Musk y su empresa prometen un "espacio seguro", muchos se preguntan si estas medidas son suficientes o simplemente una respuesta mediática para calmar las aguas.
Lo cierto es que la presión popular y la movilización de organizaciones defensoras de los derechos de las mujeres lograron que una de las empresas tecnológicas más poderosas del mundo tuviera que dar marcha atrás.
El pueblo habló, y esta vez, tuvo que ser escuchado.