Datos abiertos para nombrar la discriminación en nuestro español

DignityAI reúne datasets, modelos y herramientas para detectar y estudiar racismo, clasismo, machismo y discurso de odio en el español de América Latina. Es gratuito para organizaciones civiles, academia y periodismo, y cada recurso dice lo que sí está medido y lo que todavía no.

Como en el etiquetado de alimentos: los sellos te dicen lo que debes saber antes de usar un recurso.

Ver el catálogo Buscar datos reales

Por qué existe

Casi todo lo que se ha construido para detectar discurso de odio se hizo en inglés. En español hay mucho menos, y casi nada distingue entre el “naco” de la Ciudad de México, el “roto” de Santiago o el “cabecita negra” de Buenos Aires.

Las organizaciones que documentan discriminación hacen ese trabajo a mano. DignityAI quiere darles insumos abiertos y honestos para hacerlo mejor, y darle a la academia material para medir qué tan bien entienden los modelos nuestras formas de discriminar.

  1. Honestidad antes que tamaño.

    Publicamos cifras verificadas y limitaciones medidas. Un dataset grande y mal descrito hace más daño que uno pequeño y claro.

  2. Nada sobre nosotras sin nosotras.

    Los datos sintéticos no sustituyen a las comunidades afectadas. Ningún recurso se presenta como validado hasta que lo esté.

  3. Para detectar, no para generar.

    Estos textos existen para entrenar y evaluar sistemas que protegen, nunca para producir más contenido discriminatorio.

  4. Abierto para quien defiende derechos.

    Uso libre para organizaciones civiles, investigación, educación y periodismo. Todo el código y los datos están en repositorios públicos.

Qué puedes hacer con esto

Organizaciones civiles

  • Probar un detector en textos de tu contexto antes de usarlo en monitoreo.
  • Usar la taxonomía de categorías para clasificar casos que documentas.
  • Preparar talleres con ejemplos de microagresiones y alternativas.

Academia

  • Evaluar modelos de lenguaje en formas de discriminación regionales.
  • Estudiar los límites de los datos sintéticos frente a datos reales.
  • Combinar estos recursos con los corpus anotados del directorio.

Desarrollo y periodismo

  • Prototipar herramientas de moderación con humanos en el circuito.
  • Probar la demo de SinOdio para explicar el problema a tu audiencia.
  • Reportar errores y sesgos para mejorar la siguiente versión.

Directorio de datos reales

Nuestros datos son sintéticos. Para entrenar o evaluar en serio necesitas texto real anotado por personas. Estos corpus públicos en español son el mejor punto de partida; varios piden registro o aceptar condiciones de uso.

Revisado en noviembre de 2026. Verifica la licencia vigente antes de usar cada recurso.
RecursoQué contieneVarianteLicenciaAcceso
HatEvalSemEval 2019Tuits con odio contra mujeres e inmigrantes; unos 6,600 en español.GeneralCC BY-NC 4.0Formulario
OffendESMeOffendEs, IberLEF 202130,416 comentarios de Twitter, Instagram y YouTube con categorías de ofensa. La misma tarea publicó OffendMEX, con 7,319 tuits mexicanos.General y MéxicoApache 2.0Aceptar condiciones
EXIST 2023 y 2024CLEFTuits y memes con sexismo, intención y tipo de sexismo, con anotaciones de varias personas.GeneralCC BY 4.0Registro
DETESTS-DisIberLEF 202412,111 frases sobre inmigración con estereotipos raciales explícitos e implícitos.EspañaVer fichaAceptar condiciones
Contextualized Hate SpeechUBAComentarios a noticias con odio contra mujeres, LGBTI, racismo, clase, discapacidad, apariencia y política, más llamados a la acción.ArgentinaVer fichaAbierto
Spanish Hate Speech SupersetUnos 29,900 textos que unifican corpus públicos de odio en español.VariasVer fichaAbierto
HateCheck en españolMultilingual HateCheckCasos de prueba funcionales escritos por expertos para encontrar fallas específicas de los detectores.GeneralCC BY 4.0Abierto
EcuHate-esTuits ecuatorianos con anotación colaborativa de discurso de odio.EcuadorCC BY 4.0Abierto
MeTwo2,471 tuits etiquetados como sexistas, no sexistas o dudosos.GeneralApache 2.0Abierto
SHARELéxico de expresiones dañinas aportadas por hablantes de español.VariasCC BY-NC-SA 4.0Abierto

¿Conoces otro corpus, sobre todo de México, Centroamérica o el Caribe? Escríbenos y lo agregamos.

Empezar en cinco minutos

No necesitas cuenta en ningún servicio. Los archivos de la versión 1.1 son CSV con una fila por texto y las columnas texto, etiqueta (1 discriminatorio, 0 contraste), pais, categoria, subcategoria, nivel_sutileza y contexto.

Explorar con pandas

import pandas as pd

base = "https://raw.githubusercontent.com/antuansabe"
url = f"{base}/DignityAI-Racismo-LATAM/HEAD/v1.1/test.csv"
df = pd.read_csv(url)

# ¿Qué categorías hay por país?
print(pd.crosstab(df.pais, df.categoria))

Probar el detector SinOdio

from transformers import pipeline

clf = pipeline(
  "text-classification",
  model="antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3",
)
print(clf("Los inmigrantes enriquecen nuestra cultura"))

También puedes descargar el catálogo en JSON para listar los recursos desde tu propio código.

Uso responsable

Sí

  • Entrenar y evaluar sistemas de detección y moderación con revisión humana.
  • Investigación, docencia y formación, con advertencia de contenido.
  • Monitoreo y documentación de casos por organizaciones civiles.

No

  • Generar contenido discriminatorio o afinar modelos para producirlo.
  • Mostrar ejemplos fuera de contexto o sin advertencia.
  • Tomar decisiones automáticas sobre personas sin revisión humana.
  • Uso comercial sin autorización por escrito.

Hacia dónde vamos

  1. Noviembre 2026

    Limpieza y v1.1

    Cifras verificadas, duplicados fuera, particiones sin fuga y este catálogo.

  2. Siguiente

    Auditoría completa

    Medir MachismoDetect y SinOdio-LATAM, y evaluar el modelo v3 en un corpus externo como HateCheck.

  3. Después

    DignityCheck-LATAM

    Pruebas funcionales por país para evaluar qué tan bien entienden los modelos nuestras formas de discriminar.

  4. Con aliados

    Validación y datos reales

    Revisión con comunidades afectadas y anotación de texto real junto a academia y organizaciones.

Colabora

DignityAI es un proyecto independiente que hoy mantiene una sola persona. Lo que más necesita es gente que conozca el problema de cerca.

Si eres parte de una comunidad afectada, tu revisión vale más que cualquier métrica. Dinos qué ejemplos sobran, cuáles faltan o qué debe retirarse.

Si investigas o anotas datos, buscamos coautorías para evaluar modelos y publicar en foros como IberLEF.

Si encontraste un error, abre un issue en el repositorio del recurso.

Escribir a DignityAI

Cómo citar

@misc{dromundo2026dignityai,
  author = {Dromundo, Antonio},
  title  = {DignityAI: recursos abiertos sobre discriminación en el español de América Latina},
  year   = {2026},
  url    = {https://github.com/antuansabe/DignityAI-Racismo-LATAM}
}

Cada repositorio incluye su propio archivo CITATION.cff con la referencia exacta del dataset.