Una imagen vale más que mil tokens
Explorando los sesgos atribucionales y prejuicios a través de la ventana contextual de Dall-E 3.
Descargas
Resumen
Esta investigación, la cual parte de anteriores estudios investiga en la misma línea los sesgos atribucionales en los modelos de IA Dall-E 3 y ChatGPT de OpenAI, destacando su influencia en la educación y la importancia de comprender estos prejuicios para garantizar un aprendizaje equitativo. Los objetivos principales se centran en examinar la naturaleza y amplitud de los sesgos de género, raciales y profesionales, identificando patrones en las respuestas a solicitudes específicas de imágenes. Esta exploración es crucial, ya que dichos sesgos pueden comprometer seriamente la equidad y la representación en la educación.
La metodología empírica empleada incluyó pruebas controladas y análisis cualitativo y cuantitativo de las imágenes generadas, con más de 100 indicaciones específicas para evaluar la imparcialidad de género. Se descubrió que un 43% de las imágenes generadas reflejaban sesgos de género, indicando una prevalencia significativa de estereotipos y prejuicios en las respuestas del modelo.
Los resultados de este estudio son vitales para el desarrollo de estrategias que mitiguen los sesgos en la IA y promuevan tecnologías más justas y libres de prejuicios, alineadas con los Objetivos de Desarrollo Sostenible, especialmente el ODS 5 sobre igualdad de género y el ODS 10 para reducir las desigualdades. Concluyendo, la investigación resalta la importancia de abordar los sesgos en los sistemas de IA, enfatizando la relevancia de este enfoque en el ámbito educativo para influir positivamente en la formación y desarrollo de los estudiantes universitarios.
Citas
BestColleges (2023). Half of College Students Say Using AI Is Cheating. Online in https://www.bestcolleges.com/research/college-students-ai-tools-survey/.
Bolukbasi, T., Chang, K.-W., Zou, J. Y., Saligrama, V., & Kalai, A. T. (2016). Man is to computer programmer as woman is to homemaker? Debiasing word embeddings. Advances in Neural Information Processing Systems, 29, 4349–4357. Online in: https://arxiv.org/abs/1607.06520.
Buedo, S.; Geraldo, J. y Ortega, L. (2023). “Entre likes y lujuria: validación virtual y erotización precoz a través de las redes sociales en la promoción de comportamientos hipersexualizados en la adolescencia”. In Vieira et al. (Coords.). La pedagogía social en una sociedad digital e hiperconectada: desafíos y propuestas. Sociedad Iberoamericana de Pedagogía Social (SIPS). Online in: https://cisips.wordpress.com/wp-content/uploads/2023/10/libro_resumenes_sips-23.pdf
Buedo, Sergio (2015). Mujeres y mercado laboral en la actualidad, un análisis desde la perspectiva de género : Genéricamente empobrecidas, patriarcalmente desiguales. Educación Social y Género : Revista de Educación Social (RESEDUSO), Núm. 21. ISSN 1698-9097. Online in: https://eduso.net/res/revista/21/el-tema-colaboraciones/mujeres-y-mercado-laboral-en-la-actualidad-un-analisis-desde-la-perspectiva-de-genero-genericamente-empobrecidas-patriarcalmente-desiguales
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 81, 77–91. Online in: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
Caliskan, A., Bryson, J. J., & Narayanan, A. (2017). Semantics derived automatically from language corpora contain human-like biases. Science, 356(6334), 183–186.Online in: https://www.science.org/doi/10.1126/science.aal4230
Castro-García, C., & Pazos-Morán, M. (2016). Parental leave policy and gender equality in Europe. Feminist Economics, 22(3), 51-73. https://doi.org/10.1080/13545701.2015.1082033
Chant, S. (2008). The 'feminisation of poverty' and the 'feminisation' of anti-poverty programmes: Room for revision? Journal of Development Studies, 44(2), 165–197. Online in: https://www.tandfonline.com/doi/abs/10.1080/00220380701789810
D'Ignazio, C., & Klein, L. F. (2020). Data feminism. MIT Press.
Elizalde-San Miguel, B., & Díaz Gandasegui, V. (2019). Family Policy Index: A Tool for Policy Makers to Increase the Effectiveness of Family Policies. Social Indicators Research: An International and Interdisciplinary Journal for Quality-of-Life Measurement, 142(1), 387-409.
Geraldo, J.; Buedo, S., y Ortega, L. (2023). “Los micromachismos de ChatGpt : evidencias sexistas a través de Unicode, implicaciones socioeducativas.”. En Vieira et al. (Coords.). La pedagogía social en una sociedad digital e hiperconectada: desafíos y propuestas. Sociedad Iberoamericana de Pedagogía Social (SIPS). Online in: https://cisips.wordpress.com/wp-content/uploads/2023/10/libro_resumenes_sips-23.pdf.
International Labour Organization. (2019). A quantum leap for gender equality: For a better future of work for all. Retrieved from https://www.ilo.org/wcmsp5/groups/public/---dgreports/---gender/documents/publication/wcms_100840.pdf.
Kabeer, N. (2005). Gender equality and women's empowerment: A critical analysis of the third Millennium Development Goal 1. Gender & Development, 13(1), 13–24. Online in: https://www.jstor.org/stable/20053132.
Monash University. (2024). The face of poverty is still female. Monash Lens. Disponible en: https://lens.monash.edu/@politics-society/2024/01/22/1386353/the-face-of-poverty-is-still-female.
Zhao, J., Wang, T., Yatskar, M., Ordonez, V., & Chang, K.-W. (2017). Men also like shopping: Reducing gender bias amplification using corpus-level constraints. Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, 2979–2989. Online in: https://aclanthology.org/D17-1323.pdf