Perspectiva de género en Inteligencia Artificial, una necesidad

  1. García, Eva Cernadas 1
  2. Calvo, Encina 1
  1. 1 Universidade de Santiago de Compostela
    info

    Universidade de Santiago de Compostela

    Santiago de Compostela, España

    ROR https://ror.org/030eybx10

Revista:
Cuestiones de género: de la igualdad y la diferencia

ISSN: 1699-597X

Ano de publicación: 2022

Título do exemplar: Cuestiones de género en física, ingeniería y tecnología

Número: 17

Páxinas: 111-127

Tipo: Artigo

DOI: 10.18002/CG.I17.7200 DIALNET GOOGLE SCHOLAR lock_openAcceso aberto editor

Outras publicacións en: Cuestiones de género: de la igualdad y la diferencia

Obxectivos de Desenvolvemento Sustentable

Resumo

En este artículo analizamos la transversalización de la perspectiva de género en el campo de la Inteligencia Artificial (IA), cuyas aplicaciones influyen cada vez más en nuestras actividades cotidianas. Una disciplina altamente masculinizada, donde la mayoría de los profesionales son hombres y sus experiencias conforman y dominan la creación de algoritmos. Para reconocer la existencia de sesgos discriminatorios de género en los algoritmos y limitar sus consecuencias, es necesario introducir la perspectiva de género en estos estudios. En este documento revisamos el grado de introducción de competencias en género en los grados de IA en el estado español con el fin de mejorar la formación en género del alumnado.

Referencias bibliográficas

  • Agudo, Ujué, y Helena Matute (2021): “The influence of algorithms on political and dating decisions”. En: PLoS ONE, vol. 16, nº. 4, pp. 1-17. Disponible en: https://doi.org/10.1371/journal.pone.0249454 [13/01/2022].
  • Alonso, Amparo (2020): “Intelixencia artificial e xénero”. En: Águeda Gómez Suárez y Leonor Parcero (coords.): Itinerario Formativo Virtual en Xénero, vol. 3. pp.161-188. Disponible en: https://formacionigualdade.webs7.uvigo.es/recursos/ [13/01/2022].
  • AQU Catalunya (2018): “Marc general per a la incorporació de la perspectiva de gènere en la docència universitària”. Disponible en: http://www.aqu.cat/doc/doc_19381922_1.pdf [13/01/2022].
  • Bachelors portal (2021): Disponible en: https://www.bachelorsportal.com/ [13/01/2022].
  • Benítez Eyzaguirre, Lucía I. (2019): “Ética y transparencia para la detección de sesgos algorítmicos de género”. En: Estudios sobre el mensaje periodístico, vol. 25, nº. 3, pp. 1307-1320. Disponible en: https://doi.org/10.5209/esmp.66989 [13/01/2022].
  • Botella, Carmen; Rueda, Silvia; López-Iñesta, Emilia y Marzal, Paula (2019): “Gender diversity in STEM disciplines: A multiple factor problem”. En: Entropy, vol. 21, nº. 30, pp. 1-17. Disponible en: https://doi.org/10.3390/e21010030 [13/01/2022].
  • Buolamwini, Joy y Timnit Gebru (2018): “Gender shades: Intersectional accuracy disparities in commercial gender classification”. En: Sorelle A. Friedler y Christo Wilson (eds.): Proceedings of the 1st Conference on Fairness, Accountability and Transparency. PMLR, pp. 77-91. Disponible en: http://proceedings.mlr.press/v81/buolamwini18a.html [13/01/2022].
  • Cernadas, Eva y Calvo-Iglesias, Encina (2020): “Gender perspective in Artificial Intelligence (AI)”. En: Eighth International Conference on Technological Ecosystems for Enhancing Multiculturality, pp. 173-176. Disponible en: https://dl.acm.org/doi/abs/10.1145/3434780.3436658 [13/01/2022].
  • Cernadas, Eva y Fernández-Delgado Manuel (2021): “Embedded ethics to teach machine learning courses: an experience”. En: 2021 XI International Conference on Virtual Campus (JICV). IEEE, pp. 1-4. Disponible en: https://ieeexplore.ieee.org/document/9600426 [13/01/2022].
  • Castro, Laura (2019): “Construíndo o coñecemento informático: situación da perspectiva de xénero nos estudos de grao das universidades españolas”. En Ana J. López Díaz, Águeda Gómez y Eva Aguayo (eds.): (Re) construíndo o coñecemento. A Coruña, Universidade da Coruña, pp. 313-324. Disponible en: https://doi.org/10.17979/spudc.9788497497589 [13/01/2022].
  • Crawford, Kate (2021): The Atlas of AI. New Haven: Yale University Press.
  • Criado-Perez, Carolina (2020): La mujer invisible. Descubre cómo los datos configuran un mundo hecho por y para los hombres. Barcelona: Seix Barral.
  • Díaz, Capitolina (2021): “Cuando las informáticas rompen el techo de cristal”. Disponible en: http://tv.usc.gal/mmobj/index/id/4130 [13/01/2022].
  • D'Ignazio, Catherine y Lauren F. Klein (2020): Data feminism. Cambridge: MIT Press.
  • Epifanio, Irene (2020): Matemáticas: guías para una docencia universitaria con perspectiva de género. Castelló de la Plana: Xarxa Vives d’Universitats. Versión digital disponible en: https://www.vives.org/book/guia-docencia-universitaria-con-perspectiva-genero-matematicas/ [13/01/2022].
  • Eubanks, Virginia (2021): La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres. Capitan Swing.
  • Fernández, Lorena (2020): “Sombra aquí, sombra allá: reconocimiento facial discriminatorio”. En: The Conversation, 20 de diciembre. Disponible en: https://theconversation.com/sombra-aqui-sombra-alla-reconocimiento-facial-discriminatorio-152035 [04/04/2022].
  • García-Holgado, Alicia, et al. (2021): “Experiencia piloto para incorporar la ética informática de forma transversal en el Grado de Ingeniería Informática”. En: Actas del V Congreso Internacional sobre Aprendizaje, Innovación y Competitividad. CINAIC. pp. 431-436. Disponible en: https://zaguan.unizar.es/record/107784 [18/01/2022].
  • Gibert, Karina y Aida Valls (2022): “Building a Territorial Working Group to Reduce Gender Gap in the Field of Artificial Intelligence”. En: Applied Sciences, vol. 12, nº. 6, pp. 3129:1-3129:18. Disponible en: https://doi.org/10.3390/app12063129 [06/04/2022].
  • González García, Marta I. (2018): “Ciencia tecnología y género”. Disponible en: https://dspacereva.conacyt.gov.py/xmlui-repo/handle/123456789/643 [13/01/2022].
  • Grosz, Barbara J. et al. (2019): “Embedded EthiCS: integrating ethics across CS education”. En: Communications of the ACM, vol. 62, nº. 8, pp. 54-61. Disponible en: https://dl.acm.org/doi/10.1145/3330794 [13/01/2022].
  • Leavy, Susan (2018): “Gender bias in artificial intelligence: The need for diversity and gender theory in machine learning”. En: Erika Abraham y Elisabetta Di Nitto (eds.): Proceedings of the 1st international workshop on gender equality in software engineering. New York: Association for Computing Machinery, pp. 14-16. Disponible en: https://doi.org/10.1145/3195570.3195580 [13/01/2022].
  • Martinez, Naroa y Matute, Helena (2020): “El sexismo en los algoritmos: una discriminación subestimada”. En: The Conversation. Disponible en: https://theconversation.com/el-sexismo-en-los-algoritmos-una-discriminacion-subestimada-140790 [13/01/2022].
  • Margolis, Jane y Allan Fisher (2002): Unlocking the clubhouse: Women in computing. Cambridge: MIT Press.
  • Mejías, Ulises y Nick Couldry (2019): “Colonialismo de datos: repensando la relación de los datos masivos con el sujeto contemporáneo”. En: Virtualis, vol. 10, nº. 18, pp. 78-97. Disponible en: https://www.revistavirtualis.mx/index.php/virtualis/article/view/289 [13/01/2022].
  • MCIU (2021): “Científicas en cifras. 2021”. Disponible en: https://www.ciencia.gob.es/stfls/MICINN/Ministerio/FICHEROS/Cientificas_en_Cifras_2021.pdf [13/01/2022].
  • Migallón Gomis, M. Violeta (2019): “Perspectiva de género en la docencia de Estadística del grado de Ingeniería Multimedia”. En Rosabel Roig-Vila (dir.); Jordi M. Antolí Martínez; Asunción Lledó Carreres y Neus Pellín Buades (coords.): Redes de Investigación e Innovación en Docencia Universitaria. Alicante, Instituto de Ciencias de la Educación, pp. 487-497. Disponible en: https://rua.ua.es/dspace/bitstream/10045/99146/1/Redes-Investigacion-Innovacion-Docencia-Universitaria-2019-43.pdf [13/01/2022].
  • Moreda Pozo, Paloma (2018): “Guide of Computer Science to mainstreaming gender in university teaching”. Disponible en: https://www.vives.org/book/guide-of-computer-sciencie-to-mainstreaming-gender-in-university-teaching/ [13/01/2022].
  • Navas Navarro, Susana (2021): “La perspectiva de género en la inteligencia artificial”. En: Diario La Ley, nº. 48, Sección Ciberderecho. Disponible en: https://diariolaley.laleynext.es/dll/2021/03/08/la-perspectiva-de-genero-en-la-inteligencia-artificial [13/01/2022].
  • Nurock, Vanessa (2020): “¿Puede prestar cuidados la Inteligencia Artificial?”. En: Cuadernos de Relaciones Laborales, vol. 38, nº. 2, pp. 217-229. Disponible en: https://doi.org/10.5209/crla.70880 [13/01/2022].
  • O'Neil, Cathy (2018): Armas de destrucción matemática: cómo el big data aumenta la desigualdad y amenaza la democracia. Capitán Swing Libros.
  • Parlamento Europeo (2021): “Regulación de la inteligencia artificial en la UE: la propuesta del Parlamento”. Disponible en: https://www.europarl.europa.eu/news/es/headlines/society/20201015STO89417/regulacion-de-la-inteligencia-artificial-en-la-ue-la-propuesta-del-parlamento [13/01/2022].
  • Peña, Marta; Olmedo-Torre, Noelia; Mas de Les Valls, Elisabet y Lusa, Amaia (2021): “Introducing and Evaluating the Effective Inclusion of Gender Dimension in STEM Higher Education”. En: Sustainability, vol. 13, nº. 9, pp. 1-26. Disponible en: https://doi.org/10.3390/su13094994 [13/01/2022].
  • Richardson, Kathleen (2017): “Paralelismos entre la prostitución y los robots sexuales: una relación «asimétrica»”. En: Tribuna Feminista. Disponible en: https://tribunafeminista.elplural.com/2017/04/paralelismos-entre-la-prostitucion-y-los-robots-sexuales-una-relacion-asimetrica/ [13/01/2022].
  • Sáinz, Milagros; Arroyo, Lidia y Castaño, Cecilia (2020): Mujeres y Digitalización. De las Brechas a los Algoritmos. Instituto de la Mujer y para la Igualdad de Oportunidades. Ministerio de Igualdad. Disponible en: https://www.inmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACION_DE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf [13/01/2022].
  • Sainz de Baranda, Clara et al. (2021): “Perspectiva de género y social en las STEM: La construcción de sistemas inteligentes para detección de emociones”. En: Sociology and Technoscience, vol. 11, nº. Extra 1, pp. 83-115. Disponible en: https://doi.org/10.24197/st.Extra_1.2021.83-115 [12/1/2022].
  • Schiebinger, Londa (2014): “Scientific research must take gender into account”. En: Nature, vol. 507, nº. 7490, pg. 9. Disponible en: https://doi.org/10.1038/507009a [12/1/2022].
  • Schiebinger, Londa; Klinge, Ineke; Sánchez de Madariaga, Inés y Schraudner, Martina (2011-2013): “Gendered Innovations in Science, Health & Medicine, Engineering and Environment”. Disponible en: http://genderedinnovationsesp.gendersteunescochair.com [12/1/2022].
  • Schiebinger, Londa y Klinge, Ineke (2020): “Gendered Innovations 2: How Inclusive Analysis Contributes to Research and Innovation”. Disponible en: https://ec.europa.eu/info/sites/default/files/research_and_innovation/strategy_on_research_and_innovation/documents/ki0320108enn_final.pdf [12/1/2022].
  • Torres, Soledad (2020): “Dimensión de xénero nos proxectos De i+D+i das TIC”. En: Gómez Suárez, Águeda y Parcero Leonor (coords.): Itinerario Formativo Virtual en Xénero, vol. 3, pp.11-37. Disponible en: https://formacionigualdade.webs7.uvigo.es/recursos/ [13/01/2022].
  • UC3M (2021): “I Congreso Internacional Tecnologías I+D+i para la Igualdad: soluciones, perspectivas y retos”. Disponible en: https://eventos.uc3m.es/63471/detail/tecnologias-idi-para-la-igualdad-soluciones-perspectivas-y-retos.html [12/1/2022].
  • UNESCO (2020): “Artificial Intelligence and Gender Equality”. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000374174 [12/1/2022].
  • UAB (2021): “Memoria de Grado en Inteligencia Artificial”. Disponible en: https://www.uab.cat/doc/DOC_memoriagrau_FP [12/1/2022].
  • UDC (2021): “Memoria de Máster Universitario en Inteligencia Artificial”. Disponible en: https://www.udc.es/export/sites/udc/_galeria_down/ensino/graos/propostasmod202122/mintelixart.pdf_2063069299.pdf [19/1/2022].
  • UDeusto (2019): “Memoria de Grado en Ciencia de Datos e Inteligencia Artificial”. Disponible en: https://drive.google.com/file/d/17jmJVtRWEirD0TItSMFMhednzgBLl8za/view [12/1/2022].
  • UIB (2019): “Máster en Sistemas Inteligentes”. Disponible en: https://estudis.uib.es/es/estudis-de-master/master/MUSI/ [19/1/2022].
  • UIMP (2021): “Máster Universitario en investigación en Inteligencia Artificial”. Disponible en: http://www.uimp.es/postgrado/estudios/fichaestudio.php?plan=P04C&any=2018-19&lan=es [12/1/2022].
  • UIV (2020): “Máster Universitario en Inteligencia Artificial”. Disponible en: https://www.universidadviu.com/es/master-inteligencia-artificial [19/1/2022].
  • UJI (2014): “Máster Universitario en Sistemas Inteligentes”. Disponible en: https://ujiapps.uji.es/ade/rest/storage/6fdb9dfc-d683-4726-a1ee-2a0f8bc43fbb?guest=true [19/1/2022].
  • UMA (2010): “Máster en Ingeniería del Software e Inteligencia Artificial”. Disponible en: https://www.uma.es/master-en-ingenieria-del-software-e-inteligencia-artificial/?set_language=es [19/1/2022].
  • UNED (2021): “Máster Universitario en investigación en Inteligencia Artificial”. Disponible en: http://portal.uned.es/portal/page?_pageid=93,71396234&_dad=portal&_schema=PORTAL&idTitulacion=310801 [12/1/2022].
  • UNIR (2021): “Máster Universitario en Inteligencia Artificial”. Universidad de La Rioja. Consultado en: https://www.unir.net/ingenieria/master-inteligencia-artificial/549202891048/ [12/1/2022].
  • UPC (2020): “Memoria de Grado en Inteligencia Artificial”. Disponible en: https://www.fib.upc.edu/sites/fib/files/documents/actes/memoria_i_esmenes_verificacio_grau_intelligencia_artificial_fib_jf-1.07.2020_0.pdf [12/1/2022].
  • UPC (2021): “Master in Artificial Intelligence”. Disponible en: https://masters.fib.upc.edu/masters/master-artificial-intelligence [12/1/2022].
  • UPM (2020). “Memoria de Grado en Ciencia de Datos e Inteligencia Artificial”. Disponible en: https://www.fi.upm.es/docs/estudios/GCDIA/2581_Memoria_GCDIA_aprobada_febrero2020.pdf [12/1/2022].
  • UPM (2021): “Máster Universitario en Inteligencia Artificial”. Disponible en: http://www.dia.fi.upm.es/masteria/ [12/1/2022].
  • UPV (2021): “Master’s degree in Artificial Intelligence, Pattern Recognition and Digital Image”. Disponible en: http://www.upv.es/titulaciones/MUIARFID/ [12/1/2022].
  • UPV-EHU (2019): “Memoria de Grado en Inteligencia Artificial”. Disponible en: https://gestion-alumnos.ehu.es/tmp/Memoria%20verificada%20Grado%20Inteligencia%20Artificial%2025-11-2019.pdf [12/1/2022].
  • USC (2022): “Memoria de Grado en Inteligencia artificial”. Disponible en: https://www.usc.gal/export9/sites/webinstitucional/gl/servizos/sxopra/propostas_grao_21_22/Aprx_Grao_Intelixencia_Artificial.pdf [19/1/2022].
  • Véliz, Carissa (2020): “Prohibir la economía de datos”. En: El Pais, 1 de octubre. Disponible en: https://elpais.com/opinion/2020-10-01/prohibir-la-economia-de-datos.html [12/1/2022].
  • Verge, Tania (2021): “Gender Equality Policy and Universities: Feminist Strategic Alliances to Re-gender the Curriculum”. En: Journal of Women, Politics & Policy, pp. 1-16. Disponible en: https://doi.org/10.1080/1554477X.2021.1904763 [12/1/2022].
  • Verge, Tania y Alonso, Alba (2019): “La ceguera al género en el currículum de la ciencia política y su impacto en el alumnado”. En: Revista internacional de Sociología, vol. 77, nº. 3, pp.1-13. Disponible en: https://doi.org/10.3989/ris.2019.77.3.18.003 [12/1/2022].
  • Wajcman, Judy (2006): El Tecnofeminismo. Madrid: Cátedra.
  • UNESCO (2019): “I'd blush if I could: closing gender divides in digital skills through education”. Disponible en: https://en.unesco.org/Id-blush-if-I-could [12/1/2022].
  • Zafra, Remedios (2021): “Un mundo sin párpados”. En: El País, 27 de mayo. Disponible en: https://elpais.com/opinion/2021-05-22/un-mundo-sin-parpados.html [12/1/2022].
  • Zuboff, Shoshana (2020): La era del capitalismo de la vigilancia. La lucha de un futuro humano frente a las nuevas fronteras del poder. Barcelona: Paidós.
Fonte de datos: Dialnet