Títol original: Inteligencia artificial y sesgos: cómo una IA puede reflejar ideas sexistas y racistas y provocar desinformación con los sesgos de equidistancia y automatización
Font: Maldita Tecnología (https://maldita.es/malditatecnologia/2025/06/24/inteligencia-artificial-sesgos-sexistas-racistas-desinformacion/)
Els models d’intel·ligència artificial poden heretar els prejudicis dels seus desenvolupadors i de les seves dades d’entrenament, la qual cosa pot generar desinformació, discriminació i posar en risc a les persones. Aquests models poden reflectir prejudicis de gènere i racistes, perpetuant estereotips danyosos, així com tenir un biaix d’adulació o d’equidistància artificial. Els usuaris també poden confiar excessivament en les respostes dels models d’IA, malgrat que poden cometre errors i no són fonts fiables d’informació. Desfer-se dels biaixos no és fàcil, però les expertes en IA destaquen la importància de fomentar la diversitat en els equips, les dades i les auditories, a més de la legislació i el pensament crític dels usuaris.
Els prejudicis de gènere i racistes poden manifestar-se en les respostes dels models d’IA, reproduint idees sexistes i discriminatories. Això pot tenir repercussions en àmbits com la salut, on la manca de representació de persones racialitzades en les dades d’entrenament pot portar a errors en el diagnòstic de malalties com el càncer de pell. Els usuaris també poden caure en el biaix de la automatització, confiant massa en les recomanacions dels algoritmes sense tenir en compte la seva possible inexactitud.
Per combatre aquests biaixos, es recomana promoure la diversitat en els equips de desenvolupament, les dades i les auditories dels models d’IA, així com fomentar el pensament crític dels usuaris i la legislació en aquest àmbit. La transparència i la explicabilitat de la IA també són claus per identificar i corregir els biaixos presents en aquests sistemes.