L’experta en ètica digital Lorena Fernández adverteix que la intel·ligència artificial pot amplificar els biaixos existents a la societat, com el masclisme, si no s’incorpora una mirada crítica en el seu desenvolupament i ús educatiu. Subratlla la necessitat urgent de regulació, inclusió i formació des de les primeres etapes educatives.
En una entrevista publicada a El Correo Gallego, la especialista en ètica de la digitalització i intel·ligència artificial aplicada, Lorena Fernández Álvarez, va alertar que la IA no és una tecnologia neutra, i que pot reflectir i fins i tot accentuar els biaixos socials existents, com el masclisme, el racisme o l’edatisme.
Durant la seva intervenció al congrés “Intel·ligència artificial i educació”, organitzat per la Xunta de Galícia, Fernández va destacar que els joves han nascut envoltats de tecnologia, però no disposen d’una formació crítica sobre el seu ús ni el seu origen. Va remarcar que la IA es dissenya amb intencions i des de posicions determinades, i que per això cal ensenyar a qüestionar-la des de les aules.
També va criticar la manca de control en el desenvolupament d’aquestes tecnologies, recordant que fins i tot objectes quotidians com una cadira passen per més regulacions que els algorismes de la IA. Va rebutjar el discurs que diu que regular la IA deixarà Europa enrere respecte als EUA o la Xina, i va alertar sobre el “saqueig de l’atenció i del temps” que exerceixen les grans tecnològiques sobre la ciutadania.
En l’àmbit educatiu, va rebutjar la idea de prohibir la tecnologia a les aules. Ben al contrari, va defensar incorporar-la de manera transversal al currículum escolar, per evitar que només els alumnes de famílies benestants adquireixin competències digitals i tinguin accés a millors oportunitats laborals.
Lorena Fernández va destacar la importància d’ensenyar pensament crític, tant per avaluar la veracitat de la informació que ofereix la IA com per detectar-ne els possibles biaixos. Va afegir que també és fonamental fomentar referents femenins a les carreres STEM, on les dones continuen sent minoria, sovint per manca de confiança inculcada des de petites.
Va insistir que la IA replica els prejudicis del món real perquè aprèn d’ell, i que els grans exclosos dels desenvolupaments tecnològics són precisament aquells col·lectius que han estat històricament marginats de l’entorn digital.
“Quina societat estem entrenant quan deixem que la intel·ligència artificial reprodueixi sense filtre els nostres biaixos més arrelats?”
Aquest és un resum comentat, basat en l’article:
««Si tenemos una sociedad machista, esto se va a ver reflejado y acrecentado por IA»»
de Belén Teiga, publicat a El Correo Gallego el 24 de març de 2025.
