Algoritmoa ere matxista da

Algoritmoak aspalditik erabiltzen dituzte matematikariek problemak ebazteko. Egun, ordea, adimen artifizalaren garapenak hedatu egin ditu. Algoritmoak erabiltzen dituzte enpresa batean zein langile kontratatu —edo bota— erabakitzeko, esaterako. Ezagunak dira sare sozialetako erabiltzaileei zer eduki erakutsi erabakitzen dutelako ere. «Modernoak» izango dira, baina ez neutralak. Gizarte patriarkalaren isla ere badira algoritmoak. Matxistak ere badira.

Genero diskriminazio algoritmikoari buruzko mahai inguru bat egin zuten asteartean, Donostiako San Telmo museoan. Deustuko Unibertsitateak antolatu zuen, eta bi ikertzailek azaldu zuten zertan datzan: Miren Gutierrez Deustuko Unibertsitateko irakasleak —hark jardun zuen, bereziki, algoritmoez—, eta Pilar Rodriguez Harvard Unibertsitateko doktoreak. Azaldu zutenez, algoritmoek datu base ugaritatik edaten dute, jarraibide jakin batzuekin, erabakiak hartzeko. «Generoari lotutako 1950eko hamarkadako hainbat ideia integratuta daude datu baseen sistemetan. Hori arazo bat da, datu horiek erabaki algoritmiko bat hartzeko erabiltzen baditugu 1950eko hamarkadara itzuliko garelako. Itzuli nahi al dugu?», galdetu zien Gutierrezek San Telmo museoko areto nagusian mahai ingurua adi entzuten ari ziren emakumeei. Horietako askok ezagutuko zuten 1950eko hamarkada, eta aho batez erantzun zioten: «Ez!».

Amazon enpresako giza baliabideen kudeaketa adibide moduan erabili zuen Gutierrezek. Azaldu zuenez, Amazonek 2014an adimen artifiziala erabili nahi izan zuen langileak kontratatzeko. «Bertan behera utzi behar izan zuten, konturatu baitziren programak sistematikoki puntuazio hobeak ematen zizkiela gizonei, nahiz eta emakumeen meritu berak izan. Joera historikoa da arrazoia. Programak enpresaren datu baseak zituen oinarri; enpresa horretan, gizonek agintzen zuten», azaldu zuen Deustuko Unibertsitateko irakasleak. Hau da, algoritmo bidez funtzionatzen duen hautaketa programa batek identifikatzen badu ordura arte gizonek izan dituztela ardurak, hori aintzat hartu beharreko faktore bat dela ulertzen du sistemak, eta horren arabera hartzen ditu erabakiak.

Internet bidezko bilatzaileek ere erabiltzen dituzte algoritmoak, eta horietan ere islatzen dira joera matxistak. «Adimen artifizialak ikasi du emakumeak sukaldeekin lotzen, sarean sukaldeen argazki gehiago daudelako emakumeekin gizonekin baino. Sistemak ez zuen soilik argazki horietan zegoen joera matxista islatu: areagotu ere egin zuen», kontatu zien San Telmo museoan izan zirenei.

Adimen artifiziala audio bidezko «laguntzaileek» ere erabiltzen dute, galderei erantzuteko eta hainbat erabaki hartzeko. Apple enpresaren Siri da horietako bat. Emakume ahotsa du, baina datu base matxistaz hornituta dagoela nabarmendu zuen Gutierrezek: «Duela urte batzuk Siriri esaten bazenion 'Puta bat zara', hau erantzuten zizun: 'Ahalko banu, gorritu egingo nintzateke'. Espero dut ja kenduko zutela erantzun hori».

Sare sozialetan ere nabarmena da algoritmoen presentzia, baita erabilera ere. Twitterren eta Instagramen erabiltzaileei lehenengo azaltzen zaizkien edukiak, bilaketak egitean azaltzen direnak, eta agertzen den publizitatea ere, besteak beste, algoritmoen bidez diseinatuta dago. Twitterren kasuan, emakumeei kalte egiten diela adierazi zuen Gutierrezek: «Twitterrek emakumeok zigortzen gaitu, gizonek baino erabiltzaile gehiago blokeatzen ditugulako. Eraso egin ez diezaguten blokeatzen ditugu».

Sare sozialetako indarkeria

Izan ere, plataformetan eta sare sozialetan eregorpuzten da emakumeen aurkako indarkeria. Hamaika modutan gertatzen dela gaitzetsi zuen Gutierrezek: «Emakumeen lorpenak ukatzen dituzten albiste faltsuak hedatzen dira, adibidez. Beste indarkeria mota bat pornografia bidezko mendekua da: emakume baten eduki sexuala zabaltzea, biktimaren baimenik gabe. Emakumeak kontrolatzeko bitarteko bat dira sare sozialak, eta sofatik erabil daitezke».

Bestalde, ardura postuetan dauden emakumeen aurkako indarkeria ere oso hedatuta dago sare sozialetan. «Estereotipoak indartzea da haiei eraso egiteko estrategiaren helburua, etaestrategia horrek mezu bat helarazi nahi die emakumeei: 'Ez izan bizitza publikorik'», adierazi zuen.

Rodriguezek nabarmendu zuen algoritmoak ez direla «deabrua» bere hartan, haiek erabiltzeko modua dela norabidea zehazten duena: «Enpresen garapen ekonomikorako eta finantzaketarako baino ez dira erabiltzen algoritmoak, ez justizia soziala bultzatzeko».

Haren ustez, «antolatzea» da herritarren zeregina, algoritmoek gizarte osoari mesede egin diezaioten. Hala ere, gogorarazi du algoritmoek eta sare sozialek gizartean dauden zapalkuntzak islatzen dituztela, eta gizartea eraldatzea dela lehen pausoa.