Manuela Battaglinirentzat (Arrecife, Espainia, 1974) Internet geruzatan banatutako iceberg bat da. Ekintza guztiak —etikoak, politikoak, legezkoak eta baita ekonomikoak ere—, icebergaren ageriko geruzan zentratzen dira; Battaglinik dio, ordea, oligopolioz eta monopolio mugiezinez osatutako itsaso izoztuan dagoela mundu digitaleko arazo guztien jatorria. Beraz, posible da beste gobernantza eredu bat? Battaglini adimen artifizialaren oinarri diren algoritmoen eragin etikoa, soziala eta legala aztertzen aritu da, eta erabaki automatizatuen diseinu etiko eta fidagarri baten metodologiaren diseinuan lan egin du. Donostian izan da, Euskarabildua jardunaldietan parte hartzen.
Zer da datuen etika?
Metodologiaz eta printzipio eta balioez ere hitz egin dezakegu. Balio eta printzipioei dagokienez, pertsonen duintasuna, mugitzeko eta erabakiak hartzeko duten autonomia eta erabakitzeko askatasuna zaintzea da, eta erabaki automatizatuek, hau da, erabaki algoritmikoek duintasun hori eta autonomia hori gordetzea. Metodologia behar da horretarako: administrazio publikoak pribatuari lagundu behar dio, eta ez diseinutik, baizik eta prozesua automatizatzea erabakitzen den momentutik. Orduan, etika digitala izango litzateke galdera nagusia: zer giza arazo konpondu nahi da? Izan ere, efizientzia eta kostuen aurrezpena konpondu nahi badira, ez goaz bide egokitik, balio neoliberalak eta enpresa pribatukoak direlako. Nola lortuko dugu oparotasuna giza arazoak konpontzearen bidez? Hortik aurrera, datuen bilketa araudi orokorraren printzipioen arabera egin behar da, eta horrela metodologia bati jarraitzen zaio.
Nola eragiten du etikak zibersegurtasunean eta datuen babesean?
Etika digitalak presente egon behar du. Zibersegurtasuna gai garrantzitsua da; horrek esan nahi du informazio guztia babestuta dagoela edozein eraso gertatuz gero. Etika digitalaren helburuetako bat datuen segurtasuna da: oinarrizko eskubidea da. Europako Batasuneko datuak babesteko erregelamendu orokorraren bosgarren artikuluko printzipioak betearazten baditugu, etika digital hutsa izango litzateke. Datuak minimizatzeko printzipioa biltzen da; hau da, pribatutasun politikan jakinarazi diren helburuetarako baino ezin dira erabili datuak. Gordeta dauden datuak, hala nola zure izena, adina eta bizilekua, zure pertsonaren adierazgarri dira. Erabaki algoritmikoan, iristen da momentu bat non zeure buruari galdetzen diozun ea nondik atera dituzten zure datuak. Orduan beste lege batzuk sartzen dira, besteak beste jabetza intelektuala eta sekretu komertzialaren tratuak. Lege horiek daudenean, ez dizute sartzen uzten, eta enpresei opakuak izaten uzten diete. Etika, beraz, borondatezkoa da.
Nola egin daiteke gardena erabakiak hartzeko sistema automatizatu bat?
Ezin da, datuen bilketa bat delako. Gero, datuak biltegiratu egiten dira, eta jarraian entrenamendu eta erabaki sistema batera joaten dira; hau da, erabakiak hartzen irakasten dute. Baina momentu batzuetan, makina, adibidez, 30etik 70era igarotzen da, eta garatzaileek beraiek ere ez dakite nola gertatzen den hori: ezin da jakin makinak nola ikasi duen. Baina zeri deitzen diogu gardentasuna? Izan ere, gardentasunak ezin du helburu bat izan, bitarteko bat izan behar du. Metodologia dirudien baino konplexuagoa da, eta sei fasetan banatzen dugu: datuak bildu; gardentasunari buruz informatu ahal bezain laster; biltegiratu; entrenatu; erabakiak hartu; eta inpaktu soziala zehaztu. Galdetu beharra dago zer arazo sozial konpondu nahi den eta nola gehituko diogun oparotasuna. Hortik aurrera, urrats bakoitzean, erabakia zergatik hartu den azaldu behar zaion foroa aurkitu behar da; gardentasun hori da bidea, eta helburua da eginkizunak behar bezala betetzeko erantzukizuna izatea.
Zure ustez, nola erabil daiteke teknologia ziberespazioan etika sustatzeko?
Nik uste dut arazoa ez dela teknologia, baizik eta botere kontzentrazioa. Egoera etikoagoa eta onuragarriagoa lortzeko, botere kontzentrazioa desegin behar da. Ameriketako Estatu Batuetan hasi dira egiten; Europan, berriz, ez. Teknologia erregulatzen ari gara, baina, botere kontzentrazioa desegiten ez bada, ez dago zer eginik.
Zer eginkizun du hezkuntzak etikaren eta erantzukizun digitalaren kultura sustatzeko?
Hezkuntza oso garrantzitsua da gazte eta ikasle asko dagoelako, baina ezin zaio bota erru guztia heziketa faltari; izan ere, badaude pertsonak eta ingurumena erabiltzen dituztenak diru gehiago irabazteko asmoz, eta hori neoliberalismo eta kapitalismo hutsa da. Jendeak ez du erreakzionatzen, errealitateaz jabetzen ez delako. Hezkuntza beharrezkoa da, baina pertsona egokiei zuzenduta dagoela ziurtatu behar da. Adibidez, teknologia handiek hezkuntza eta administrazio publiko guztiak bereganatu dituzte. Ezin da, esaterako, klase politikoa hezi, bere interes propioak dituelako, eta uste dut ezer gutxi egin daitekeela. Beraz, gurasoak eta ikasleak hezi behar dira. Seme-alaben hezkuntzaren gisako gai batekin zerbait nahiko interesgarria egin daiteke.
Ziberespazioa iceberg bat balitz bezala deskribatu duzu.
Gobernantzaz hitz egiten denean, adimen artifizialaren gobernantza orokorraz hitz egiten da. Adimen artifiziala ziberespazioaren alderdi oso txikia da. Gainera, ez dute hitz egiten adimen artifiziala garatzeko beharrezkoa den horretaz: lehenengo, hardwarea, txip moduko batzuk; ondoren, hodeia; gero, inteligentzia eta modeloa; eta, azkenik, aplikazioa. Gobernantza orokorraz hitz egitean, azken kapa horretaz soilik hitz egiten da, hau da, aplikazioaz edo pertsonek teknologiarekin duten interakzioaz. Gainontzeko kapa guztiak, garrantzitsuenak, ezkutuan geratzen dira.
Zer egin daiteke geruzak ikusgarri egon daitezen?
Lehenik eta behin, administrazio handiei aholkuak ematen hasi behar da, benetan garrantzitsuak diren geruzetan arreta jartzeko: hodeiaren konputazioan eta hardwarean hain zuzen. Horrela, konturatuko dira algoritmoari buruz hitz egiten dugunean ez dagoela algoritmorik, baizik eta ehunka pertsona direla hainbat geruzatan lanean ari direnak. Ezin dugu algoritmoaz hitz egin aplikazioaz, hau da, azken geruzako sistema algoritmikoez ari garenean, hori guztia askoz beherago hasten delako eta ehunka pertsona ari direlako sistema algoritmiko berean lanean.
Benetan jabetzen al gara teknologia handiek gure gain duten kontrolaz?
Ez. Ez dugu horrek dakarren inpaktu soziala ikusten, ez dugu nabaritzen. Baina gure egunerokoan hartzen ditugun erabaki guztiak teknologien bidez manipulatuta daude; besteak beste, makillatzeko, janzteko eta ilea mozteko modua.
Eta etikarik ezaz?
Neoliberalismo hutsa da. Mundu guztiak izan nahi du goi maila ekonomikokoa, eta, horregatik, ahal duen guztia egiten du maila ekonomiko horretara iristeko. Horrek erabat marraztu du gure nortasuna. Gazteek esaten dute: «Nik edozein influencer bezalakoa izan nahi dut; zein izango litzateke nire bidea dirua irabazteko?». Eta bide horri jarraitzen diote. Beren bizitza hondatzen dute.
Benetan posible al da Internet etiko bat?
Bai. Baina sekulako lana geratzen zaigu. Ohartu behar dugu botere kontzentrazioa desegin behar dela; bestela, ezinezkoa da demokrazia bat egitea.
Teknologia handiei isunak jartzeko edo adimen artifizialaren erabilera arautzen saiatzeko egitasmoak daude, batez ere Europan. Eraginkorrak dira edo izango dira?
Ez. Izan ere, teknologia handiek diru jakin bat dute erreserbatua, badakite. Ameriketako Estatu Batuetan, berriz, negozio ereduen bila ari dira. Europan teknologia handiekiko menpekotasun handia dugu, eta horregatik funtzionatzen dute hain ondo lobbyek. Microsoftek, adibidez, lobby indartsuena eta oldarkorrena du: hain botere handia du, ezen lanik gabe utz baititzake Europako komisarioak. Mehatxu egiten die: «A! zuk ez dituzula nire proposamenak onartuko? Orduan, biltegiratzeko aukera kenduko dizut, eta ito egingo zaitut. Itotzen zaituenez, Europa osoa hodeian biltegiratu gabe geratzen da; beraz, zuk ikusiko duzu zer egin». Erabateko menpekotasuna dute, eta horregatik hasi dira diru publikoa inbertitzen Europako hodei publiko bat sortzeko.
