2029. urtea da, eta makinen menpe dago mundua. Gizaki talde bat matxinatu egin da eta haien aurka borrokan dabil, gizadia askatzeko. Hori da 1984an kaleratu zen Terminator filmaren argumentua, eta askorentzat adimen artifizialaren inguruko erreferentzia bakarrenetarikoa, orain arte. Adimen eta kontzientzia propioa duten makinak, alegia. 2023. urtean, zientzialariek oraindik ez dute horrelakorik sortu; baina geroz eta gehiago hurbiltzen ari dira azken asmakizunekin. GPT-4 izeneko txatbota da azken nobedadea; adimen artifizialaren bidez gizaki batekin elkarrizketa erreal bat izatea ahalbidetzen duen sistema. Hala ere, badira urteak adimen artifiziala eguneroko bizimoduaren alor ugaritan sartu zela. «Asko hitz egiten da adimen artifizalari buruz, baina zarata handia dago», dio Mikel Artetxe EHUko Hitz zentroko kideak. Adimen artifizialaren inguruko zalantzei argi emateko, zortzi aditurekin solastatu da BERRIA.
Zer da adimena?
Adimen artifiziala zer den definitzeko erantzun beharreko lehenengo galdera da. Izan ere, ez dago erabateko adostasunik adimenaren definizioari dagokionez, eta, horrenbestez, zaila da adimen artifiziala zer den zehaztea ere.
Ikusi gehiago:Ekosistema propioa, izuak uxatzeko
«Guretzat, adibidez, bigarren mailako ekuazioak egitea zerbait adimentsua izan liteke», azaldu du Mikel Artetxek. Hizkuntza eredu adimentsuen alorrean start-up bat sortu du duela gutxi, eta adimena neurtzeko hainbat modu daudela azaldu du: «Txakur bat ez da gai, eta agertuko balitz txakur bat horiek egiten dituena, adimentsua irudituko litzaiguke. Baina, aldiz, kalkulagailu sinple batek egiten ditu bigarren mailako ekuazioak, eta ez dugu esaten adimentsua denik. Edo objektu bat identifikatzea; txakur batek identifikatzen ditu, baina ez dugu esaten adimentsua denik. Aldiz, makina batek hori bera egiten badu, hori adimentsua dela esaten dugu».
Zer da adimen artifiziala?
Disziplina zientifiko bat da, Gorka Azkune informatikari eta EHUko IXA taldeko ikertzaileak esan duenez. Adimena ez dagoenez oraindik ondo definituta, atazetara bideratutako ikuspegia erabiltzen da: «Ezin dugunez besterik gabe esan makina batek adimena daukan edo ez, egiten duguna da makina horri ataza batzuk jarri, gure ustez izaki adimentsu batek bakarrik ebatzi litzakeenak, eta ikusten dugu makinak zenbateraino ondo egiten dituen ataza horiek».
Mikel Artetxek erantsi du «nolabaiteko ikasketa edo prozedura mekaniko ez-sinple bat jarraitzen duen» teknologia oro sartu daitekeela termino horren baitan. Hain zuzen, «jaso duen entrenamenduaren eta erabiltzaileekin izan dituen hartu emanen arabera» ikasteko gai den teknologia bat dela zehaztu du Ujue Agudok. Psikologian doktorea da Agudo, eta Bikolabsen egiten du lan. Orai NLP enpresako teknologien arduradun Xabier Saralegik gaineratu du gizakiek dituzten zenbait gaitasun makinen bidez erreproduzitzea izan litekeela adimen artifizialak egiten duena: «Esaterako, arrazoitzeko gaitasuna, planifikatzeko gaitasuna, arazoak ebazteko gaitasuna, modu abstraktuan pentsatzeko gaitasuna...».
Zer adimen artifizial bereizten dira?
Ez dago adimen artifizial mota bakarra. Adimena erreplikatzeko hastapenean, bi adimen mota bereizi zituzten, Xabier Saralegiren arabera: adimen orokor integrala eta adimen zehatza. Adimen zehatzak balio du ekintza jakin batzuetarako; aldiz, adimen orokorra gizakien adimenaren pareko zerbait litzateke.
Humberto Bustinze NUP Nafarroako Unibertsitate Publikoko irakasle eta NAIR Nafarroako Adimen Artifizialaren Ikerketa Zentroaren zuzendariak azaldu du adimen artifizial zehatz edo ahulak jarduera bat soilik egiteko balio duela. «Hori, gaur egun, zerbitzu askotan dugu: tunel batean sartzean automatikoki argiak kalibratzen dituzten autoak, Siri, ibilgailu autonomoak...». Adimen artifizial orokorra, berriz, oraintxe ari da sortzen, itxuraz: makina edo tresna jakin bat, jarduera sorta bat egiteko gai dena, ez ekintza bakar eta soil bat. Horixe da ChatGPT, Open AI enpresak sortu duen solaskide artifiziala. «Gaur egun, bi adimen mota horien artean gaude», Bustinzeren arabera: «Beste adimen mota bat litzateke adimen artifizial indartsua, zeinean makinek emozioak imitatuko lituzketen —baina sentimendurik ez lukete—. Hori azken pausoa litzateke».
Nola garatu da adimen artifiziala?
Adimen artifizialarekin lan egiteko bi modu, bi eskola nagusi sortu direla azaldu dute Humberto Bustinzek eta Mikel Artetxek. Eskola sinbolikoa eratu zen lehenik; beste eskolari konektibista esaten zaio. Eskola sinbolikoaren filosofian, arrazoitzeko gaitasuna da adimenaren gakoa, Artetxek azaldu duenez: «Adimen artifizial klasikoa hurbilpen sinboliko horretan zentratu da: gizaki batek diseinatzen ditu problema bat ebazteko garrantzitsuak diren ezaugarriak —premisak, axiomak, arauak...—, eta makinak ikasten du, horien arabera, erabaki logiko bat hartzen». Makinak ikasketa prozesu bat egiten du, baina pertsonek diseinatutako ezaugarrietan oinarrituta.
Ataza edo zeregin jakin batzuk ebazteko baliagarria izan liteke adimen hori —xakean jolasteko makina bat sortzeko, esaterako—, baina adimen sistema orokor bat eraikitzeko motza da, Xabier Saralegik azaldu duenez. Gorka Azkunek berretsi egin du: «Muga argiak erakutsi zituen bide horrek». Hortaz, hasi ziren enfoke estatistikoak erabiltzen: datu bilduma handiak eta estatistikak eman, eta makinak erantzun probableena ebazten zuen.
Baina sare neuronalak izan dira «inflexio puntua». Bat datoz aditu guztiak. Mikel Artetxek azaldu du beste ikerketa lerroaren, eskola konektibistaren ikuspegian oinarritzen dela teknologia hori: eredu horretan ikasteko gaitasuna da adimenaren gakoa, eta adimen artifizialeko sistemek gaitasun hori imitatu nahi dute. Adibide sorta handiak eta horien soluzioak ematen zaizkie makinei, sistemaren logika ikasi eta eraiki dezaten —ikasketa sakona deitu zaio horri—.
Zer dira sare neuronalak?
Sare neuronal esaten zaie, baina ez dira sareak, eta ez daude neuronaz eginda. Konputazio tresnekin «neuronak eta horien konexioak imitatzean datza», Humberto Bustinzeren arabera. Esplikazioarekin jarraitu du Gorka Azkunek: «Orain kontua ez da nik makina programatzea, baizik eta nik makinari adibideak ematea, arazo konkretuak ebatzi ditzan. Eta makinak ikasten du nola egin behar den auzi hori konpontzeko». Xehetasunak erantsi ditu Mikel Artetxek: «Ordenagailuari ematen diozu sarrera bat, eta esaten diozu irteeran zer eman behar duen. Adibide pila bat sartzen dizkiozu, eta berak ikasi behar du zer patroi dauden sisteman, irteeran erantzun hori emateko. Ez du berak bakarrik egiten, noski. Guk diseinatu behar dugu ikasketa prozesua nolakoa izango den. Ikasketa algoritmoak diseinatu egin behar dira».
Ikusi gehiago:Kronologia
Sare neuronaletan, nodoak edo unitateak daude, eta haien arteko loturak; eta lotura horietako bakoitzak pisu bat du. Geruzetan antolatzen dira, bestalde. Sare neuronal bakoitza ataza bat egiteko entrenatzen da. Hizkuntzaren teknologietan, adibidez, ematen zaio makinari esaldi bat, hitz bat kenduta, eta makinak ikasi behar du osatzen.
Xabier Saralegik nabarmendu duenez, hizkuntzaren prozesamenduan, ikusmen artifizalean, irudi eta bideoen sorkuntzan... erabat erabiltzen dira sare neuronalak gaur egun, askoz emaitza hobeak ematen dituztelako. Euskaratik eta euskarara itzultzeko tresna modernoak ere ikasketa sistema horretan oinarritzen dira, eta hobekuntza nabarmena ekarri zuten, duela bost bat urte.
Nola entrenatzen dira?
Sare neuronalek funtzionatzeko lehengaia datu sortak dira; corpusak eta makina entrenatu nahi den ataza horretarako erantzunak. Gorka Azkunek adibide bat jarri du: «Auzia baldin bada makinari argazki bat eman eta berak argazki hori deskribatzea testu bidez, sare neuronalari erakutsiko diot datu multzo handi-handi bat, irudi batzuekin eta baita nik idatzitako deskribapenekin ere. Irudi eta testu pila bat dauzka, ikusten ditu, entrenatzen duzu irudi konkretu baterako testua sortzen... eta irudi berriak sartzean, badaki testuak sortzen».
Behin eta berriro eta behin eta berriro errepikatzen dira prozesu horiek. Testuekin gauza bera da, Xabier Saralegiren hitzetan: esaterako, makina bati testuak itzultzen irakasteko, jatorrizko esaldiak eta horien itzulpenak ematen zaizkio, milaka eta milaka, milioika. «Algoritmoak ikusten ditu halako adibide pila bat, eta induzitzen du horren atzean dagoen logika, eta sortzen du eredu estatistiko bat». Berak sortzen du, ez gizaki batek emanda. Entrenamendua esaten zaio horri.
Baina entrenamendua ez da hor bukatzen. Aginduekin ere entrenatzen dira sistema horiek. Ane Iturzaetak Microsoften egiten du lan hodeietako arkitekto gisa, eta azaldu du entrenatzailearena lan berri bat dela, eta prompt engineer esaten zaiela: haien erantzukizuna da adimen artifizialari instrukzioak ondo ematea, makinaren erantzunak hobetzen dituelako horrek. Gorka Azkunek gehitu du badirela beste entrenamendu mota batzuk ere: «Makinak erantzuna eman ostean, pertsonek esaten diote erantzun hori ondo dagoen edo ez, zer dagoen ondo eta zer ez». Polemikarik ere izan da horren inguruan: Time aldizkariak zabaldu du Kenyako langileak kontratatu dituela Open AI enpresak lan horretarako, orduko bi dolar baino gutxiago ordainduta.
Zer aldatu du ChatGPTk?
Xabier Saralegiren ustez, txat horrek muturrera eraman ditu sare neuronalen ahalmenak, eta «disrupzio bat» eragiten ari da. GPT txataren aurretik, ataza edo auzi jakin bat egiteko entrenatzen ziren sare neuronalak; adibidez, testuak itzultzeko. Baina konturatu ziren, behin makinak hizkuntza arkitektura bat sortuta, posible zela sare neuronal horri beste ariketa batzuk eskatzea, nolabait ere hizkuntzaren logika ikasia zuelako.
Horrela, ChatGPTren sortzaileek, makina ataza jakin baterako datuekin soilik entrenatu beharrean, trebatu dute, aldi berean, dozenaka ataza egin ahal izateko. Eta ez soilik hizkuntzaren alorrean, baita bestelakoetarako ere: zentzu komunerako, sentimenduak ezagutzeko, elkarrizketarako, laburpen automatikorako... ariketak eginarazi dizkiote. «Hori da ChatGPTren atzean dagoen magia», azaldu du Xabier Saralegik.
Bert izan zen lehen hizkuntza eredu neuronala, duela bost bat urte. Entrenamenduan 100 milioi parametro erabili zituzten, hamabi geruzako sare neuronal batean; ChatGPT3 entrenatzeko, 175.000 milioi parametro erabili zituzten, 96 geruzatako eredu batean. ChatGPT4 bertsioa are urrunago joan dela badakite adituek, baina ez dakizkite datuak, GPT4 itxi egin duelako Open AI enpresa jabeak, eta ez dituelako xehetasunak aurkeztu.
Zer egiteko gai da adimen artifiziala gaur egun?
Sare sozialetako edukia erabiltzaile bakoitzarendako moldatzetik, interbentzio kirurgikoak egiteraino. Hamaika arlotan txertatuta dago jada adimen artifiziala. Orain, gainera, «generatiboa» dela zehaztu du Ane Iturzaetak, ekintzaz haratago, sortzeko gaitasuna ere baduelako. Sare sozialetan, adibidez, adimen artifizialaren «pieza txikiak» daudela dio Ujue Agudok: «Erabakitzen dute zein informazio eta noiz erakutsiko zaion erabiltzaile bakoitzari».
Ikusi gehiago:Gerra deklarazioa
Eusko Jaurlaritzako Etxebizitza Sailean eta Lanbiden ere badute adimen artifizialaren berri. Lehenbizikoak lengoaiaren prozesamendu naturala erabiltzen du dokumentuetatik informazioa azkarrago ateratzeko. Eta bigarrenak machine learning teknika darabil lan eskarien profilak egiteko.
Itziar Alkorta legelaria da, eta bioteknologian eta giza ugalketako teknologia berrietan espezializatuta dago, baita EHUko irakasle eta ikertzailea ere. Azaldu du medikuntzan ere aplikazio anitz dituela tresnak. Zenbait ospitaletan, adibidez, Watson izeneko diagnostikorako asistente bat erabiltzen dute: «Medikuari laguntzen dio sintomatologia bat interpretatzen, diagnostikoa egiten». Gaixotasunak detektatzeko ChestLink izeneko softwarea ere aipatu du: erradiologian erabiltzen da, gaitzik gabeko erradiologia irudiak baztertzen ahal ditu. Eritasun zehatzen diagnostikorako trensak ere badaude; koloneko minbizia diagnostikatzeko, adibidez, pilula inteligente bat dagoela dio Alkortak: «Pazienteak pilula irensten du, eta pilulak badauka datuak biltzeko txip inteligente bat. Datu horiek makina batera doaz, eta zortzi orduz egiten du pertsonaren diagnostikoa. Gero kanporatu egiten da, eta ez dauka inongo bigarren mailako efekturik». Horrez gain, interbentzio kirurgikoak egiteko adimen artifiziala darabilten robotak ere badaude.
Zer muga ditu gaur egun?
«Ekintza espezifikoak bikain egin ditzake, baina ez da arrazoibide maila abstraktu batera iristen», esan du Irati Berasategik. Fisikan graduatua da, eta Zientzia eta Filosofian masterduna. Filosofiaren ikuspuntutik ikertu du adimen artifizialaren inguruan. Humberto Bustinzerentzat, berriz, bi dira muga nagusiak. Azaltzeko gaitasuna da lehenbizikoa: «Sistema pila bat daude oso ondo funtzionatzen dutenak, baina ez dute azaltzen zergatik funtzionatzen duten». Fabrika batean horrek ez du aparteko garrantziarik, baina medikuntzan bai, esaterako. Mamografiei dagokienean, adibidez, sistema batek Europan azken hamabost urteetan egin diren mamografi guztiak gorde ditu: «Hain perfektua da sistema, ezen mamografia bat sartu eta pertsona horri gertatuko zaiona asmatzen duen. Baina badago arazo bat: mediku baten diagnostikoa hobetzen du, baina ez du justifikatzen zergatik egin behar den ebakuntza».
Moldatzeko gaitasuna da bigarren traba. Hau da, tresna bat trebatu daiteke ekintza jakin bat baldintza batzuetan egiteko: neurri zehatz bateko taula batean munduko jokalari hoberenari irabazteko, adibidez. Baina, jokoa bera izan arren, taularen neurriak aldatuz gero, esaterako, adimen artifizialak ez ditu emaitza berdinak izanen, ez baitu egoera berrira moldatzeko gaitasunik.
Zer garapen eduki dezake?
Giza formako medikurik oraindik ez, baina Itziar Alkortak adierazi du «pertsonaren datu genomiko eta historial klinikoetan oinarritutako medikuntza pertsonalizatua» izateko aukera ekarriko duela adimen artifizialak: «Horrek esan nahi du pertsona horrek gaixotasunik badu, berari egokituko zaizkion sendagaiak emango zaizkiola, berarentzat espezifikoki behar dituen dosi eta moduetan. Eta ez hori bakarrik; gaixotasun horiek aurreikusteko aukera, eta, beraz, eritasunei aurrea hartzeko aukera handiagoa egongo da». Alkortak azpimarratu du adimen artifizialak egiteko garrantzitsua izango duela biztanleriaren zahartzean ere: «Gaixotasun kronikoak biderkatu egingo dira, eta osasun sistemak ikaragarrizko zama izango du bere gain. Ez da baliabide nahikorik izango denetarako, eta oso garrantzitsua izango da adimen artifiziala».
Ikusi gehiago:Euskararen esperantza
Ujue Agudok, ordea, adimen artifizialaren inguruko espektatibei buruzko kontraesanak azaleratu ditu: «Urte luzez esan zen adimen artifizialak lan aspergarriak, arriskutsuak eta zikinak amaitu behar zituela. Planteamendu gisa logikoa da, baina oraindik hori ez da gertatu. Adimen artifizialak guri gehien gustatzen zaizkigun jarduerak egin ahal izateko, pertsona pila batek egon izan behar dute datuak etiketatu edo garbitzeko lana egiten». Saralegik paradoxa bat erantsi dio horri: «Beti pentsatu dugu errazagoa izango zela ataza mekanikoak automatizatzea, ekintza intelektualak automatizatzea baino. Baina juxtu kontrakoa gertatzen ari da».
Hala ere, Humberto Bustinzek argi dauka makinek ezingo dutela gizakia ordezkatu arlo batzuetan: «Erabaki garrantzitsuak hartzen lagunduko digute, eta, batez ere, lan errepikakorrenak desagertzea ahalbidetuko dute».
Pertsonen adimen gaitasunak eskuratzen ari da?
Arrazoitu, ariketa matematiko konplexuak egin, ideia eta arazo konplexuak ebatzi, hizkuntza ulertu eta sortu, kode informatikoa sortu, planifikatu... Xabier Saralegiren arabera, Microsofteko ikertzaile talde batek ondorioztatu du ChatGPT4k jarduera horiek guztiak egiteko gaitasunak oso garatuak dituela. Emaitza horiek «beldurtzekoak» direla esan du, eta ChatGPT4k «sekulako ezagutza» duela.
Adimen artifizal orokorra gertu dagoela ondorioztatu daiteke, beraz. Orokorra bai, baina indartsua ez. Humberto Bustinzeren ustez, sentimenduak dituen adimen artifiziala ez da iritsiko. Izan ere, tresna horrek «arazoak ditu sortzeko eta interpretatzeko kontzeptu sinbolikoak, metafisikoak eta lengoaiaren esanahi zehatzetik harago doazenak; edo identifikatzeko gizakiendako naturalak diren harreman objektiboak edo kulturalak». Hau da, testuinguruak baldintzatu dezake pertsona batek nola interpretatzen duen irudi edo kontzeptu bat. Baina adimen artifiziala ez da bereizketa hori egiteko gai. Oraingoz, behintzat.
Posible ote da kontzientzia artifiziala sortzea?
Adimen artifiziala definitzeko oztopo bera dago kontzientzia artifiziala definitzeko: kontzientziaren definizioaren inguruan ere ez dagoela adostasunik. Hala ere, definizio posible bat proposatu du Irati Berasategik. «Zelulaz, mikroorganismoz eta abarrez, osatutako egitura zehatza duen gorputz batean gertatu den eboluzioaren ondorizko fenomenoa, gizakioi inguratzen gaituen errealitatearekin elkarbizitzan esperientzia subjektibo bat izatea ahalbidetzen diguna. Zer sentitzen duzu zuk amonak prestatutako bazkaria usaintzean? Hori da esperientzia subjektiboa; zuk A sentituko duzu, eta nik, adibidez, nire amona ez denez, B».
Definizio horri jarraituta, kontzientzia artifiziala litzateke makina batek bere ingurunean gertatzen dena «sentitu eta gertaera horren esperientzia subjektibo bat izateko gaitasuna». Hala ere, gehitu du kontzientziaren definizioan gorputz biologiko bat abiapuntutzat hartu arren, posible litzatekeela kontzientzia artfiziala «beste mekanismo batzuen bidez» agertzea ere. Hori gauzatzea, ordea, «oso urruti» dagoela dio Berasategik.
Zer arazo ekar ditzake adimen artifizialak?
Datuen erabilera eta pribatutasuna. Bi auzi horiek dira adituak gehien kezkatzen dituena, adimen artifizialaren erabilerari dagokionez. Baina zer egin daiteke datu horiek adimen artifizialaren eskuetan utzita? «Pertsonen etorkizuneko portaera aurreikus dezake, probabilitate tasa handi batekin», azaldu du Itziar Alkortak. Esaterako, pertsona batek smartwatch bat badauka, «etengabe» ari da datuak sortzen: lotarako pautak, osasun pautak, elikadurarenak zein gaitasun kognitiboenak... «Datu horiek beste eredu batzuekin alderatuta, adimen artifizialak asma dezake, esate baterako, pertsona horrek sendagai jakin batekiko izango duen atxikidura maila», Alkortaren arabera. «Imagina dezagun botika oso garesti bat dela, eta ezin diegula gaixo guztiei eman. Baldintza berdinetan dauden pertsona multzo batean, inteligentzia artifizialak esaten badigu batzuek atxikidura handiagoa izango dutela besteek baino, nori emango diogu medikamentu hori?».
Ikusi gehiago:Lankide ala etsai
Adimen artifiziala elikatzeko erabilitako datuen aukeraketak ere arriskuak ekar ditzakeela ohartarazi du Alkortak. «Europan COVID-19aren diagnostikoa egin zenean, adibidez, ikertzaileek berehala milaka datu ekoiztu zituzten. Beraz, birusaren profila egin zenean, datu gehienak europarrenak ziren. Afrikarren datuak oso gutxi ziren». Diagnostiko horren arabera asmatu duten erremedioa ere oker egon daitekeela dio. «Populazioaren zati bat kanpo geratu daiteke».
Solaskide artifizialei buruz, Mikel Artetxek adierazi du «haluzinazioak» direla arazo nagusia: «Sistema hauek beti botatzen dute erantzun bat, horretarako prestatuta daude. Igual ez dakite erantzuna, baina botatzen dute zerbait. Horretaz ere kontziente izan behar dugu». Akatsak egiten dituztela eta existitzen ez diren erreferentziak asmatu ere egiten dituztela, alegia. Genero bazterketaren arazoa ere agerian jarri dute.
«Dirua behar da», bestalde, Xabier Saralegik laburtu duenez. Adimen artifizialaren teknologia aurreratuena ez dago edonoren eskura. Ezagutza bai, hor dago, eta ChatGPT3 ireki zuten, ikertzaileek eta programatzaileek erabili eta aztertu ahal izan dute; badira adimen artifizaleko beste eredu ireki batzuk ere. Baina ChatGPT4, adibidez, dagoeneko ez da irekia, eta ez dira ezagutzen haren entrenamenduaren xehetasunak ere. Hortaz, pixkanaka ixten ari da, eta korporazio handien esku gelditzen ari da halako ereduen garapena.
Bada beste arrisku bat ere: erabilera maltzurra. Xabier Saralegik ekarri du adibidea: «Egin zuten ariketa bat, aztertzeko ChatGPTk izan ditzakeen erabilera maltzurrak: jarri zioten ariketa bat, desinformazio kanpaina bat antolatzeko, eta dena egin zuen, pauso guztiekin».
Zer arazo etiko ekar ditzake?
Besteak beste, adimen artifizialak gizarte talde jakin baten joerak erreproduzitu ditzake edo pertsonen erabakiak baldintzatu. Ujue Agudo: «Adimen artifiziala sortzeko zikloaren zati handi batean parte hartzen dugu gizakiok: entrenatu egiten dugu, datuak berreskuratu, eredu estatistikoa hautatu, eta behin merkatura ateratzen denean adimen artifizialak erabiltzaileengandik ere ikasten du. Momentu horietan guztietan gizakiok ditugun joerak adimen artifizialera pasatzen ahal ditugu».
Hau da, gizakiaren eta adimen artifizialaren arteko hartu emanek tresna kutsatu dezakete. Irati Berasategik esplikatu du joera horiek «gehienetan klase ertain-altuko eta mendebaldeko gizon batenak» izan ohi direla: «Eta horrek ezaugarri horien barruan sartzen ez diren pertsonen diskriminazioa ekartzen du». Alderantziz ere gerta daiteke, adimen artifizialak berak gizakien hautuetan eragiten ahal baitu.
Arlo hori ikertzen du Ujue Agudok. Azaldu du adituek gomendatzen dutela adimen artifizialaren erabaki prozesuan beti pertsona bat egotea: human in the loop (gizakia bihurgunean) deritzo. «Pertsona horrek makina gainbegiratzen ahalko du, eta detektatzen ahalko du noiz egiten duen huts, eta erabakia aldatu. Ikertzen ari gara ea algoritmoak pertsona horri laguntzen dion, edo bere erabakiak baldintzatzen ari den». Izan ere, tresnak gehiago dakielakoan, zenbait hautu ontzat eman ditzake pertsona horrek. «Baina zenbait kasutan aukera zuzenak soilik ez du balio: etikoa eta bidezkoa ere izan behar da. Erabakiak makinak ez dituen ezaugarri jakin batzuk izan behar ditu».
Erregulatzea beharrezkoa da?
«Kontrolatu behar dugu, gizarte bezala, algoritmoak nola egin diren, eta erabakiak zer irizpideren arabera hartzen dituzten», adierazi du Itziar Alkortak. Haren arabera, herritarrak ez dira gai adimen artifizialaren «kaxa beltzean» gertatzen dena ulertzeko, baina ezarri ditzakete algoritmo horiek diseinatzeko irizpide «demokratiko» batzuk. «Hori oso inportantea da ulertu ahal izateko guregan hartzen diren hainbat erabaki, makina batek hartzen dituenak, automatizatuak daudenak, eta kontra egiteko zailak direnak, ez baitugu ulertzen zein diren makina horiek erabaki horiek hartzearen ondorioak». Ane Iturzaeta bat dator: «Kontua ez da adimen artifiziala zer egiteko gai den, baizik eta zer egin behar duen; erantzukizuna hartu behar dugu».
