Terminoa oso altua dirudi, baina helburua oso praktikoa da: jendeak konfiantza izan dezakeen IA sistemak egitea, giza eskubideak errespetatzeko, kalteak murrizteko eta benetako onurak emateko moduan diseinatu, eraiki eta erabiltzen direlako. Hori da dena, bueno, gehienbat.
Honen ondoren irakurri nahi izango dituzun artikuluak:
🔗 Zer da MCP IA-n?
Konputazio modularreko protokoloa eta IA-n duen eginkizuna azaltzen ditu.
🔗 Zer da ertzeko AI?
Ertzean oinarritutako prozesamenduak nola ahalbidetzen dituen tokiko adimen artifizialaren erabakiak aztertzen du.
🔗 Zer da IA generatiboa?
Testua, irudiak eta bestelako jatorrizko edukia sortzen duten ereduak aurkezten ditu.
🔗 Zer da IA agentea?
Helburuetan oinarritutako erabakiak hartzeko gai diren IA agente autonomoak deskribatzen ditu.
Zer da IA Etika? Definizio sinplea 🧭
IAren etika printzipio, prozesu eta babes-hesien multzoa da, giza eskubideak, zuzentasuna, erantzukizuna, gardentasuna eta gizarte-ongizatea errespeta ditzan IA nola diseinatu, garatu, zabaldu eta gobernatzen dugun gidatzen duena. Pentsa ezazu algoritmoen eguneroko arau gisa, gauzak gaizki atera daitezkeen txoko arraroetarako egiaztapen gehigarriekin.
Mundu mailako erreferentziazko arauek hori babesten dute: UNESCOren Gomendioak giza eskubideak, giza gainbegiratzea eta justizia jartzen ditu erdigunean, gardentasuna eta zuzentasuna negoziatu ezin diren gai gisa hartuta [1]. ELGAren IA Printzipioek fidagarria , politika eta ingeniaritza taldeentzat praktikoa izaten jarraitzen duena [2].
Laburbilduz, IA Etika ez da horman itsatsitako poster bat. Taldeek arriskuak aurreikusteko, fidagarritasuna frogatzeko eta pertsonak babesteko erabiltzen duten eskuliburua da. NISTen IA Arriskuen Kudeaketa Esparruak etika IAren bizi-ziklo osoan zehar arriskuen kudeaketa aktibo gisa tratatzen du [3].
Zerk egiten du IA etika ona ✅
Hona hemen bertsio zuzena. IA Etika programa ona:
-
Bizirik irauten du, ez laminaturik - benetako ingeniaritza praktikak eta berrikuspenak bultzatzen dituzten politikak.
-
Arazoa planteatzen hasten da - helburua okerra bada, ez dago bidezko konponbiderik salbatuko.
-
Dokumentuen erabakiak - zergatik datu hauek, zergatik eredu hau, zergatik atalase hau.
-
Testuinguruarekin egindako probak - azpitaldeka ebaluatu, ez zehaztasun orokorra bakarrik (NISTen gai nagusia) [3].
-
Bere lana erakusten du - modelo txartelak, datu-multzoaren dokumentazioa eta erabiltzaileentzako komunikazio argiak [5].
-
Erantzukizuna sortzen du - izendatutako jabeak, eskalatze bideak, auditoriagarritasuna.
-
Segurtasuna vs. erabilgarritasuna vs. pribatutasuna, idatziz orekatzen ditu konpromisoak aire zabalean
-
Legearekin lotzen da - eraginarekin kontrolak eskalatzen dituzten arriskuetan oinarritutako eskakizunak (ikus EBko IA Legea) [4].
Produktu erabaki bakar bat ere aldatzen ez badu, ez da etika, dekorazioa baizik.
Galdera handiaren erantzun azkarra: Zer da IAren etika? 🥤
Horrela erantzuten diete taldeek hiru galdera errepikakor, behin eta berriz:
-
Hau eraiki beharko genuke?
-
Baiezkoa bada, nola murriztu dezakegu kaltea eta nola frogatu dezakegu?
-
Gauzak okertzen direnean, noren ardura da eta zer gertatzen da ondoren?
Izugarri praktikoa. Harrigarriro zaila. Merezi du.
60 segundoko mini-kasu bat (praktikako esperientzia) 📎
Finantza-teknologiako talde batek iruzur-eredu bat bidaltzen du zehaztasun orokor handiarekin. Bi aste geroago, eskualde jakin bateko laguntza-txartelak gora egiten dute: ordainketa legitimoak blokeatzen dira. Azpitalde baten berrikuspen batek erakusten du kokapen horretarako oroimena batez bestekoa baino 12 puntu txikiagoa dela. Taldeak datuen estaldura berrikusten du, ordezkaritza hobeagoarekin berriro trebatzen du eta eredu-txartel arriskuen kudeaketa eta erabiltzaileen errespetua bezala , ez poster bat [3][5].
Benetan erabil ditzakezun tresnak eta esparruak 📋
(Nahita sartutako bitxikeria txikiak - horixe da benetako bizitza.)
| Tresna edo Esparrua | Publikoa | Prezioa | Zergatik funtzionatzen duen | Oharrak |
|---|---|---|---|---|
| NIST AI Arriskuen Kudeaketa Esparrua | Produktua, arriskua, politika | Doan | Funtzio argiak - Gobernatu, Mapeatu, Neurtu, Kudeatu - taldeak lerrokatu | Borondatezkoa, erreferentzia ugari dituena [3] |
| ELGEko IA Printzipioak | Zuzendariak, politikariak | Doan | Balioak + aholku praktikoak IA fidagarri baterako | Gobernantza sendoaren ipar-izarra [2] |
| EBko IA Legea (arriskuetan oinarritutakoa) | Lege-arduradunak, betetzea, CTOak | Doan* | Arrisku-mailek eragin handiko erabileretarako kontrol proportzionalak ezartzen dituzte | Betetze-kostuak aldatu egiten dira [4] |
| Modelo Txartelak | ML ingeniariak, PMak | Doan | Eredu bat zer den, zer egiten duen eta non huts egiten duen estandarizatzen du | Artikulua + adibideak badaude [5] |
| Datu-multzoen dokumentazioa (“datu-orriak”) | Datu-zientzialariak | Doan | Datuen jatorria, estaldura, baimena eta arriskuak azaltzen ditu | Tratatu nutrizio-etiketa bat bezala |
1. azterketa sakona - Printzipioak mugimenduan, ez teorian 🏃
-
Bidezkotasuna - Ebaluatu errendimendua demografia eta testuinguruen arabera; neurri orokorrek kaltea ezkutatzen dute [3].
-
Erantzukizuna - Datuen, ereduaren eta hedapenaren erabakien jabeak esleitu. Erabakien erregistroak gorde.
-
Gardentasuna - Erabili eredu-txartelak; esan erabiltzaileei erabaki bat zenbateraino automatizatuta dagoen eta zer errekurtso dauden [5].
-
Giza gainbegiratzea - Arrisku handiko erabakien inguruan gizakiak sartu/jarraitu, benetako geldiarazteko/baliogabetzeko ahalmenarekin (UNESCOk berariaz azpimarratua) [1].
-
Pribatutasuna eta segurtasuna - Datuak minimizatu eta babestu; kontuan hartu inferentzia-denborako ihesak eta beheranzko erabilera okerrak.
-
Ongizatea - Gizarte-onura erakutsi, ez KPI garbiak soilik (ELGAk oreka hau markatzen du) [2].
Digresio txiki bat: batzuetan taldeek orduak eztabaidatzen dituzte metriken izenen inguruan, benetako kaltearen galdera alde batera utzita. Barregarria da nola gertatzen den hori.
2. azterketa sakona - Arriskuak eta nola neurtu 📏
IA etikoa konkretu bihurtzen da kaltea arrisku neurgarri gisa hartzen duzunean:
-
Testuinguruaren mapaketa - Nori eragiten dio, zuzenean eta zeharka? Zer erabaki-ahalmen du sistemak?
-
Datuen egokitasuna - Ordezkaritza, noraeza, etiketatze kalitatea, baimen bideak.
-
Ereduaren portaera - Banaketa-aldaketaren, aurkarien eskaeren edo sarrera gaiztoen pean huts egiteko moduak.
-
Inpaktuaren ebaluazioa - Larritasuna × probabilitatea, arintzeak eta hondar-arriskua.
-
Bizi-zikloaren kontrolak - Arazoak planteatzeaz gain, inplementazio osteko monitorizazioa ere bai.
NISTek lau funtziotan banatzen du hau, taldeek gurpila berrasmatu gabe har ditzaketenak: Gobernatu, Mapeatu, Neurtu, Kudeatu [3].
3. azterketa sakona - Geroago aurreztuko dizun dokumentazioa 🗂️
Bi artefaktu xumek edozein lelo baino gehiago egiten dute:
-
Eredu Txartelak - Zertarako den eredua, nola ebaluatu den, non huts egiten duen, kontuan hartu beharreko alderdi etikoak eta oharrak - laburrak, egituratuak, irakurgarriak [5].
-
Datu-multzoaren dokumentazioa (“datu-orriak”) - Zergatik dauden datu hauek, nola bildu diren, nork ordezkatzen dituen, ezagutzen diren hutsuneak eta gomendatutako erabilerak.
Inoiz azaldu behar izan badiezu erregulatzaileei edo kazetariei zergatik jokatu duen gaizki modelo batek, eskerrak emango dizkiozu zure iraganeko niari hauek idazteagatik. Etorkizuneko zuk erosiko duzu iraganeko kafea.
4. azterketa sakona - Benetan kosk egiten duen gobernantza 🧩
-
Arrisku-mailak definitu - Arriskuetan oinarritutako ideia hartu, eragin handiko erabilera-kasuak sakonago azter daitezen [4].
-
Etapako ateak - Etika berrikuspena sarreran, jaurtiketa aurretik eta jaurtiketa ondoren. Ez hamabost ate. Hiru nahikoa da.
-
Zereginen banaketa - Sustatzaileek proposatzen dute, arrisku-bazkideek berrikusten dute, buruzagiek sinatzen dute. Lerro argiak.
-
Intzidenteen erantzuna - Nork pausatzen du eredua, nola jakinarazten zaie erabiltzaileei, nolakoa den konponketa.
-
Auditoria independenteak - Barnekoak lehenik; kanpokoak interesak eskatzen duen lekuan.
-
Prestakuntza eta pizgarriak - Saritu arazoak goiz azaleratzea, ez ezkutatzea.
Izan gaitezen zintzoak: gobernantzak ezetz esaten ez , ez da gobernantza.
5. murgiltze sakona - Jendea begiztan barruan, ez atrezzo gisa 👩⚖️
Giza gainbegiratzea ez da kontrol-lauki bat, diseinu-aukera bat baizik:
-
Gizakiek erabakitzen dutenean - Pertsona batek berrikusi behar dituen atalase argiak, batez ere arrisku handiko emaitzetarako.
-
Erabakiak hartzen dituztenentzat azalpena emateko gaitasuna - Eman gizakiari zergatia eta ziurgabetasuna .
-
Erabiltzaileen feedback begiztak - Erabiltzaileei erabaki automatizatuak aurkaratzeko edo zuzentzeko aukera ematen die.
-
Irisgarritasuna - Erabiltzaile ezberdinek ulertu eta erabil ditzaketen interfazeak.
UNESCOren gidalerroa sinplea da hemen: giza duintasuna eta gainbegiratzea funtsezkoak dira, ez aukerakoak. Eraiki produktua gizakiek kalteak gertatu aurretik esku hartu ahal izan dezaten [1].
Oharra - Hurrengo muga: neuroteknologia 🧠
Adimen Artifiziala neuroteknologiarekin gurutzatzen den heinean, buruko pribatutasuna eta pentsamendu askatasuna diseinu-kontuan hartzeko benetako alderdi bihurtzen dira. Jokabide-liburu bera aplikatzen da: eskubideetan oinarritutako printzipioak [1], diseinutik fidagarria den gobernantza [2] eta arrisku handiko erabileretarako neurrizko babes-neurriak [4]. Babes-hesiak eraiki goiz, geroago torlojutu beharrean.
Nola erantzuten dute taldeek Zer da IA Etika? galderari praktikan - lan-fluxu bat 🧪
Saiatu begizta sinple hau. Ez da perfektua, baina tematiki eraginkorra da:
-
Helburuaren egiaztapena - Zein giza arazo konpontzen ari gara, eta nork hartzen du onura edo arriskua?
-
Testuinguru mapa - Interesdunak, inguruneak, mugak, arrisku ezagunak.
-
Datuen plana - Iturriak, baimena, ordezkagarritasuna, atxikipena, dokumentazioa.
-
Segurtasunerako diseinua - Aurkarien probak, talde gorria, pribatutasuna diseinuaren bidez.
-
Definitu bidezkotasuna - Aukeratu domeinurako neurri egokiak; dokumentatu konpentsazioak.
-
Azalpen-plana - Zer azalduko den, nori eta nola balioztatuko den erabilgarritasuna.
-
Txartel eredua - Zirriborroa egin goiz, eguneratu aurrera egin ahala, argitaratu abiaraztean [5].
-
Gobernantza ateak - Arriskuen berrikuspenak jabe erantzuleekin; NISTen funtzioak erabiliz egituratu [3].
-
Abiarazi osteko jarraipena - Metrikak, noraezeko alertak, gorabehera-liburuxkak, erabiltzaileen errekurtsoak.
Urrats bat astuna iruditzen bazaizu, arriskura egokitu. Hori da trikimailua. Ortografia zuzentzeko bot bat gehiegi diseinatzeak ez dio inori laguntzen.
Etika vs. betetzea - bereizketa pikantea baina beharrezkoa 🌶️
-
Etikak galdetzen du: hau al da gauza zuzena jendearentzat?
-
Betetzeak galdetzen du: araudia betetzen al du honek?
Biak behar dituzu. EBren arriskuetan oinarritutako eredua izan daiteke zure betetze-bizkarrezurra, baina zure etika-programak gutxienekoak gainditu beharko lituzke, batez ere erabilera-kasu anbiguo edo berrietan [4].
Metafora azkar bat (akastun bat): betetzea hesia da; etika artzaina. Hesiak mugak betetzen laguntzen dizu; artzainak bide onetik jarraitzen laguntzen dizu.
Ohiko tranpak - eta zer egin horren ordez 🚧
-
Tranpa: etika-antzerkia - baliabiderik gabeko printzipio dotoreak.
Konponbidea: denbora, jabeak eta kontrol-puntuak berrikustea. -
Tranpa: kaltea batez beste kentzea - metrika orokor onek azpitaldeen porrota ezkutatzen dute.
Konponketa: beti ebaluatu azpipopulazio garrantzitsuen arabera [3]. -
Tranpa: sekretua segurtasun gisa mozorrotuta - xehetasunak erabiltzaileengandik ezkutatzea.
Konponbidea: gaitasunak, mugak eta baliabideak hizkuntza arruntean ezagutarazi [5]. -
Tranpa: amaierako auditoria - arazoak abiaraztearen aurretik aurkitzea.
Konponbidea: ezkerrera mugitu - etika diseinuaren eta datuen bilketaren parte bihurtu. -
Tranpa: epaiketarik gabeko kontrol-zerrendak - formak jarraitzea, zentzurik ez.
Konponbidea: txantiloiak adituen berrikuspenarekin eta erabiltzaileen ikerketarekin konbinatzea.
Maiz egiten diren galderak - nolanahi ere galdetuko dizkizuten gauzak ❓
IA Etika berrikuntzaren aurkakoa al da?
Ez. Berrikuntza erabilgarriaren aldekoa da. Etikak bide itsuak saihesten ditu, hala nola erreakzio edo arazo legalak eragiten dituzten sistema alboratuak. ELGAren markoak esplizituki sustatzen du berrikuntza segurtasunarekin [2].
Behar al dugu hau gure produktuak arrisku txikia badu?
Bai, baina arinagoa. Erabili kontrol proportzionalak. Arriskuan oinarritutako ideia hori estandarra da EBko ikuspegian [4].
Zein dokumentu dira ezinbestekoak?
Gutxienez: zure datu-multzo nagusien dokumentazioa, modelo bakoitzarentzako modelo-txartel bat eta argitaratze-erabakien erregistro bat [5].
Nork du IA etikaren jabetza?
Guztiok dugu portaeraren jabetza, baina produktu, datu zientzia eta arrisku taldeek izendatutako erantzukizunak behar dituzte. NISTen funtzioak eskailera ona dira [3].
Denbora gehiegi daramat irakurri gabe - Azken oharrak 💡
Hori guztia irakurri baduzu, hona hemen muina: Zer da IA Etika? Jendeak fidatu daitekeen IA eraikitzeko diziplina praktikoa da. Oinarritu onartutako gidalerroetan: UNESCOren eskubideetan zentratutako ikuspegia eta ELGAren IA printzipio fidagarriak. Erabili NISTen arriskuen esparrua operatibalizatzeko, eta bidali eredu-txartelak eta datu-multzoaren dokumentazioa zure aukerak irakurgarriak izan daitezen. Ondoren, jarraitu entzuten: erabiltzaileei, interes-taldeei, zure jarraipenari... eta egokitu. Etika ez da behin bakarrik egiten den kontua; ohitura bat da.
Eta bai, batzuetan norabidea zuzenduko duzu. Hori ez da porrota. Hori da lana. 🌱
Erreferentziak
-
UNESCO - Adimen Artifizialaren Etikari buruzko Gomendioa (2021). Esteka
-
ELGA - IA Printzipioak (2019). Esteka.
-
NIST - Adimen Artifizialaren Arriskuen Kudeaketa Esparrua (AI RMF 1.0) (2023) (PDF). Esteka
-
EUR-Lex - 2024/1689 (EB) Erregelamendua (IA Legea). Esteka
-
Mitchell et al. - “Ereduzko txostenetarako eredu-txartelak” (ACM, 2019). Esteka