Azal daitekeen IA afarian ondo entzuten den esaldi horietako bat da, eta guztiz ezinbestekoa bihurtzen da algoritmo batek diagnostiko mediko bat bultzatzen duen unean, mailegu bat onartzen duen unean edo bidalketa bat markatzen duen unean. Inoiz pentsatu baduzu, ados, baina zergatik egin zuen hori ereduak... dagoeneko Azal daitekeen IA lurraldean zaude. Azaldu dezagun ideia hizkuntza arruntean: magiarik gabe, metodoak, konpentsazioak eta egia gogor batzuk besterik ez.
Honen ondoren irakurri nahi izango dituzun artikuluak:
🔗 Zer da IAren alborapena?
Ulertu IA alborapena, haren iturriak, eraginak eta arintze estrategiak.
🔗 Zer da IA prediktiboa?
Arakatu IA prediktiboa, erabilera ohikoenak, onurak eta muga praktikoak.
🔗 Zer da humanoide robot baten IA?
Ikasi nola funtzionatzen duten adimen artifizialak robot humanoideak, gaitasunak, adibideak eta erronkak.
🔗 Zer da IA entrenatzaile bat?
Ezagutu IA entrenatzaileek zer egiten duten, beharrezko trebetasunak eta karrera-bideak.
Zer esan nahi du benetan AI Azalgarriak
Azalpen-adimena (IA) IA sistemak diseinatu eta erabiltzearen praktika da, haien emaitzak gizakiek uler ditzaten -erabakiek eragindako edo erabakien arduradun diren pertsonek, ez bakarrik matematika-aztiek-. NISTek lau printzipiotan laburbiltzen du hau: azalpen publikoarentzat esanguratsua izan dadin azalpenaren zehaztasuna (ereduarekiko leial) eta ezagutza-mugak (sistemak dakiena ez gehiegi azpimarratu) [1].
Historia labur bat: segurtasun-kritiko domeinuek hasieratik bultzatu zuten hau, zehatzak baina interpretagarriak diren ereduak bilatuz, "begiztanean" fidagarriak izateko. Ipar izarrak ez ditu azalpen erabilgarriak aldatu errendimendua hondatu gabe
Zergatik uste baino garrantzitsuagoa den Azalpenezko AI 💡
-
Konfiantza eta adopzioa - Jendeak kontsultatu, zalantzan jarri eta zuzendu ditzakeen sistemak onartzen ditu.
-
Arriskua eta segurtasuna - Azalpenek huts egiteko moduak azaleratzen dituzte eskala handian harritu aurretik.
-
Araudizko itxaropenak - EBn, IA Legeak gardentasun betebehar argiak ezartzen ditu; adibidez, jendeari IArekin elkarreragiten ari direnean testuinguru jakin batzuetan esatea eta IAk sortutako edo manipulatutako edukia behar bezala etiketatzea [2].
Izan gaitezen zintzoak: aginte-panel ederrak ez dira azalpenak. Azalpen on batek pertsona bati hurrengo zer egin erabakitzen laguntzen dio.
Zerk egiten du Azalpenezko AI erabilgarria ✅
Edozein XAI metodo ebaluatzen duzunean, galdetu:
-
Fideltasuna - Azalpenak modeloaren portaera islatzen du, edo istorio lasaigarri bat besterik ez du kontatzen?
-
Publikoarentzako erabilgarritasuna - Datu-zientzialariek gradienteak nahi dituzte; klinikoek kontrafaktualak edo arauak; bezeroek arrazoi arruntak eta hurrengo urratsak nahi dituzte.
-
Egonkortasuna - Sarrerako aldaketa txikiek ez lukete istorioa A-tik Z-ra irauli behar.
-
Ekintzarako gaitasuna - Emaitza desiragarria ez bada, zer alda zitekeen?
-
Zintzotasuna ziurgabetasunari buruz - Azalpenek mugak agerian utzi behar dituzte, ez estali.
-
Esparruaren argitasuna Iragarpen bakar baten azalpen lokala ereduaren portaeraren ikuspegi globala da hau
Gauza bakarra gogoratzen baduzu: azalpen baliagarri batek norbaiten erabakia aldatzen du, ez bakarrik haren aldartea.
Asko entzungo dituzun kontzeptu gakoak 🧩
-
Interpretagarritasuna vs azalgarritasuna - Interpretagarritasuna: eredua irakurtzeko bezain erraza da (adibidez, zuhaitz txiki bat). Azalgarritasuna: metodo bat gehitu gainean eredu konplexu bat irakurgarri egiteko.
-
Tokikoa vs. globala - Tokikoak erabaki bat azaltzen du; globalak portaera orokorra laburbiltzen du.
-
Post-hoc vs intrintsekoa - Post-hoc-ek entrenatutako kutxa beltz bat azaltzen du; intrintsekoak berez interpreta daitezkeen ereduak erabiltzen ditu.
Bai, lerro hauek lausotzen dira. Ondo dago hori; hizkuntza eboluzionatzen du; zure arrisku-erregistroa ez.
Azalpen handiko IA metodo ezagunak - bira 🎡
Hona hemen bisita gidatu bizkor bat, museo bateko audiogida baten giroarekin baina laburragoa.
1) Ezaugarrien atribuzio gehigarriak
-
SHAP - Ezaugarri bakoitzari ekarpen bat esleitzen dio iragarpen espezifiko bati joko-teoriaren ideien bidez. Azalpen gehigarri argiengatik eta ereduen arteko ikuspegi bateratzaileagatik maitea [3].
2) Tokiko ordezko ereduak
-
LIME - Azaldu beharreko instantziaren inguruan eredu lokal eta sinple bat entrenatzen du. Inguruan garrantzitsuak diren ezaugarrien laburpen azkarrak eta irakurgarriak. Demoetarako bikaina, praktikaren egonkortasunean lagungarria [4].
3) Sare sakonetarako gradienteetan oinarritutako metodoak
-
Integratutako Gradienteak - Garrantzia ematen die oinarrizko lerrotik sarreraraino gradienteak integratuz; askotan ikusmenerako eta testurako erabiltzen da. Axioma zentzuzkoak; kontuz ibili behar da oinarrizko lerroekin eta zaratarekin [1].
4) Adibideetan oinarritutako azalpenak
-
Kontrafaktualak - «Zein aldaketa minimok irauliko zuen emaitza?» Erabakiak hartzeko aproposa, naturalki ekintzagarria baita: egin X Y lortzeko [1].
5) Prototipoak, arauak eta mendekotasun partziala
-
Prototipoek adibide adierazgarriak erakusten dituzte; arauek ereduak jasotzen dituzte, adibidez, baldin eta diru-sarrerak > X badira eta historia = garbitu, orduan onartu ; menpekotasun partzialak ezaugarri baten batez besteko eragina erakusten du tarte batean. Ideia sinpleak, askotan gutxietsiak.
6) Hizkuntza-ereduetarako
-
Token/hedapenen atribuzioak, berreskuratutako adibideak eta egituratutako arrazoibideak. Lagungarria, ohiko oharpenarekin: mapa termiko txukunek ez dute arrazoiketa kausala bermatzen [5].
Kasu azkar (konposatu) bat zelaitik 🧪
Mailegu-emaile ertain batek kreditu-erabakietarako gradiente bidez indartutako eredu bat saltzen du. Tokiko SHAPak agenteei emaitza kaltegarri bat azaltzen laguntzen die ("Zorra diru-sarreren arabera erlazioa eta kredituaren erabilera berria izan ziren eragile nagusiak.") [3]. Kontrafaktu- geruza batek errekurtso bideragarria iradokitzen du ("Murriztu biraketa-erabilera % 10 inguru edo gehitu 1.500 £ egiaztatutako gordailuetan erabakia aldatzeko.") [1]. Barne-mailan, taldeak ausazko probak QA-n erabiltzen dituzten nabarmentasun-estiloko bisualetan, nabarmentzekoak ez direla ziurtatzeko mozorrotutako ertz-detektagailuak soilik [5]. Eredu bera, azalpen desberdinak publiko desberdinentzat: bezeroak, eragiketak eta auditoreak.
Alde deserosoa: azalpenek engaina dezakete 🙃
Garrantzi-metodo batzuk sinesgarriak dirudite, trebatutako ereduari edo datuei lotuta ez daudenean ere. Osasun-egiaztapenek erakutsi zuten teknika batzuek oinarrizko probak huts egin ditzaketela, ulermen-sentsazio faltsua emanez. Itzulpena: irudi politak antzerki hutsa izan daitezke. Eraiki zure azalpen-metodoetarako balidazio-probak [5].
Era berean, urria ≠ zintzoa. Esaldi bakarreko arrazoi batek elkarrekintza handiak ezkutatu ditzake. Azalpen bateko kontraesan txikiek benetako ereduaren ziurgabetasuna edo zarata adieraz dezakete. Zure lana zein den zein esatea da.
Gobernantza, politika eta gardentasunaren maila gero eta handiagoa 🏛️
Politikariek testuinguruaren araberako gardentasuna espero dute. EBn , IA Legeak betebeharrak zehazten ditu, hala nola, jendeari IArekin elkarreragiten dutenean kasu zehatzetan jakinaraztea, eta IAk sortutako edo manipulatutako edukia ohar eta baliabide tekniko egokiekin etiketatzea, salbuespenak kontuan hartuta (adibidez, erabilera zilegiak edo adierazpen babestuak) [2]. Ingeniaritza aldetik, NISTek printzipioetan oinarritutako orientazioa eskaintzen du taldeei jendeak benetan erabil ditzakeen azalpenak diseinatzen laguntzeko [1].
Nola aukeratu IA azalpenezko ikuspegi bat - mapa azkar bat 🗺️
-
Hasi erabakitik - Nork behar du azalpena, eta zer ekintzarako?
-
Lotu metodoa modeloarekin eta euskarriarekin
-
Gradiente metodoak ikusmenean edo NLPn sare sakonetarako [1].
-
SHAP edo LIME taula-ereduetarako, ezaugarrien atribuzioak behar dituzunean [3][4].
-
Bezeroei zuzendutako zuzenketa eta errekurtsoetarako kontrafaktualak [1].
-
-
Kalitate-ateak ezarri - Fideltasun-egiaztapenak, egonkortasun-probak eta gizakien parte-hartzearen berrikuspenak [5].
-
Eskalatzeko plana - Azalpenak erregistratzeko modukoak, probatzeko modukoak eta auditatzeko modukoak izan behar dira.
-
Dokumentuen mugak - Ez dago metodo perfekturik; idatzi ezagutzen diren hutsegite moduak.
Ohar txiki bat: azalpenak ereduak probatzen dituzun modu berean probatu ezin badituzu, baliteke azalpenik ez izatea, bibrazioak besterik ez.
Konparazio taula - AI azalpenezko aukera ohikoenak 🧮
Nahita apur bat bitxia; benetako bizitza nahasia da.
| Tresna / Metodoa | Publiko onena | Prezioa | Zergatik funtzionatzen duen haientzat |
|---|---|---|---|
| FORMA | Datu-zientzialariak, auditoreak | Doakoa/irekia | Atribuzio gehigarriak - koherenteak, konparagarriak [3]. |
| LIMA | Produktu taldeak, analistak | Doakoa/irekia | Tokiko ordezko azkarrak; erraz asimilatzen dira; batzuetan zaratatsuak [4]. |
| Integratutako gradienteak | Sare sakonetako ML ingeniariak | Doakoa/irekia | Gradientean oinarritutako atribuzioak axioma zentzudunekin [1]. |
| Kontrafaktualak | Amaierako erabiltzaileak, betetzea, eragiketak | Mistoa | Zer aldatu behar den zuzenean erantzuten du; oso ekintzagarria [1]. |
| Arau zerrendak / Zuhaitzak | Arriskuen jabeak, kudeatzaileak | Doakoa/irekia | Berezko interpretagarritasuna; laburpen orokorrak. |
| Mendekotasun partziala | Modeloen garatzaileak, QA | Doakoa/irekia | Batez besteko efektuak bistaratzen ditu tarteetan zehar. |
| Prototipoak eta adibideak | Diseinatzaileak, berrikusleak | Doakoa/irekia | Adibide zehatzak, gizakientzat egokiak; erlazionagarriak. |
| Tresneria plataformak | Plataforma taldeak, gobernantza | Komertziala | Jarraipena + azalpena + auditoria leku bakarrean. |
Bai, zelulak irregularrak dira. Hori da bizitza.
Ekoizpenean AI azalgarrirako lan-fluxu sinple bat 🛠️
1. urratsa - Definitu galdera.
Erabaki noren beharrak diren garrantzitsuenak. Datu-zientzialari batentzat azaltzeko gaitasuna ez da bezero batentzako errekurtso-gutun baten berdina.
2. urratsa - Aukeratu metodoa testuinguruaren arabera.
-
Maileguetarako arrisku-eredu tabularra - hasi SHAP-ekin tokiko eta globalerako; gehitu kontrafaktualak errekurtsorako [3][1].
-
Ikusmen sailkatzailea - erabili Gradiente Integratuak edo antzekoak; gehitu osasun-egiaztapenak nabarmentasun-oztopoak saihesteko [1][5].
3. urratsa - Azalpenak balioztatu.
Azalpenen koherentzia probak egin; sarrerak asaldatu; ezaugarri garrantzitsuak domeinuaren ezagutzarekin bat datozela egiaztatu. Zure ezaugarri nagusiak nabarmen aldatzen badira berriro entrenatzen den bakoitzean, pausatu.
4. urratsa - Azalpenak erabilgarriak egin.
Arrazoiak hizkuntza arruntean eman grafikoekin batera. Hurrengo ekintza onenak sartu. Emaitzen erronkarako estekak eskaini, egokia denean; horixe da, hain zuzen ere, gardentasun arauek sustatzea helburu dutena [2].
5. urratsa - Jarraitu eta erregistratu.
Jarrai ezazu azalpenen egonkortasuna denboran zehar. Azalpen engainagarriak arrisku-seinale bat dira, ez akats kosmetiko bat.
1. azterketa sakona: Azalpen lokalak vs. globalak praktikan 🔍
-
Tokikoak pertsona bati ulertzen laguntzen dio zergatik bere kasuak hori —oso garrantzitsua testuinguru sentikorretan—.
-
Globalak zure taldeari laguntzen dio ereduaren ikasitako portaera politika eta domeinu ezagutzarekin bat datorrela ziurtatzen.
Egin biak. Tokiko funtzionamendua has dezakezu zerbitzu-eragiketetarako, eta gero jarraipen globala gehitu desbideratze eta bidezko berrikuspenerako.
2. azterketa sakona: Errekurtso eta helegiteetarako kontrafaktualak 🔄
Jendeak emaitza hobea lortzeko gutxieneko aldaketa jakin nahi du. Azalpen kontrafaktualek horixe egiten dute: faktore espezifiko horiek aldatu eta emaitza irauli egiten da bideragarritasuna eta bidezkotasuna errespetatu behar dituzte . Norbaiti aldaezin den atributu bat aldatzeko esatea ez da plan bat, alerta-seinale bat baizik.
3. azterketa sakona: Osasun-osasuna egiaztatzeko garrantzia 🧪
Garrantzi-mapak edo gradienteak erabiltzen badituzu, egin osasun-egiaztapenak. Teknika batzuek ia berdin-berdinak diren mapak sortzen dituzte modeloaren parametroak ausaz aldatzen dituzunean ere; hau da, ertzak eta ehundurak nabarmentzen ari dira, ez ikasitako ebidentzia. Bero-mapa ederrak, istorio engainagarria. Eraiki egiaztapen automatizatuak CI/CD-n [5].
Bilera guztietan agertzen diren maiz egiten diren galderak 🤓
G: AI azalgarria eta zuzentasuna berdinak al dira?
ikusten laguntzen dizute probatu eta betearazi behar duzun propietate bat da . Erlazionatuta, ez berdinak.
G: Beti al dira eredu sinpleenak hobeak?
E: Batzuetan. Baina sinplea eta okerra okerra izaten jarraitzen du. Aukeratu errendimendu eta gobernantza eskakizunak betetzen dituen eredu sinpleena.
G: Azalpenek jabetza intelektuala filtratuko al dute?
E: Bai, filtratu egin daitezke. Xehetasunak publikoaren eta arriskuaren arabera kalibratu; dokumentatu zer agerian uzten duzun eta zergatik.
G: Ezaugarrien garrantzia erakutsi eta amaitutzat eman dezakegu?
E: Ez, benetan ez. Testuingururik edo baliabiderik gabeko garrantzi-barrak apaingarriak dira.
Luzeegia, irakurri ez dudan bertsioa eta azken oharrak 🌯
Azalpen-adimena ereduen portaera ulergarria eta erabilgarria egitearen diziplina da, haren menpe dauden gizakientzat. Azalpen onenek fideltasuna, egonkortasuna eta audientzia argia dituzte. SHAP, LIME, Integrated Gradients eta kontrafaktualen moduko metodoek bakoitzak bere indarguneak dituzte: erabili itzazu nahita, probatu zorrotz eta aurkeztu jendeak erabil dezakeen hizkuntzan. Eta gogoratu, irudi leunak antzerkia izan daitezkeela; eskatu zure azalpenek ereduaren benetako portaera islatzen dutela frogatzeko ebidentzia. Txertatu azalpen-gaitasuna zure ereduaren bizi-zikloan: ez da gehigarri distiratsu bat, modu arduratsuan bidaltzeko moduaren parte da.
Egia esan, zure ereduari ahotsa ematea bezalakoa da. Batzuetan marmar egiten du; batzuetan gehiegi azaltzen du; batzuetan entzun behar zenuena esaten du. Zure lana gauza egokia, pertsona egokiari, une egokian esaten laguntzea da. Eta etiketa on bat edo bi jartzea. 🎯
Erreferentziak
[1] NIST IR 8312 - Azal daitekeen adimen artifizialaren lau printzipio . Arauen eta Teknologiaren Institutu Nazionala. Irakurri gehiago
[2] 2024/1689 (EB) Erregelamendua - Adimen Artifizialaren Legea (Aldizkari Ofiziala/EUR-Lex) . Irakurri gehiago
[3] Lundberg & Lee (2017) - “Modeloen iragarpenak interpretatzeko ikuspegi bateratua”. arXiv. Irakurri gehiago
[4] Ribeiro, Singh eta Guestrin (2016) - “Zergatik fidatu behar naiz zutaz?” Edozein sailkatzaileren iragarpenak azaltzen. arXiv. irakurri gehiago
[5] Adebayo et al. (2018) - “Garrantzi-mapen osasun-egiaztapenak”. NeurIPS (paperezko PDFa). Irakurri gehiago