"Adimen artifiziala erabiltzen dugu" "ordenagailuak erabiltzen ditugu" bezain esaldi hutsa bihurtu da. Benetan axola duen galdera ez da enpresa batek IA erabiltzen duen, baizik eta nola erabakitzen duen azal dezakeen. Sistema batek bezero bati, langile bati edo zure diruari eragiten dion erabaki bat hartzen duenean eta inork ezin duenean zergatik berreraiki, ez duzu tresna bat: kutxa beltz bat duzu. Eta kutxa beltz bat, Europan eta 2026an, arrisku bat da. IA auditagarria justu kontrakoa da.
Zer esan nahi duen benetan "IA auditagarriak" (eta zer ez)
IA auditagarria ez da zigilu bat, ez erosten den ziurtagiri bat, ez merkataritza demo batean markatzen den lauki bat. Sistemaren propietate zehatz bat da: gertaeren ondoren erabaki bakoitza zergatik hartu zen zehatz berreraikitzeko gaitasuna. Duela hiru hilabeteko edozein erabaki hartu eta zein datu sartu ziren, zein arrazoibide jarraitu zen, zein emaitza atera zen eta nor zen arduraduna erantzun badezakezu, IA auditagarria duzu. Ezin baduzu, marketin oneko kutxa beltz bat duzu.
Ez da nahastu behar "ondo funtzionatzen duen IArekin". Sistema batek aldien %95ean asma dezake eta kutxa beltza izaten jarraitu: asmatzen duzu, baina ez dakizu zergatik, eta huts egiten duen egunean ere ez dakizu zergatik. Auditagarritasuna ez da zehaztasunarena, trazabilitatearena baizik. Bi gauza desberdin dira, eta bigarrena da erreklamazio bat, ikuskaritza bat edo "zergatik ukatu didazue hau?" galdetzen duen bezero bat iristen denean babesten zaituena.
Sistema auditagarri baten bost piezak
Sistema bat "audita daitekeela" esaten dugunean, ez da asmo adierazpen bat. Dauden edo ez dauden pieza tekniko zehatzak dira. Hauek dira edozein proiektutan eskatzen ditugunak:
- Trazabilitatea sarrera → arrazoibidea → irteera. Erabaki bakoitzak hiru zatien erregistroa uzten du: zein informazio jaso zuen sistemak, zein urrats jarraitu zituen prozesatzeko eta zer itzuli zuen. Ez da nahikoa azken erantzuna gordetzea; biderik gabe, ez dago auditoriarik posible.
- Log sinatuak eta aldaezinak. Erregistroak sinatu eta denboran zigilatzen dira, inork, kanpotik ez barrutik, historia ondoren berridatzi ezin dezan. Edita daitekeen log batek ez du froga gisa balio.
- Azalgarritasuna. Erabakia pertsona batek ulertzen duen hizkuntzara itzul daiteke: "ukatu egin zen X datuak Y atalasea gainditzen zuelako". Ez sare neuronal baten barne pisua, jasaten duenarentzat edo gainbegiratzen duenarentzat arrazoi ulergarri bat baizik.
- Metrikak eta etengabeko monitorizazioa. Une oro badakizu nola jokatzen duen sistemak: zenbat erabaki hartzen dituen, zenbat berrikusten diren, non desbideratzen den, noiz hasten den degradatzen. Neurtzen ez dena ezin da gobernatu.
- Giza gainbegiratzea eta kill switch-a. Sistema berrikusteko, zuzentzeko eta, behar izanez gero, segundotan gelditzeko benetako agintea duten pertsonak daude. IAk proposatu edo exekutatzen du mugen barruan; azken erantzukizuna ez zaio makina bati eskuordetzen.
Bost pieza hauetako edozein kentzen baduzu, eraikina erortzen da. Log perfektuak baina giza gainbegiratzerik ez duen sistema bat pilotorik gabeko pilotu automatikoa da. Gainbegiratzea baina trazabilitaterik ez duenak pertsona horri berrikusi ezin dituen erabakiak sinatzeko eskatzen dio. Auditagarritasuna multzoa da, ez zatietako bat.
Zergatik den kutxa beltza arrisku bat, ez erosotasun bat
Kutxa beltza erosoa da hasieran: hirugarren baten eredu bat entxufatzen duzu, datuak pasatzen dizkiozu, erantzunak jasotzen dituzu eta inork ez du ezer galdetzen. Arazoa da erosotasun hori ordaindu egiten dela, eta normalean berandu eta kolpetik ordaintzen dela. Lau arrisku fronte daude, eta komeni da aurrez aurre begiratzea:
- Legala eta RGPD. Datuak Babesteko Erregelamendu Orokorrak aitortzen du pertsona batek eskubidea duela eragin esanguratsuak dituzten erabaki soilik automatizatuen menpe ez egoteko, eta azalpen bat lortzeko. Zure sistemak kreditu bat ukatzen badu, curriculum bat baztertzen badu edo zerbitzu bat bertan behera uzten badu eta ezin baduzu zergatik azaldu, ez zaude iritzia ematen: ez betetzen ari zara.
- Europako AI Act. Europar Batasuneko IA Erregelamenduak erabilera batzuk arrisku handiko gisa sailkatzen ditu eta kutxa beltz batek eman ezin duena eskatzen die zehazki: erregistroak, trazabilitatea, giza gainbegiratzea eta dokumentazio teknikoa. Ez da praktika onen gomendio bat; egutegia eta zehapenak dituen betebehar bat da.
- Ospea. Sistema opaku batek bezero bat gaizki tratatzen duen egunean eta zure taldeak eman dezakeen erantzun bakarra "algoritmoak erabaki zuen" denean, dagoeneko galdu duzu. Ez dago zeuk ulertzen ez duzun erabaki bat publikoki azaltzeko modu onik.
- Eragiketa. Huts egiten duen kutxa beltz bat ia ezinezkoa da konpontzen: ez dakizu zer aldatu den, ez noiz hasi zen, ez zein erabaki geratu diren kutsatuta. Trazabilitaterik gabe, gorabehera bakoitza itsu egindako ikerketa bat da zuzenketa kirurgiko bat izan beharrean.
Hirugarrenen IA opakua erabiltzea ez da sistema auditagarri bat izatea
Hemen sarritan gaizki interpretatzen den ñabardura bat dago, beraz argi esatea komeni da. Hirugarren baten eredu bat erabiltzea ez da berez txarra. Ia inork ez du bere hizkuntza eredua hutsetik entrenatzen, ez du zertan. Aldea ez dago motorra propioa edo besterena den, haren inguruan zenbat kontrol duzun baizik.
Kanpoko eredu batean oinarritu zaitezke eta, hala ere, guztiz sistema auditagarri bat eraiki: erregistratzen duzu zer bidaltzen diozun, zer itzultzen dizun, aurretik eta ondoren aplikatzen dituzun negozio arauak, atalaseak, balidazioak eta gainbegiratzen duten pertsonak. Eredua pieza bat da; auditagarritasuna zuk jartzen duzu inguruan. Ezin duzuna da erabaki osoa API opaku batean eskuordetu, ezer ez gorde eta inoiz kontuak eskatuko ez dizkizutela espero.
Galdera zuzena, beraz, ez da "IA propioa edo hirugarrenena erabiltzen dugu?", baizik eta "sistema honek hartzen duen edozein erabaki berreraiki dezakegu, motorra nondik datorren datorrela?". Hori da integrazio serio bat egunen batean lehertuko den esperimentu batetik bereizten duen marra.
Nola eskatu auditagarritasuna hornitzaile bati
IA kontratatzen ari bazara, propioa edo integratua, hauek dira hornitzaile serio bat ke saltzaile batetik bereizten dituzten galderak. Bat ere ez luke deseroso jarri behar sistema zintzoak eraikitzen dituena:
| Galdera | Erantzun osasuntsua | Alarma seinalea |
|---|---|---|
| Ikus dezaket duela hilabete batzuk erabaki zehatz bat zergatik hartu zuen? | "Bai, sarrera, arrazoibidea eta irteera berreraikitzen dizkizut." | "Eredua oso konplexua da, ezin da jakin." |
| Nor da erabaki bakoitzaren arduraduna? | "Identifikatutako pertsona bat; erabaki bakoitza sinatuta geratzen da." | "Sistemak bakarrik erabakitzen du, ikasten doa." |
| Nola gelditzen dut sistema zerbait gaizki badoa? | "Kill switch bat eta giza gainbegiratzea dituzu." | "Ez du huts egin ohi, ez kezkatu." |
| Kodea eta datuak nireak dira? | "Bai, lock-in gabe, dokumentatuta entregatzen dizugu." | "Gure plataforma jabeduna da, ez da esportatzen." |
| Zein metrika ikusten ditut sistemarena produkzioan? | "Bolumena, berrikuspenak eta desbideratzeak dituen panel bat." | "Funtzionatzen du, kito, ez duzu ezer begiratu behar." |
Patroia sinplea da: hornitzaile onak kontrola eta ikusgarritasuna ematen dizkizu; txar batek fedea eskatzen dizu. Eta fedea, pertsonei eta diruari buruzko erabakiak hartzen dituzten sistemetan, RGPDk eta AI Act-ak zehazki onartzen ez dutena da.
"Erabaki bakoitza pertsona batek sinatzen du"
Esaldi bat dago gure eraikitzeko modu osoa laburtzen duena: erabaki bakoitza pertsona batek sinatzen du. Ez du esan nahi gizaki batek eragiketa bakoitza eskuz onartzen duenik, horrek ez du eskalatzen ez zentzurik. Esan nahi du erabaki automatizatu bakoitzaren atzean arduradun identifikagarri bat dagoela, pertsona horrek definitu eta berrikusten dituen arau batzuk, eta norbaitek galdetuz gero kontuak ematea ahalbidetzen duen erregistro bat.
IAk ez du erantzukizuna diluitzen; kontzentratu egiten du. Sistema auditagarri bat ez da existitzen errua makinari botatzeko, justu kontrakorako baizik: beti egon dadin norbait erabaki bati begietara begiratu eta azaldu ahal diona. Hori da buruarekin automatizatzearen eta algoritmo baten atzean ezkutatzearen arteko aldea.
Hitz egin dezagun uler, neur eta manten dezakezun IAz
IA auditagarria ez da IAren bertsio garestia edo burokratikoa. Besterik gabe, bezero baten aurrean, ikuskatzaile baten aurrean eta zeure buruaren aurrean bi urte barru defenda dezakezun bertsioa da. Kutxa beltzik gabeko sistemak, vendor lock-in gabe, uler, neur eta manten ditzakezunak, eta non erabaki bakoitza pertsona batek sinatzen duen.
IA zure eragiketan sartzea balioesten ari bazara eta hasieratik ondo egin nahi baduzu, gure enpresentzako IA aholkularitzan beti berdin hasten gara: zure kasua diagnostikatzen dugu, IAk benetako itzulkina non ekartzen duen eta non arriskua bakarrik gehitzen duen identifikatzen dugu, eta sistema auditagarriak diseinatzen ditugu lehen egunetik. Diagnostiko zintzo bat nahi baduzu, kerik eta promesa magikorik gabe, kontatu iezaguzu zure kasua eta zintzotasunez esango dizugu zer duen zentzua auditatzeak eta nondik hasi.