Nola erabil daiteke IA sortzailea zibersegurtasunean?

Sarrera

IA sortzailea –eduki edo iragarpen berriak sortzeko gai diren adimen artifizialeko sistemak– zibersegurtasunean indar eraldatzaile gisa agertzen ari da. OpenAIren GPT-4 bezalako tresnek datu konplexuak aztertzeko eta testu humanoak sortzeko gaitasuna erakutsi dute, zibermehatxuen aurka defendatzeko ikuspegi berriak ahalbidetuz. Zibersegurtasuneko profesionalek eta negozioetako erabaki-hartzaileek sektore guztietako IA sortzaileak nola indartu ditzakeen eraso ebolutiboen aurkako defentsak aztertzen ari dira. Finantzatik eta osasungintzatik hasi eta txikizkako merkataritzara eta gobernuraino, sektore guztietako erakundeek phishing saiakera sofistikatuei, malwareari eta IA sortzaileak aurre egiten lagun diezaiekeen beste mehatxu batzuei aurre egiten diete. Txosten zuri honetan, IA sortzailea zibersegurtasunean nola erabil daitekeen , benetako aplikazioak, etorkizuneko aukerak eta adopziorako kontuan hartu beharreko gauza garrantzitsuak azpimarratuz.

IA sortzailea IA analitiko tradizionalaren desberdina da, ez bakarrik ereduak detektatzen dituelako, baita sortzen duelako – dela defentsak entrenatzeko erasoak simulatzen dituelako edo segurtasun-datu konplexuetarako azalpen naturalak sortzen dituelako. Gaitasun bikoitz honek bi ahoko ezpata bihurtzen du: defentsa-tresna berri eta indartsuak eskaintzen ditu, baina mehatxu-eragileek ere ustia dezakete. Hurrengo atalek IA sortzailearen erabilera-kasu sorta zabala aztertzen dute zibersegurtasunean, phishing-aren detekzioa automatizatzetik hasi eta intzidenteen erantzuna hobetzeraino. IA berrikuntza hauek agintzen dituzten onurak ere aztertzen ditugu, erakundeek kudeatu behar dituzten arriskuekin batera (adibidez, IA "haluzinazioak" edo aurkarien erabilera okerra). Azkenik, enpresei IA sortzailea beren zibersegurtasun-estrategietan ebaluatu eta modu arduratsuan integratzen laguntzeko aholku praktikoak eskaintzen ditugu.

IA sortzailea zibersegurtasunean: ikuspegi orokorra

Zibersegurtasuneko IA sortzaileak IA ereduei egiten die erreferentzia – askotan hizkuntza-eredu handiak edo beste sare neuronal batzuk – segurtasun-zereginetan laguntzeko informazioa, gomendioak, kodea edo baita datu sintetikoak ere sor ditzaketenak. Eredu prediktibo hutsak ez bezala, IA sortzaileak eszenarioak simulatu eta gizakiek irakurtzeko moduko irteerak sor ditzake (adibidez, txostenak, alertak edo baita kode gaiztoaren laginak ere) bere entrenamendu-datuetan oinarrituta. Gaitasun hau erabiltzen ari da mehatxuak lehen baino modu dinamikoagoetan aurreikusteko, detektatzeko eta erantzuteko Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ). Adibidez, eredu sortzaileek erregistro zabalak edo mehatxu-inteligentzia biltegiak aztertu eta laburpen zehatza edo gomendatutako ekintza bat sor ditzakete, segurtasun-taldeentzako IA "laguntzaile" baten antzera funtzionatuz.

Ziberdefentsarako IA sortzailearen lehen inplementazioek itxaropentsua erakutsi dute. 2023an, Microsoftek Security Copilot , segurtasun-analistentzako GPT-4 bidezko laguntzaile bat, urraketak identifikatzen eta Microsoftek egunero prozesatzen dituen 65 bilioi seinaleak arakatzen laguntzeko ( Microsoft Security Copilot zibersegurtasunerako GPT-4 IA laguntzaile berria da | The Verge ). Analistek sistema hau hizkuntza naturalean abiarazi dezakete (adibidez, "Laburbildu azken 24 orduetako segurtasun-intzidente guztiak" ), eta kopilotuak laburpen narratibo erabilgarria sortuko du. Era berean, Google-ren Threat Intelligence IA-k Gemini izeneko eredu sortzaile bat erabiltzen du Google-ren mehatxu-inteligentzia datu-base zabalaren bidezko elkarrizketa-bilaketa ahalbidetzeko, kode susmagarria azkar aztertuz eta aurkikuntzak laburbilduz malware-ehiztariei laguntzeko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Adibide hauek potentziala ilustratzen dute: IA sortzaileak zibersegurtasuneko datu konplexu eta eskala handikoak digeritu ditzake eta ikuspegiak modu eskuragarrian aurkez ditzake, erabakiak hartzea bizkortuz.

Aldi berean, IA sortzaileak eduki faltsu oso errealistak sor ditzake, eta hori abantaila handia da simulazio eta prestakuntzarako (eta, zoritxarrez, ingeniaritza soziala sortzen duten erasotzaileentzat). Erabilera kasu zehatzetara goazen heinean, ikusiko dugu IA sortzaileak sintetizatzeko eta aztertzeko zibersegurtasun aplikazio askoren oinarria dela. Jarraian, erabilera kasu gakoetan murgilduko gara, phishing-aren prebentziotik hasi eta software garapen segururaino, bakoitza industrietan nola aplikatzen den erakusten duten adibideak emanez.

IA Generatiboaren aplikazio nagusiak zibersegurtasunean

Irudia: Zibersegurtasunean IA sortzailearen erabilera kasu nagusien artean daude segurtasun taldeentzako IA kopilotoak, kodearen ahultasunen azterketa, mehatxu moldagarrien detekzioa, zero-day erasoen simulazioa, segurtasun biometriko hobetua eta phishing detekzioa ( Zibersegurtasunean IA sortzailearen 6 erabilera kasu [+ Adibideak] ).

Phishing-a detektatzea eta prebenitzea

Phishing-a zibermehatxu zabalduenetako bat da oraindik, erabiltzaileak esteka gaiztoetan klik egitera edo kredentzialak ezagutzera engainatzen baititu. IA sortzailea phishing saiakerak detektatzeko eta erabiltzaileen prestakuntza indartzeko, eraso arrakastatsuak saihesteko. Defentsari dagokionez, IA ereduek mezu elektronikoen edukia eta bidaltzaileen portaerak azter ditzakete, arauetan oinarritutako iragazkiek oharkabean pasa ditzaketen phishing seinale sotilak antzemateko. Mezu elektroniko legitimoen eta iruzurrezkoen datu-multzo handietatik ikasiz, eredu sortzaile batek tonuan, hitzetan edo testuinguruan dauden anomaliak markatu ditzake, iruzurra adierazten dutenak, gramatikak eta ortografiak jada ez dutenean ere. Izan ere, Palo Alto Networks-eko ikertzaileek adierazi dute IA sortzaileak "bestela detektatu gabe geratuko liratekeen phishing mezu elektronikoen seinale sotilak" identifikatu ditzakeela, erakundeei iruzurgileen aurretik urrats bat ematen lagunduz ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ).

Segurtasun-taldeek IA sortzailea ere erabiltzen ari dira phishing erasoak simulatzeko , prestakuntza eta analisietarako. Adibidez, Ironscalesek GPT bidezko phishing simulazio-tresna bat aurkeztu zuen, erakundearen langileei egokitutako phishing mezu elektroniko faltsuak automatikoki sortzen dituena ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). IAz landutako mezu elektroniko hauek erasotzaileen taktika berrienak islatzen dituzte, langileei phishing edukia hautemateko praktika errealistak emanez. Prestakuntza pertsonalizatu hori funtsezkoa da, erasotzaileek IA erabiltzen baitute amu sinesgarriagoak sortzeko. Azpimarratzekoa da, IA sortzaileak phishing mezu oso leunduak sor ditzakeen arren (joan dira erraz antzematen ziren ingeles hautsien garaiak), defendatzaileek aurkitu dutela IA ez dela garaiezina. 2024an, IBM Segurtasuneko ikertzaileek esperimentu bat egin zuten gizakiek idatzitako phishing mezu elektronikoak IAz sortutakoekin alderatuz, eta "harrigarria bada ere, IAz sortutako mezu elektronikoak erraz detektatzen ziren oraindik ere, gramatika zuzena izan arren" ( IA sortzailearen 6 erabilera-kasu zibersegurtasunean [+ Adibideak] ). Horrek iradokitzen du gizakiaren intuizioak, IA bidezko detekzioarekin konbinatuta, oraindik ere IA bidez idatzitako iruzurretako inkoherentzia sotilak edo metadatuen seinaleak antzeman ditzakeela.

IA sortzaileak phishingaren aurkako defentsan beste modu batzuetan ere laguntzen du. Ereduak erabil daitezke erantzun automatizatuak edo mezu elektroniko susmagarriak probatzen dituzten iragazkiak sortzeko. Adibidez, IA sistema batek mezu elektroniko bati erantzun diezaioke igorlearen zilegitasuna egiaztatzeko kontsulta batzuekin, edo LLM bat erabil dezake mezu elektroniko baten estekak eta eranskinak sandbox batean aztertzeko, eta gero asmo gaiztoak laburbiltzeko. NVIDIAren segurtasun plataformak, Morpheus-ek, IAren indarra erakusten du arlo honetan: NLP sortzaileko ereduak erabiltzen ditu mezu elektronikoak azkar aztertzeko eta sailkatzeko, eta ikusi da spear-phishing mezu elektronikoen detekzioa % 21 segurtasun tresna tradizionalen aldean ( IA sortzailearen 6 erabilera kasu zibersegurtasunean [+ Adibideak] ). Morpheus-ek erabiltzaileen komunikazio ereduak profilatzen ditu portaera ezohikoa detektatzeko (adibidez, erabiltzaile batek bat-batean kanpoko helbide askori mezu elektronikoak bidaltzea), eta horrek kontu konprometitu batek phishing mezu elektronikoak bidaltzen dituela adieraz dezake.

Praktikan, sektore guztietako enpresek IA erabiltzen hasi dira posta elektronikoa eta web trafikoa iragazteko ingeniaritza sozialeko erasoen aurka. Finantza-enpresek, adibidez, IA sortzailea erabiltzen dute komunikazioak eskaneatzeko, iruzurra eragin dezaketen beste pertsona batzuen ordezko saiakerak bilatzeko, eta osasun-hornitzaileek, berriz, IA erabiltzen dute pazienteen datuak phishing-arekin lotutako urraketetatik babesteko. Phishing-eszenatoki errealistak sortuz eta mezu gaiztoen ezaugarriak identifikatuz, IA sortzaileak geruza indartsua gehitzen die phishing-a prebenitzeko estrategiei. Ondorioa: IAk phishing-erasoak azkarrago eta zehatzago detektatzen eta desgaitzen lagun dezake , erasotzaileek teknologia bera erabiltzen duten arren beren jokoa hobetzeko.

Malware Detekzioa eta Mehatxuen Azterketa

Malware modernoa etengabe eboluzionatzen ari da: erasotzaileek aldaera berriak sortzen dituzte edo kodea nahasten dute birusen aurkako sinadurak saihesteko. IA sortzaileak teknika berriak eskaintzen ditu malwarea detektatzeko eta haren portaera ulertzeko. Ikuspegi bat IA erabiltzea da malwarearen "biki gaiztoak" sortzeko : segurtasun-ikertzaileek malware lagin ezagun bat eredu sortzaile batean sartu dezakete malware horren aldaera mutatu asko sortzeko. Horrela, erasotzaile batek egin ditzakeen doikuntzak aurreikusten dituzte. IA-k sortutako aldaera hauek erabil daitezke birusen aurkako eta intrusioen detekzio sistemak entrenatzeko, malwarearen bertsio aldatuak ere naturan ezagut daitezen ( IA sortzailearen 6 erabilera kasu zibersegurtasunean [+ Adibideak] ). Estrategia proaktibo honek hackerrek malwarea apur bat aldatzen duten zikloa hausten laguntzen du, non defentsoreek sinadura berriak idazteko presaka ibili behar duten aldi bakoitzean. Industriako podcast batean adierazi bezala, segurtasun-adituek IA sortzailea erabiltzen dute orain "sareko trafikoa simulatzeko eta eraso sofistikatuak imitatzen dituzten karga gaiztoak sortzeko", Mehatxuen detekzio moldagarri honek esan nahi du segurtasun-tresnak erresilienteagoak bihurtzen direla bestela pasatuko litzatekeen malware polimorfikoarekiko.

Detekzioaz harago, IA sortzaileak malwarearen analisian eta alderantzizko ingeniaritzan , eta horiek tradizionalki mehatxu-analisten lan intentsiboak diren zereginak dira. Hizkuntza-eredu handiei kode edo script susmagarriak aztertzeko eta kodeak zer egin nahi duen hizkuntza arruntean azaltzeko zeregina eman dakieke. Mundu errealeko adibide bat VirusTotal Code Insight , Google-ren VirusTotal-en funtzio bat, IA sortzailearen eredu bat (Google-ren Sec-PaLM) erabiltzen duena kode gaizto potentzialaren hizkuntza naturaleko laburpenak sortzeko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Funtsean, "segurtasun-kodeketari eskainitako ChatGPT mota bat da", IA malware analista gisa jarduten duena, 24/7 lan egiten duena giza analistei mehatxuak ulertzen laguntzeko ( 6 erabilera-kasu IA sortzailerako zibersegurtasunean [+ Adibideak] ). Script edo kode bitar ezezagun bat aztertu beharrean, segurtasun-taldeko kide batek berehalako azalpena lor dezake IArengandik; adibidez, "Script honek XYZ zerbitzaritik fitxategi bat deskargatzen saiatzen da eta gero sistemaren ezarpenak aldatzen ditu, eta hori malwarearen portaeraren adierazgarri da". Horrek izugarri bizkortzen du intzidenteen erantzuna, analistek inoiz baino azkarrago sailkatu eta ulertu baitezakete malware berria.

datu-multzo erraldoietan malwarea zehazteko ere erabiltzen da . Birusen aurkako motor tradizionalek fitxategiak eskaneatzen dituzte sinadura ezagunen bila, baina eredu sortzaile batek fitxategi baten ezaugarriak ebaluatu ditzake eta baita gaiztoa den aurreikusi ere ikasitako ereduen arabera. Milaka milioi fitxategiren atributuak aztertuz (gaiztoak eta onberak), IA batek asmo gaiztoa detekta dezake sinadura espliziturik ez dagoenean. Adibidez, eredu sortzaile batek exekutagarri bat susmagarri gisa markatu dezake, bere portaera-profila antza duelako, nahiz eta bitarra berria izan. Portaeran oinarritutako detekzio honek malware berria edo zero-day kontraesanean laguntzen du. Google-ren Threat Intelligence IA-k (Chronicle/Mandiant-en parte dena) bere eredu sortzailea erabiltzen duela jakinarazi da kode gaiztoa izan daitekeela aztertzeko eta "segurtasun-profesionalei malwareari eta beste mehatxu mota batzuei aurre egiten modu eraginkorragoan laguntzeko". ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ).

Bestalde, onartu behar dugu erasotzaileek IA sortzailea ere erabil dezaketela hemen – automatikoki bere burua egokitzen den malwarea sortzeko. Izan ere, segurtasun-adituek ohartarazten dute detektatzen zailagoa den malwarea garatzen lagun diezaiekeela Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ). IA eredu bati malware bat behin eta berriz eraldatzeko agindu dakioke (bere fitxategi-egitura, enkriptazio-metodoak, etab. aldatuz), ezagutzen diren antibirusen egiaztapen guztiak saihestu arte. Aurkako erabilera hau gero eta kezka handiagoa da (batzuetan "IA bidezko malwarea" edo zerbitzu gisa malware polimorfikoa deitzen zaio). Arrisku horiek geroago aztertuko ditugu, baina azpimarratzen du IA sortzailea defendatzaileek zein erasotzaileek erabiltzen duten tresna bat dela katu eta saguaren joko honetan.

erasotzaile bat bezala pentsatzeko aukera emanez , mehatxu eta irtenbide berriak sortuz barnean. Detekzio-tasak hobetzeko malware sintetikoa ekoizten ari den ala sareetan aurkitutako benetako malwarea azaldu eta kontrolatzeko IA erabiltzen ari den ala ez, teknika hauek industria guztietan aplikatzen dira. Banku batek IA bidezko malwarearen analisia erabil dezake kalkulu-orri bateko makro susmagarri bat azkar aztertzeko, eta fabrikazio-enpresa batek, berriz, IAren menpe egon daiteke kontrol-sistema industrialei zuzendutako malwarea detektatzeko. Malwarearen analisi tradizionala IA sortzailearekin osatuz, erakundeek malware kanpainei lehen baino azkarrago eta proaktiboki erantzun diezaiekete.

Mehatxuen Adimena eta Analisi Automatizatua

Egunero, erakundeak mehatxu-inteligentzia datuekin bonbardatzen dira – arrisku-adierazle (IOC) berrien jarioetatik hasi eta hackerren taktika berriei buruzko analisten txostenetaraino. Segurtasun-taldeen erronka informazio-uholde hori arakatzea eta ekintzarako moduko ikuspegiak ateratzea da. Adimen artifizial sortzailea oso baliotsua dela frogatzen ari da mehatxu-inteligentziaren analisia eta kontsumoa automatizatzeko . Eskuz dozenaka txosten edo datu-baseko sarrera irakurri beharrean, analistek Adimen artifiziala erabil dezakete mehatxu-inteligentzia laburbiltzeko eta testuinguruan jartzeko makinaren abiaduran.

Adibide zehatz bat Google-ren Threat Intelligence suitea da, IA sortzailea (Gemini eredua) Google-ren Mandiant eta VirusTotal-en mehatxu-datuekin integratzen duena. IA honek "Google-ren mehatxu-inteligentziaren biltegi zabalean bilaketa konbertsazionala" , erabiltzaileei mehatxuei buruzko galdera naturalak egin eta erantzun destiluak lortzeko aukera emanez ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Adibidez, analista batek galdetu lezake: "Ikusi al dugu X mehatxu taldearekin lotutako malwarerik gure industriari zuzenduta?", eta IA-k informazio garrantzitsua aterako du, agian "Bai, X mehatxu taldea Y malwarea erabiliz phishing kanpaina batekin lotuta zegoen joan den hilean" , malware horren portaeraren laburpen batekin batera. Horrek izugarri murrizten du informazioa biltzeko denbora, bestela hainbat tresna kontsultatzea edo txosten luzeak irakurtzea eskatuko bailitzateke.

mehatxuen joerak korrelazionatu eta laburbil ditzake . Milaka segurtasun-blog argitalpen, segurtasun-urraketa albiste eta web iluneko txat arakatu ditzake, eta gero "asteko zibermehatxu nagusien" laburpen exekutiboa sortu CISO baten briefing-erako. Tradizionalki, analisi eta txosten maila honek gizakien ahalegin handia eskatzen zuen; orain, ondo doitutako eredu batek segundo gutxitan idatz dezake, gizakiek emaitza findu besterik ez dutela egin behar. ZeroFox bezalako enpresek FoxGPT , IA sortzaileko tresna bat, bereziki "datu-multzo handietan zehar inteligentziaren analisia eta laburpena bizkortzeko" diseinatua, eduki gaiztoa eta phishing datuak barne ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 benetako munduko adibide ). Datuak irakurri eta gurutzatzeko lan astuna automatizatuz, IAk mehatxu-inteligentzia taldeei erabakiak hartzean eta erantzunean zentratzea ahalbidetzen die.

Beste erabilera kasu bat mehatxu-ehiza elkarrizketa-bidezkoa . Imajinatu segurtasun-analista batek IA laguntzaile batekin elkarreragiten duela: "Erakutsi azken 48 orduetan datu-esfiltrazio zantzurik" edo "Zein dira erasotzaileek aste honetan ustiatzen ari diren ahultasun berri nagusiak?". IAk kontsulta interpretatu dezake, barne-erregistroak edo kanpoko inteligentzia-iturriak bilatu, eta erantzun argi batekin edo gertakari garrantzitsuen zerrenda batekin erantzun. Ez da ustekabekoa: segurtasun-informazioaren eta gertaeren kudeaketako (SIEM) sistema modernoek hizkuntza naturalaren kontsultak txertatzen hasi dira. IBMren QRadar segurtasun-suiteak, adibidez, IA sortzailearen funtzioak gehituko ditu 2024an, analistek "eraso-bide laburbilduari buruzko galdera zehatzak egin ditzaten" "mehatxu-inteligentzia oso garrantzitsua interpretatu eta laburbildu" dezake ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Funtsean, IA sortzaileak datu tekniko mendiak txat-tamainako informazio bihurtzen ditu eskaeraren arabera.

Industria guztietan, honek ondorio handiak ditu. Osasun-hornitzaile batek IA erabil dezake ospitaleei erasotzen dieten azken ransomware taldeen berri izateko, analista bat denbora osoko ikerketara dedikatu gabe. Txikizkako enpresa baten SOC-ak azkar laburbil ditzake POS malware taktika berriak dendako IT langileei informazioa ematen dienean. Eta gobernuan, hainbat agentziatako mehatxu datuak sintetizatu behar diren lekuan, IA-k txosten bateratuak sor ditzake abisu nagusiak nabarmenduz. Mehatxuen adimena biltzea eta interpretatzea automatizatuz , IA sortzaileak erakundeei mehatxu berrien aurrean azkarrago erreakzionatzen laguntzen die eta zaratan ezkutatuta dauden abisu kritikoak galtzeko arriskua murrizten du.

Segurtasun Operazioen Zentroaren (SOC) Optimizazioa

Segurtasun Operazio Zentroak ezagunak dira alerta-nekeagatik eta datu-bolumen izugarriagatik. Ohiko SOC analista batek milaka alerta eta gertaera arakatu ditzake egunero, gertakari potentzialak ikertuz. IA sortzailea indar-biderkatzaile gisa jokatzen ari da SOCetan, ohiko lana automatizatuz, laburpen adimendunak emanez eta baita erantzun batzuk antolatuz ere. Helburua SOC lan-fluxuak optimizatzea da, giza analistek arazo kritikoenetan zentratu ahal izan daitezen, IA kopilotoak gainerakoa kudeatzen duen bitartean.

"Analisten kopiloto" gisa erabiltzea da . Aurretik aipatutako Microsoft-en Segurtasun Kopilotoak horren adibide bat da: "segurtasun-analista baten lana laguntzeko diseinatuta dago, ordezkatzeko", gertakarien ikerketak eta txostenak egiten lagunduz ( Microsoft Security Copilot zibersegurtasunerako GPT-4 IA laguntzaile berria da | The Verge ). Praktikan, horrek esan nahi du analista batek datu gordinak sar ditzakeela –suebakiaren erregistroak, gertaeren denbora-lerroa edo gertakariaren deskribapena– eta IAri aztertzeko edo laburbiltzeko eska diezaiokeela. Kopilotoak kontakizun bat sor dezake, esaterako: "Badirudi goizeko 2:35ean, X IP-tik saio-hasiera susmagarri bat lortu dela Y zerbitzarian, eta ondoren datu-transferentzia ezohikoak egin direla, zerbitzari horren balizko urraketa bat adieraziz". Testuinguruztatze mota hau oso baliotsua da denbora premiazkoa denean.

IA kopilotoek 1. mailako sailkapen-zama murrizten ere laguntzen dute. Industriako datuen arabera, segurtasun-talde batek astean 15 ordu 22.000 alerta eta positibo faltsu inguru sailkatzen ( IA sortzailearen 6 erabilera-kasu zibersegurtasunean [+ Adibideak] ). IA sortzailearekin, alerta horietako asko automatikoki sailka daitezke: IAk argi eta garbi onberak direnak baztertu ditzake (arrazoiarekin) eta benetan arreta behar dutenak nabarmendu, batzuetan lehentasuna ere iradokiz. Izan ere, IA sortzaileak testuingurua ulertzeko duen indarrak esan nahi du isolatuta kaltegabeak diruditen baina elkarrekin etapa anitzeko eraso bat adierazten duten alertak gurutzatu ditzakeela. Horrek "alerta-nekea" dela eta eraso bat galtzeko aukera murrizten du.

SOC analistek hizkuntza naturala erabiltzen ari dira IArekin batera, ehiza eta ikerketak bizkortzeko. SentinelOne-ren Purple AI plataformak, adibidez, LLM oinarritutako interfazea denbora errealeko segurtasun-datuekin konbinatzen du, analistei "mehatxu-ehizari buruzko galdera konplexuak ingeles arruntean egin eta erantzun azkar eta zehatzak lortu" ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 benetako munduko adibide ). Analista batek idatz dezake: "Azken hilabetean badguy123[.]com domeinuarekin komunikatu al da amaierako punturik?" , eta Purple AI-k erregistroetan bilatuko du erantzuteko. Horrek analistari datu-baseko kontsultak edo script-ak idaztea saihesten dio; IA-k ezkutuan egiten du. Horrek esan nahi du analista gazteek lehen kontsulta-lengoaietan trebatua den ingeniari esperientziadun bat behar zuten zereginak kudeatu ditzaketela, taldearen trebetasunak hobetuz IA laguntzaren bidez . Izan ere, analistek jakinarazi dutenez, IA sortzailearen gidaritzapean “haien trebetasunak eta gaitasuna areagotzen” dira , langile gazteek orain IArengandik kodeketa laguntza edo analisi aholkuak jaso ditzaketelako, eta horrela, taldeko kide nagusiei laguntza eskatzeko beharra murriztuz ( Zibersegurtasunean IA sortzailearen 6 erabilera kasu [+ Adibideak] ).

Beste SOC optimizazio bat gertakarien laburpen eta dokumentazio automatizatua . Gertakari bat kudeatu ondoren, norbaitek txostena idatzi behar du, eta askori neketsua iruditzen zaie. IA sortzaileak datu forentseak (sistemaren erregistroak, malwarearen analisia, ekintzen kronograma) har ditzake eta lehen zirriborro-txosten bat sor dezake. IBMk gaitasun hau QRadar-en txertatzen ari da, "klik bakarrarekin" gertakariaren laburpena sor dadin interesdun desberdinentzat (zuzendaritza-zuzendariak, IT taldeak, etab.) ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Horrek ez du denbora aurrezten bakarrik, baita txostenean ezer ez ahazten ere ziurtatzen du, IAk xehetasun garrantzitsu guztiak modu koherentean sar baititzake. Era berean, betetze eta auditoriarako, IAk inprimakiak edo ebidentzia-taulak bete ditzake gertakarien datuetan oinarrituta.

Benetako munduko emaitzak sinesgarriak dira. Swimlane-ren IA bidezko SOAR (segurtasun orkestrazioa, automatizazioa eta erantzuna) sistemaren lehen erabiltzaileek produktibitate irabazi handiak izan dituzte – Global Data Systems-ek, adibidez, bere SecOps taldeak kasu-zama askoz handiagoa kudeatzen ikusi zuen; zuzendari batek esan zuen “gaur 7 analistekin egiten dudanak ziurrenik 20 langile beharko lituzke IA bidezko automatizaziorik gabe” ( Nola erabil daiteke IA sortzailea zibersegurtasunean ). Beste era batera esanda, SOC-eko IAk edukiera biderkatu dezake . Industria guztietan, hodeiko segurtasun-alertekin lan egiten duen teknologia-enpresa bat edo OT sistemak monitorizatzen dituen fabrikazio-lantegi bat izan, SOC taldeek detekzio eta erantzun azkarragoa, galdutako intzidente gutxiago eta eragiketa eraginkorragoak lortuko dituzte IA sortzaileko laguntzaileei esker. Adimentsuago lan egitea da kontua – makinek zeregin errepikakorrak eta datu asko dituztenak kudeatzen uztea, gizakiek beren intuizioa eta espezializazioa gehien axola zaion lekuan aplika ditzaten.

Ahultasunen Kudeaketa eta Mehatxuen Simulazioa

Ahultasunak identifikatzea eta kudeatzea –erasotzaileek ustia ditzaketen software edo sistemen ahuleziak– zibersegurtasunaren funtzio nagusia da. IA sortzaileak ahultasunen kudeaketa hobetzen ari da aurkikuntza bizkortuz, adabakien lehentasuna ematen lagunduz eta ahultasun horien aurkako erasoak simulatuz ere, prestaketa hobetzeko. Funtsean, IAk erakundeei laguntzen die beren armadurako zuloak azkarrago aurkitzen eta konpontzen, eta proaktiboki probatzen ari da benetako erasotzaileek egin aurretik.

Aplikazio esanguratsu bat IA sortzailea erabiltzea da kodearen berrikuspen automatizatua eta ahultasunak aurkitzeko . Kode-base handiek (batez ere sistema zaharkituek) askotan oharkabean pasatzen diren segurtasun-akatsak izaten dituzte. IA sortzaileko ereduak kodeketa-jardunbide seguruetan eta akats-eredu arruntetan entrenatu daitezke, eta gero iturburu-kodean edo konpilatutako fitxategi bitarretan askatu daitezke ahultasun potentzialak aurkitzeko. Adibidez, NVIDIAko ikertzaileek IA sortzaileko kanalizazio bat garatu zuten, software-ontziak aztertu eta ahultasunak identifikatu zitzakeena "zehaztasun handiz - giza adituek baino 4 aldiz azkarrago". ( IA sortzailearen 6 erabilera-kasu zibersegurtasunean [+ Adibideak] ). IAk funtsean ikasi zuen nolakoa den kode ez-segurua eta hamarkada askotako softwarea eskaneatu ahal izan zuen funtzio eta liburutegi arriskutsuak markatzeko, kode-auditoriaren eskuzko prozesu motela asko bizkortuz. Tresna mota hau iraultzailea izan daiteke finantzak edo gobernua bezalako industrientzat, kode-base handi eta zaharragoetan oinarritzen direnentzat - IAk segurtasuna modernizatzen laguntzen du, langileek hilabeteak edo urteak behar izan ditzaketen (aurkitzeko agian) arazoak aurkituz.

IA sortzaileak ahultasunen kudeaketa-lan-fluxuetan , ahultasunen eskaneatzearen emaitzak prozesatu eta lehentasunak ezarriz. Tenable-ren ExposureAI IA sortzailea erabiltzen dute analistek ahultasun-datuak hizkuntza arruntean kontsultatu eta berehalako erantzunak jaso ahal izateko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 benetako munduko adibide ). ExposureAI-k "eraso-bide osoa laburbil dezake narrazio batean", erasotzaile batek nola kateatu dezakeen beste ahultasun batzuekin azalduz sistema bat arriskuan jartzeko. Gainera, zuzentzeko ekintzak gomendatzen ditu eta arriskuari buruzko jarraipen-galderei erantzuten die. Horrek esan nahi du CVE (Ahultasun eta Esposizio Ohiko) kritiko berri bat iragartzen denean, analista batek IAri galdetu diezaiokeela: "Gure zerbitzariren bat CVE honek kaltetzen al du eta zein da kasurik txarrena adabakirik jartzen ez badugu?" eta erakundearen eskaneatze-datuetatik ateratako ebaluazio argi bat jaso dezakeela. Ahultasunak testuinguruan jarriz (adibidez, hau interneten eta balio handiko zerbitzari batean dago, beraz, lehentasun nagusia da), IA sortzaileak taldeei baliabide mugatuekin modu adimentsuan adabakitzen laguntzen die.

Ahultasun ezagunak aurkitu eta kudeatzeaz gain, IA sortzaileak penetrazio-probetan eta erasoen simulazioan ezezagunak aurkituz edo segurtasun-kontrolak probatuz. Sare antagoniko generatiboak (GAN), IA sortzaile mota bat, erabili izan dira benetako sare-trafikoa edo erabiltzaileen portaera imitatzen duten datu sintetikoak sortzeko, eta horrek ezkutuko eraso-ereduak barne har ditzake. 2023ko ikerketa batek GANak erabiltzea iradoki zuen intrusio-detekzio-sistemak entrenatzeko zero-day eraso-trafiko errealista sortzeko ( Zibersegurtasunean IA sortzailerako 6 erabilera-kasu [+ Adibideak] ). IDSa IAz landutako eraso-eszenatokiekin elikatuz (ekoizpen-sareetan benetako malwarea erabiltzeko arriskurik ez dutenak), erakundeek beren defentsak entrenatu ditzakete mehatxu berriak ezagutzeko, errealitatean haiek jo arte itxaron gabe. Era berean, IAk erasotzaile bat sistema bat aztertzen simulatu dezake, adibidez, automatikoki hainbat ustiapen-teknika probatuz ingurune seguru batean, ea batek arrakasta duen ikusteko. AEBetako Defentsa Ikerketa Proiektu Aurreratuen Agentziak (DARPA) itxaropentsua ikusten du hemen: 2023ko AI Cyber ​​Challenge-k berariaz erabiltzen du AI sortzailea (hizkuntza-eredu handiak bezala) "software irekiko ahultasunak automatikoki aurkitu eta konpontzeko" lehiaketa baten barruan ( DARPAk AI, Autonomia Aplikazioak Garatzeko Helburua du Warfighters Can Trust > AEBetako Defentsa Saila > Defentsa Sailaren Berriak ). Ekimen honek azpimarratzen du AI-k ez duela zulo ezagunak konpontzen laguntzen bakarrik; aktiboki berriak aurkitzen eta konponketak proposatzen ari dela, tradizionalki segurtasun-ikertzaile trebeei (eta garestiei) mugatutako zeregina.

ezti-ontzi adimendunak eta biki digitalak ere sor ditzake defentsarako. Startup-ek IA bidezko amu-sistemak garatzen ari dira, benetako zerbitzariak edo gailuak modu sinesgarrian imitatzen dituztenak. Zuzendari nagusi batek azaldu zuenez, IA sortzaileak "sistema digitalak klonatu ditzake benetakoak imitatzeko eta hackerrak erakartzeko" ( IA sortzailearen 6 erabilera-kasu zibersegurtasunean [+ Adibideak] ). IA bidez sortutako ezti-ontzi hauek benetako ingurunearen antzera jokatzen dute (adibidez, telemetria normala bidaltzen duen IoT gailu faltsu bat), baina erasotzaileak erakartzeko soilik daude. Erasotzaile batek amua erasotzen duenean, IAk funtsean engainatu egin du bere metodoak agerian uzteko, eta defendatzaileek metodo horiek aztertu eta erabil ditzakete benetako sistemak indartzeko. Kontzeptu honek, modelizazio sortzaileak bultzatuta, etorkizunera begirako modu bat eskaintzen du erasotzaileen aurka egoera aldatzeko , IAk hobetutako engainua erabiliz.

Industria guztietan, ahultasunen kudeaketa azkarrago eta adimentsuagoak urraketa gutxiago esan nahi du. Osasun-informazioan, adibidez, IAk azkar detektatu dezake gailu mediko bateko liburutegi zaharkitu eta ahul bat, erasotzaile batek ustiatu aurretik. Banku-arloan, IAk barne-eraso bat simulatu dezake aplikazio berri batean, bezeroen datuak egoera guztietan seguru mantentzen direla ziurtatzeko. Beraz, IA sortzaileak mikroskopio eta estres-proba gisa jokatzen du erakundeen segurtasun-jarrerarentzat: ezkutuko akatsak argitzen ditu eta sistemak modu imajinatiboetan presionatzen ditu erresilientzia bermatzeko.

Kode Sorkuntza Segurua eta Software Garapena

IA sortzailearen talentuak ez daude erasoak detektatzera mugatuta, hasieratik sistema seguruagoak sortzera . Software garapenean, IA kode sortzaileek (GitHub Copilot, OpenAI Codex, etab. bezalakoek) garatzaileei kodea azkarrago idazten lagun diezaiekete kode zatiak edo funtzio osoak iradokiz. Zibersegurtasunaren ikuspegia IAk iradokitako kode zati horiek seguruak direla ziurtatzea eta IA erabiltzea da kodetze praktikak hobetzeko.

Alde batetik, IA sortzaileak segurtasun-jardunbide egokienak txertatzen dituen kodeketa-laguntzaile . Garatzaileek IA tresna bati "Pasahitza berrezartzeko funtzio bat sortu Pythonen" agindu diezaiokete, eta, idealki, funtzionala ez ezik, jarraibide seguruak ere betetzen dituen kodea lortu (adibidez, sarrera-balidazio egokia, erregistroa, erroreak informazioa filtratu gabe kudeatzea, etab.). Laguntzaile horrek, kode seguruaren adibide zabaletan trebatuta, ahultasunak sortzen dituzten giza akatsak murrizten lagun dezake. Adibidez, garatzaile batek erabiltzailearen sarrera garbitzea ahazten badu (SQL injekzioari edo antzeko arazoei atea irekiz), IA batek hori lehenespenez sartu dezake edo abisatu. IA kodeketa-tresna batzuk segurtasunean oinarritutako datuekin doitzen ari dira helburu hori betetzeko; funtsean, IAk programazioa segurtasun-kontzientziarekin uztartzen du .

Hala ere, badago beste alde bat: IA sortzaileak erraz sar ditzake ahultasunak behar bezala gobernatzen ez bada. Sophos-eko segurtasun-adituak, Ben Verschaeren-ek, adierazi zuen bezala, IA sortzailea kodetzeko erabiltzea "ondo dago kode labur eta egiaztagarrirako, baina arriskutsua da egiaztatu gabeko kodea ekoizpen-sistemetan integratzen denean" . Arriskua da IA ​​batek logikoki zuzena den kode ez-segurua sor dezakeela, aditu ez-dun batek oharkabean ikusiko ez lukeen moduan. Gainera, eragile gaiztoek nahita eragin diezaiekete IA eredu publikoei kode-eredu zaurgarriak sartuz (datuen pozoitze mota bat), IAk kode ez-segurua iradoki dezan. Garatzaile gehienak ez dira segurtasun-adituak , beraz, IA batek irtenbide egoki bat iradokitzen badu, itsu-itsuan erabil dezakete, akats bat duela konturatu gabe ( IA sortzailearen 6 erabilera-kasu zibersegurtasunean [+ Adibideak] ). Kezka hau erreala da; izan ere, OWASP Top 10 zerrenda bat dago orain LLM-etarako (hizkuntza-eredu handiak), IA kodetzeko erabiltzean ohiko arrisku hauek azaltzen dituena.

Arazo hauei aurre egiteko, adituek "IA sortzailearen aurka IA sortzailearekin borrokatzea" kodeketaren arloan. Praktikan, horrek esan nahi du IA erabiltzea kodea berrikusi eta probatzeko . IA batek kode-berrikusle batek baino askoz azkarrago eskaneatu ditzake kode-konpromiso berriak, eta ahultasun edo logika-arazo potentzialak markatu. Softwarearen garapen-zikloan integratzen diren tresnak sortzen ari direla ikusten dugu dagoeneko: kodea idazten da (agian IAren laguntzarekin), eta gero kode seguruaren printzipioetan trebatutako eredu sortzaile batek berrikusten du eta kezka-txosten bat sortzen du (adibidez, funtzio zaharkituen erabilera, autentifikazio-egiaztapenen falta, etab.). NVIDIAren ikerketa, lehenago aipatua, kodean ahultasunen detekzio 4 aldiz azkarragoa lortu duena, IA kode seguruaren analisia egiteko aprobetxatzeko adibide bat da ( 6 erabilera-kasu IA sortzailerako zibersegurtasunean [+ Adibideak] ).

konfigurazio eta script seguruak sortzen lagun dezake . Adibidez, enpresa batek hodeiko azpiegitura seguru bat zabaldu behar badu, ingeniari batek IA bati eska diezaioke konfigurazio script-ak (Azpiegitura Kode gisa) sortzeko, segurtasun kontrolak (sarearen segmentazio egokia, IAM pribilegio gutxieneko rolak, adibidez) txertatuta dituztenak. IAk, milaka konfigurazio horietan trebatu ondoren, oinarri bat sor dezake, eta ingeniariak gero doitzen du. Horrek sistemen konfigurazio segurua bizkortzen du eta konfigurazio okerreko akatsak murrizten ditu, hodeiko segurtasun intzidenteen iturri ohikoa dena.

Erakunde batzuek IA sortzailea ere erabiltzen ari dira kodetze-eredu seguruen ezagutza-base bat mantentzeko. Garatzaile batek ez badaki ziur nola inplementatu funtzio jakin bat modu seguruan, enpresaren aurreko proiektuetatik eta segurtasun-jarraibideetatik ikasitako barne-IA bati kontsulta diezaioke. IAk gomendatutako ikuspegi bat edo kode-zati bat itzul dezake, bai funtzionalitate-eskakizunekin bai enpresaren segurtasun-estandarrekin bat datorrena. Ikuspegi hau Secureframe-ren Galdetegien Automatizazioa , zeinak enpresaren gidalerroetatik eta aurreko irtenbideetatik erantzunak ateratzen dituen erantzun koherenteak eta zehatzak bermatzeko (funtsean, dokumentazio segurua sortuz) ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 benetako munduko adibide ). Kontzeptua kodetzera itzultzen da: lehenago zerbait modu seguruan nola inplementatu duzun "gogoratzen" duen eta berriro modu horretan egiteko gidatzen zaituen IA bat.

Laburbilduz, IA sortzaileak softwarearen garapenean eragina du, kodeketa-laguntza segurua eskuragarriagoa eginez . Software pertsonalizatu asko garatzen duten industriek (teknologia, finantzak, defentsa, etab.) onura ateratzen dute IA kopilotoak izateagatik, kodeketa bizkortzeaz gain, segurtasun-berrikusle etengabe erne gisa jarduten baitute. Behar bezala gobernatzen direnean, IA tresna hauek ahultasun berrien sarrera murriztu dezakete eta garapen-taldeei jardunbide egokiei jarraitzen lagun diezaiekete, taldeak urrats guztietan segurtasun-aditu bat ez badu ere. Emaitza lehen egunetik erasoen aurka sendoagoa den softwarea da.

Intzidenteei Erantzun Laguntza

Zibersegurtasun-intzidente bat gertatzen denean –malware agerraldi bat, datu-urraketa bat edo eraso baten ondoriozko sistemaren etenaldia izan–, denbora kritikoa da. IA sortzailea gero eta gehiago erabiltzen ari da intzidenteei erantzuteko (IR) taldeei laguntzeko , intzidenteak azkarrago eta informazio gehiagorekin kontrolatzen eta zuzentzen. Ideia da IAk ikerketa- eta dokumentazio-zamaren zati bat bere gain har dezakeela intzidente batean, eta baita erantzun-ekintza batzuk iradoki edo automatizatu ere.

IAren funtsezko eginkizun bat denbora errealeko gertakarien analisia eta laburpena . Gertakari baten erdian, erantzuleek "Nola sartu da erasotzailea?" , "Zein sistema daude kaltetuta?" eta "Zein datu egon daitezke arriskuan?" . IA sortzaileak kaltetutako sistemetako erregistroak, alertak eta datu forentseak azter ditzake eta informazioa azkar eman. Adibidez, Microsoft Security Copilot-ek gertakarien erantzule bati hainbat froga (fitxategiak, URLak, gertaeren erregistroak) sartzeko eta denbora-lerro bat edo laburpen bat eskatzeko aukera ematen dio ( Microsoft Security Copilot zibersegurtasunerako GPT-4 IA laguntzaile berria da | The Verge ). IAk honela erantzun dezake: "Urraketa ziurrenik JohnDoe erabiltzaileari 10:53 GMT-tan X malwarea zuen phishing mezu elektroniko batekin hasi zen. Exekutatu ondoren, malwareak atzeko ate bat sortu zuen, bi egun geroago erabili zena finantza zerbitzarira albo batera mugitzeko, eta han datuak bildu zituen". Irudi koherente hori orduetan izan beharrean minutu gutxitan izateak taldeari erabaki informatuak (zein sistema isolatu, adibidez) askoz azkarrago hartzeko aukera ematen dio.

IA sortzaileak edukitze- eta zuzentze-ekintzak ere iradoki . Adibidez, ransomware batek endpoint bat infektatzen badu, IA tresna batek script edo argibide multzo bat sor dezake makina hori isolatzeko, kontu batzuk desgaitzeko eta IP gaiztoak suebakian blokeatzeko – funtsean, estrategia-liburu baten exekuzioa. Palo Alto Networks-ek adierazi duenez, IA sortzaileak "gertakariaren izaeraren arabera ekintza edo script egokiak sortzeko" , erantzunaren hasierako urratsak automatizatuz ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ). Segurtasun-taldea gainezka dagoen egoera batean (adibidez, ehunka gailutan zehar zabaldutako eraso bat), IAk ekintza horietako batzuk zuzenean exekutatu ditzake aldez aurretik onartutako baldintzetan, nekaezin lan egiten duen erantzule junior bat bezala jokatuz. Adibidez, IA agente batek automatikoki berrezarri ditzake arriskuan daudela uste dituen kredentzialak edo gertakariaren profilarekin bat datorren jarduera gaiztoa erakusten duten ostalariak kuarentenan jarri.

Intzidenteei erantzutean, komunikazioa ezinbestekoa da, bai talde barruan, bai interesdunekin. IA sortzaileak intzidenteen eguneratze txostenak edo laburpenak berehala idatziz . Ingeniari batek arazoak konpontzen utzi eta posta elektroniko bidezko eguneratze bat idaztearen ordez, IAri eska diezaioke: "Laburbildu intzidente honetan orain arte gertatu dena, zuzendariei jakinarazteko". IAk, intzidentearen datuak barneratu ondoren, laburpen zehatz bat sor dezake: "15:00etarako, erasotzaileek 2 erabiltzaile kontu eta 5 zerbitzari atzitu dituzte. Kaltetutako datuen artean X datu-baseko bezeroen erregistroak daude. Euskarri neurriak: Kontu kaltetuen VPN sarbidea ezeztatu da eta zerbitzariak isolatu dira. Hurrengo urratsak: iraunkortasun mekanismoak eskaneatzea". Erantzunleak azkar egiaztatu edo doitu dezake hau, eta bidali, interesdunak informazio zehatz eta eguneratuarekin informatuta daudela ziurtatuz.

Hautsak baretu ondoren, normalean gertakarien txosten zehatza prestatu eta ikasitako lezioak bildu behar izaten dira. IAren laguntzak distira egiten duen beste arlo bat da hau. Gertakarien datu guztiak berrikusi eta gertakariaren ondorengo txosten bat sor , erroko kausa, kronologia, eragina eta gomendioak biltzen dituena. IBMk, adibidez, IA sortzailea integratzen ari da botoi bat sakatuta "segurtasun kasuen eta gertakarien laburpen sinpleak sortzeko, interesdunekin parteka daitezkeenak" Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 benetako munduko adibide ). Ekintzaren ondorengo txostenak erraztuz, erakundeek azkarrago inplementatu ditzakete hobekuntzak eta baita betetze-helburuetarako dokumentazio hobea ere.

Etorkizunera begirako erabilera berritzaile bat IA bidezko gertakarien simulazioak . Sute-ariketa bat nola egin litekeen antzera, enpresa batzuek IA sortzailea erabiltzen ari dira "zer gertatuko balitz" gertakarien eszenatokiak aztertzeko. IAk ransomware bat nola heda daitekeen simula dezake sarearen diseinua kontuan hartuta, edo barneko pertsona batek nola atera ditzakeen datuak, eta gero uneko erantzun-planen eraginkortasuna baloratu. Horrek taldeei gidalerroak prestatzen eta fintzen laguntzen die benetako gertakari bat gertatu aurretik. Zure prestutasuna etengabe probatzen duen gertakarien erantzun-aholkulari etengabe hobetzen ari den bat izatea bezalakoa da.

Finantzetan edo osasungintzan bezalako arrisku handiko industrietan, non intzidenteen ondoriozko geldialdiak edo datu-galerak bereziki garestiak diren, IA bidezko IR gaitasun hauek oso erakargarriak dira. Ziberintzidente bat jasaten duen ospitale batek ezin ditu sistemaren etenaldi luzeak onartu; edukiontzian azkar laguntzen duen IA batek, literalki, bizitza salba dezake. Era berean, finantza-erakunde batek IA erabil dezake iruzur-intsursio susmagarri baten hasierako sailkapena kudeatzeko goizeko 3etan, guardilako gizakiak linean daudenerako, oinarrizko lan asko (kaltetutako kontuen saioa itxi, transakzioak blokeatu, etab.) eginda egon dadin. Intzidenteei erantzuteko taldeak IA sortzailearekin osatuz , erakundeek erantzun-denborak nabarmen murriztu eta beren kudeaketaren zehaztasuna hobetu dezakete, azken finean ziberintzidenteen kalteak arinduz.

Portaeraren Analisia eta Anomalien Detekzioa

Zibereraso asko harrapatu daitezke zerbait "normal" portaeratik aldentzen denean ohartuz - erabiltzaile-kontu batek datu kopuru ezohikoa deskargatzen badu edo sareko gailu batek bat-batean ostalari ezezagun batekin komunikatzen badu. IA sortzaileak portaeraren analisi eta anomalia detektatzeko , erabiltzaileen eta sistemen ohiko ereduak ikasiz eta gero zerbait gaizki dagoenean salatuz.

Anomalia detekzio tradizionalak askotan atalase estatistikoak edo ikaskuntza automatiko sinplea erabiltzen ditu metrika espezifikoetan (CPU erabileraren igoerak, ordu arraroetan saioa hastea, etab.). IA sortzaileak are gehiago eraman dezake portaera-profil ñabarduagoak sortuz. Adibidez, IA eredu batek langile baten saioa hasteko saioak, fitxategietarako sarbide-ereduak eta posta elektronikoko ohiturak denboran zehar barneratu ditzake eta erabiltzaile horren "normaltasunaren" ulermen multidimentsionala osatu. Kontu horrek geroago bere ohituratik kanpo dagoen zerbait egiten badu (adibidez, herrialde berri batetik saioa hastea eta gauerdian Giza Baliabideen fitxategi multzo batera sartzea), IAk desbideratze bat detektatuko luke ez metrika batean bakarrik, baizik eta erabiltzailearen profilarekin bat ez datorren portaera-eredu oso batean. Termino teknikoetan, eredu sortzaileek (autokodetzaileek edo sekuentzia-ereduek bezala) "normala" nolakoa den modelatu dezakete eta gero portaera-tarte espero bat sortu. Errealitatea tarte horretatik kanpo geratzen denean, anomalia gisa markatzen da ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ).

Inplementazio praktiko bat sareko trafikoaren monitorizazioan . 2024ko inkesta baten arabera, AEBetako erakundeen % 54k sareko trafikoaren monitorizazioa aipatu zuten zibersegurtasunean IAren erabilera-kasu nagusitzat ( Ipar Amerika: mundu osoko zibersegurtasunean IAren erabilera-kasu nagusiak 2024 ). IA sortzaileak enpresa baten sarearen komunikazio-eredu normalak ikas ditzake: zein zerbitzarik hitz egiten dute normalean elkarren artean, zein datu-bolumen mugitzen diren lanorduetan eta gauez, etab. Erasotzaile batek datuak zerbitzari batetik ateratzen hasten bada, detekzioa saihesteko poliki bada ere, IA oinarritutako sistema batek ohartu daiteke "A zerbitzariak ez duela inoiz 500 MB datu bidaltzen goizeko 2etan kanpoko IP batera" eta alerta bat jo dezake. IAk ez dituenez arau estatikoak soilik erabiltzen, sareko portaeraren eredu ebolutibo bat baizik, arau estatikoek ("alerta datuak > X MB badira") galdu edo oker markatu ditzaketen anomalia sotilak detekta ditzake. Izaera moldagarri horrek egiten du IA bidezko anomalia detekzioa indartsua banku-transakzioen sareak, hodeiko azpiegiturak edo IoT gailuen flotak bezalako inguruneetan, non normalaren eta anormalaren arteko arau finkoak definitzea oso konplexua den.

IA sortzaileak erabiltzaileen portaeraren analisiarekin (UBA) , eta hori funtsezkoa da barne-mehatxuak edo kontu konprometituak detektatzeko. Erabiltzaile edo entitate bakoitzaren oinarri-lerro bat sortuz, IAk kredentzialen erabilera okerra bezalako gauzak detektatu ditzake. Adibidez, kontabilitate-saileko Bobek bat-batean bezeroen datu-basea kontsultatzen hasten bada (lehen inoiz egin ez zuen zerbait), Boben portaeraren IA ereduak ezohiko gisa markatuko du hori. Baliteke malwarea ez izatea; izan liteke Boben kredentzialak lapurtu eta erasotzaile batek erabili izana, edo Bobek behar ez lukeen lekuan ikertzen ari izatea. Nolanahi ere, segurtasun-taldeak abisua jasotzen du ikertzeko. IA bidezko UBA sistema horiek hainbat segurtasun-produktutan daude, eta modelizazio sortzaileko teknikek haien zehaztasuna areagotzen ari dira eta alarma faltsuak murrizten ari dira testuingurua kontuan hartuta (agian Bob proiektu berezi batean dago, etab., IAk batzuetan beste datu batzuetatik ondoriozta dezakeena).

Identitate eta sarbide kudeaketaren arloan, deepfake detekzioa gero eta behar handiagoa da: IA sortzaileak ahots eta bideo sintetikoak sor ditzake segurtasun biometrikoa engainatzen dutenak. Interesgarria da, IA sortzaileak deepfake hauek detektatzen ere lagun dezakeela, gizakientzat nabaritzeko zailak diren audio edo bideoko artefaktu sotilak aztertuz. Accenture-rekin adibide bat ikusi genuen, IA sortzailea erabili zuena aurpegiko adierazpen eta baldintza ugari simulatzeko, bere sistema biometrikoak benetako erabiltzaileak IA bidez sortutako deepfakeetatik bereizteko entrenatzeko IA sortzailearen 6 erabilera kasu zibersegurtasunean [+ Adibideak] ). Funtsean, IA sortzailea erabili zuten autentifikazio biometrikoa indartzeko, eraso generatiboen aurrean erresiliente bihurtuz (IAren aurka borrokatzen den IAren adibide bikaina). Portaera-modelatze mota hau -kasu honetan, aurpegi gizatiar baten eta IA bidez sintetizatutako baten arteko aldea aitortzea- funtsezkoa da, autentifikazioan IAren menpe gaudelako gero eta gehiago.

IA sortzaileak bultzatutako anomalia detekzioa hainbat industriatan aplika daiteke: osasungintzan, gailu medikoen portaera kontrolatuz, hackeo zantzuak bilatzeko; finantzetan, iruzurra edo manipulazio algoritmikoa adieraz dezaketen eredu irregularren bila merkataritza-sistemak behatuz; energia/zerbitzu publikoetan, kontrol-sistemaren seinaleak behatuz, intrusio zantzuak bilatzeko. zabaltasunaren (portaeraren alderdi guztiak aztertzea) eta sakontasunaren (eredu konplexuak ulertzea) tresna indartsu bihurtzen du ziberintzidente baten orratza belar-meta batean dagoen adierazleak hautemateko. Mehatxuak isilpean jartzen diren heinean, eragiketa normalen artean ezkutatuta, "normala" zehatz-mehatz karakterizatzeko eta zerbait desbideratzen denean oihu egiteko gaitasun hori ezinbestekoa bihurtzen da. Horrela, IA sortzaileak zaindari nekaezin gisa balio du, beti ikasten eta normaltasunaren definizioa eguneratzen inguruneko aldaketen erritmoari eusteko, eta segurtasun-taldeei azterketa zehatzagoa merezi duten anomalien berri ematen die.

Zibersegurtasunean IA Generatiboaren aukerak eta onurak

aukera eta onura ugari dakartza tresna hauek bereganatu nahi dituzten erakundeentzat. Jarraian, IA sortzailea zibersegurtasun programetarako gehigarri erakargarri bihurtzen duten abantaila nagusiak laburbiltzen ditugu:

• Mehatxuen detekzio eta erantzun azkarragoa: IA sistemek datu kopuru handiak denbora errealean aztertu eta mehatxuak askoz azkarrago antzeman ditzakete eskuzko analisiak baino. Abiadura abantaila honek erasoak lehenago detektatzea eta gertakariak azkarrago kontrolatzea esan nahi du. Praktikan, IA bidezko segurtasun monitorizazioak gizakiek korrelazionatzeko denbora askoz gehiago beharko luketen mehatxuak detekta ditzake. Gertakariei azkar erantzunez (edo hasierako erantzunak modu autonomoan exekutatuz ere), erakundeek erasotzaileek beren sareetan duten egonaldi denbora nabarmen murriztu dezakete, kalteak minimizatuz.

• Zehaztasun eta mehatxuen estaldura hobetua: Datu berrietatik etengabe ikasten dutenez, eredu sortzaileek mehatxu ebolutiboetara egokitu eta jarduera gaiztoen zantzu sotilagoak detektatu ditzakete. Horrek detekzio-zehaztasun hobea dakar (faltsu negatibo eta faltsu positibo gutxiago) arau estatikoekin alderatuta. Adibidez, phishing mezu elektroniko edo malware portaera baten ezaugarriak ikasi dituen IA batek lehenago inoiz ikusi ez diren aldaerak identifikatu ditzake. Emaitza mehatxu moten estaldura zabalagoa da – eraso berriak barne –, segurtasun-jarrera orokorra indartuz. Segurtasun-taldeek IAren analisietatik informazio zehatza ere lortzen dute (adibidez, malware portaeraren azalpenak), defentsa zehatzagoak eta zuzenduagoak ahalbidetuz ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ).

• Zeregin Errepikakorren Automatizazioa: IA Generatiboa bikaina da segurtasun-zeregin arruntak eta lan-intentsiboak automatizatzeko – erregistroak arakatzea eta txostenak konpilatzea, intzidenteei erantzuteko gidoiak idaztea barne. Automatizazio honek giza analisten zama murrizten du , goi-mailako estrategian eta erabaki konplexuak hartzeko prozesuan zentratzeko askatasuna emanez ( Zer da IA ​​Generatiboa zibersegurtasunean? - Palo Alto Networks ). Ahultasunen eskaneatzea, konfigurazioaren auditoria, erabiltzaileen jardueraren azterketa eta betetze-txostenak bezalako zeregin arrunt baina garrantzitsuak IAk kudeatu ditzake (edo behintzat lehen zirriborroa egin). Zeregin hauek makina-abiaduran kudeatuz, IAk ez du eraginkortasuna hobetzen bakarrik, baita giza akatsak ere murrizten (urraketetan faktore garrantzitsua).

• Defentsa Proaktiboa eta Simulazioa: IA Generatiboak erakundeei segurtasun erreaktibotik proaktiboara aldatzeko aukera ematen die. Erasoen simulazioa, datu sintetikoak sortzea eta eszenatokietan oinarritutako prestakuntza bezalako tekniken bidez, defendatzaileek mehatxuak aurreikusi eta prestatu ditzakete aurretik . Segurtasun taldeek zibererasoak (phishing kanpainak, malware agerraldiak, DDoS, etab.) simula ditzakete ingurune seguruetan, haien erantzunak probatzeko eta ahuleziak sendotzeko. Prestakuntza jarraitu honek, askotan ezinezkoa dena gizakiaren ahaleginarekin bakarrik ondo egitea, defentsak zorrotz eta eguneratuta mantentzen ditu. Ziber "suhiltzaileen simulazio" baten antzekoa da: IAk mehatxu hipotetiko asko jaurti ditzake zure defentsen aurka, praktikatu eta hobetu ahal izateko.

• Giza Esperientzia Handitzea (IA Indar Biderkatzaile gisa): IA Generatiboak analista junior, aholkulari eta laguntzaile nekaezin gisa jokatzen du, aldi berean. Taldekide esperientzia gutxiago dutenei aditu beteranoengandik espero ohi diren orientazioa eta gomendioak eman diezazkieke, talde osoko espezializazioa demokratizatuz IA Generatiboaren 6 erabilera kasu zibersegurtasunean [+ Adibideak] ). Hau bereziki baliotsua da zibersegurtasunean talentu eskasia dagoela kontuan hartuta: IAk talde txikiei gutxiagorekin gehiago egiten laguntzen die. Analista esperientziadunek, berriz, onura ateratzen dute IAk lan gogorra kudeatzen eta ikuspegi ez-agerikoak azaleratzen dituenetik, eta gero balioztatu eta horien arabera jardun dezakete. Emaitza orokorra askoz produktiboagoa eta gaiagoa den segurtasun-talde bat da, IAk giza kide bakoitzaren eragina anplifikatuz ( Nola erabil daiteke IA Generatiboa zibersegurtasunean ).

• Erabakiak hartzeko laguntza eta txostenak hobetzea: Datu teknikoak hizkuntza naturaleko informaziora itzuliz, IA sortzaileak komunikazioa eta erabakiak hartzea hobetzen ditu. Segurtasun-buruek arazoei buruzko ikuspegi argiagoa lortzen dute IAk sortutako laburpenen bidez, eta erabaki estrategiko informatuak har ditzakete datu gordinak aztertu beharrik gabe. Era berean, funtzio arteko komunikazioa (zuzendariekin, betetze-arduradunekin, etab.) hobetzen da IAk segurtasun-jarreraren eta gertakarien txosten errazak prestatzen dituenean ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Horrek ez du soilik segurtasun-gaietan konfiantza eta lerrokatzea sortzen lidergo-mailan, baizik eta inbertsioak eta aldaketak justifikatzen ere laguntzen du arriskuak eta IAk aurkitutako hutsuneak argi adieraziz.

Konbinatuta, onura hauek esan nahi dute zibersegurtasunean AI sortzailea erabiltzen duten erakundeek segurtasun-jarrera sendoagoa lor dezaketela, funtzionamendu-kostu txikiagoekin. Lehen gaindiezinak ziren mehatxuei erantzun diezaiekete, kontrolatu gabe zeuden hutsuneak estali eta etengabe hobetu dezakete AI bidezko feedback begizten bidez. Azken finean, AI sortzaileak aurkariei aurrea hartzeko aukera eskaintzen du, abiadura, eskala eta sofistikazioa defentsa sofistikatu berdinekin parekatuz. Inkesta batek aurkitu zuenez, negozio- eta ziber-liderren erdiek baino gehiagok mehatxuen detekzio azkarragoa eta zehaztasun handiagoa aurreikusten dute AI sortzailea erabiliz ( [PDF] Zibersegurtasun Globalaren Perspektiba 2025 | Munduko Ekonomia Foroa ) ( AI sortzailea zibersegurtasunean: LLMren berrikuspen integrala... ) – teknologia hauen onuren inguruko baikortasunaren erakusgarri.

Zibersegurtasunean IA Generatiboa erabiltzearen arriskuak eta erronkak

Aukerak nabarmenak diren arren, ezinbestekoa da zibersegurtasunean IA sortzaileari heltzea, arrisku eta erronkei . IA itsu-itsuan fidatzeak edo gaizki erabiltzeak ahultasun berriak sor ditzake. Jarraian, kezka eta oztopo nagusiak azaltzen ditugu, bakoitzaren testuinguruarekin batera:

• Ziberkriminalen aurkako erabilera: Defendatzaileei laguntzen dieten gaitasun sortzaile berberek erasotzaileak ahaldundu ditzakete. Mehatxu-egileek dagoeneko erabiltzen ari dira IA sortzailea phishing mezu elektroniko sinesgarriagoak sortzeko, pertsonaia faltsuak eta bideo sakonak sortzeko ingeniaritza sozialerako, detekzioa saihesteko etengabe aldatzen den malware polimorfikoa garatzeko eta baita hackeatzearen alderdiak automatizatzeko ere ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ). Zibersegurtasuneko liderren ia erdiak (% 46) kezkatuta daude IA sortzaileak aurkarien eraso aurreratuagoak ekarriko dituelako ( IA sortzailearen segurtasuna: joerak, mehatxuak eta arintze-estrategiak ). "IA arma-lasterketa" honek esan nahi du defendatzaileek IA hartzen duten heinean, erasotzaileak ez direla atzean geratuko (izan ere, arlo batzuetan aurretik egon daitezke, arautu gabeko IA tresnak erabiliz). Erakundeak prestatuta egon behar dira IA bidez hobetutako mehatxuetarako, maizagoak, sofistikatuagoak eta jarraitzeko zailagoak direnak.

• IA Haluzinazioak eta Zehaztasun Eza: sinesgarriak baina okerrak edo engainagarriak sor ditzakete ; fenomeno hori haluzinazio izenekoa da. Segurtasun testuinguru batean, IA batek gertakari bat aztertu eta ahultasun jakin bat izan dela ondoriozta dezake oker, edo erasoa kontrolatzen ez duen zuzenketa-script akastun bat sor dezake. Akats hauek arriskutsuak izan daitezke bere horretan hartzen badira. NTT Datak ohartarazten duen bezala, "IA generatiboak eduki faltsu bat sor dezake, eta fenomeno horri haluzinazioak deitzen zaio... gaur egun zaila da erabat ezabatzea" ( IA Generatiboaren Segurtasun Arriskuak eta Kontraneurriak, eta Zibersegurtasunean duen Eragina | NTT DATA Group ). IAren gehiegizko konfiantza egiaztapenik gabe ahalegin okerrak edo segurtasun sentsazio faltsua ekar ditzake. Adibidez, IA batek sistema kritiko bat seguru gisa markatu dezake, ez denean segurua, edo, alderantziz, izua eragin dezake inoiz gertatu ez den urraketa bat "detektatuz". IAren irteeren baliozkotze zorrotza eta gizakiak erabaki kritikoetarako begiztan parte hartzea ezinbestekoa da arrisku hori arintzeko.

• Positibo eta Negatibo Faltsuak: Haluzinazioekin lotuta, IA eredu bat gaizki trebatuta edo konfiguratuta badago, jarduera onbera gehiegi salatu dezake gaizto gisa (positibo faltsuak) edo, okerrago, mehatxu errealak galdu (negatibo faltsuak) ( Nola erabil daiteke IA sortzailea zibersegurtasunean ). Alerta faltsu gehiegi izateak segurtasun-taldeak gainezka ditzake eta alerta-nekea eragin dezake (IAk agindutako eraginkortasun-irabaziak deseginez), eta detekzio galduek erakundea agerian uzten dute. Eredu sortzaileak oreka egokia lortzeko doitzea erronka bat da. Ingurune bakoitza bakarra da, eta baliteke IA batek ez funtzionatzea berehala modu optimoan. Ikaskuntza jarraitua ere bi ahoko ezpata da: IAk feedback okerretik edo aldatzen den ingurune batetik ikasten badu, bere zehaztasuna alda daiteke. Segurtasun-taldeek IAren errendimendua kontrolatu eta atalaseak egokitu edo feedback zuzentzailea eman behar diete ereduei. Testuinguru garrantzitsuetan (azpiegitura kritikoetarako intrusioen detekzioa bezala), zuhurra izan daiteke IAren iradokizunak dauden sistemekin paraleloan exekutatzea denbora batez, lerrokatu eta osatzen direla ziurtatzeko, gatazkan egon beharrean.

• Datuen pribatutasuna eta ihesa: IA sistemek datu kopuru handiak behar izaten dituzte askotan entrenamendurako eta funtzionamendurako. Modelo hauek hodeian oinarrituta badaude edo behar bezala isolatuta ez badaude, informazio sentikorra ihes egiteko arriskua dago. Erabiltzaileek nahi gabe datu jabedunak edo datu pertsonalak eman diezazkiokete IA zerbitzu bati (pentsa ChatGPT-ri gertakari konfidentzial baten txostena laburbiltzeko eskatzea), eta datu horiek modeloaren ezagutzaren parte bihur daitezke. Izan ere, duela gutxiko ikerketa batek aurkitu zuen IA tresnetarako sarreren % 55ek informazio sentikorra edo pertsonalki identifikagarria zuela , eta horrek kezka larriak sortu zituen datuen ihesari buruz ( IA Segurtasun Sortzailea: Joerak, Mehatxuak eta Arintze Estrategiak ). Gainera, IA barne datuetan entrenatu bada eta modu jakin batzuetan kontsultatzen bazaio, eman diezazkioke . Erakundeek datuak kudeatzeko politika zorrotzak ezarri behar dituzte (adibidez, IA instantzia lokalak edo pribatuak erabiltzea material sentikorrerako) eta langileei hezi behar diete informazio sekretua IA tresna publikoetan ez itsatsi behar. Pribatutasun araudiak (GDPR, etab.) ere sartzen dira jokoan: datu pertsonalak erabiltzeak baimenik edo babes egokirik gabe IA entrenatzeko, legeak hautsi ditzake.

• Modeloen Segurtasuna eta Manipulazioa: modeloen pozoitzea saia dezakete , datu gaiztoak edo engainagarriak emanez entrenamendu edo birtrebakuntza fasean, IAk eredu okerrak ikas ditzan ( Nola erabil daiteke IA Generatiboa zibersegurtasunean ). Adibidez, erasotzaile batek mehatxuen inteligentzia datuak sotilki pozoitu ditzake, IAk erasotzailearen malwarea gaiztotzat ez ezagutzeko. Beste taktika bat berehalako injekzioa edo irteeraren manipulazioa , non erasotzaile batek IAri sarrerak emateko modua aurkitzen duen, nahi gabeko moduan jokatzea eragiten dutenak – agian bere segurtasun-hesiak alde batera uzteko edo ez lukeen informazioa agerian uzteko (barneko galderak edo datuak bezala). Gainera, modeloak saihesteko : erasotzaileek IA engainatzeko bereziki diseinatutako sarrerak sortzen dituzte. Hori etsaien adibideetan ikusten dugu – gizaki batek normaltzat jotzen dituen baina IAk gaizki sailkatzen dituen datu apur bat asaldatuak. IA hornidura-katea segurua dela ziurtatzea (datuen osotasuna, modeloen sarbide-kontrola, aurkarien sendotasun-probak) zibersegurtasunaren zati berria baina beharrezkoa da tresna hauek ezartzerakoan ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ).

• Gehiegizko Mendekotasuna eta Trebetasunen Higadura: Arrisku txikiagoa dago erakundeak IAren gehiegizko menpeko bihurtzeko eta giza trebetasunak atrofiatzen uzteko. Analista gazteek IAren emaitzetan itsu-itsuan konfiantza hartzen badute, baliteke IA erabilgarri ez dagoenean edo oker dagoenean beharrezkoak diren pentsamendu kritikoa eta intuizioa ez garatzea. Saihestu beharreko egoera bat tresna bikainak dituen baina tresna horiek huts egiten badute nola jardun ez dakien segurtasun-talde bat da (pilotu automatikoan gehiegi fidatzen diren pilotuen antzera). IAren laguntzarik gabeko ohiko entrenamendu-ariketak eta IA laguntzaile bat dela, ez orakulu hutsezina, pentsatzea sustatzea garrantzitsuak dira giza analistak zorrotz mantentzeko. Gizakiak izan behar dira erabaki-hartzaile nagusiak, batez ere eragin handiko epaiketetarako.

• Etika eta Betetze Erronkak: IA zibersegurtasunean erabiltzeak galdera etikoak sortzen ditu eta araudi betetze arazoak sor ditzake. Adibidez, IA sistema batek langile bat barne-pertsona gaizto gisa inplikatzen badu oker anomalia baten ondorioz, pertsona horren ospea edo karrera bidegabeki kaltetu dezake. IAk hartutako erabakiak opakoak izan daitezke ("kutxa beltza" arazoa), eta horrek zaildu egiten du auditoreei edo erregulatzaileei zergatik hartu diren ekintza batzuk azaltzea. IAk sortutako edukia gero eta ohikoagoa den heinean, gardentasuna bermatzea eta erantzukizuna mantentzea funtsezkoa da. Erregulatzaileek IA aztertzen hasi dira; EBko IA Legeak, adibidez, "arrisku handiko" IA sistemei eskakizunak ezarriko dizkie, eta zibersegurtasuneko IA kategoria horretan sar daiteke. Enpresek araudi horiek arakatu beharko dituzte eta, agian, NIST IA Arriskuen Kudeaketa Esparrua bezalako estandarrak bete beharko dituzte IA sortzailea arduraz erabiltzeko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Betetzea lizentzietara ere hedatzen da: kode irekiko edo hirugarrenen ereduak erabiltzeak erabilera batzuk mugatzen dituzten edo partekatzeko hobekuntzak eskatzen dituzten baldintzak izan ditzake.

Laburbilduz, IA sortzailea ez da irtenbide miragarria ; kontu handiz ezartzen ez bada, ahultasun berriak sor ditzake, beste batzuk konpontzen dituen bitartean. 2024ko Munduko Ekonomia Foroak egindako ikerketa batek nabarmendu zuen erakundeen % 47 inguruk erasotzaileek IA sortzailean egindako aurrerapenak aipatzen dituztela kezka nagusitzat, eta horrek zibersegurtasunean "IA sortzailearen eragin kezkagarriena" [PDF] Global Cybersecurity Outlook 2025 | Munduko Ekonomia Foroa ) ( IA sortzailea zibersegurtasunean: LLMren berrikuspen integrala... ). Beraz, erakundeek ikuspegi orekatua hartu behar dute: IAren onurak aprobetxatu, arrisku horiek zorrotz kudeatuz gobernantzaren, probak eta gizakien gainbegiratzearen bidez. Ondoren, oreka hori nola lortu aztertuko dugu.

Etorkizuneko ikuspegia: IA sortzailearen eboluzio-rola zibersegurtasunean

Aurrera begira, IA sortzailea zibersegurtasun estrategiaren zati garrantzitsu bihurtzeko prest dago, eta, era berean, zibererasoek ustiatzen jarraituko duten tresna. Katuaren eta saguaren dinamika bizkortu egingo da, IA hesiaren bi aldeetan dagoelarik. Hona hemen IA sortzaileak zibersegurtasuna nola molda dezakeen datozen urteetan etorkizunera begirako ikuspegi batzuk:

• AI bidezko ziberdefentsa areagotua estandar bihurtuko da: 2025erako eta aurrerago, espero dezakegu erakunde ertain eta handi gehienek AI bidezko tresnak sartuko dituztela beren segurtasun-eragiketetan. Gaur egun antibirusak eta suebakiak estandar diren bezala, AI kopilotoak eta anomaliak detektatzeko sistemak segurtasun-arkitekturen oinarrizko osagai bihur daitezke. Tresna hauek espezializatuagoak bihurtuko dira ziurrenik; adibidez, hodeiko segurtasunerako, IoT gailuen monitorizaziorako, aplikazioen kodearen segurtasunerako eta abar doitutako AI eredu desberdinak, guztiak batera lanean. Iragarpen batek dioen bezala, "2025ean, AI sortzailea zibersegurtasunerako funtsezkoa izango da, erakundeei mehatxu sofistikatu eta eboluzionatzaileen aurka proaktiboki defendatzeko aukera emanez" ( Nola erabil daiteke AI sortzailea zibersegurtasunean ). AIk denbora errealeko mehatxuen detekzioa hobetuko du, erantzun-ekintza asko automatizatuko ditu eta segurtasun-taldeei eskuz baino datu-bolumen askoz handiagoak kudeatzen lagunduko die.

• Ikaskuntza eta Egokitzapen Jarraitua: Ziber-arloko etorkizuneko IA sistema sortzaileek hobeak izango dira ikasten , beren ezagutza-basea ia denbora errealean eguneratuz. Horrek benetako defentsa moldagarriak ekar ditzake: imajinatu goizean beste enpresa bati eragiten dion phishing kanpaina berri baten berri duen IA bat eta arratsalderako zure enpresaren posta elektronikoaren iragazkiak egokitu dituena erantzunez. Hodeian oinarritutako IA segurtasun-zerbitzuek ikaskuntza kolektibo mota hau erraztu dezakete, non erakunde bateko informazio anonimizatuak harpidedun guztiei mesede egiten dien (mehatxu-inteligentzia partekatzearen antzekoa, baina automatizatua). Hala ere, horrek kontu handiz kudeatu beharko du informazio sentikorra partekatzea saihesteko eta erasotzaileek datu txarrak partekatutako ereduetan sartzea saihesteko.

• IA eta Zibersegurtasuneko Talentuaren Konbergentzia: Zibersegurtasuneko profesionalen trebetasun multzoa eboluzionatuko da IA ​​eta datu-zientzian trebatzeko. Gaur egungo analistek kontsulta-lengoaiak eta script-ak ikasten dituzten bezala, biharko analistek aldizka IA ereduak doitu edo IAk exekutatzeko "jokabide-liburuak" idatzi ditzakete. "IA Segurtasuneko Prestatzailea" edo "Zibersegurtasuneko IA Ingeniaria" : IA tresnak erakunde baten beharretara egokitzen, haien errendimendua balioztatzen eta segurtasunez funtzionatzen dutela ziurtatzen espezializatutako pertsonak. Bestalde, zibersegurtasuneko kontuan hartu beharrekoek gero eta eragin handiagoa izango dute IAren garapenean. IA sistemak segurtasun-ezaugarriekin eraikiko dira hasieratik (arkitektura segurua, manipulazio-detekzioa, IA erabakien auditoria-erregistroak, etab.), eta IA fidagarrirako (bidezkoa, azalgarria, sendoa eta segurua) gidatuko dute haien hedapena segurtasun-testuinguru kritikoetan.

• IA bidezko eraso sofistikatuagoak: Zoritxarrez, mehatxuen paisaia ere eboluzionatuko du IArekin. IA maizago erabiliko dela aurreikusten dugu zero-day ahultasunak aurkitzeko, phishing zorrotza sortzeko (adibidez, IA sare sozialak arakatzea beita perfektuki egokitu bat sortzeko) eta autentifikazio biometrikoa saihesteko edo iruzurra egiteko ahots edo bideo faltsu sakonak sortzeko. Hacking agente automatizatuak ager daitezke, etapa anitzeko erasoak (ezagutza, esplotazioa, alboko mugimendua, etab.) modu independentean egin ditzaketenak, gizakiaren gainbegiratze minimoarekin. Horrek defendatzaileak presiopean jarriko ditu IAren mende ere egoteko; funtsean, automatizazioa vs. automatizazioa . Eraso batzuk makinaren abiaduran gerta daitezke, IA botek milaka phishing posta elektroniko permutazio probatzen dituztenean zeinek gainditzen duen iragazkiak ikusteko. Ziberdefentsak abiadura eta malgutasun antzekoan funtzionatu beharko dute erritmoari eusteko ( Zer da IA ​​sortzailea zibersegurtasunean? - Palo Alto Networks ).

• Segurtasunean araudia eta IA etikoa: IA zibersegurtasun funtzioetan sakon txertatzen den heinean, azterketa eta, agian, araudi handiagoa egongo da IA ​​sistema horiek arduraz erabiltzen direla ziurtatzeko. Segurtasunean IArako berariazko esparruak eta estandarrak espero ditzakegu. Gobernuek gardentasunerako jarraibideak ezar ditzakete; adibidez, segurtasun erabaki garrantzitsuak (adibidez, langile baten sarbidea amaitzea susmo gaiztoa den jarduera batengatik) IAk bakarrik ezin dituela hartu eskatuz gizakien berrikuspenik gabe. IA segurtasun produktuetarako ziurtagiriak ere egon daitezke, erosleei IA alborapenaren, sendotasunaren eta segurtasunaren arabera ebaluatu dela ziurtatzeko. Gainera, nazioarteko lankidetza haz daiteke IArekin lotutako zibermehatxuen inguruan; adibidez, IAk sortutako desinformazioa kudeatzeko akordioak edo IAk bultzatutako ziberarma jakin batzuen aurkako arauak.

• IA zabalagoekin eta IT ekosistemekin integratzea: Zibersegurtasuneko IA sortzaileak beste IA sistemekin eta IT kudeaketa tresnekin integratuko da ziurrenik. Adibidez, sarearen optimizazioa kudeatzen duen IA batek segurtasun IArekin lan egin dezake aldaketek zirrikiturik irekitzen ez dutela ziurtatzeko. IA bidezko negozio-analisiak datuak parteka ditzake segurtasun IAekin anomaliak erlazionatzeko (adibidez, salmenten bat-bateko jaitsiera eraso baten ondorioz webgunearen arazo posible batekin). Funtsean, IA ez da silo batean biziko, erakunde baten eragiketen ehun adimendun handiago baten parte izango da. Horrek arriskuen kudeaketa holistikorako aukerak irekitzen ditu, non eragiketa-datuak, mehatxu-datuak eta baita segurtasun fisikoko datuak ere IAk konbinatu ahal izango dituen erakundearen segurtasun-jarreraren 360 graduko ikuspegia emateko.

Epe luzera, itxaropena da IA ​​sortzaileak defendatzaileen aldeko balantza aldatzen lagunduko duela. IT ingurune modernoen eskala eta konplexutasuna kudeatuz, IAk ziberespazioa defendagarriagoa egin dezake. Hala ere, bidaia bat da, eta hazkuntza-mina izango da teknologia hauek fintzen eta behar bezala fidatzen ikasten dugun heinean. IA arduraz erabiltzean izango dira etorkizuneko mehatxuei aurre egiteko ondoen kokatuta daudenak.

Gartnerren zibersegurtasun-joeren txosten berriak adierazi zuen bezala, "IAren erabilera-kasu (eta arrisku) sortzaileen sorrerak eraldaketarako presioa sortzen ari da" ( Zibersegurtasun-joerak: Erresilientzia Transformazioaren Bidez - Gartner ). Egokitzen direnek IA aliatu indartsu gisa erabiliko dute; atzeratzen direnek IAz ahalduntutako aurkariek gaindituta aurki ditzakete beren burua. Hurrengo urteak funtsezkoak izango dira IAk ziber-gudu-zelaia nola birmoldatzen duen definitzeko.

Zibersegurtasunean IA sortzailea erabiltzeko aholku praktikoak

Zibersegurtasun-estrategian IA sortzailea nola erabili ebaluatzen ari diren enpresentzat, hona hemen zenbait aholku eta gomendio praktiko, adopzio arduratsu eta eraginkor bat gidatzeko:

1. Hasi Hezkuntza eta Prestakuntzarekin: Ziurtatu zure segurtasun-taldeak (eta ITko langileek, oro har) ulertzen dutela zer egin dezakeen eta zer ezin duen IA sortzaileak. Eman prestakuntza IA bidezko segurtasun-tresnen oinarriei buruz eta eguneratu zure segurtasun-kontzientziazio programak langile guztientzat, IA bidezko mehatxuak estaltzeko. Adibidez, irakatsi langileei nola sor ditzakeen IAk phishing iruzur oso sinesgarriak eta deepfake deiak. Aldi berean, trebatu langileak IA tresnen erabilera seguru eta onartuari buruz beren lanean. Erabiltzaile ondo informatuek aukera gutxiago dute IA gaizki kudeatzeko edo IA bidez hobetutako erasoen biktima izateko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ).

2. Definitu IA Erabilera Politika Argiak: Tratatu IA sortzailea edozein teknologia indartsu bezala – gobernantzarekin. Garatu politikak zehazten dituztenak nork erabil ditzakeen IA tresnak, zein tresna diren baimenduak eta zer helbururekin. Sartu datu sentikorrak kudeatzeko jarraibideak (adibidez, ez eman datu konfidentzialik kanpoko IA zerbitzuei) ihesak saihesteko. Adibidez, segurtasun-taldeko kideei bakarrik baimendu diezaiekezu barneko IA laguntzaile bat erabiltzea gertakariei erantzuteko, eta marketinekoek IA egiaztatua erabil dezakete edukietarako – gainerako guztiak mugatuta daude. Erakunde askok esplizituki jorratzen dute IA sortzailea beren IT politiketan, eta estandarizazio-erakunde nagusiek erabilera seguruko politikak sustatzen dituzte debeku zuzenen ordez ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Ziurtatu arau hauek eta horien atzean dagoen arrazoibidea langile guztiei jakinarazten dizkiezula.

3. “Itzal-AI” arindu eta erabilera monitorizatu: IT itzalaren antzera, “itzal-AI” sortzen da langileek ITren jakintzarik gabe AI tresnak edo zerbitzuak erabiltzen hasten direnean (adibidez, garatzaile batek baimenik gabeko AI kode laguntzaile bat erabiltzen duenean). Horrek arrisku ikusezinak sor ditzake. Ezarri neurriak baimenik gabeko AI erabilera detektatu eta kontrolatzeko . Sarearen monitorizazioak AI API ezagunetarako konexioak markatu ditzake, eta inkestek edo tresnen auditoriek langileek zer erabiltzen duten agerian utzi dezakete. Eskaini alternatiba onartuak, asmo oneko langileek bidegabe jokatzera ez joateko tentazioa izan dezaten (adibidez, eman ChatGPT Enterprise kontu ofizial bat jendeak erabilgarria iruditzen bazaio). AI erabilera argitara ateraz, segurtasun taldeek arriskua ebaluatu eta kudeatu dezakete. Monitorizazioa ere funtsezkoa da: erregistratu AI tresnen jarduerak eta irteerak ahal den neurrian, AIk eragindako erabakien auditoria-aztarna bat egon dadin ( Nola erabil daiteke AI sortzailea zibersegurtasunean? 10 adibide erreal ).

4. Erabili IA defentsiboki – Ez geratu atzean: Kontuan izan erasotzaileek IA erabiliko dutela, beraz, zure defentsak ere bai. Identifikatu eragin handiko eremu batzuk non IA sortzaileak berehala lagun diezaiekeen zure segurtasun-eragiketei (agian alerta-triajea edo erregistro-analisi automatizatua) eta gauzatu proiektu pilotuak. Handitu zure defentsak IAren abiadurarekin eta eskalarekin mehatxu azkarrei aurre egiteko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Integrazio sinpleek ere, hala nola IA bat erabiltzea malware-txostenak laburbiltzeko edo mehatxu-ehiza kontsultak sortzeko, analisten orduak aurreztu ditzakete. Hasi txiki, ebaluatu emaitzak eta iteratu. Arrakastek IA zabalago erabiltzearen aldeko argudioak eraikiko dituzte. Helburua IA indar-biderkatzaile gisa erabiltzea da; adibidez, phishing erasoek zure laguntza-mahaia gainezka egiten badute, zabaldu IA posta elektronikoaren sailkatzaile bat bolumen hori proaktiboki murrizteko.

5. Inbertitu IA praktika seguru eta etikoetan: IA sortzailea ezartzerakoan, jarraitu garapen eta hedapen praktika seguruak. Erabili modelo pribatuak edo auto-ostatutakoak zeregin sentikorretarako, datuen gaineko kontrola mantentzeko. Hirugarrenen IA zerbitzuak erabiltzen badituzu, berrikusi haien segurtasun eta pribatutasun neurriak (enkriptatzea, datuak gordetzeko politikak, etab.). Sartu IA arriskuen kudeaketa esparruak (NISTen IA Arriskuen Kudeaketa Esparrua edo ISO/IEC gidalerroak bezala) zure IA tresnetan alborapena, azalgarritasuna eta sendotasuna bezalako gauzak sistematikoki jorratzeko ( Nola erabil daiteke IA sortzailea zibersegurtasunean? 10 adibide erreal ). Planifikatu modeloen eguneraketak/adabakiak mantentze-lanen barruan – IA modeloek ere "ahultasunak" izan ditzakete (adibidez, berriro trebatu behar izan dezakete noraezean hasten badira edo modeloaren aurkako eraso mota berri bat aurkitzen bada). Segurtasuna eta etika zure IA erabileran txertatuz, emaitzetan konfiantza sortzen duzu eta araudi berrien betetzea bermatzen duzu.

6. Mantendu gizakiak informatuta: Erabili IA zibersegurtasunean gizakien epaia laguntzeko, ez erabat ordezkatzeko. Zehaztu gizakien balidazioa beharrezkoa den erabaki-puntuak (adibidez, IA batek gertakari-txosten bat idatzi dezake, baina analista batek berrikusi egiten du banatu aurretik; edo IA batek erabiltzaile-kontu bat blokeatzea iradoki dezake, baina gizaki batek ekintza hori onartzen du). Horrek ez bakarrik IAren akatsak egiaztatu gabe geratzea eragozten du, baita zure taldeari IArengandik ikasten laguntzen dio eta alderantziz. Sustatu lan-fluxu kolaboratiboa: analistek eroso sentitu behar dute IAren irteerak zalantzan jartzen eta osasun-egiaztapenak egiten. Denborarekin, elkarrizketa honek IA (feedbackaren bidez) eta analisten trebetasunak hobetu ditzake. Funtsean, diseinatu zure prozesuak IAren eta gizakien indarguneek elkar osatzen duten moduan: IAk bolumena eta abiadura kudeatzen ditu, gizakiek anbiguotasuna eta azken erabakiak kudeatzen dituzte.

7. Neurtu, Monitorizatu eta Egokitu: Azkenik, erabili zure IA tresna sortzaileak zure segurtasun ekosistemaren osagai bizi gisa. Neurtu etengabe haien errendimendua : murrizten al dituzte intzidenteei erantzuteko denborak? Lehenago detektatzen al dituzte mehatxuak? Nola doa positibo faltsuen tasaren joera? Eskatu iritzia taldeari: IAren gomendioak erabilgarriak al dira, edo zarata sortzen ari al da? Erabili metrika hauek ereduak hobetzeko, prestakuntza datuak eguneratzeko edo IA nola integratzen den doitzeko. Zibermehatxuak eta negozio beharrak eboluzionatzen ari dira, eta zure IA ereduak aldian-aldian eguneratu edo berriro trebatu behar dira eraginkorrak izaten jarraitzeko. Izan ezazu ereduen gobernantzarako plan bat, nork duen mantentze-lanen arduraduna eta zenbatetan berrikusten den barne. IAren bizi-zikloa aktiboki kudeatuz, aktibo bat izaten jarraitzen duela ziurtatzen duzu, ez pasibo bat.

Ondorioz, IA sortzaileak zibersegurtasun gaitasunak nabarmen hobetu ditzake, baina adopzio arrakastatsuak plangintza pentsakorra eta etengabeko gainbegiratzea eskatzen ditu. Beren langileak hezten, jarraibide argiak ezartzen eta IA modu orekatu eta seguruan integratzen duten enpresek mehatxuen kudeaketa azkarrago eta adimentsuago baten sariak jasoko dituzte. Ondorio horiek bide-orri bat eskaintzen dute: giza espezializazioa IA automatizazioarekin konbinatzea, gobernantzaren oinarriak lantzea eta bizkortasuna mantentzea, bai IA teknologia bai mehatxuen paisaia eboluzionatzen diren heinean.

"Nola erabil daiteke IA sortzailea zibersegurtasunean?" galderari – ez bakarrik teorian, baita eguneroko praktikan ere – eta, horrela, beren defentsak indartu ditzakete gure mundu gero eta digitalagoa eta IA bidezkoa den honetan. ( Nola erabil daiteke IA sortzailea zibersegurtasunean )

Honen ondoren irakurri nahi izango dituzun txosten zuriak:

🔗 IAk Ordezkatu Ezin Dituen Lanpostuak eta Zein Lanpostu Ordezkatuko Ditu IAk?
Arakatu zein rol dauden automatizaziotik salbu eta zein ez dauden ikuspegi globala.

🔗 Adimen Artifizialak Burtsa Aurreikusi Al Dezake?
Adimen Artifizialak merkatuaren mugimenduak aurreikusteko duen gaitasunaren inguruko mugak, aurrerapenak eta mitoak gertutik aztertzen ditugu.

🔗 Zer egin dezake IA sortzaileak gizakiaren esku-hartzerik gabe?
Ulertu non funtziona dezakeen IA modu independentean eta non den oraindik ezinbestekoa gizakiaren gainbegiratzea.