AI Lietuvos bankuose ir finansų sektoriuje: kas keičiasi

AI finansų sektoriuje yra dirbtinio intelekto naudojimas bankų, kredito unijų ir kitų finansinių institucijų procesuose: nuo sukčiavimo aptikimo iki kredito rizikos vertinimo: kartu su būtinybe subalansuoti šią naudą su duomenų apsaugos ir kibernetinio saugumo reikalavimais. Lietuvos bankų sektoriaus atstovų diskusija rodo, kad ši pusiausvyra šiandien yra vienas svarbiausių iššūkių visai finansų rinkai.

Ką atskleidė bankų asociacijos konferencija

Lietuvos bankų asociacija (LBA) publikacijoje „Dirbtinis intelektas, jau ir finansų sektoriuje: ką tai reiškia vartotojams ir bankams?“ aprašo LBA ir Valstybinės duomenų apsaugos inspekcijos (VDAI) organizuotą konferenciją „Duomenų apsauga finansų srityje: tarp BDAR, dirbtinio intelekto ir kibernetinio saugumo iššūkių“. LBA prezidentė dr. Eivilė Čipkutė pažymėjo, kad per dešimtmetį finansų sektoriuje pasiektas technologinis progresas buvo stulbinantis: šiandien banką galima „turėti savo delnuose“.

Tačiau ta pati skaitmenizacija atveria ir naujas landas piktnaudžiavimui: pinigų plovimui ar sankcijų apėjimui.

DI: ir įrankis, ir grėsmė vienu metu

Publikacijoje pabrėžiama, kad DI technologijos, tokios kaip generatyvinis DI, leidžia sukčiams kurti itin įtikinamus deepfake vaizdo ir garso įrašus, kurie gali apgauti net patyrusius specialistus. Kaip konkretų pavyzdį LBA nurodo atvejį, kai Honkongo įmonė prarado 25 mln. dolerių po to, kai sukčiai, pasitelkę deepfake technologiją, apsimetė įmonės vadovais ir įtikino darbuotoją pervesti lėšas.

Nacionalinio kibernetinio saugumo centro duomenys, cituojami LBA, taip pat rodo, kad 2023 metais Lietuvoje vidutinio rimtumo incidentų skaičius išaugo 12 proc. palyginti su 2022 metais, o dėl kibernetinių incidentų įvykę asmens duomenų saugumo pažeidimai paveikė net 49 proc. subjektų.

Kaip bankai bando rasti pusiausvyrą

„Revolut Bank“ valdybos narys Vytautas Danta LBA konferencijoje įvardijo vieną pagrindinių iššūkių: kaip ir kokiais duomenimis apmokyti DI modelius. Mažesnės finansinės institucijos, jo teigimu, dažnai neturi pakankamai duomenų kokybiškai treniruoti DI sistemas, o dalijimasis duomenimis tarp organizacijų tampa sudėtingas dėl BDAR ribojimų.

„Negalima tiesiog naudoti viešų generatyvinio DI įrankių, tokių kaip „ChatGPT“, su vidiniais asmens duomenimis, tai prieštarauja reglamentui“, pažymėjo V. Danta, pridurdamas, kad prastai paruoštas sukčiavimo nustatymo modelis gali neidentifikuoti įtartinų operacijų arba be pagrindo riboti niekuo dėtus klientus.

Konferencijoje taip pat dalyvavusi „Microsoft“ nacionalinė technologijų vadovė Vidurio Europoje Renate Strazdina pridūrė, kad kibernetiniai nusikaltėliai taip pat prisitaiko prie to, kaip generatyvinis DI keičia paslaugų teikimo procesus, todėl privačiam ir viešajam sektoriui būtina atsakingai vertinti naujai kylančias rizikas.

Ko iš to gali pasimokyti kiekviena Lietuvos įmonė

Nors konferencijoje kalbama apie bankus, principai vienodai aktualūs bet kuriai įmonei, kuri diegia AI ir dirba su klientų ar finansiniais duomenimis:

• AI modelio kokybė tiesiogiai priklauso nuo duomenų, kuriais jis apmokytas: prastas duomenų rinkinys reiškia prastus sprendimus.
• Viešų AI įrankių naudojimas su vidiniais ar klientų duomenimis gali pažeisti BDAR reikalavimus.
• DI atveria naujas sukčiavimo formas (deepfake, tikslingas fišingas), todėl darbuotojų sąmoningumas tampa tokia pat svarbi apsaugos priemonė kaip ir pati technologija.

Įmonėms, diegiančioms AI sprendimus IT infrastruktūroje, verta iš anksto numatyti, kaip duomenys bus tvarkomi, saugomi ir kas atsakingas už DI sistemos priežiūrą: lygiai taip, kaip tai daro bankų sektorius.

Klaidingi įspėjimai: aritmetika, kurią verta atlikti prieš diegimą

Sukčiavimo aptikimo modelio kokybė matuojama ne tik tuo, kiek pažeidimų jis pagauna, bet ir tuo, kiek sąžiningų operacijų klaidingai pažymi. Antrasis skaičius versle dažnai lieka nesuskaičiuotas.

Paprastas pavyzdys. Tarkime, sistema tikrina 10 000 operacijų per mėnesį ir pažymi 3 procentus jų kaip įtartinas. Tai 300 atvejų. Jei realiai problemiškos yra 30, likę 270 yra klaidingi įspėjimai. Kiekvieno peržiūra užima 10 minučių, taigi 45 valandos per mėnesį vien tikrinimui to, kas tvarkinga.

Sugriežtinus modelį, pažymėtų operacijų dalis nukrenta iki 1 procento, tai yra 100 atvejų ir apie 15 valandų. Bet kartu išauga tikimybė, kad dalis realių pažeidimų prasprūs. Tai ne techninis, o verslo sprendimas: kiek klaidingų įspėjimų esate pasiruošę tikrinti, kad nepraleistumėte vieno tikro atvejo.

Ta pati logika galioja bet kokiam AI sprendimui, kuris ką nors klasifikuoja: užklausų paskirstymui, dokumentų atpažinimui, kredito vertinimui. Prieš diegimą suskaičiuokite abi klaidų puses ir jų kainą valandomis.

Kontrolės sąrašas prieš AI diegimą su jautriais duomenimis

1. Surašykite, kokie duomenys apskritai pateks į įrankį. Vardai, sutarčių numeriai, sąskaitų išrašai ar tik apibendrinti rodikliai. Jei sąrašo nėra, nėra ir sprendimo, kurį galima pagrįsti.
2. Patikrinkite, kur duomenys apdorojami ir ar jie naudojami modelio mokymui. Tiekėjų sąlygos skiriasi, o skirtumas tarp verslo plano ir viešos versijos dažnai būtent čia.
3. Įvertinkite duomenų kokybę. Modelis su netvarkingais įrašais duos netvarkingus sprendimus, ir jokia licencija to neištaisys. Apie tai plačiau duomenų parengties tekste.
4. Nustatykite, kada sprendžia žmogus. Sutarkite ribą raštu: kurie atvejai patvirtinami automatiškai, kurie visada keliauja darbuotojui.
5. Susitarkite dėl žurnalo ir peržiūros. Turi likti pėdsakas, kas ir kada priėmė sprendimą, kitaip audituoti neįmanoma.
6. Aprašykite taisykles darbuotojams. Trumpos, konkrečios AI naudojimo taisyklės veikia geriau nei bendri nurodymai būti atsargiems.

Dažniausios klaidos ir jų taisymas

• Vidiniai duomenys suvedami į viešą pokalbių įrankį. Sprendimas: verslo lygio paskyros su aiškiomis duomenų sąlygomis ir taisyklė, kad asmens duomenys niekada neklijuojami į laisvą laukelį. Kaip tai sutvarkyti, aprašome tekste apie saugų AI naudojimą įmonėje.
• Modelis paleidžiamas be bazinio rodiklio. Jei nežinote, kiek klaidų buvo prieš diegimą, negalėsite pasakyti, ar situacija pagerėjo. Sprendimas: mėnesį matuokite dabartinį procesą prieš keisdami jį.
• Darbuotojai neapmokyti atpažinti naujų sukčiavimo formų. Balso ar vaizdo klastotė apeina bet kokią techninę apsaugą, jei mokėjimą patvirtina žmogus. Sprendimas: dviejų kanalų patvirtinimo taisyklė bet kokiam neįprastam mokėjimo nurodymui, neatsižvelgiant į tai, kas skambina.
• Atsakomybė lieka „IT skyriui“. Sprendimas: konkretus savininkas verslo pusėje, kuris žino procesą, ir aiškus susitarimas, kas peržiūri rezultatus kas mėnesį.

Maža įmonė ir didesnė komanda

Vieno ar dviejų žmonių finansų funkcijoje pagrindinė rizika yra ne modelio kokybė, o paprastas žmogiškas apsirikimas: suvesti kliento duomenys ten, kur neturėjo patekti, arba pervestos lėšos pagal įtikinamą laišką. Čia daugiausiai duoda ne technologija, o dvi ar trys rašytinės taisyklės ir mokėjimų patvirtinimo tvarka.

Dešimties ir daugiau žmonių komandoje atsiranda antra problema: skirtingi žmonės naudoja skirtingus įrankius skirtingai. Tada verta standartizuoti, kas kuo naudojasi, ir kartą per ketvirtį peržiūrėti, kokie duomenys keliauja į išorę. Bendrą saugumo vaizdą Lietuvos kontekste apžvelgiame kibernetinio saugumo tekste.

Kodėl verta atlikti AI auditą prieš diegimą

Kaip rodo LBA konferencijos diskusija, net didelės finansinės institucijos vis dar ieško balanso tarp DI naudos ir rizikos. Mažesnei įmonei šis balansas dar sunkiau pasiekiamas be išorinės pagalbos, nes trūksta vidinių kompetencijų įvertinti, kur DI sprendimas saugus, o kur: ne. Būtent tam skirtas AI auditas, jis padeda iš anksto identifikuoti duomenų saugumo spragas ir parengti įmonę atsakingam AI naudojimui dar prieš diegimą.

Ką iš to pasiimti

Finansų sektoriaus patirtis rodo aiškią taisyklę: DI nauda visada eina koja kojon su nauja rizika, ir šią riziką reikia valdyti sąmoningai, o ne ignoruoti.

Kaip pradėti: prieš diegdami AI sprendimą, kuris liečia klientų ar finansinius duomenis, įvertinkite, kokiais duomenimis jis bus apmokytas, kas turės prieigą prie rezultatų ir kaip bus stebima galima klaida ar piktnaudžiavimas.

Padedame Lietuvos įmonėms saugiai integruoti AI į procesus, kuriuose dirbama su jautriais duomenimis. Norite žinoti, ar jūsų įmonė pasiruošusi saugiam AI diegimui? Konsultacija nemokama.