Čo považujete za najväčšiu výzvu z pohľadu dôveryhodnej AI s ktorou sa aktuálne pri vývoji vášho systému AI snažíte vyrovnať?
Jednou z náročných výziev je veľmi rýchly vývoj snáh o podvody, ktoré sú tiež často poháňané AI. Ak má nielen koncový užívateľ, ale aj náš klient (napríklad banka) mať pocit dôvery vo vyhodnotenie, ktoré AI ponúka, potrebujeme jednak neustále zdokonaľovať detekciu podvodov a vedieť o tom informovať aj ďalších klientov.
Predstavte váš systém AI a vysvetlite na základe čoho ho považujete za príklad dôveryhodnej AI.
Digital Onboarding Toolkit (DOT) je súbor nástrojov vyvinutých rôznymi AI prístupmi, ktorý umožňuje s pomocou smartfónu alebo webkamery bezpečne a dôveryhodne verifikovať identitu užívateľa na diaľku bez toho, aby potreboval navštíviť napríklad pobočku banky. Dôveryhodnosť spočíva predovšetkým v schopnosti vyhodnotiť spoľahlivosť každého jedného kroku v procese, od kvality rozoznávania tváre cez overenie živosti po kvalitu čítania ID dokumentu. Všetky tieto hodnoty má k dispozícii používateľ systému (napríklad banka) a vie si presne vyhodnotiť riziko každej jednej verifikácie. AI je teda len pomocníkom, nie však nástrojom s rozhodovacími právomocami.
Prečo je pre vás dôležité aby váš systém AI bol v spoločnosti vnímaný ako dôveryhodný a prečo by sa aj iné firmy mali snažiť o vývoj dôveryhodnej AI?
Dôveryhodnosť DOT je nevyhnutná už len preto, aby ju koncoví používatelia boli ochotní využívať na citlivé transakcie, od finančných po komunikáciu so štátom. Cieľom DOTu je zjednodušiť užívateľom život a ušetriť im cestovanie na pobočky či úrady – ak by tomuto nástroju nedôverovali, tak nesplní svoju hlavnú funkciu. Dôležité je, aby DOTu dôverovali aj naši klienti (napríklad banky a telekomunikačné spoločnosti), pretože im plní kritickú úlohu, teda overovanie identity klienta. Regulácia na klientov kladie povinnosť overiť ju dostatočne a ak by túto požiadavku neplnili, hrozia im pokuty.
