Čo považujete za najväčšiu výzvu z pohľadu dôveryhodnej AI s ktorou sa aktuálne pri vývoji vášho systému AI snažíte vyrovnať?
Naši klienti v rámci svojej práce a úloh potrebujú mať vysokú dôveru v technológiu, s ktorou pracujú a to na viacerých úrovniach – od získania dát, procesingu dát, ich storovania, integrity až po ich prezentáciu. Zároveň potrebujú mať dôveru aj v našu spoločnosť ako entitu, ktorá predstavuje dôveryhodného, odborného partnera až mentora, ktorý im napomáha zorientovať sa v cutting edge a dynamicky sa meniacom odvetví AI. Z týchto dôvodov musí byť naša technológia do maximálnej možnej miery pre klientov transparentná (napr. informáciou o používaných modeloch, atd.), bezpečná (napr. vlastná hardvérová infraštruktúra a pravidelné penetračné testovanie, atd.) a potreba in-house kapacít (napr. tréning vlastných AI/ML modelov, publikovanie vo forme open science, podpora používateľov, atd.). Čiže nejde len o jednu konkrétnu výzvu a opatrenie ale komplexný súbor problémov a opatrení.
Predstavte váš systém AI a vysvetlite na základe čoho ho považujete za príklad dôveryhodnej AI.
Misiou našej spoločnosti je „To empower human analysts with the latest AI-technology.“ To znamená, že naše technológie a produkty napomáhajú bezpečnostným analytikom a STRATCOM expertom pri spracovaní dát, či už vo forme textu, videa, hovoreného slova alebo obrázkov na tak veľkej škále a v takej efektívnosti, ktorá nie je dosiahnuteľná ľudskými kapacitami. Človek, analytik, je stredobodom nášho záujmu a teda aj našej technológie. Práve on vykonáva rozhodnutia na základe dát, ktoré sú získané, procesované a prezentované našou technológiou. Z tohto dôvodu musí byť naša technológia pre neho transparetná. Ako jeden z príkladov je možné uviesť princíp explicitnej identifikácie dát pre používateľa, ktoré boli procesované alebo vytvorené AI/ML modelmi. Takto má používateľ jasnú informáciu o tom, čo bolo vytvorené za pomoci AI, má prístup aj ku zdrojovým dátam a má možnosť poskytovať feedback priamo jednotlivým modelom.
Prečo je pre vás dôležité aby váš systém AI bol v spoločnosti vnímaný ako dôveryhodný a prečo by sa aj iné firmy mali snažiť o vývoj dôveryhodnej AI?
Odpoveď v našom prípade je pomerne jednoduchá a to, že ak klienti nebudú dôverovať našej technológii a našej spoločnosti, tak ich budeme strácať a čeliť reputačnému riziku.
