Čo považujete za najväčšiu výzvu z pohľadu dôveryhodnej AI s ktorou sa aktuálne pri vývoji vášho systému AI snažíte vyrovnať?
Hlavnou výzvou je slabá dostupnosť nezávislých dát a chýbajúce štandardy. Nie je zrejmé, ako systémy umelej inteligencie treba testovať. Nároky na varianciu v dátach sú nejasné. Objektívna nezaujatosť v dátach je nedosiahnuteľná a mnohé kritické skupiny pacientov (rôzne etniká anárodnosti, či špeciálne demografické a klinické podskupiny) sú často v dátach zastúpené nedostatočne alebo vôbec. Rozvojové krajiny často nemajú žiadne digitálne dáta potrebné na validáciu AI riešení pre ich populáciu.
Predstavte váš systém AI a vysvetlite na základe čoho ho považujete za príklad dôveryhodnej AI.
Jeden z produktov Powerful Medical je model na predikciu oklúzneho infarktu myokardu. Ako základný diagnostický nástroj dnes slúži EKG. Dnes pri jeho analýze vznikajú mnohé falošne pozitívne detekcie infarktu, ktoré aktivujú tzv. cathlab – finančne a časovo náročný invazívny medicínsky zákrok. Okrem toho je aj veľká miera falošne negatívnych prípadov detekcie oklúzneho infarktu myokardu, ktoré oneskorujú správnu liečbu pacienta a zvyšujú riziko úmrtia. Náš model je validovaný interne aj externe, zahŕňajúc obe retrospektívne a prospektívne validácie na širokej škále pacientov z rôznych geografických i etnických skupín. Model dosahuje lepšie výsledky ako aktuálny diagnostický klinický štandard – medzinárodne uznávané STEMI kritériá.
Prečo je pre vás dôležité aby váš systém AI bol v spoločnosti vnímaný ako dôveryhodný a prečo by sa aj iné firmy mali snažiť o vývoj dôveryhodnej AI?
Náš produkt je aplikovaný v silno regulovanom a kontrolovanom odvetví – medicíne. Každý systém, ktorý má vplyv na životy, by mal byť tým najdôveryhodnejším systémom nielen pre pacientov, ale aj pre samotných lekárov, ktorí daný systém používajú. Čím spolahlivejší systém, tým viac lekárov ho bude bez obáv používať. Vytváraním AI s dôrazom na jej dôveryhodnosť umožňujeme vytvorenie produktívneho prostredia pre inovácie, ktoré môžu mať pozitívny vplyv pre nás a našu spoločnosť.
