Čo považujete za najväčšiu výzvu z pohľadu dôveryhodnej AI s ktorou sa aktuálne pri vývoji vášho systému AI snažíte vyrovnať?
Pri vývoji nášho systému AI sa stretávame s hlavnou výzvou v podobe zberu a úpravy medicínskych dát. Tento proces zahŕňa viacero aspektov, ako napríklad chyby pri anotovaní medicínskych údajov stomatológmi, pričom sa musíme vyrovnávať s rizikami spojenými s inter a intraobserver variabilitou, čo značne komplikuje stanovenie tzv. Ground true. Zároveň je nevyhnutné dbať na etickú a bezpečnú manipuláciu s osobnými údajmi pacientov, aby sme zaručili ochranu ich súkromia a práv. Navyše je dôležité riešiť aj problémy nadmerného spoliehania sa na diagnostiku nášho AI, keďže nesprávna diagnóza zo strany stomatológa môže mať vážne následky pre pacientov zdravotný stav. S tým je spojená aj náročná téma vysvetliteľnosti výstupov našej AI tak aby sa k nim stomatológ vedel postaviť kriticky a správne sa rozhodnúť. Nakoniec je kľúčové aktívne pracovať na zmierňovaní rizík spojených s predsudkami, ako sú subjektivita, etnický pôvod, pohlavie a vek, v dátach a modeloch, s cieľom zabezpečiť spravodlivé a etické výsledky pre všetkých používateľov.
Predstavte váš systém AI a vysvetlite na základe čoho ho považujete za príklad dôveryhodnej AI.
Náš systém AI, predstavuje pomocníka pre stomatológov, profesorov a študentov pri interpretácií RTG snímok v stomatologií. Za dôveryhodnú AI ho považujeme preto lebo pri vyvoji dbáme na viaceré kľúčové aspekty. Po prvé, prioritizujeme Data-Centric prístup, ktorý si zakladá na kvalitných dátach. Po druhé, etické princípy sú intergrované do vývoja, od zberu pacientskych údajov cez trénovanie modelov až po ich nasadenie. Nakoniec, aktívna spolupráca so stomatológmi, profesormi a študentami po celom svete zabezpečuje, že systém zostáva relevantný, efektívny a zodpovedný voči potrebám svojich používateľov (User-Centric).
Prečo je pre vás dôležité aby váš systém AI bol v spoločnosti vnímaný ako dôveryhodný a prečo by sa aj iné firmy mali snažiť o vývoj dôveryhodnej AI?
Je pre nás dôležité, aby náš systém AI bol vnímaný ako dôveryhodný v spoločnosti, pretože priamo vplýva na rozhodnutia stomatológov, a tým aj nepriamo na zdravie pacientov a ich dôveru v AI technológie. Prioritizáciou dôveryhodnosti nielen zvyšujeme kvalitu starostlivosti, ale aj podporujeme väčšiu akceptáciu a prijatie AI v zdravotníctve. Aj iné spoločnosti by mali usilovať o vývoj dôveryhodnej AI, aby zachovali etické normy, minimalizovali riziká a napokon prispeli k pozitívnemu spoločenskému vplyvu a udržateľnému inovovaniu.
