Čo považujete za najväčšiu výzvu z pohľadu dôveryhodnej AI s ktorou sa aktuálne pri vývoji vášho systému AI snažíte vyrovnať?
Najväčšou výzvou v procese vývoja nášho AI systému TrollWall je zabezpečiť, aby rozhodnutia AI boli čo najtransparentnejšie a najlepšie vysvetliteľné pre našich klientov. Je to kombinácia dvoch vecí. Najprv musíme z rozhodnutí AI modelu čo najpresnejšie zistiť, aký bol dôvod skrytia určitého komentára, ktorá časť textu je problematická a ktoré konkrétne pravidlo porušuje. Následne musíme tieto dôvody čo najefektívnejšie odkomunikovať našim klientom cez naše užívateľské prostredie, aby nevznikali akékoľvek pochybnosti alebo nedorozumenia.
Predstavte váš systém AI a vysvetlite na základe čoho ho považujete za príklad dôveryhodnej AI.
TrollWall je služba navrhnutá s cieľom automaticky identifikovať a skrývať toxické a vulgárne komentáre na sociálnych sieťach našich klientov. Jeho hlavným účelom je zlepšiť kvalitu diskusií na internete odfiltrovaním nevhodného obsahu, čím umožňuje klientom a ich komunitám sústrediť sa na konštruktívnu a pozitívnu výmenu názorov. Považujeme ho za príklad dôveryhodnej AI, pretože je postavený na zásadách transparentnosti a etickej zodpovednosti. Používa viacjazyčné NLP technológie, ktoré sú trénované na dátach anotovaných nezávislými lokálnymi lingvistickými expertami, znalými miestnych pomerov, pre odstránenie predsudkov. Zároveň sú výstupy neustále revidované na základe spätnej väzby. Naše tímy zostavujeme s ohľadom na vyváženosť pohlavia, náboženskej príslušnosti, príslušnosti k menšinám a ďalších indikátorov. Všetky právomoci AI sú striktne definované, jej rozhodnutia sú zaznamenávané a zvrátiteľné.
Prečo je pre vás dôležité aby váš systém AI bol v spoločnosti vnímaný ako dôveryhodný a prečo by sa aj iné firmy mali snažiť o vývoj dôveryhodnej AI?
Je pre nás kľúčové, aby bol TrollWall AI vnímaný ako dôveryhodný, keďže dôvera zákazníkov priamo ovplyvňuje jeho adopciu a efektívnosť. Pri tréningu našej umelej inteligencie vychádzame z medzinárodne uznávaných definícií hate speech a máme nastavený systém na odstránenie predsudkov jednotlivých ľudí anotujúcich dáta. Napriek tomu by oficiálne označenie dôveryhodnej AI mohlo odstrániť prípadné pochybnosti verejnosti pri takej citlivej téme. AI je dnes témou širokej verejnosti a často je vnímaná predovšetkým v negatívnom svetle. Preto je dôležité, aby aj iné firmy venovali pozornosť dôveryhodnosti svojej AI, čo zvyšuje spoločenskú dôveru a podporuje širšie pozitívne dopady tohto technologického pokroku.
