Jednou z najväčších možností umelej inteligencie je dosiahnuť efektívnejšie obchodné procesy a minimalizovať monotónnu a opakujúcu sa prácu. Nasadenie takýchto systémov v automatizácii procesov môže pomôcť zjednodušiť zložité úlohy a najmä automatizovať niektoré podniky, čo ušetrí peniaze a zvýši príjmy. Avšak takáto jasná vízia prináša značné etické a spoločenské otázky, na ktoré je potrebné odpovedať skôr, než tieto systémy začnú úplne transformovať naše trhy.
Náš etický tím mal príležitosť facilitovať sériu odborných workshopov, počas ktorých sme uskutočnili hodnotenie systému X-bot na základe etických princípov. X-bot je sofistikovaný AI systém navrhnutý na komplexnú automatizáciu procesov – od jednoduchých úloh až po najzložitejšie aktivity zahŕňajúce asynchrónne činnosti a neštruktúrované dáta. Tento systém neautomatizuje len jednotlivé úlohy, ale modeluje celé procesy, čo umožňuje komplexnú optimalizáciu a zefektívnenie. X-bot dokáže spracovávať a analyzovať rôzne typy neštruktúrovaných dát, ako sú e-maily, tikety, chatové konverzácie či manuály. Na získanie komplexného prehľadu o procesoch využíva nástroje úzkej umelej inteligencie, ako sú klasifikátory, extrakcia entít, taxonomické a ontologické modely či expertné systémy. Tieto nástroje slúžia na analýzu dát, kategorizáciu informácií a riadenie procesov.
Ako prebieha etické hodnotenie?
Etické hodnotenie systému X-bot pozostávalo zo šiestich facilitovaných stretnutí, ktoré sa konali od januára do mája. Tohto procesu sa zúčastnilo sedem členov tímu spoločnosti Xolution a traja špecialisti z KInIT zameraní na dôveryhodnú AI, ktorí pôsobili ako facilitátori. Účastníci workshopov mali rôzne odborné znalosti a zastávali rôzne pozície v rámci spoločnosti (CEO, CTO, vedúci AI tímu, solution architekt, senior vývojár, senior výskumník a tester), čo bolo výhodou vďaka rôznorodým perspektívam, ktoré mohli priniesť do procesu etického hodnotenia.
Pred samotným hodnotením tím Xolution proaktívne identifikoval niekoľko možných etických problémov súvisiacich s ich AI systémom. Medzi nimi boli potenciálne narušenia princípov voľného trhu, ako napríklad obmedzenie konkurencie a rozmanitosti. Ďalej identifikovali riziko straty kontroly nad systémom, etické implikácie základných modelov a výzvy spojené so správnym vysvetľovaním alebo predvídaním jeho správania. Spoločne sme tieto problémy definovali a riešili v širšom kontexte siedmich požiadaviek na dôveryhodnú AI.
A čo ďalej?
V súvislosti s etickým hodnotením spoločnosť Xolution prejavila silnú vôľu identifikovať a zmierniť etické a spoločenské riziká svojho systému a jeho dopadu na zainteresované strany. Spoločnosť plne spolupracovala počas celého procesu hodnotenia, vrátane fázy prípravy a vyhodnocovania. Ich nadšenie pri riešení rôznych výziev a odpovedaní na náročné otázky prispelo k plynulej a produktívnej diskusii počas workshopov. Ďalším krokom v zmierňovaní etických a spoločenských rizík identifikovaných počas hodnotenia by malo byť zameranie sa na najnaliehavejšie riziká zo zoznamu rizík a overenie navrhnutých opatrení na ich elimináciu.
,,Chcela by som poďakovať facilitátorom za ich vytrvalosť, trpezlivosť a odborné znalosti, ktoré nám pomohli riadne diskutovať o právnych, etických a spoločenských otázkach týkajúcich sa systému X-bot. Teraz lepšie rozumiem dopadom nášho systému na ľudí a tomu, ako k nim v budúcnosti lepšie pristupovať.’’
Monika Gotsová, senior vývojárka
,,Pre nás to bola jedna z najvýznamnejších udalostí roka. Bol to skutočne zásadný moment.’’
Libor Bešenyi, Co-CEO & CTO
Autor článku: Juraj Podroužek (KInIT)
