Jedným z najväčších prísľubov umelej inteligencie je dosiahnutie efektívnejších podnikových procesov a minimalizácia monotónnej a opakujúcej sa práce. Nasadenie takýchto systémov v automatizácii procesov môže pomôcť zjednodušiť zložité úlohy a napokon automatizovať časť podnikania s cieľom ušetriť náklady a zvýšiť príjmy. Takáto optimistická vízia však prináša aj značné etické a spoločenské otázky, na ktoré je potrebné odpovedať ešte predtým, ako tieto systémy začnú úplne transformovať naše trhy.
Náš etický tím mal príležitosť facilitovať sériu expertných workshopov, počas ktorých sme vykonali hodnotenie založené na etike systému X-bot – sofistikovaného AI systému navrhnutého na komplexnú automatizáciu procesov, od jednoduchých úloh až po tie najzložitejšie, ktoré zahŕňajú asynchrónne aktivity a neštruktúrované dáta. Tento systém neautomatizuje len jednotlivé úlohy, ale modeluje celé procesy, čím umožňuje komplexnú optimalizáciu a zefektívnenie. Dokáže tiež spracovávať a analyzovať rôzne typy neštruktúrovaných údajov, ako sú e-maily, tikety, chatové konverzácie či návody, a získavať tak ucelený prehľad o procese. Na analýzu dát, kategorizáciu informácií a riadenie procesov využíva úzko zamerané AI nástroje, ako sú klasifikátory, extrakcia entít, taxonomické a ontologické modely či expertné systémy.
Hodnotenie systému X-bot založené na etike pozostávalo zo šiestich facilitovaných stretnutí, ktoré sa konali od januára do mája. Do tohto procesu sa zapojilo sedem členov tímu spoločnosti Xolution a traja špecialisti z KInIT na dôveryhodnú umelú inteligenciu, ktorí pôsobili ako facilitátori. Účastníci workshopov mali rôznu odbornú špecializáciu a zastávali rôzne pozície v rámci spoločnosti (CEO, CTO, vedúci AI tímu, architekt riešení, senior vývojár, senior výskumník a tester), čo bolo prínosom vzhľadom na rôznorodé perspektívy, ktoré do procesu hodnotenia založeného na etike priniesli.
Ešte pred samotným hodnotením tím Xolution proaktívne identifikoval viaceré možné etické obavy týkajúce sa ich AI systému. Tieto zahŕňali potenciálne narušenie princípov slobodného trhu, ako napríklad potláčanie konkurencie a rozmanitosti. Zároveň poukázali na obavy zo straty kontroly nad systémom, etické dôsledky použitých modelov a výzvy spojené s vysvetliteľnosťou či predvídateľnosťou jeho správania. Spoločne sme tieto obavy rámcovali a riešili v širšom kontexte siedmich požiadaviek na dôveryhodnú umelú inteligenciu. Dôležitou súčasťou bolo analyzovať etické a spoločenské otázky systému X-bot z hľadiska ich dopadu na rôznych priamych aj nepriamych zainteresovaných aktérov. Okrem priamych aktérov, ako sú koncoví používatelia, „zastaranejšie“ firmy, firmy z „éry Facebooku“, startupy či špecializovaný personál klientov, sme identifikovali aj množstvo nepriamych, no výrazne ovplyvnených aktérov. Medzi najvýznamnejších nepriamych aktérov patrili príbuzní koncových používateľov a konkurencia klientov spoločnosti Xolution.
Po ukončení hodnotenia je zrejmé, že vývoj, nasadenie a používanie systému X-bot môže priniesť určité etické a spoločenské riziká. Väčšina týchto rizík sa týka ochrany súkromia a správy údajov (najmä pokiaľ ide o práva na súkromie a tzv. odstrašujúce účinky), technickej robustnosti a bezpečnosti (v súvislosti s problémami s presnosťou, chybami systému alebo neistotami) a ľudskej agentúry a dohľadu (najmä pokiaľ ide o nadmernú dôveru v systém a tzv. „Eliza efekt“). Zároveň existujú aj významné riziká v oblasti diverzity, nediskriminácie a spravodlivosti (potenciálna diskriminácia alebo problémy s univerzálnosťou dizajnu) a spoločenského a environmentálneho blaha (napr. strata zručností alebo komunikačné problémy týkajúce sa dopadov na prácu).
Pokiaľ ide o hodnotenie založené na etike, spoločnosť Xolution prejavila silnú snahu identifikovať a zmierniť etické a spoločenské riziká svojho systému a jeho dopad na zainteresovaných aktérov. Počas celého hodnotiaceho procesu, vrátane prípravnej a hodnotiacej fázy, spoločnosť plne spolupracovala. Ich nadšenie pre riešenie rôznych výziev a ochota čeliť náročným otázkam prispeli k plynulej a produktívnej diskusii počas workshopov. Ďalším krokom pri zmierňovaní etických a spoločenských rizík identifikovaných v rámci hodnotenia by malo byť zameranie sa na najbezprostrednejšie riziká zo zoznamu rizík a overenie navrhnutých protiopatrení.
„Chcel by som poďakovať facilitátorom za ich výdrž, trpezlivosť a odborné znalosti, ktoré nám pomohli riadne prediskutovať právne, etické a spoločenské otázky týkajúce sa systému X-bot. Teraz lepšie rozumiem dopadom nášho systému na ľudí a tomu, ako k nim v budúcnosti lepšie pristupovať.“ Monika Gotsová, Senior Developer at Xolution
„Pre nás to bolo jedno z najvplyvnejších podujatí roka. Bolo to skutočné otvorenie očí.“ Libor Bešenyi, Co-CEO & CTO at Xolution
