Jedna z kľúčových požiadaviek na vývoj, nasadzovanie a používanie dôveryhodnej umelej inteligencie sa týka transparentnosti. O súčasných systémoch umelej umelej inteligencie, predovšetkým tých, ktoré využívajú princípy hlbokého učenia (deep learning), sa častokrát hovorí ako o čiernych skrinkách (black-box). To znamená, že ani samotní tvorcovia takýchto systémov nemusia byť schopní úplne presne určiť, na základe čoho ich systém AI dospel k danému výstupu. To môže byť problematické práve pri prípadoch, keď takéto výstupy môžu mať zásadný vplyv na náš život. Je preto nanajvýš dôležité, aby v procese vývoja, nasadzovania a používania takýchto systémov boli dodržané aj zásady, ktorých cieľom je dosiahnutie primeranej miery transparentnosti.
Jednou z vrstiev transparentnosti je vysledovateľnosť (traceablity), kedy nás zaujíma. ako sú zdokumentované dáta a procesy, ktoré vedú ku konkrétnym rozhodnutiam systémov AI. Vďaka tomu potom dokážeme ľahšie odsledovať, na základe čoho sa systém dopracoval k svojim záverom a v prípade nežiaducich výsledkov (akými sú napríklad rôzne diskriminačné či škodlivé rozhodnutia) spätne rozanalyzovať, kde presne systém zlyhal a snažiť sa predísť takémuto správaniu v budúcnosti.
Druhým dôležitým aspektom je vysvetliteľnosť (explainability). Tá sa týka schopnosti vedieť zrozumiteľne vysvetliť spôsob akým sa generujú výstupy systémov umelej inteligencie, či z nich vyplývajúce ľudské rozhodnutia. Cieľom vysvetliteľnosti je poskytnúť zrozumiteľné vysvetlenie, prečo sa systém rozhodol tak, ako sa rozhodol. Takéto vysvetlenie by sa malo pritom poskytnúť primerane situácii a byť prispôsobené odborným znalostiam dotknutej strany, či už je to profesionálny používateľ, doménový expert, regulačný orgán alebo výskumník. Lepšia vysvetliteľnosť však môže viesť k obmedzenej presnosti, preto je nevyhnutné vedieť komunikovať dotknutým stranám kompromisy, po ktorých bolo potrebné v záujme vyššie vysvetliteľnosti siahnuť. Tvorcovia systémov AI by tak mali byť schopní primerane komunikovať nielen benefity, ale aj technické limitácie a obmedzenia ich systémov
Kľúčovým prvkom pri dosahovaní vyššej transparentnosti je teda aj vhodne zvolená komunikácia. Tá začína už jednoduchým a jasným pomenovaním situácií, v ktorých užívatelia vstupujú do kontaktu so systémom umelej inteligencie. Taktiež by ich tvorcovia nemali vyvolávať v užívateľoch mylný dojem, že na druhej strane sa nachádzajú iné ľudské bytosti. Taktiež užívatelia by mali mať možnosť odmietnuť interakciu so strojom a požiadať o zásah človeka, predovšetkým v prípadoch, pri ktorých môže dôjsť k zásadným dopadom na ich životy, zdravie, či bezpečnosť.
