Vývoj unikátního souboru nástrojů EY Trusted AI, který zhodnotí dopady a důvěryhodnost systémů založených na umělé inteligenci, dokončila společnost EY. K rozboru technického návrhu konkrétního systému využívá pokročilé analytické modely. Lze tak získat detailní přehled o relevantních rizicích s ohledem na jeho nasazení, použité technologie, aspekty provozního prostředí nebo míru autonomie v porovnání s lidským činitelem. Koncovým výstupem je bodové ohodnocení zkoumaného řešení.
„Důvěra je v tomto segmentu prvořadá, nejde jen o položku na seznamu, kterou si odškrtneme před tím, než je systém AI spuštěn. Na rozdíl od klasického softwaru, který lze modifikovat a v případě potřeby v něm opravit chyby, může být neuronová síť, vycvičená pomocí zkreslených dat, nepoužitelná. Celá investice by tak přišla vniveč.
Koncepční rámec EY Trusted AI představuje službu, která organizacím po celém světě umožní posílit důvěru v řešení na bázi AI a vytěžit z příslušných technologií trvalou hodnotu,“ říká Vladislav Severa, vedoucí partner týmu pokročilé datové analýzy ve společnosti EY a dodává: „V EY disponujeme řadou vlastních aplikací využívajících principy umělé inteligence, které nacházejí uplatnění u klientů v různých oblastech, od zvýšení spokojenosti zákazníků, až po optimalizaci skladových zásob. Při využití těchto nástrojů je stále více kladen důraz na etiku. Jsme proto rádi, že nyní představujeme nástroj, který pomáhá kvantifikovat vyvíjená řešení s cílem minimalizovat rizika umělé inteligence a tím napomoci jejich uplatnění v reálném světě a přijetí ze strany společnosti.“
Nová platforma poskytuje cenné poznatky vývojářům AI, vedení firem nebo pracovníkům odpovědným za řízení rizik. Komplexní algoritmy stanoví bodové skóre vyvíjeného systému, v rámci hodnocení jsou zohledněny dopady na uživatele, ale také nezamýšlené důsledky v rovině sociální nebo etické. Benefitem zmírňujícím zbytková rizika je i posouzení celkové vyspělosti systému. EY Trusted AI tak pomáhá podnikům lépe pochopit rizika a připravit se na nová, která mohou podkopat důvěru v nabízené produkty, značky, ale také vztahy a dlouhodobou reputaci.
K vytvoření rizikového profilu zkoumaného řešení AI slouží řada názorných hodnoticích nástrojů, uživatele jimi provádí interaktivní webové rozhraní EY Trusted AI. Uživatelsky přívětivé vizualizace poskytují rychlý přehled o okamžité míře relativního rizika společně s dalšími podrobnostmi.
Klíčovou výhodou platformy EY Trusted AI je dle výrobce schopnost dynamického řízení rizik předpovídáním možných dopadů, pokud se určitá komponenta AI změní – například co do rozsahu funkcí nebo úrovně autonomie. Lze tak získat přehled o rizicích konkrétního využití AI, spolu s adekvátním zhodnocením systémů z hlediska jejich tolerance vůči riziku.
„Pomáhat uplatňovat AI v souladu s etickými zásadami, ať již při vývoji nových řešení nebo implementaci AI do řešení stávajících, je jedním ze základních principů přístupu společnosti Microsoft. Podstatou našich síťových služeb Microsoft Azure je umožnit vytvářet aplikace, či služby na bázi umělé inteligence, všem vývojářům a datovým analytikům, a to pro nejrůznější scénáře. S přispěním platformy EY Trusted AI na Azure mohou podniky budovat pokročilé systémy AI, disponující vysokou mírou důvěry a zabezpečení, což je z hlediska úspěšného nasazení a rozvoje těchto řešení zcela zásadní,“ doplňuje Steve Guggenheimer, viceprezident společnosti Microsoft pověřený vedením divize AI Business.
EY Trusted AI je nabízena jako samostatná i řízená služba. Vychází z open-source architektury, která podle výrobce usnadňuje rychlé nasazení. Rozsah funkcí má být pravidelně aktualizován a rozšiřován, mimo jiné o nové metriky hodnocení rizik AI, metody měření či nástroje průběžného sledování.
