V současné době na nás ze všech stran číhá umělá inteligence. Někteří odborníci jsou proti ní kategoricky, jiní zase tvrdí, že se s ní musíme naučit vycházet. Možná jste si už dokonce sami vyzkoušeli, jak umělá inteligence funguje. Je však její používání etické? Dodržuje všechny zásady?
S pojmem umělá inteligence se v posledních letech setkáváme stále častěji a již se mu doslova nedá vyhnout. Právě tento důvod vyvolal otázku, zda můžeme tomuto systému důvěřovat a jak tuto důvěru zajistit. Evropská komise se proto rozhodla zřídit skupinu odborníků, jejímž úkolem bylo vypracovat zásady, na nichž by měla fungovat důvěryhodná umělá inteligence. Tato inteligence by měla mít tři hlavní složky. Měla by být zákonná, etická a odolná.
Systém umělé inteligence podléhá právnímu řádu. Od vývoje přes zavádění až po používání je nezbytné dodržovat právní předpisy, které se na něj vztahují. Ať už se jedná o různé smlouvy Evropské unie, či o antidiskriminační směrnice. V souvislosti s etickou složkou umělé inteligence je nezbytnou součástí dodržování základních lidských práv, jako jsou zejména úcta k lidské důstojnosti, svoboda jednotlivce, rovnost, nediskriminace či solidarita. V souvislosti s právem se uvádějí 4 etické zásady, které by měly zajistit, aby se systémy umělé inteligence vyvíjely, zaváděly a používaly důvěryhodným způsobem, a to: respektování lidské autonomie, prevence újmy, spravedlnost a vysvětlitelnost. Zároveň je nezbytné zajistit bezpečnost těchto systémů z technického i sociálního hlediska, neboť i při dobrých úmyslech mohou způsobit neúmyslnou újmu.
Aby bylo možné všechny tyto zásady skutečně uplatnit v praxi, bylo nezbytné je převést na požadavky. Tyto požadavky se týkají všech zainteresovaných skupin ve všech fázích životního cyklu umělé inteligence. Patří sem vývojáři, provozovatelé, koncoví uživatelé a také široká veřejnost. Tyto požadavky jsou:
- Lidský faktor a dohled: umělá inteligence je vnímána jako nástroj k budování a podpoře demokracie, prosperující společnosti a lidské autonomie, proto je nezbytné, aby na prvním místě stál člověk.
- Technická odolnost a bezpečnost: systémy umělé inteligence musí být vyvíjeny tak, aby se zabránilo jakékoli újmě, která by mohla být způsobena systému nebo uživateli.
- Ochrana soukromí a údajů: znamená zavedení systémů, které budou chránit soukromí, data a informace.
- Transparentnost: poukazuje zejména na sledovatelnost dat a informací, se kterými systémy pracují, a také na schopnost vysvětlit, na jakém principu umělá inteligence funguje.
- Rozmanitost, nediskriminace a spravedlnost: znamená zabránění nespravedlivé zaujatosti vůči komukoli a zároveň rovný přístup při používání, zajištění takového designu, který umožní všem tyto systémy využívat.
- Společenské a environmentální blaho: zahrnuje zejména udržitelnost a šetrnost k životnímu prostředí, její dopad na společnost a demokracii.
- Odpovědnost: zahrnuje kontrolu a posuzování algoritmů z hlediska bezpečnosti, čímž se minimalizují negativní dopady; pokud však k takovému dopadu dojde, je nezbytná možnost nápravy.
Na základě stanovených požadavků se určují metody, jimiž lze důvěryhodnou umělou inteligenci dosáhnout. Tyto metody se dělí na technické a netechnické. Vzájemně se doplňují nebo nahrazují, jelikož jednotlivé požadavky vyžadují odlišný způsob provedení. Metody se mohou v průběhu času měnit nebo doplňovat v závislosti na vývoji a možnostech jejich využití.
Všechny tyto požadavky tvoří rámec, kterým by se měly zainteresované skupiny řídit. Přestože jsou tyto požadavky jasné a přesné, je třeba si uvědomit, že umělá inteligence je systém, který se neustále vyvíjí a mění. Tyto zásady a požadavky se mohou dostat do rozporu, což může vyústit v situaci, která se na první pohled jeví jako neřešitelná. Veškeré rozpory je třeba dokumentovat, vyhodnocovat a hledat řešení v podobě kompromisů, o nichž je třeba informovat zainteresované strany. Bude možné se z nich poučit a posunout tyto systémy o něco blíže k důvěryhodnosti. Umělá inteligence přinese do budoucna ještě mnoho pozitivních vlivů. Aby se tak však stalo, musíme být schopni jí důvěřovat jako nástroji na podporu rozvoje lidstva a společnosti.
Zdroje:
Etické pokyny pro důvěryhodnou umělou inteligenci
