Skupina ekonomicky vyspělých zemí G7 se dohodla na souboru doporučení pro firmy vyvíjející nejsofistikovanější formy umělé inteligence (AI), která mají pomoci najít rovnováhu mezi přínosy těchto technologií a jejich úskalími.
V pondělí publikovaný nezávazný kodex se skládá z jedenácti bodů, které vývojáře vyzývají k opatřením na ochranu soukromí či demokracie a k větší transparentnosti. Se samotnou iniciativou s podobnými prvky zároveň přišla vláda Spojených států.
Oznámené požadavky představují další krok ve stále teprve začínajících snahách o regulaci silných softwarových nástrojů označovaných jako AI.
Jejich rozvoj zejména v posledním roce vyvolává mezi politiky a experty obavy zahrnující vše od diskusí o ochraně autorských práv přes potenciální rozmach podvodných videí či audiozáznamů až po úvahy o ztrátě kontroly nad algoritmy.
Cílem nově vydaného kodexu je „pomoci chopit se přínosů a vypořádat se s riziky a výzvami“ spojenými s AI, uvádějí vlády USA, Kanady, Británie, Francie, Německa, Itálie a Japonska.
„Organizace by neměly vyvíjet či vypouštět pokročilé systémy AI takovými způsoby, které podkopávají demokratické hodnoty, jsou obzvláště škodlivé pro jednotlivce či komunity, usnadňují terorismus… nebo představují významné riziko pro bezpečnost a lidská práva,“ uvádí prohlášení navazující na diskuse na květnovém summitu G7 v Hirošimě.
Následující seznam jedenácti zásad obsahuje poměrně vágní formulace a vyzývá například k „přiměřeným opatřením napříč vývojem pokročilých systémů AI“ nebo k „identifikaci a nápravě slabých míst.“
Další body volají po sdílení informací s vládami, akademiky i širokou veřejností nebo po dojednání „mezinárodních technických standardů.“
Poslední bod se týká potřeby kontrolovat „kvalitu dat“ používaných při výcviku umělé inteligence a potřeby respektovat ochranu soukromí a autorských práv.
Americký prezident Joe Biden ve svém dekretu klade požadavky na řadu resortů americké vlády, od spravedlnosti přes obchod až po vnitřní bezpečnost, a to s cílem například zamezit využití AI k vývoji chemických či jaderných zbraní nebo zajistit důslednější dohled nad využitím AI ve školách.
„Vývojáři těch nejsilnějších systémů umělé inteligence musejí sdílet výsledky svých bezpečnostních testů a další klíčové údaje s americkou vládou,“ stojí v prohlášení Bílého domu.
Část nařízení o bezpečnosti se vztahuje na společnosti, které trénují modely se schopností ohrozit národní bezpečnost, národní ekonomickou bezpečnost nebo veřejné zdraví.
Celý text Bidenova nařízení bude v americkém federálním rejstříku dokumentů patrně dostupný až za několik dní, z prohlášení Bílého domu nicméně vyplývá, že prezident k jednání vyzývá řadu vládních úřadů.
Exekutiva má podle prezidenta zamezit snazšímu shromažďování a zneužívání dat Američanů, chránit zaměstnance před podhodnocením jejich práce nebo zamezit zneužití algoritmů AI pro diskriminaci při shánění zaměstnání nebo nájemního bydlení.
