Asi největší spor se v EP vedl o používání AI k biometrickému sledování v reálném časem, tedy užití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávají zneužití AI autoritativními režimy.
„Tady se střetává otázka soukromí a bezpečnosti,“ řekla ve Štrasburku místopředsedkyně EP Dita Charanzová (ANO). „Systém rozpoznávání obličejů potřebujeme využít například při únosech dětí či při hrozbě teroristických útoků,“ dodala.
MOHLO BY VÁS ZAJÍMAT: Nekula má skončit na ministerstvu zemědělství. Nahradí ho Výborný, prozradil zdroj z KDU-ČSL
Podle Charanzové unijní pravidla nastavením mantinelů v AI také dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“. Podle české místopředsedkyně EP bylo cílem při vytváření těchto pravidel také zvýšit důvěru spotřebitelů v tyto systémy. Unijní pravidla pro regulaci vznikala zhruba dva roky, postupně byla rozšířena, například o pravidla pro ChatGPT.
AI dokážou být tak přesvědčivé, že běžný uživatel internetu ani nepozná, že hovoří s umělou inteligencí. Právě proto unijní pravidla zahrnují povinnost transparentnosti, tedy aby uživatel poznal, že jde o systém umělé inteligence.
Nová pravidla pro ChatGPT
Úplně zakázány mají být nástroje AI k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz neplatí pro lékařské a výzkumné účely. Nová pravidla zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy, automaticky třídící občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.
Zavádějí se také pravidla pro programy typu ChatGPT. Jejich provozovatelé se budou muset registrovat do databáze. Tam uvedou, odkud čerpají data, z nichž se program učí.
Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, vyjádřila v posledních týdnech řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jemuž se přezdívá „kmotr umělé inteligence“. Altman například navrhl, aby na AI dohlížela organizace podobná Mezinárodní agentuře pro atomovou energii.
