Zdravotní sestry AI nenahradí. Právníkům se to může stát, říká expertka na algoritmy

Algoritmy jsou všude a ovlivňují nás více, než si myslíme, říká Lenka Molins, rodačka z Piešťan, která už čtrnáct let žije a pracuje v zahraničí.

Z pozice zástupkyně ředitele v týmu pro umělou inteligenci, sociální sítě a internet v londýnském Deloitte radí velkým technologickým společnostem, jak implementovat technologie v boji proti dezinformacím či nenávistným projevům a v moderování obsahu nebo ochraně dětí v online prostoru.

Právo jste studovala v Londýně a v rámci programu Erasmus i v Madridu. Kariéru jste však odstartovala na burzovním parketu v Barclays. Co vás táhlo do finanční sféry?

Finanční sektor, zejména burza cenných papírů a investiční bankovnictví, byly považovány za nejlukrativnější odvětví, do nichž se dalo po studiu dostat. Pro mě byla klíčová zejména finanční jistota, po letech neustálé práce při studiu jsem toužila po stabilitě. Zároveň šlo o pozice, na které se hlásily tisíce absolventů a jen hrstka z nich měla šanci uspět.

Pamatujete si, jaký byl poměr přihlášek a pozic, které se obsazovaly?

Do absolventského programu Barclays se v roce 2014, když jsem se o práci ucházela i já, přihlásilo přibližně dvaačtyřicet tisíc studentů a brali méně než čtyři sta. Úspěšných bylo něco kolem 0,9 procenta z přihlášených.

Já jsem neměla žádný plán bé. Investiční banky uvádějí, že přijímají jen ty nejlepší z nejlepších – lidi s vysokým hodnocením z prestižních univerzit, kteří dokázali vyniknout. Brzy jsem však pochopila, že proces výběru je mnohem složitější a z velké části řízený algoritmy.

Foto: archiv LM

Lenka Molins v Oxfordu

V jakém smyslu?

Představte si, že na tyto pozice dostanou tisíce přihlášek. Je nezbytné, aby měli nějaký systém jejich zpracování. To, že to je řízeno i algoritmy, jsem pochopila, když jsem si všimla, že lidé, kteří se na tato místa dostali v minulosti a které jsem kontaktovala, se buď dostali přes výběrová řízení všech bank, nebo vůbec. Často mezi jejich zkušenostmi a životopisy nebyl téměř žádný rozdíl.

Jak jste s těmito poznatky naložila?

Rozhodla jsem se experimentovat a poslala jsem více než padesát přihlášek s různými formáty, strukturami a formulacemi odpovědí na otázky do několika firem. Dokonce i tam, kam jsem se nechtěla dostat. Při tom jsem sledovala, které z nich procházely přes filtry.

Po čase jsem si úspěšné techniky osvojila a začala jsem posílat hlavně přihlášky do investičních bank a najednou jsem se ocitla v posledních kolech pohovorů s pěti investičními bankami. Barclays byla první, která mi nabídla pozici, a já jsem ji přijala.

V Barclays jste se zaměřovala na algoritmy, později na AI používané na finančních trzích a na vysokofrekvenční obchodování hedgeových fondů. Jakou roli tam hrají?

V oblasti finančních služeb algoritmy stále více nahrazují lidi. V době, kdy jsem začínala, algoritmy postupně přebíraly úkoly obchodníků. Směřovaly objednávky na burzu s nejnižší cenou akcií nebo nastavovaly ceny na základě nejnovějších pohybů na trhu.

Algoritmy dokážou na pohyby na burze reagovat mnohem rychleji než lidé. Cenu prodeje a koupě dokážou změnit během milisekundy, zatímco obchodníkům to trvá déle. Vliv algoritmů postupně rostl a začaly růst i obavy s nimi spojené.

V roce 2012 se stalo, že americká společnost Knight Capital Group zadala na jednu z burz špatný algoritmus a během méně než hodiny přišli o více než 440 milionů dolarů. I proto se finanční instituce začaly více soustředit nejen na technickou funkčnost algoritmů, ale i na jejich právní aspekty.

Právě zde se začala má cesta v segmentu. Zaváděly se nové regulace jako například MiFID II a PRA SS5/18.

Co bylo jejich cílem?

Především vyžadovaly důkladné testování algoritmů před nasazením. Na regulacích jsem pracovala i já, chodívala jsem na burzovní parkety, ať už během mého působení v Barclays, ale i poté, co jsem pracovala v EY a později v Deloitte.

Co konkrétně jste sledovala?

Zkoumali jsme algoritmy – jak fungují, zda jsou funkční, zda mají všechny náležitosti z legislativního hlediska. Faktem je, že algoritmy stále více nahrazují lidi. Nejen ve finančním sektoru, ale všude. Podívejte se například na oblast náboru lidí, personální oddělení, bonusy, hodnocení lidí – to všechno je založeno na algoritmech.

I v auditu už dnes používáme na některé úkony algoritmy. Vývoj jde tak rychle dopředu, že v mnoha firmách jsou už teď některá důležitá rozhodnutí ponechána na algoritmech místo lidí. Jejich vliv je obrovský a bude dále růst.

Mnozí lidé jejich vývoj vnímají jako hrozbu. Bojí se, co algoritmy a umělá inteligence způsobí, že vezmou lidem práci, odosobní se rozhodování… Jak se na tyto obavy díváte vy?

Myslím si, že algoritmy mění spíše oblast bílých límečků – administrativní, manažerské, specializované pozice, třeba právní, auditorské a další specializované odborné činnosti, ale ne až tak pole modrých límečků, tedy manuálních pozic.

Pokud jste zdravotní sestra, nikdo vás u pacientů nedokáže nahradit, ale pokud pracujete například jako právník, může se vám to stát. Je přirozené, že se lidé bojí a přemýšlejí, co se stane, když přijde AGI, typ umělé inteligence, jejímž cílem je replikovat kognitivní schopnosti člověka, která bude chytřejší než my.

Myslím si, že vývoj s sebou přinese – a už i přináší – úplně nové pracovní pozice. Sama jsem toho důkazem – prověřuji algoritmy. Už teď jsou tu lidé vykonávající pozice, které předtím neexistovaly, jako fact checkeři, lidé v oblasti moderování obsahu. Další nové pozice teprve přijdou.

Ve financích jste získala zkušenosti v postbrexitovém období. Co všechno se tehdy dělo?

Po brexitu se investiční banky snažily zajistit, aby mohly nadále fungovat v Evropě, proto hromadně zakládaly dceřiné společnosti na kontinentu. Mnohé totiž do té doby měly sídla právě v Londýně. Já jsem byla u toho, byla jsem zodpovědná za přesun několika poboček investičních bank do Evropy.

Co tyto přesuny zahrnovaly?

Šlo nejen o technickou stránku přesunu, ale i o mnohá strategická rozhodnutí – od návrhu nových obchodních tras až po jednání o nových smlouvách s evropskými burzami a clearingovými domy.

Technologické firmy postupně začaly mít ještě větší vliv než finanční společnosti, protože mají velmi silný kontakt s uživateli.

Každá smlouva musela být znovu nastavena, aby vyhovovala novým regulačním požadavkům. Bylo to náročné a hektické období, ale z profesního hlediska velmi zajímavé. I to je důvod, proč mám konzulting tak ráda, stále se učím něco nového.

Kdy se naplno projevilo vaše nadšení, pokud jde o témata související s AI?

Právě ve zmíněném období. Začala jsem se věnovat regulacím v oblasti blockchainu a prvním návrhům modelů umělé inteligence na finančních trzích. Bylo fascinující sledovat, jak se nové technologie začínají prosazovat ve finančním sektoru, a zároveň být při tvorbě jejich regulačního rámce.

Během svého působení v EY jsem v roce 2017 získala nejvyšší ocenění v oblasti investičního compliance, dodnes to považuji za velké uznání mé práce. K tomu jsem studovala globální regulace na Cambridge Judge Business School.

Jak to, že vás nové technologie tak bavily?

Bylo to právě tím, jaký velký vliv mají na nás AI a algoritmy, přičemž si to často ani neuvědomujeme. Dnes jsou důležité naprosto ve všem. Může od nich záviset to, zda dostanete hypotéku, získáte práci a za jakých podmínek vás pojistí pojišťovna.

Například jsem viděla, že technologické firmy postupně začaly mít ještě větší vliv než finanční společnosti, protože mají velmi silný kontakt s uživateli. Mají o nich spoustu dat, která se mohou využít různými způsoby, dokonce i na změny práv a v politickém dění.

Příklad?

Například Uber nebo Airbnb. Když služby přišly do Barcelony nebo do jiných měst a stát rozhodl, že tam nemohou působit, okamžitě začaly mobilizovat své uživatele, aby vyjádřili nesouhlas s omezeními, ať už šlo o podepisování petic, nebo různé formy protestů.

Technologické firmy mají obrovský vliv i z hlediska geopolitiky.

Od roku 2021 působíte v Deloitte na pozici Associate Director v týmu pro umělou inteligenci, sociální sítě a internet v Londýně. Jak probíhal tento profesní transfer?

Deloitte si mě všiml kvůli mé předchozí práci a zkušenostem. Tam jsem začínala v týmu, jež se soustředil čistě na algoritmy a AI, zejména ve finančních trzích. Už tehdy mě to táhlo více k technologiím. Pamatuji si, jak jsem na začátku roku 2022 seděla na burzovním parketu velké investiční banky.

Pracovala jsem na kontrole algoritmů, abychom zajistili jejich soulad s platnými zákony. Tehdy přišla zpráva o ruské invazi na Ukrajinu. Na obrazovkách v místnosti běžely nepřetržitě zprávy, trh reagoval v reálném čase a já jsem se vůbec nedokázala soustředit na práci.

Během ruské invaze na Ukrajinu jsem si uvědomila, že chci posunout své zaměření z analýzy algoritmů ve finančních trzích na analýzu algoritmů na sociálních sítích.

Co vás na tom fascinovalo nejvíce?

Během války mě velmi zasáhlo, jak masová online propaganda formovala veřejné mínění, zejména falešné narativy o ukrajinských uprchlících, které se šířily na sociálních sítích.

Jedna britská nezisková organizace například zjistila, že až devadesát procent deepfake videí zobrazuje ženy v sexuálním kontextu.

Na začátku roku 2022 jsem přišla za svým tehdejším partnerem v auditorském týmu s nápadem přesunout naši expertizu do této oblasti, zejména v souvislosti s novým Evropským nařízením o digitálních službách (EU DSA). Téma se tehdy teprve rodilo a začala jsem na něm pracovat.

Jak se váš výzkum této tematiky vyvíjel?

Můj projekt rychle nabral na dynamice, postupně se k němu přidali i další odborníci. Z původně jednoho člověka jsem vytvořila pětičlenný tým.

Vedla jsem vývoj první auditorské metodologie pro EU DSA na trhu. Zapojila jsem se do spolupráce i s několika evropskými institucemi, bohužel nemohu je specifikovat, protože některá témata byla důvěrná. Na standardizaci auditorské metodologie pro DSA se pracuje i nyní.

Zmiňovali jsme rostoucí vliv sociálních sítí. To, že jsou zneužívány k manipulaci s veřejným míněním, je již zřejmé. V čem spočívají největší výzvy v této oblasti?

Výzev je spousta a každým rokem se mění. Loni se zásadně řešily volby, a to nejen ve Spojených státech. Volilo se ve více než šedesáti zemích světa. Nyní se řeší geopolitika, svoboda projevu versus nenávistné projevy a dezinformace. O tomto tématu by se dalo mluvit nekonečně.

Významnou změnou je, že tématem byla především svoboda, po roce 2010 se na přední místo dostala témata jako veřejné zdraví, což bylo patrné zejména během pandemie. Dnes vidíme rozmach deepfake videí, což má na lidi obrovský vliv.

Jak velký je tento problém?

Je to obrovský problém. Jedna britská nezisková organizace například zjistila, že až devadesát procent deepfake videí zobrazuje ženy v sexuálním kontextu. Ve Spojeném království byl dokonce případ, kdy si jedna dívka loni vzala život, protože ji někdo takovými videi šikanoval.

Byly i případy, kdy se lidem vyhrožovalo, že na LinkedInu zveřejní jejich deepfake fotografie se sexuálním obsahem.

Jak ovlivňuje rozmach negativních aktivit na sociálních sítích firmy?

I firmy stále bojují s něčím jiným. Zároveň se snaží spolupracovat s experty, v mnoha otázkách se hlavně potřebují poradit. Naštěstí vznikají nové technologické způsoby, jak problémové aktivity identifikovat.

Když jsem zmiňovala ten příklad s dívkou, která spáchala sebevraždu, jedna nezisková organizace přišla s aplikací, která se jmenuje Stop NCII, tedy Zastavme nedobrovolné zneužívání intimních snímků.

Pokud někdo vytvoří vaši deepfake fotku, která se snaží navodit dojem, že vystupujete v pornu, můžete snímek vložit do této aplikace, která funguje na všech sociálních sítích, a tyto snímky vymaže.

Vznikají tedy různé aktivity a skupiny, které pomáhají zmírnit negativní projevy šířící se pomocí sociálních platforem. Nakonec i technologické firmy se snaží snižovat negativní efekty, které jejich fungování může způsobovat.

Foto: archiv LM

Lenka Molins během jedné z přednášek

Běžnému uživateli se však může zdát, že to moc nepomáhá…

Je to komplikované, protože pokud jste technologická firma a máte problém s nenávistnými komentáři, můžete nastavit algoritmy tak, že vymažete všechno. Když máte nastaveno, že vymažete všechno, musíte počítat s tím, že někteří lidé začnou jako nenávistné projevy označovat i věci, které jimi vůbec nejsou.

Dělají to jen proto, aby dosáhli smazání toho, co se jim nelíbí. Jako součást konkurenčního boje to mohou dělat i některé firmy vůči své konkurenci.

Pokud například máte ve městě dvě firmy, které servisují bicykly nebo počítače, a jedna z nich nechce, aby měla v městě konkurenci, může svého konkurenta neustále označovat za nenávistné projevy. Předtím byly algoritmy nastaveny velmi citlivě, ale našli se lidé, kteří je skutečně zneužívali.

Jaké hrozby vidíte do budoucna?

Dnes je globálně silný trend velmi emocionální politiky. Politici na sebe chtějí strhnout hodně pozornosti, potřebují hodně sledovatelů, aby získali hlasy, a proto často říkají i extrémnější věci. Žijeme v době, kdy se to považuje za normální, a přitom to vůbec normální není.

Další aspekt je zaujatá žurnalistika. Kdysi byly nezávislé noviny kritické ke všem. Dnes to je často tak, že kritizují jen jednu stranu. Podívejte se například na některá americká média. Vidíte, že se jejich zprávy úplně shodují s tím, kterou politickou stranu podporují.

To je problém, protože lidé přestávají věřit médiím. Třetí věcí jsou algoritmy, k tomu se ještě vrátím. A čtvrtá věc je velký pocit nespravedlnosti mezi lidmi. Algoritmy umějí rychle zjistit, do jaké skupiny patříme.

Co z toho vyplývá?

Vysvětlím to takto: algoritmy fungují jako marketing. Pokud se mi líbí blůza v Zaře, tak se mi pravděpodobně bude líbit i podobná z Manga a asi i tento šál z Bershky.

Jsou tam i jiné faktory, například s kým se přátelíte online, kterým stránkám dáváte lajky, s kým si často vyměňujete obrázky a názory, jaké typy produktů kupujete online. Toto všechno může o vás prozradit, jaký typ člověka jste a jaké máte politické názory. To samé platí i pro zpravodajství.

Pokud sleduji CNN a moji známí lajkují demokratické stránky, je velmi pravděpodobné, že se mi budou líbit názory Alexandrii Ocasio-Cortez, členky demokratické strany.

Další věc je, že je jedno, v které skupině jste. Hlavní narativ je v každé skupině velmi podobný: moje skupina podporuje stranu, která je morálně vyšší a chová se férově.

Zatímco v tradičních sektorech, jako jsou finance, existují jasná pravidla, v technologiích se regulace stále dohánějí a musejí se přizpůsobovat novým výzvám.

Naopak, ta druhá strana nehledí na pravidla, zneužívá své postavení, lže a je nemorální. Tento narativ vyvolává silné emoce, zejména hněv, který se prohlubuje s každou další zprávou, memem nebo příspěvkem v online prostoru. Čím více takového obsahu člověk konzumuje, tím více se cítí naštvaný a polarizovaný – a v extrémních případech to může vést až k radikalizaci online.

Jaké to má následky?

V současné společnosti jsou lidé mnohem více polarizovaní než v minulosti. Dokonce i rodinní příslušníci a přátelé se od sebe vzdálí kvůli politickým názorům. V USA už polarizace údajně ovlivňuje i podíl lidí, kteří zůstávají svobodní – muži jsou totiž častěji konzervativní republikáni, zatímco ženy inklinují k liberálním postojům.

Podle aktuálních studií je jedním z hlavních problémů i to, že lidé se začali silně identifikovat se svými politickými názory.

Výsledkem je, že ty, kteří mají opačné přesvědčení, vnímáme nejen jako lidi s odlišným pohledem na svět, ale jako dezinformované nebo morálně zkažené. Jako ty, kteří podporují zlo, nenávist a lži. Tento jev je v moderní společnosti novým fenoménem a v takovéto míře předtím neexistoval.

Jak se to dá vyřešit z pohledu nastavení sociálních sítí?

Jedna z věcí, na které pracují v technologickém inkubátoru Jigsaw od Googlu, je otázka, zda by lidé, kteří jsou na jedné straně pólu, neměli do svých feedů dostávat „nuceně“ i něco z opačného břehu. A platilo by to i naopak.

Ne proto, že by je někdo chtěl přesvědčit o opaku, ale proto, aby dokázali vnímat a poslouchat i opačnou stranu. Aby se oba extrémy na základě nějakých argumentů posunuly od extrému o něco více k středu. Něco takového by podle mě bylo prospěšné ve společnosti, politice i žurnalistice.

Zmiňovali jste, že pracujete i na regulačních vyšetřováních technologických firem. Jaký je rozdíl mezi investigacemi ve finančním a technologickém sektoru?

Nejdůležitější rozdíl je v tom, že pokud se ve financích něco pokazí, téměř vždy se dá určit, kde se stala chyba a jaký zákon byl porušen. V technologiích je to jiné.

Ačkoli nové regulace vytvořily rámec pro technologické firmy, neustále vznikají nové výzvy a otázky, na které zákony ještě nemají jasné odpovědi.

Například deepfake videa politiků, která se šíří online – mnohé země stále nemají zákony, které by je regulovaly. Ještě složitější jsou etické otázky, kde často neexistuje jednoznačná odpověď.

O jakých situacích mluvíme?

Například pokud se žena žijící v Saúdské Arábii zeptá jazykového modelu, co by si měla obléct na fotbalový zápas, měl by jí doporučit tradiční saúdské oblečení, nebo západní oblečení?

Pokud jí doporučí tradiční oblečení, může se stát, že to posílí místně zažité normy, které mohou vést k potlačování práv žen. Pokud jí doporučí západní oblečení – tričko, džíny a podobně, může být model obviněn z kulturní propagandy západních hodnot.

To ukazuje, jak komplexní jsou technologické a etické otázky. Zatímco v tradičních sektorech, jako jsou finance, existují jasná pravidla, v technologiích se regulace stále dohánějí a musejí se přizpůsobovat novým výzvám.

Získala jste právnickou kvalifikaci ve státě New York a brzy se tam budete i stěhovat. Co přesně vás tam z profesního hlediska čeká?

V New Yorku plánuji pokračovat ve spolupráci s americkými technologickými společnostmi, zejména v oblasti regulací, regulačních vyšetřování, etiky a integrity. V USA se přijímají klíčová rozhodnutí o nových produktech a funkcích, a proto se těším na možnost pracovat přímo v centru dění.

Přístup k technologickým firmám je v Unii a Spojených státech odlišný. V Evropě čelí technologické firmy větší regulaci než za Atlantikem. Jaká je podle vás správná cesta?

Správný přístup závisí na tom, co je cílem. Pokud chceme podpořit rychlý rozvoj AI a technologických firem, méně regulací znamená více inovací. Vidíme to ve Spojených státech a Číně, které mezi sebou soupeří o technologické prvenství.

Obě země podporují své soukromé technologické firmy, pomáhají jim expandovat do zahraničí a posilují tím svůj vliv ve světě. Ten se projevil i během války na Ukrajině. Microsoft pomohl odrazit kybernetické útoky, Amazon ochránil ukrajinská data a satelity Starlink zajistily internetové spojení.

Takový vliv si buduje i Čína a čínské firmy…

Čína prodává své technologie do zahraničí za nízké ceny, čímž si buduje závislost jiných zemí na jejích systémech. Zároveň vyvíjí technologie, které by v Evropě neprošly regulacemi, například některé masové sledovací systémy.

V zahraničí je testuje, zdokonaluje své algoritmy, a posiluje tak svůj technologický vliv. Svět se začíná dělit na dva tábory – na země, které preferují americkou technologii a které preferují čínskou. Toto rozhodnutí zemí závisí na bezpečnostních a ekonomických vztazích.

A co Evropa?

Evropská unie přistupuje k technologiím jinak. Klade důraz na regulace, ochranu lidských práv a etiku. USA tvrdí, že přísná pravidla brzdí technologický rozvoj a oslabují konkurenceschopnost západních firem v souboji s Čínou.

Navíc Evropa nemá vlastního AI technologického giganta, ale chce nastavovat pravidla pro globální firmy, což mezi Unií a Spojenými státy vytváří napětí. Neexistuje jedna správná cesta. Pokud chceme chránit lidská práva a etiku, evropský model je nejlepší.

Pokud chceme technologickou dominanci a rychlý vývoj, potřebujeme méně regulací. V konečném důsledku jde o geopolitiku, protože platí, že ten, kdo kontroluje technologie, kontroluje i budoucnost.

Jste členkou výboru sdružení C2PA. Co je jeho cílem?

C2PA (Coalition for Content Provenance and Authenticity) je mezifiremní sdružení, které vytvořilo globální standardy na boj proti dezinformacím. Začalo to šesti firmami jako MSFT (Microsoft Corporation) nebo Adobe. Teď jsou v jejím výboru i společnosti jako OpenAI, Meta a další. Cílem je, aby lidé věděli, odkud digitální obsah pochází a zda byl upravován.

Jak to funguje?

Umělá inteligence dnes denně vytvoří miliony položek obsahu. Kdysi technologické firmy vyvinuly takzvané „watermarky“, speciální neviditelné kódy, které měly pomáhat počítačům identifikovat AI obsah.

Problém nastal, když nové systémy dokázaly vodotisky odstranit, čímž prakticky ztratily účinnost. Proto se přístup změnil a místo rozpoznávání AI obsahu se nyní klade důraz na potvrzení autenticity a důvěryhodnosti obsahu.

Jak tento problém řeší nový C2PA standard?

Důvěryhodným zdrojem tento standard umožňuje dokázat, že jejich obsah je pravý, čímž se dá snadněji odlišit od falešných nebo manipulovaných materiálů.

C2PA standardy přidávají k fotkám, videím a dalšímu digitálnímu obsahu takzvaný digitální pas, který ukazuje, kdo daný obsah vytvořil, zda byl upravován, a pokud ano, jakým způsobem a jaké nástroje byly na jeho úpravu použity.

Tento pas se nedá smazat jako vodotisky a pokaždé, když se fotografie, video, zvuk nebo cokoli jiného změní, je to vidět v tom pasu.

Co to přesně znamená?

Známá věc je to, že pokud uvidíte virální video nebo obrázek, můžete si zkontrolovat, zda jsou autentické, nebo zda s nimi bylo nějakým způsobem manipulováno, zda byly upravovány. Technologie se už začala využívat v žurnalistice, ve válečných sporech i na soudech, začaly se o ni zajímat už i pojišťovny.

C2PA standard se například použil při dokumentování ničení kulturního dědictví na Ukrajině a fotky potvrzené C2PA byly uznány na Mezinárodním trestním soudu. Kromě firem Adobe a Microsoft už standard C2PA zavedly i zpravodajské společnosti BBC, Reuters, ale i Nikon a Sony, které novou technologii integrují přímo do fotoaparátů.

Očekává se, že v nejbližších letech se bude používat už i přímo v našich mobilních telefonech.

Jaká je podle vás budoucnost sociálních sítí?

Z historického hlediska víme, že každá nová technologie způsobila ve společnosti ten samý cyklus – dala hlas menšinám a novým skupinám, které předtím nebyly vyslyšeny. Taková změna narušila a i dnes narušuje existující mocenskou strukturu a status quo.

Stejně jako to bylo v období vynálezu knihtisku nebo rozšíření rozhlasového vysílání. Je to proto, že ti, kteří do té doby kontrolovali všechny hlavní společenské narativy, tuto kontrolu ztratili. Nové technologie se často využívaly i na šíření klamných zpráv nebo propagandy.

Během studené války Spojené státy vytvořily vysílací služby, jako například Voice of America, s cílem šířit proamerická poselství v komunistických zemích a sovětský svaz také šířil svou propagandu v západních státech. Postupně země rušily vysílání „nepřátelských států“, něco, co vidíme i dnes s internetem.

Opět to vedlo k zavádění pravidel týkajících se obsahu a etických standardů. Stejný proces v případě sociálních sítí sledujeme už dnes.

Jak se podle vás bude tato sféra vyvíjet? Bude tu Facebook, Instagram a další sítě ještě za deset či patnáct let?

Nejpravděpodobnější scénář je, že sociální sítě se stanou pevnou součástí našeho digitálního ekosystému a budou zavedena nové pravidla, která doposud neexistovala. Hovoříme například o regulaci zveřejňování informací.

V jakém smyslu?

Například že účty s velkým počtem sledujících možná nebudou moci zveřejňovat neověřené informace bez důkazů. Vzniknou také pravidla pro influencery. Vidíme, že Evropský digitální zákon o férovosti (Digital Fairness Act) už zavádí transparentnost příjmů influencerů a odpovědnost za jejich obsah.

Nezbytná bude i standardizace pravidel, to znamená, že regulace určují, kdo může šířit informace a jaká odpovědnost s tím souvisí. Předpokládám, že tak jako v minulosti si na tato pravidla společnost zvykne. A pak přijde nová technologie, která status quo opět naruší a celý cyklus se zopakuje znovu.

The post Zdravotní sestry AI nenahradí. Právníkům se to může stát, říká expertka na algoritmy appeared first on Forbes.