Nezní to zrovna vesele, když nový rektor ČVUT Michal Pěchouček mluví o umělé inteligenci a rizicích, které s jejím rozvojem přicházejí. A to je přitom supertechnooptimista, jak o sobě kybernetik a úspěšný startupista, který propojuje svět vědy i byznysu, zdůrazňuje.
Pravdou je, že umělá inteligence už během extrémně krátké doby zásadně změnila společnost. Tempo jejího vývoje navíc dál zrychluje. Co bylo před rokem science fiction, je dnes snadno dostupné v mobilu. Zprávy o tom, že si AI agenti najímají lidi na práci, kterou zatím sami nezvládnou, by přednedávnem zněly jako výplod fantazie. Dnes je to realita.
Jak o umělé inteligenci přemýšlí nový rektor ČVUT a špičkový odborník na tuto oblast Michal Pěchouček? Koho může ohrozit, kam by ji on sám nikdy nepustil a co je klíčovým receptem pro lidstvo? Přinášíme jeho pohled, o kterém promluvil v titulním rozhovoru prosincového vydání časopisu Forbes.
Kde vidíte problematické stránky umělé inteligence?
Mám velké obavy, že technologická elita podceňuje hrozby nekontrolovaného nasazování umělé inteligence. Výrazně víc by se mělo investovat do vědeckého výzkumu chápání hrozeb AI. Chci, aby podobně, jako máme vědecky podložené, jaké potraviny se můžou prodávat a neublíží nám, bylo vědecky podložené, že je bezpečná AI.
Chci vědět, že je bezpečné, když je moje dítě na sociální síti, která je řízená algoritmem. Že neujede na bulimii. Nebo že algoritmy zabrání tomu, aby dítě v depresi přemluvilo chatbota, ať mu poradí, jakým způsobem si vzít život. Tyhle záruky ale neexistují. Společnost nechala vývoj na volnoběh, dala se ukecat technooligarchií primárně v USA, že se to nemusí řešit. Ale to je přece absurdní. To mě děsí. A děsí mě, že je bohužel málo vědců, kteří se tím zabývají.
Rostou vaše obavy v souvislosti s AI?
Rostou. Před patnácti lety jsem říkal, že superinteligence, kdy nás AI převálcuje a bude ve všech aspektech kognitivních schopností výrazně lepší než člověk, bude mít značně negativní dopad na svobodu lidí. Vždy jsem věřil, že takový moment může nastat, ale myslel jsem si, že je daleko, že se ho nedožiju a lidstvo bude mít spoustu jiných katastrof mezi tím.
Jakou obavu máte dnes?
Dnes si myslím, že lidstvo si začne hodně ubližovat skorosuperinteligencí ještě předtím, než přijde skutečná superinteligence. Lidé budou AI používat proti lidem. V tom se může stát nejvíc průšvihů. Nerozloží nás, až přijde superinteligence, ale cesta k ní, kdy ji lidé budou zneužívat.
Někdo rozvoj v AI využívá pro sofistikované kybernetické útoky, někdo pro vývoj neetických zbraní. A někdo vytváří byznys, jenž znesvobodňuje lidi na hranici chudoby, protože jsou závislí na nějaké službě, kterou pořád platí. Už dnes AI ubližuje lidem. Ale ještě to není proto, že by to chtěla sama o sobě. To je pro mě nové. To je něco, co jsem si před patnácti lety nemyslel. Dnes to vidím na první dobrou a myslím si, že to je masivní jev, který nás jako lidstvo poškodí. A může nás poškodit víc než samotné dospění k superinteligenci.
Dovedete si představit nějaký systém brzd či zpátečku, již bychom mohli zařadit, abychom z téhle trajektorie vystoupili nebo ji alespoň zpomalili?
Nedávno vyšla výzva Future of Life Institutu, který žádá společnosti po celém světě, aby zastavily vývoj superinteligence do té doby, než se dostatečně vědecky prozkoumá a zjistí se, jestli je to bezpečné a je v zájmu společnosti k ní spět. Dnes mají k superinteligenci nejblíž AI behemoty, a tak by od nich společnost měla chtít záruky a šlápnutí na brzdu: To nedělejte. Nebo zainvestujte nejdřív do vědy, jež zaručí, že když se k superinteligenci dostaneme, zvládneme to uřídit, budeme to schopni identifikovat.
Je receptem odstřihnout se, odejít do lesa? Nebo se s tím vývojem smířit?
Odejít do lesa vážně nefunguje. Jedna věc je ekonomická nezávislost pro lidi, která je velmi důležitá a pojí se s tím, že budou mít práci. AI útok na práci je megaútok na společnost. Dovedete si představit, co by dělali chlapi bez práce?
Sebere nám tedy AI práci?
Nebojte se, že přijde nějaká AI a sebere vám práci. To se nestane. Přijde nějaký člověk, který bude mít AI v ruce, a ten vám tu práci sebere. A víte co? Vy klidně můžete být ten člověk. Je to blbý, vzít někomu práci, ale nemám jinou možnost než být ten, kdo ji vezme, protože jinak o ni přijdu. Je to nemilosrdné, ale tak to je.
Když se takhle budou snažit všichni, bude populace sofistikovanější a díky tomu vznikne nová práce. Všichni budou rozumět AI, budou připraveni s ní pracovat, přeskupí se trh a práce bude. Když tady ale bude skupina, jež bude AI používat, a ta zvítězí, ti, kteří na AI rezignovali, budou bez práce.
Co má dělat člověk s malými dětmi? Co je dovednost budoucnosti?
V úplně nejlepším světě se máme soustřeďovat na práci člověk na člověka. Tam bude mít člověk pořád nějakou formu náskoku před chatbotem. Ale je potřeba žít v bohaté společnosti, jež si může práci člověk na člověka dovolit. V nějaké dystopické zemi, která je závislá na zemích exportujících AI a sama nemá žádnou ekonomiku, takové práce ani nebudou. Zdravotními sestrami budou roboti.
Já jsem vždycky vedl děti k matematice, na rozdíl od umělé inteligence a computer science. Říkal jsem jim, že matematika je pro budoucnost, které nerozumíme, ta nejjistější věc, že bude užitečná. Dokonce si myslím, že matematické vzdělání je forma bezpečnosti i proti nadvládě umělé inteligence, protože vás nutí přemýšlet jinak.
Cesta tedy vede přes vzdělání?
Vzdělání je naše jediná záchranná brzda. Navzdory všemu, co jsem řekl, jsem pořád supertechnooptimista. Věřím, že rozmach umělé inteligence v rukou vzdělané a hodnotově ukotvené mladé generace nás vyseká z problémů, které jsme si natropili. Bude schopna s AI dělat vědu rychle a třeba vymyslí alternativní zdroje energie ne za 60 let, ale za šest let. A najednou nikdo nebude potřebovat ropu a zemní plyn z Ruska. To by byl progres!
Umělá inteligence však tyhle věci nikdy nedělá sama. Dělá je s lidmi. A teď jde o to, abychom tady ty lidi měli. Aby nám neutekli do Ameriky. Aby chtěli žít v Česku, v Evropě, aby byli vzdělaní, kreativní a rozuměli matematice.
Kam byste AI nikdy nepustil?
Já už nemám malé děti, ale to je přesně oblast, kam bych ji nepustil. Neposadil bych je před tablet, ať se zabaví povídáním si s chatbotem, aby nezlobily. To mi přijde jako obrovské riziko.
Hloupneme kvůli AI?
Podle mě to tak je.
Co s tím máme dělat?
Číst knihy. Schopnost dočíst knihu, která má víc než sto stránek, je velmi důležitá výbava. Udržet pozornost, to by děti měly cvičit, měly by číst, psát rukou. Měly by umět argumentovat, psát eseje bez AI. Že méně čteme, je právě symptom hloupnutí. Takže knihy, dlouhé podcasty, long-ready v novinách. I vyhledávání kvalitní žurnalistiky považuji za hodně důležité.
Foto Anna Kovačič
The post O práci nepřijdete kvůli AI, ale lidem. Aneb deset myšlenek o AI Michala Pěchoučka appeared first on Forbes.
