AGI. Tři písmena, která pod sebou podle mnohých skrývají nejčernější scénáře, které na lidstvo čekají. Řeč je o umělé obecné inteligenci – zatím teoretické formě AI, která by dokázala současně vykonávat různé úkoly stejně kvalitně jako lidé, nebo i lépe. A která by podle mnohých mohla vzniknout během příští dekády. Někteří vysokoškoláci, včetně studentů elitních amerických univerzit, předčasně opouštějí školy, jelikož chtějí na plný úvazek pracovat na tom, aby se tato technologie neobrátila proti lidstvu. A další studenti tváří v tvář nešťastným vyhlídkám raději odcházejí, protože nevidí ve studiu smysl jako dřív.
Když Alice Blair nastoupila v roce 2023 do prvního ročníku Massachusettského institutu technologie, těšila se na kurzy informatiky a na to, že pozná další lidi, kterým záleží na tom, aby se umělá inteligence vyvíjela ve prospěch lidstva. Teď má ale přerušené studium a děsí se možnosti, že by vznik umělé obecné inteligence, zatím jen hypotetické formy AI, která by dokázala zvládat různé úkoly lépe než lidé, mohl znamenat konec lidské rasy.
„Bála jsem se, že se kvůli AGI ani nedožiju promoce,“ říká Blair, která pochází z kalifornského města Berkeley. „Myslím, že velká většina scénářů, podle toho, jak k AGI směřujeme, skončí vyhynutím lidstva,“ vyslovuje nejtemější obavu, kterou mnoho lidí o AGI sdílí.
Blair získala práci jako technická redaktorka v Center for AI Safety, neziskové organizaci zaměřené na výzkum bezpečnosti umělé inteligence, kde pomáhá s newslettery a odbornými texty. A návrat na MIT neplánuje. „Myslím, že moje budoucnost leží venku, v reálném světě,“ dodává.
Blair není jediná, koho děsí možný zničující dopad umělé inteligence na budoucnost lidstva, pokud by AI přišla k vědomí a rozhodla se, že jí lidé nestojí za námahu. Riziko, že přesně takový okamžik zapříčiní konec lidského pokolení, existuje i podle zprávy, kterou si v roce 2024 nechalo vypracovat americké ministerstvo zahraničí. Obzvlášť ve světle toho, jak rychlé pokroky obor umělé inteligence v posledních letech dělá.
I proto je ve světě stále znatelnější snaha vyvíjet AI s pojistkami, které by takovému scénáři zabránily – ať už jde o neziskovky financované miliardáři, jako je Center for AI Safety, nebo o firmy typu Anthropic.
Na druhou stranu, mnoho výzkumníků s tímto základním předpokladem nesouhlasí. „Vyhynutí lidstva se zdá jen velmi, velmi nepravděpodobné,“ říká Gary Marcus, emeritní profesor Newyorské univerzity, který zkoumá propojení psychologie a AI. „Ale pracovat na bezpečnosti AI je samozřejmě ušlechtilé a současný výzkum zatím poskytl jen málo odpovědí,“ dodává.
Pokud má být vaše kariéra do konce dekády zautomatizovaná, pak každý rok na univerzitě znamená o rok kratší šanci se prosadit.
Nikola JurkovićPrávě snaha dohlédnout na bezpečnost AI a šance zabránit nejhorším dopadům dnes motivuje mladé lidi k tomu, aby školu opouštěli. A nejde jen o už zmíněnou Alice Blair.
Také třeba Adam Kaufman, student fyziky a informatiky, loni opustil Harvard a začal pracovat na plný úvazek v Redwood Research, neziskové organizaci, která zkoumá klamavé AI systémy schopné jednat proti lidským zájmům.
„Mám z rizik kolem AI velké obavy a myslím, že nejdůležitější je pracovat právě na jejich zmírnění,“ říká Kaufman. „A trochu sobecky – je to prostě strašně zajímavé. Pracuju s nejchytřejšími lidmi, které jsem kdy potkal, na nesmírně důležitých problémech,“ popisuje.
Není v tom sám. Jeho bratr, spolubydlící i přítelkyně si rovněž vzali volno z Harvardu ze stejných důvodů. Všichni tři nyní pracují pro OpenAI.
Má studium vůbec cenu?
Další studenti se AGI bojí spíše proto, že by mohla zničit jejich kariéru dřív, než vůbec začne. Polovina ze 326 studentů Harvardu, kteří se zúčastnili průzkumu pořádaného studentskou asociací a klubem pro bezpečnost AI, uvedla, že se obává dopadu umělé inteligence na své pracovní vyhlídky.
„Pokud má být vaše kariéra do konce dekády zautomatizovaná, pak každý rok na univerzitě znamená o rok kratší šanci se prosadit,“ říká Nikola Jurković, který letos v květnu promoval na Harvardu a působil jako vedoucí skupiny pro přípravu na AGI. „Osobně si myslím, že AGI může přijít už za čtyři roky a plná automatizace ekonomiky za pět až šest let.“
A není ostatně potřeba ani obecné AI, která se vyrovná lidským mozkům. Některé firmy už dnes přijímají méně stážistů a absolventů, protože jejich práci zvládne už dnes dostupná umělá inteligence. A další firmy rovnou propouštějí ve velkém.
Generální ředitel Anthropic Dario Amodei varoval, že AI by mohla odstranit polovinu všech juniorských kancelářských pozic a během několika let zvýšit nezaměstnanost v USA až na 20 procent. Studenti se nicméně obávají, že tento posun se dramaticky zrychlí, až dorazí skutečné AGI.
Otázka, kdy to nastane, zůstává sporná. Šéf OpenAI Sam Altman předpokládá, že první AGI bude vyvinuta ještě před rokem 2029, zatímco šéf Google DeepMind Demis Hassabis mluví o pěti až deseti letech. Už zmíněný Jurković věří, že může přijít ještě dříve: ostatně je podepsán pod časovým odhadem pro AI Futures Project, který předpovídá, že většina kancelářských prací může být díky AGI automatizována do roku 2030.
Jiní ale nesouhlasí. „Je extrémně nepravděpodobné, že AGI přijde během příštích pěti let,“ říká emeritní profesor Newyorské univerzity Gary Marcus. „Je to jen marketingový humbuk, když se předstírá opak, zatímco tolik základních problémů AI – jako halucinace a chyby v úsudku – zůstává nevyřešeno.“
Marcus upozorňuje, že pouhé přidávání dat a výpočetní síly do AI modelů zatím nepřineslo systémy dostatečně sofistikované, aby zvládaly mnoho úkolů, které lidé dělají.
Otázky kolem toho, kdy AGI vznikne a jakou cenu bude mít vysokoškolský titul ve světě narušeném umělou inteligencí na lidské úrovni, tak zůstávají otevřené. A jen čas ukáže, kdo měl pravdu.
Poslední šance něco dokázat
Studenti se ale už teď snaží budovat kariéru dřív, než bude podle nich pozdě. To vede mnohé k tomu, že školu opouštějí, aby založili vlastní firmy – často paradoxně právě v oboru umělé inteligence. Od roku 2023 tak odcházejí studenti z univerzit, aby využili „AI zlatou horečku“, inspirováni příběhy minulých generací, jako byli Altman nebo šéf Metay Mark Zuckerberg.
Michael Truell, dnes čtyřiadvacetiletý generální ředitel Anysphere, a dvaadvacetiletý Brendan Foody, šéf Mercoru, odešli z MIT a Georgetownu, aby rozjeli vlastní startupy. Anysphere mělo naposledy hodnotu 9,9 miliardy dolarů, Mercor získal investice přesahující 100 milionů.
Vzhledem k tomu, že AGI hrozí kompletně nahradit lidskou práci, někteří studenti to vnímají jako tikající hodiny – a obrovskou příležitost.
„Měl jsem pocit, že existuje omezené okno, kdy je ještě možné zasáhnout a držet ruce na volantu,“ říká Jared Mantell, který studoval ekonomii a informatiku na Washington University v St. Louis, než školu opustil, aby se naplno věnoval startupu dashCrystal zaměřenému na automatizaci návrhu elektroniky. Jeho firma zatím získala přes 800 tisíc dolarů při valuaci kolem 20 milionů dolarů.
Odchod ze školy ale znamená přijít o výhody vysokoškolského titulu, které zatím stále v reálném světě něco znamenají. Podle Pew Research Center vydělávají čerství absolventi s bakalářským vzděláním nebo vyšším v průměru nejméně o 20 tisíc dolarů ročně více než jejich vrstevníci bez něj. A ve světě, kde AI ničí jako první vstupní pozice, může absence titulu možnosti mladých lidí ještě více omezit.
Dokonce i spoluzakladatel startupového akcelerátoru Y Combinator, který je známý tím, že podporuje mladé zakladatele, co opustili školu, si myslí, že by studenti měli na školách raději zůstat. „Neopouštějte univerzitu kvůli tomu, abyste založili nebo pracovali pro startup,“ napsal Paul Graham v červenci na X. „Budou další (a pravděpodobně lepší) příležitosti, ale studentská léta už vám nikdo nevrátí.“
Ostatně ani Alice Blair, se kterou jsme tento článek začali, si také nemyslí, že by odchod ze školy byl pro každého. „Je nesmírně těžké a vyčerpávající odejít ze školy předčasně a najít si práci,“ říká. „Doporučila bych to jen velmi odolným lidem, kteří už mají pocit, že jim univerzita dala dost přípravy, aby si dokázali práci obstarat.“
The post Strach z příchodu nadlidské AI. Studenti Harvardu i MIT vzdávají studium appeared first on Forbes.
