Umělá inteligence vtrhla do firemního světa jako blesk – s příslibem revoluce, úspor a vyšší produktivity. Ale v závětří nadšení roste i skrytá hrozba: slepá důvěra v generativní modely, exploze chyb a drahé opravy.
Firmy po celém světě nasazují generativní AI, aby zvýšily efektivitu a snížily náklady, a nepochybně jde o silný nástroj, který nabízí nové možnosti, zrychluje procesy a šetří čas i finance. Přesto stále častěji narážejí na neočekávané komplikace – od chyb v generovaném obsahu až po technické problémy, jež vyžadují nákladné opravy.
„Zrovna minulý týden jsme řešili poptávku od pána, kterému se nechtělo čekat na úpravu kontaktního formuláře, než se vrátí jeho ajťák z dovolené. Nechal si úpravu udělat pomocí umělé inteligence. Vlivem této úpravy mu přestal fungovat jak formulář, tak další části webu,“ říká Matyáš Mandík, technický ředitel ve společnosti Pixelmate, který se stará o integraci umělé inteligence.
Podle něj je pochopitelné, že AI působí jako rychlý a všehoschopný pomocník, který slibuje úsporu času i peněz. „Je však nutné pochopit, že i AI má zatím své limity a není vhodné jí nepokrytě důvěřovat nebo přeceňovat její schopnosti. Jak se říká, je to skvělý sluha, ale zlý pán,“ dodává.
Ve společnosti Pixelmate v posledních letech výrazně přibývá zakázek na opravy softwaru, do kterého zasáhla umělá inteligence. Podle Mandíka bývají odhalování a náprava takových chyb často časově i finančně náročné – a v mnoha případech si vyžádají přepracování celého projektu od základu.
Jan Dvořák z Počítačové školy Gopas doplňuje, že kromě zvýšených nákladů se objevuje i riziko reputačních škod, pokud se chybné informace dostanou na veřejnost.
Problém se přitom zdaleka netýká jen softwaru. V Pixelmate se stále častěji setkávají také s podklady, zadáními nebo celými částmi marketingové či programátorské práce, které byly vytvořeny pomocí AI. „Ve většině případů to jde snadno poznat – AI zatím nedokáže uvažovat individuálně v plném kontextu konkrétního zadání. A i kdyby toho schopná byla, často narážíme na to, že zadavatel neumí umělé inteligenci dostatečně přesně specifikovat, jak má výstup skutečně vypadat,“ vysvětluje Mandík.
Slepá důvěra se nevyplácí
Jako největší problém dnešní doby vnímá to, když někdo stoprocentně a nekriticky věří výstupům z AI a bere ji jako nějakou nadřazenou inteligenci nad své vlastní uvažování a nad svůj selský rozum. „Nejednou se pak stane, že si člověk na dané téma neudělá vlastní průzkum a názor z několika zdrojů a rozhodne se čistě podle doporučení umělé inteligence,“ dodává Mandík.
Podobnou zkušenost potvrzuje i Jan Barášek, nezávislý technologický konzultant, který navrhuje architekturu aplikací a dohlíží na klíčové fáze vývoje: „AI se dnes běžně používá jako náhrada za juniorní vývojáře – hlavně tam, kde chybí lidé na jednodušší úkoly. Ale stejně jako junioři dělá i AI chyby. Nejčastěji kvůli nedostatku kontextu nebo podcenění počáteční architektury,“ podotýká Barášek.
Zejména při návrhu webového frontendu může podle něj AI výrazně ušetřit čas – v některých projektech generuje až osmdesát procent výstupů. Potíž nastává ve chvíli, kdy se umělá inteligence nasadí i tam, kde je kvalita kritická, třeba v databázových operacích nebo bezpečnostně citlivých částech.
Takový „punkový“ styl vývoje je podle Baráška použitelný například v e-commerce a jiných oblastech, kde je důležitá rychlost. Výstupy na málo rizikových místech se často nasazují rovnou tak, jak jsou. Rozhodně podle něj ale nejde o přijatelný postup například v bankovním sektoru, kde na každý nový řádek vývoje vznikají podrobné testy.
„Běžně se stává, že nevhodně navržený kód obsahuje bezpečnostní zranitelnosti nebo nedomyšlenou architekturu, která v malém objemu při vývoji sice funguje, ale nepřežije náročné požadavky při škálování výkonu a odbavení větší zátěže,“ zmiňuje Barášek.
Na potenciál i limity AI firmy narážejí také v oblasti komplexního B2B prodeje. „Firmy od umělé inteligence často očekávají víc, než může v obchodním procesu nabídnout – zejména tam, kde jsou lidský cit a zkušenost nenahraditelné,“ říká Jan Nekolný, konzultant ve společnosti SBR Consulting.
AI se dnes často používá k automatizaci prvního kontaktu se zákazníkem – generuje e-maily, zprávy na LinkedInu nebo jiné formy oslovení. Výsledkem je sice vyšší objem aktivity, ale zároveň nižší kvalita. „Zprávy často působí neosobně, mimo kontext a je z nich poznat, že je psal algoritmus. Klíčoví rozhodovatelé to velmi rychle vycítí a vnímají je jako spam. To může poškodit reputaci firmy ještě dřív, než vůbec dojde na obchodní jednání,“ varuje Nekolný.
Podle Nekolného má AI v obchodním procesu své pevné místo – například při analýze schůzek nebo automatizaci reportingu. „V přímém kontaktu se zákazníkem by měla zůstat hlavní role na straně člověka. Zákazník chce mluvit s někým, kdo chápe jeho situaci a dokáže přinést skutečnou hodnotu – ne s generickým výstupem bez kontextu,“ dodává.
Roman Berglowiec, zakladatel AI aplikace Everbot, upozorňuje na to, že mnohé firmy přistupují k zavádění umělé inteligence bez jasné strategie a s nerealistickými očekáváními. „Namísto postupné automatizace konkrétních úloh, jako je třeba tvorba newsletterů, se pouštějí do rozsáhlých integrací, které často selhávají a zpomalují další rozvoj firmy,“ říká.
Podniky podle Berglowiece podceňují potřebu testování a průběžné kontroly výstupů. Automatizace se spustí, ale kvalita se nesleduje – výstupy pak rychle ztrácejí relevanci. „Častým problémem je také to, že AI ve firmách zůstává v rukou jednotlivce bez opory ve strategii nebo vedení. Bez jasného zadání a odpovědnosti nemůže AI dlouhodobě fungovat efektivně,“ dodává.
Bez strategie to nefunguje
„Umělá inteligence je skvělý nástroj, při jehož nasazení je ale třeba dodržet několik pravidel a postupů, jinak může mít používání tohoto nástroje doslova katastrofální důsledky,“ souhlasí Štěpán Kopřiva, CEO společnosti Adastra Czech Republic, a pro představu zmiňuje chybu, kterou jim AI udělala.
Foto Adastra
Jedním z jejich zákazníků je společnost, jež se zabývá rozvozem zakázek ve velkých městech v Evropě. „Při testování AI řešení, které plánuje trasy rozvozu, nám umělá inteligence naplánovala rozvoz do centra Prahy, ačkoli místo rozvozu bylo v okrajové části města. Důvodem byla neúplná data místa rozvozu, kdy namísto kompletní adresy bylo vyplněno pouze město Praha. Umělá inteligence pak naplánovala rozvoz přímo do centra Prahy,“ popisuje Kopřiva s tím, že v Adastře takové chyby samozřejmě umějí najít a odstranit ještě před uvedením řešení do provozu.
Pokud chceme, aby generativní umělá inteligence v podnikovém prostředí skutečně fungovala a nepůsobila víc škody než užitku, musíme jí podle Kopřivy nejdřív připravit kvalitní půdu pod nohama. Nestačí jen nahodit model vytrénovaný na datech z internetu a doufat, že si poradí – zvlášť ne v prostředí, kde se hraje o důvěru zákazníků a právní odpovědnost.
„Základem je jasně si říct, k čemu má AI sloužit. Třeba ve scénáři, kde má odpovídat na dotazy klientů ohledně pojištění, je nutné, aby říkala jen ověřené a pravdivé informace. A právě tady začíná to podstatné – kvalita dat. Podkladová data musí být správná, pravidelně aktualizovaná, dostupná, a hlavně v souladu s legislativou. Bez toho AI nemá šanci generovat něco, co obstojí v reálném provozu,“ upozorňuje Kopřiva.
Klíčové je mít silnou datovou platformu, která zvládne spravovat velké objemy informací bez chaosu. Stejně tak je potřeba AI „vychovat“ – nastavit ji tak, aby se držela ověřených faktů a neimprovizovala. Žádné fabulace, žádné divoké výmysly mimo toho, co má skutečně k dispozici.
„Celé to má smysl jen tehdy, pokud je systém důkladně otestovaný. Ne jednou, ale opakovaně. Jen tak se dá s čistým svědomím říct, že AI dělá to, co má – a nic navíc,“ dodává Kopřiva.
Rychlost vývoje díky AI způsobuje podle programátora Baráška ještě jeden fundamentální problém. V minulosti by se řada funkcí nikdy nevyvíjela, protože by to zabralo stovky hodin času, které firmy jednoduše nemají. Díky AI se rychlost dodávky stále zrychluje, a tak se programátoři mohou pustit i do částí, které by jinak neexistovaly. „Tím vzniká větší tlak na kontrolu a stále se zvyšuje objem kódu, který musejí senioři manuálně přečíst, revidovat a opravovat. A proto se přirozeně zvyšuje pravděpodobnost přehlédnutí chyb,“ konstatuje Barášek.
Opravy chyb od AI jsou podle Baráška stejně drahé jako chyby od juniorních kolegů. „Jenom se jejich objem zvyšuje, protože i senioři začínají generovanému kódu víc věřit a výstupy méně kontrolovat,“ dodává.
Umělá inteligence bezpochyby otevírá firmám nové možnosti – od úspor času po efektivnější provoz. Její přínos ale nevzniká automaticky. Klíčem k úspěšnému nasazení není samotná technologie, ale člověk, který s ní pracuje. Ten musí přesně vědět, co AI dokáže a na co už nestačí.
The post Umělá inteligence dělá chyby jako juniorní zaměstnanci. Opravy vyjdou firmy draho appeared first on Forbes.
