AI v Česku: Od počátečních dojmů k reálným výzvám implementace

David Křivanec z HPE přináší klidnou reflexi z nedávné roadshow s Nvidií a boří mýty o zběsilém tempu adopce AI. Nabízí hlubší pohled na realitu českého trhu a poodhaluje, proč je teď ten nejlepší čas začít s umělou inteligencí, avšak s rozvahou a jasnou strategií. Nahlédněte do prvních dojmů, fascinujících use caseů a klíčových překážek, s nimiž se české firmy potýkají při zavádění AI do produkčního prostředí.

Jaké byly vaše prvotní dojmy a očekávání od konference HPE AI Roadshow with NVIDIA – Prague, zejména s ohledem na aktuální „buzz“ kolem umělé inteligence?

Na konferenci jsem šel s jasnou představou programu, ale pro mě a mé kolegy i zákazníky byly klíčové a nejvíce očekávané partnerské příspěvky. Nešlo ani tak o konkrétní use casey, i když ty partneři samozřejmě představili, jako spíše o možnost konečně si poslechnout reálné příklady implementace AI přímo z trhu.

Konference se dala rozdělit na dvě části. V první jsme my z HPE a NVIDIA mluvili o našich aktuálních AI řešeních a novinkách, což bylo důležité k seznámení účastníků s našimi aktivitami.. Druhá, a pro mě ta nejzásadnější část, byly právě ty partnerské příspěvky.

Pamatuji si, že loni na podobné akci jsme se hodně bavili o proof-of-conceptech, o tom, co teprve přijde. Bylo to sice už po nástupu ChatGPT, ale firmy AI ještě masivně nepoužívaly. Teď, o rok a čtvrt později, už vidíme, že firmy nejenže mají proof-of-concepty a business casey, ale reálně AI nasazují do produkčních prostředí a zákazníci ji využívají. Právě na tenhle pohled od partnerů, kteří to dělají na trhu, jsem se těšil nejvíc.

Které konkrétní příklady vás na konferenci zaujaly a co o nich můžete říct?

Zaujaly mě samozřejmě různé příklady využití AI, ale především i jejich kombinace s jinými technologiemi a procesy. Příkladem může být kombinace generativní AI s OCR pro analýzu fyzických dokumentů nebo s Image Recognition pro kontrolu stavu silnic pomocí scanů. Ovšem samotná Generativní AI je stále tím nejjednodušším místem, jak s AI začít.

Co se mi ale líbilo nejvíc, a to zvláště v mediálním světě, byl use case partnera MAMA AI pro Seznam Zprávy a Radio Expres Zprávy. V principu využívají funkce text-to-speech, která díky LLM modelům dokáže vytvořit zvukovou nahrávku, téměř nerozeznatelnou od člověka. Mají své vlastní AI agenty, kteří se díky obrovskému množství namluvených textů reálných moderátorů naučili jejich hlasy a díky tomu teď AI dokáže perfektně číst zprávy v češtině. Je to téměř k nerozeznání.

Tady vidíme obrovský přínos: na jedné straně mohou firmy ušetřit náklady na namlouvání zpráv, ale především vytváří úplně nový obsah, který by jinak ani nevznikl. Příkladem mohou být specializované zprávy, na které by chyběli experti nebo jednoduše čas. Člověk si to může poslouchat v podcastových aplikacích v autě a ani nepozná, že mluví AI. To je skvělý příklad, jak AI dokáže přinést nejen úsporu, ale i hlavně úplně nové obchodní možnosti.

Dalšími příklady byly také chatboti v call centrech, AI pro tvorbu obsahu nebo platformy pro zefektivnění vývoje aplikací, což možná pro někoho, kdo se AI věnuje, nemusí být takový„breakthrough“, ale podle mého je to přesně to, kde by firmy měly začít. Jsou to „low-hanging-fruits“, které jsou snadné implementovat a přinesou obrovskou přidanou hodnotu. Zároveň pomůžou firmám s AI „prostě začít“.

Máme pocit, že české firmy jsou vůči implementaci AI spíše opatrné, nebo už se odvažují do větších projektů?

Opatrnost tam určitě hraje roli, ale možná to není to nejlepší slovo. Jedna věc je testovat si proof-of-concepty nebo prototypy, s tím si hraje velká část firem, zejména ty větší. Některé sektory jsou napřed, jako finance a retail, kde AI má obrovský potenciál například pro detekci podvodů (fraud detection) nebo naopak pro zlepšení zákaznické zkušenosti (např. George v České spořitelně). Tyto velké, často globální firmy si uvědomují důležitost a mají i vlastní AI týmy. Ale v nějaké fázi „hraní si s AI“ jsou všichni.

Problém nastává, když chtějí AI nasadit do produkce, ať už například pro interní analýzu dokumentů, nebo pro zákaznické chatboty s přístupem k firemní znalostní bázi. Tady narážejí na hlavní výzvy:

• Opatrnost s daty

K jakým datům může AI přistupovat? Kam až ji mohu pustit? Firmy se bojí nahrávat citlivá data do cloudu, k velkým providerům jako ChatGPT, kvůli GDPR a ochraně důvěrných informací. My v HPE jsme to vyřešili vlastním interním chatbotem, který běží na našem modelu, pod naší kontrolou, což nám umožňuje analyzovat interní dokumenty bez obav.

• Black box modely a halucinace

AI modely jsou jako „black box“. Nevidíme, co se v nich děje. Mohou si vymýšlet nesmysly nebo halucinovat, což vede k poskytování falešných informací. Modely se samozřejmě měsíc co měsíc zlepšují a existují procesy a nástroje, které odpovědi kontrolují, ale je to další věc, na kterou pak firmy musí myslet.

• Finanční náklady

Implementační náklady AI jsou také jedním z hlavních důvodů, proč není tak snadné AI nasadit. Hrát si s modely pro testování je poměrně levné, ale při nasazení do produkčního prostředí, kde k AI dostane přístup tisíce uživatelů se můžeš stát, že roční rozpočet firma „vystřílí“ za jeden dva měsíce. Je to něco, co může celý prototyp aplikace zabít.

• Dostupnost

Výpadky cloudových providerů (jako nedávný výpadek ChatGPT na téměř den) mohou způsobit kompletní odstavení firemních aplikací, které jsou na AI závislé. To může vést ke značným ztrátám.

Tyto výzvy nutí firmy přemýšlet o alternativách a celkové AI strategii. Nejde jen o to, že zaměstnanci používají ChatGPT, ale o komplexní přístup a robustní strategii, která kombinuje flexibilitu a škálovatelnost cloudu s kontrolou a dostupností on-premise řešení, tedy hybridní IT infrastrukturu. To je klíčové pro moderní workloady, a to platí i pro AI, aby byly bezpečné, flexibilní a efektivní i finančně.