HPE AI Roadshow with NVIDIA

V Praze se v červenci uskutečnil další ročník HPE AI Roadshow with NVIDIA. Využíváme příležitosti položit několik otázek nejen k vlastnímu setkání, ale i k AI obecně, Davidu Křivancovi, který se v HPE, v rámci své pozice Hybrid Cloud Specialist, touto problematikou již delší dobu zabývá.

Davide, stál jste za konceptem letošního setkání, jeho významnou část jste „moderoval“. V čem bylo jiné než v předchozích ročnících?

Produktových a service prezentací jsme všichni slyšeli až až. A přestože jsou důležité, často přeskakují to nejzásadnější – samotné use casy. Potřebuje ta firma vůbec AI? Kde je hodnota implementace? A hlavně: jak tu hodnotu najít? Dokud si firma neujasní svůj první use case, je úplně jedno, jaké AI řešení nabízíme my nebo kdokoli jiný.

Proto jsem letos postavil setkání jinak. Sešli jsme se s lidmi, kteří AI ve firmách reálně řeší a tlačí ji dopředu, ať už z pozice technického týmu, vývojáře, manažera, nebo „pouhého“ AI nadšence. A právě ti nadšenci bývají pro osvětu uvnitř firmy nejdůležitější.

Nepřednášel jsem. Vedl jsem to jako peer-to-peer diskuzi, protože jsme na stejné AI lodi. Celé setkání jsme přirozeně připravovali ve spolupráci s NVIDIA, ale těžiště programu tvořila dvouhodinová interaktivní část, kde vedle odborníků z HPE mluvili především odborníci z řad klientů. Sešlo se nás přibližně třicet, od veřejné správy přes akademické prostředí a banky až po start-upy.

Ten formát nám umožnil dozvědět se, s čím se zákazníci skutečně potýkají, co je trápí, co se jim povedlo a ještě cennější, co se jim nepovedlo.

Jaká klíčová témata jste probírali?

Chtěl jsem nechat mluvit hlavně publikum a nesvazovat diskuzi agendou, když se rozjede zajímavé téma, je škoda ho utnout jen proto, že „to není v programu“. Přesto jsem si připravil hrubou kostru tří oblastí, se kterými se u zákazníků setkávám nejčastěji.

První je výběr prvního use casu. Připravil jsem si na to jednoduchý test čtyř otázek, kterým si firma může kandidáta prověřit: Je to častá, opakovaná úloha nad texty a dokumenty? Je případná chyba levná a snadno odhalitelná, tedy kontroluje výstup člověk? Máte na to data a víte, kde jsou a kdo k nim smí? A existuje konkrétní číslo, kterým to má pohnout, a člověk z byznysu, kterého to číslo pálí? Když u kterékoli otázky zazní „ne“, je lepší vybrat jiný use case.

Druhou oblastí byla bezpečnost dat a datová suverenita. Tedy jestli a jak mají firmy svá data pod kontrolou, jak s nimi v AI nástrojích pracují, ale také jak přistupují k AI Actu. Sem přirozeně spadl i fenomén shadow AI, tedy neschválené nástroje, které si zaměstnanci našli sami, protože jim reálně pomáhají.

Tip: Pokud hledáte interní AI use-case, který opravdu lidé chtějí, podívejte se na shadow AI, protože to je přesně to, po čem je u vás ve firmě největší poptávka

Třetí okruh byl on-prem versus cloud versus vlastní řešení. Kde má co běžet, kdy dává smysl postavit si infrastrukturu sám a kdy naopak sáhnout po hotové platformě a co všechno k tomu člověk musí vlastnit a provozovat, když se rozhodne stavět. Do toho spadá i volba modelů: velké jazykové modely versus malé modely nasazené na konkrétní, úzce vymezené úlohy, kde často stačí zlomek výkonu i nákladů.

Účastníci setkání si pochvalovali tvůrčí atmosféru, otevřeně se probírala i vcelku citlivá úskalí, na která se v průběhu adopce AI ve firmách často naráží. Jak jste toho dosáhli?

Celý koncept jsem pojal od začátku jinak. Prezentace sice měla tři základní tematické bloky, ale každý z nich otevírala polarizující teze a hlasování „souhlasím / nesouhlasím“— každý účastník zvedl zelenou nebo červenou kartičku.

Byla to záměrně tvrzení, která místnost rozdělila, což mi dalo možnost hned reagovat a doptat se konkrétních lidí: proč jste zvedl červenou? A tím se diskuze rozjela sama. Slajdy tak byly jen vodítkem, protože to, co říkali účastníci, bylo to nejcennější.

Zároveň jsem si dal jedno pravidlo: kromě jediného slajdu na konci nesmím ani jednou říct „HPE“. Nešlo o sales pitch, ale o diskuzi AI ambasadorů a odborníků, kde jsme já i oni vystupovali na stejné úrovni. To, že jsem stál vepředu, byla vlastně jen taková náhoda.

Samozřejmostí bylo, že jsme tuto část nenahrávali, právě proto, aby se lidé mohli podělit i o věci, které se nepovedly. Každý si může odnést inspiraci a poznatky, ale konkrétní jména a specifika zůstávají v místnosti.

Myslím, že právě tahle kombinace to odemkla. Když víte, že vás nikdo nenahrává, nikdo vám nic neprodává a v místnosti sedí “kolegové”, je najednou docela osvobozující přiznat, co u vás nefungovalo.

Přinesla tato interaktivní diskuze nějaké zajímavé podněty i pro vás? Co vás nejvíce zaujalo?

Přednáším na tohle téma od první vlny příchodu AI, takže mám možnost sledovat, jak se adopce v čase vyvíjí. Ještě před rokem měla většina firem nějakou AI strategii, ale reálných use casů v produkci bylo minimum a co je podstatné, všichni byli zhruba stejně daleko, tedy na začátku.

Kdybych letošní setkání měl popsat jedním slovem, byly by to „nůžky“. Trh se rozevřel. Část zákazníků je stále na startu a neví si rady, jak do AI efektivně vstoupit. Možná zkusili pár PoC, ale ty skončily – buď proto, že nebyl správně definovaný use case a hodnota, kterou má nástroj přinést, nebo proto, že hodnota sice prokazatelně byla a PoC dopadl výborně, jenže při přesunu do produkce narazili. Typicky na to, že data nakonec nemohou posílat do cloudu. Nebo, a tímhle se nám jeden ze zákazníků docela i pobaveně pochlubil, že při onboardingu tisíců uživatelů vyčerpali roční AI rozpočet za necelé tři dny.

Na druhé straně nůžek jsou firmy, které už AI v produkci mají, a ty najednou počítají úplně jiné věci. Zjišťují, že náklady na udržení vlastního řešení, které kdysi zvolily právě kvůli nízké ceně, jsou vyšší než u řešení na klíč. Nebo že jim compliance tým zakázal používat kritická data v otevřených jazykových modelech. Extrémem pak byl účastník, který ve svém start-upu nezaměstnává ani jednu živou bytost.

Nejlépe to bylo vidět na hlasování. Když jsem položil tezi „máme problém dostávat AI aplikace do produkce“ nebo „cloud je lepší než on-prem“, zvedaly se karty ze všech táborů – zákazníci v různých fázích životního cyklu AI totiž řeší diametrálně odlišné věci. Kdo je na začátku, neřeší, kde aplikace běží. O fázi dál jsou přesně tyhle otázky tím hlavním problémem.

A upřímně, největší přínos pro mě byl v tom, že jsme mohli nahlédnout pod pokličku firmám, se kterými spolupracujeme. Takhle otevřeně se v běžném obchodním styku prostě nebavíme.

HPE je v oblasti AI infrastruktury klíčovým hráčem. Na co vaši zákazníci slyší? Co je pro ně klíčovým parametrem při výběru technologického partnera pro AI?

Rovnou řeknu i to, co bych neměl neměl říkat, ale je to fakt: Jsou use casy a workloady, kde naše HPE Private Cloud AI prostě nedává smysl. A když se o tom se zákazníkem bavím, nebojím se říct: “V tomhle případě nemá smysl mít aplikaci on-prem, dejte to do cloudu“. A právě tenhle přístup je podle mě to zásadní, a vracíme se tím na začátek: rozhoduje use case a moje oblíbené slovo „záleží“.

Pro jednoduché aplikace s předvídatelným, nižším počtem uživatelů a bez kritických a citlivých dat není potřeba stavět vlastní infrastrukturu. Jakmile ale AI ve firmě roste, začnou se objevovat témata jako škálovatelnost, data governance, komplexita provozu, bezpečnost a samozřejmě cena. A v tu chvíli může začít dávat smysl řešení, u kterého nemusíte řešit komplexní hardwarovou infrastrukturu a které roste s vašimi potřebami: když vám proof of concept funguje na stovce uživatelů, víte, že bude fungovat i na deseti tisících. A hlavně, pokud víte, že část vašich dat, což je dnes spolu s lidmi to nejcennější aktivum firmy, musí zůstat doma u vás, je právě hybridní řešení to, co vám umožní vytěžit z vašich dat, procesů a use casů maximum. S tím souvisí i předvídatelnost nákladů – model platby za skutečnou spotřebu je pro finanční ředitele často stejně silný argument jako cokoli technického.

A pak je tu parametr, který se špatně měří, ale zákazníci ho zmiňují nejčastěji: lidé. Tedy jestli mají vedle sebe někoho, kdo tomu rozumí, má za sebou desítky podobných nasazení a řekne jim i nepříjemnou pravdu. Technologie se dá koupit u kohokoli, zkušenost ne.

Co vy osobně, jaký v oblasti nasazení AI ve firmách odhadujete vývoj v nejbližších měsících či letech?

Všichni to omílají dokola a je to pravda: agentní AI a agentní podniky. Dosud byla většina firemních use casů osamocenými procesy, které spíš automatizovaly a zefektivňovaly předem dané kroky. Například sbírání leadů přes chatbota: zeptá se na pár otázek, odpovědi zestrukturuje, otaguje, uloží do databáze a vygeneruje e-mail.

Hlavní posun bude ve spojování těchto úloh tak, aby na sebe navazovaly a aby se na základě nich reálně rozhodovalo a konalo. Nad jedním leadem tak vznikne kampaň šitá na míru: systém vyrobí podklady a komunikační materiály, připraví nabídku, alokuje rozpočet na reklamu a celou kampaň sám spustí. A hlavně, začne sám rozhodovat, jestli udělá A, nebo B. Tím se otevře úplně nová debata o tom, co ještě agent smí udělat sám a kde musí zasáhnout člověk.

Druhá věc: rozevírání nůžek se bude zrychlovat. Firmy, které s AI už začaly, začnou z jejích výhod skutečně těžit, a tím se budou vzdalovat těm, které ještě nezačaly. Na druhou stranu právě díky rozvoji AI je čím dál snazší se do toho pustit. Takže pokud jste ještě nezačali, začněte!

A třetí bod jsou malé specializované modely. Firmy už mají use casy, ale uvědomují si, že opravdu není možné, aby všechno běželo přes API velkých veřejných jazykových modelů, ať už z důvodu ochrany dat, ceny, výkonu, nebo dostupnosti. Proto přijde rozmach malých, na konkrétní úlohy specializovaných modelů, ať už v cloudu, nebo on-prem. Budou cenově dostupnější a nebudou vyžadovat infrastrukturu za miliony dolarů.

S tím souvisí změna, která mi přijde možná nejzajímavější a na kterou jsem osobně zvědavý – obrátí se směr. Dosud chodila data k modelům: všechno jsme posílali do ChatGPT, Clauda a podobných služeb. Malé modely umožní opak, tedy že model přijde k datům. A to má hned několik výhod. Data zůstávají tam, kde vznikají, takže odpadá velká část debaty o tom, co smí opustit firmu. Je to efektivnější, protože nemusíte přesouvat obrovské objemy dat a platit za jejich přenos. A do třetice je to rychlejší a spolehlivější – odpadá latence i závislost na dostupnosti externí služby.

Jsem rád, že se takový formát povedl – otevřená diskuze třiceti lidí z veřejné správy, bank i akademické sféry mi dala víc než kterákoli analýza trhu. Už teď se těším na příští ročník: bude zajímavé vidět, kolik z těch, kdo letos zvedali kartičku „jsme na začátku“, ji za rok zvednout nebudou muset.