David Křivanec: Pro účinnou legislativu v oblasti AI je potřeba mezinárodní spolupráce

S rozmachem umělé inteligence, který přišel v posledních letech, očekává nejen IT komunita, ale v podstatě celý pracovní trh novou legislativu, která by AI regulovala. Právě tato očekávání jsou i tématem mnoha odborných konferencí. Jednu z nich pořádala i Česká asociace umělé inteligence a zúčastnil se jí i David Křivanec z HPE. Právě s ním jsme problematiku legislativy v oblasti AI rozebrali v našem nejnovějším rozhovoru.

Můžeme v nejbližší době očekávat novou legislativu v oblasti AI?

Očekávání nové legislativy je zde určitě, ale není to nic, co by na nás již čekalo na obzoru. Je přitom zásadní, aby se legislativa adaptovala s vývojem technologií. To znamená, že bychom neměli čekat léta na nové zákony, ale měli bychom vytvořit pružný právní rámec, který umožní rychlé aktualizace v reakci na technologický pokrok. Klíčová je také mezinárodní spolupráce, protože technologie AI neznají hranice. Společné mezinárodní směrnice a standardy mohou pomoci zajistit, že AI bude vyvíjena a využívána způsobem, který je etický a odpovědný v globálním měřítku.

Jaký vliv může mít tato legislativa na soukromý sektor, například na startupy pracující s AI?

Startupy a technologické firmy jsou často daleko agilnější a rychlejší v reakci na nové technologie, takže jejich spolupráce s veřejným sektorem je klíčová. Ve velkých korporacích, jako je HPE, máme podobné interní směrnice jako veřejný sektor, ale stejně jako ostatní subjekty musíme také dodržovat regulace, jako je GDPR, což je v AI velmi důležité.

Jak by tedy měly firmy zajišťovat etické používání AI?

Firmy by měly vytvořit etické kodexy pro práci s AI, které zahrnují transparentnost, odpovědnost a respektování lidských práv. Je důležité, aby tyto kodexy byly nejen formulovány, ale také striktně dodržovány a pravidelně revidovány vzhledem k rychlému vývoji technologií. Zavedení obecných rámců by tak pomohlo reagovat na změny v AI bez nutnosti čekat na úpravy a tvorbu nových pravidel a zákonů.

A co veřejný sektor? Jaké jsou hlavní výzvy při implementaci právě v něm?

Jednou z hlavních výzev je zajištění bezpečnosti a ochrany dat. Veřejný sektor zpracovává obrovské množství osobních údajů, a je tedy klíčové, aby systémy AI, které se zde používají, byly absolutně bezpečné a v souladu s právními normami pro ochranu dat. Další výzvou je integrace AI do stávajících systémů, což vyžaduje technické a organizační změny.

Jaká je hranice odpovědnosti u AI, zejména u generativní AI, o která se dnes velmi diskutuje?

Tato otázka se stává stále relevantnější s rostoucím využíváním generativních AI technologií, jako je GPT od OpenAI, které mají schopnost vytvářet složitý a originální obsah. Tyto systémy se učí z rozsáhlých datových sad, které mohou zahrnovat texty chráněné autorskými právy, což vyvolává otázky týkající se originality a duševního vlastnictví. Když AI vytvoří dílo, které napodobuje styl známého autora, jako je George Orwell, je třeba se zamyslet, kdo nese odpovědnost za toto dílo. Je to vývojář AI, uživatel, který AI zadával vstupní podněty, nebo sama AI? A co když takové dílo nechtěně poruší autorská práva? Tato otázka komplikuje právní rámce, které tradičně oddělují tvůrce od nástroje.

Jaké jsou přístupy k regulaci v oblasti generativní AI?

Přístupy k regulaci generativní AI se liší v závislosti na legislativním a kulturním kontextu různých zemí či regionů. Například Evropská unie přistupuje k regulaci AI prostřednictvím navrhovaného AI Act, který se snaží stanovit univerzální pravidla pro bezpečné a etické využívání AI technologií. Tento zákon má za cíl chránit občanská práva a zároveň podporovat inovace a vývoj v oblasti AI. Výzvou je však nalézt rovnováhu mezi regulací, která zajistí ochranu a bezpečnost, a přílišným omezováním, které by mohlo brzdit technologický pokrok a inovace. Jakékoli regulační opatření musí také zohlednit rychlý vývoj technologií a jejich globální povahu, což vyžaduje mezinárodní spolupráci a koordinaci.