Umělá inteligence mění trh práce, otevírá nové příležitosti i otázky. Autor “bankovní identity” a řady dalších prospěšných aplikací Filip Kirschner z Appliftingu sdílí zkušenosti s vývojem přelomové technologie tak, aby zůstala spojencem a nestala se z ní hrozba.

V sérii rozhovorů Ecoisty “V zrcadle AI” se zaměřujeme na osobnosti, které formují technologickou budoucnost a zároveň se zabývají dopady umělé inteligence na společnost a životní prostředí. Rozhovor je součástí výzkumu agentury NMS pro Týden inovací o vztahu české populace k výzvám spojeným s AI v kontextu udržitelnosti. Zakladatel Týdne inovací Lukáš Sedláček ostatně vydává na toto téma knihu Nazí v AI době.

Tentokrát jsme se setkali s Filipem Kirschnerem, spoluzakladatelem společnosti Applifting, která se zabývá digitálními inovacemi s etickým přístupem k vývoji technologií a zaměřením na projekty s reálným užitkem. 

Snaha jeho firmy o reálný užitek je patrná nejen v produktech jako systém pro výměnu orgánů v EU, který zjednodušuje transplantace a zachraňuje životy, či bankovní identita, jež dnes šetří čas milionům lidí, ale také v transparentní firemní kultuře. Všichni v  Appliftingu např. sdílejí informace o odměňování a finančních výsledcích firmy, což posiluje pocit ocenění a spoluzodpovědnosti.

Očekával jste, že AI tak masivně a rychle vstoupí do našich životů?

Nikdo to nečekal. Vývoj mezi GPT-2 a GPT-3 byl překvapivý – i jen malé zvýšení výkonu modelu vedlo ke vzniku nečekaných vlastností. AI začala být intenzivně chytrá. Už to nebyla inteligence dítěte, ale spíše dítě, které má načteno obrovské množství knih. A nyní se pomalu dostáváme do fáze dospělého člověka, který má načteno skutečně hodně. Myslím, že to nikdo předem nečekal a že v té době byly hypotézy velmi skeptické ohledně toho, jaká je skutečná realita rozvoje AI.

Kde je pro Vás osobně AI dnes nejvíce užitečná?

Nejvíc mi pomáhá při formování myšlenek a tvorbě textů. Kdykoliv potřebuji vysvětlit nějakou věc, AI mi výrazně usnadní její formulaci. Posílám jí své poznámky a ona vytvoří srozumitelnou komunikaci, kterou mohu předat firmě. V naší společnosti, která má již téměř 200 lidí, bych bez toho měl značné potíže. Ne proto, že by lidé byli hloupí, ale protože každý člověk chápe věci jinak. AI mi pomáhá formulovat myšlenky tak, aby je všichni pochopili. Dále je to i vývoj softwaru, webových aplikací nebo digitálních produktů – to je moje denní práce. A musím říct, že už asi rok jsem nenapsal větší část kódu sám, protože to dělá AI.

Před lety se dětem říkalo, že nejlepší je studovat programování, protože to bude velmi žádané. Ale nevezme výsledek práce programátorů programátorům práci? A co AI a jiné obory?

Ano, četl jsem případy lidí v USA, kteří v tomto oboru nemohou najít práci. Některé velké firmy, jako Microsoft, již propouštějí nebo najímají nové pracovníky právě kvůli změnám v technologickém prostředí a rozvoji AI. Tento trend je i u nás – lidé, kteří byli v předních pozicích nebo ve vývoji softwaru, jsou nyní přesvědčeni, že AI jejich práci nahradí. Trh práce se změní velmi zásadně. Pokud bych byl velmi skeptický, řekl bych, že bez sociálních reforem bude za několik let situace složitá. Budou sice nové profese, ale to neznamená, že se lidé nebudou bát. Nástroje jako například univerzální základní příjem by mohly tyto problémy do určité míry vyřešit. To, co by ten univerzální příjem podle mě vyřešil, není to, že lidi budou v pohodě s tím, že není práce, jenom by to vyřešilo ten strach z toho. Bude se řešit sociální stabilita.

Takže AI bude zvyšovat sociální nerovnosti?

Nerovnosti vznikají hlavně mezi sociálními třídami. Projevuje se to v rozdělení společnosti – nůžky se otevírají. To, co se děje posledních 30 let, se s rozvojem AI a technologií jen urychlí. Důležité je, aby byla zavedena opatření, která zabrání větším nerovnostem.

Může být problémem, že začínající mladí lidé, kteří budou pracovat s AI, nebudou mít potřebnou získanou intuici, “tasting,” protože mnoho činností za ně budou dělat stroje?

To je aktuální problém, který sledujeme například v IT. Pokud bychom se dívali jen z hlediska zisku, tak bychom juniory nebrali, protože by to nebylo ekonomicky výhodné. Na druhou stranu, pokud jim dáme příležitost učit se a pracovat s AI, rychle se naučí a stanou se z nich zkušení profesionálové. Rychlejší přechod na senioritu je pak možný, což je obrovská výhoda. 

Jaké další obavy máte spojené s AI?

V příštích letech bude čím dál běžnější, že lidé budou mít romantické nebo kamarádské vztahy s AI. Pro děti to může být problém, když si začnou již od mládí vytvářet hluboké vztahy s těmito systémy. A to může ovlivnit jejich vztahy s lidmi v reálném světě. Další vážná obava je, že AI by mohla být zneužívána k vývoji biologických nebo chemických zbraní nebo k jiným škodlivým technologiím. To je reálné riziko, pokud nebude její vývoj správně regulován a kontrolován. Momentálně je možné například zneužít AI ke kriminalitě nebo kyberútokům, protože systémy jsou stále zranitelné. Hackeři nebo škodlivé entity mohou využívat AI k napadení systémů, což zvyšuje potřebu lepších bezpečnostních opatření.

Může AI ohrozit základy demokracie a svobody?

Ano, je to možné. Pokud budou mocní nebo škodliví aktéři využívat AI k manipulaci s informacemi, šíření dezinformací nebo sledování, může to vážně ohrozit veřejnou důvěru a demokratické procesy. Proto je důležité zavést přísná pravidla, etické normy a transparentní kontroly jejího vývoje a používání.

Dochází s rozvojem AI ke zhoršení nebo zlepšení environmentálních problémů?

Tady je to trochu složitější. Pokud AI pomáhá optimalizovat procesy, snižovat plýtvání a předcházet zbytečným opravám nebo haváriím, pak může přispět ke zlepšení udržitelnosti. Například AI, kterou vyvinuli pro jednoho klienta, mu ročně ušetřila 40 milionů eur právě tím, že včas upozornila na poruchy strojů, což prodloužilo jejich životnost. Takto lze šetřit zdroje a minimalizovat environmentální dopady.

Má se AI regulovat?

Myslím si, že Evropa, na rozdíl od Spojených států, které jsou mnohem méně regulované, má díky své regulaci spoustu pozitivních benefitů pro všechny v Evropě. Chrání spotřebitele a zajišťuje vyšší standardy. Na druhou stranu, když se jedná o globální trh, tak to, když jednu část trhu zregulujete příliš, způsobí, že ta druhá, neregulovaná část trhu bude mít konkurenční výhodu. A co se týče větších problémů spojených s AI, ty se nedají vyřešit zákazy. Když se bavíme o těch katastrofických scénářích, tak tam nám regulace pomůže zhruba stejně, jako když jsme zakázali terorismus. Zákaz sám o sobě nestačí.

Evropě ujíždí AI vlak, je to kvůli tomu, že jsme přeregulovaní?

Je to tak. Není to ani tak tím, že by Evropa měla špatnou regulaci v tom smyslu, že by se tady nesměly dělat nějaké věci, které se jinde smějí – spíš vidím, že existuje určitý seznam “use case”, použití AI, které jsou tak nějak “zakázané” nebo silně omezené.

A co je ten hlavní problém?

Ten hlavní problém je byrokracie. Pro malý startup, který chce začít dělat něco s AI, je milionkrát komfortnější to dělat ve Spojených státech, kde si prostě můžou dělat, co chtějí. Napíšou si nějaké podmínky použití, které jim vlastně může napsat AI a prostě můžou jít na veřejnost. Zatímco v Evropě musíte prostudovat směrnici, kterou vám sice AI s trochou nadsázky pomůže přelouskat, ale prostě třeba ten svůj “use case” najdete na nějakém seznamu, kdy už to podléhá tomu, že to někam musíte nahlásit, musíte k tomu vytvořit obsáhlou dokumentaci, a pak musíte u některých úrovní rizikovosti zajistit nějaké procesy. No a to je ten problém – složitá administrativa. 

A co regulace AI na úrovni globální?

Regulace je klíčová, ale je také složitá. Evropská unie již nastavila určitá pravidla a standardy, které jsou přínosné, ale globální trh je propojený a globální firmy často přesouvají vývoj do zemí s méně přísnými pravidly. Proto je třeba hledat kompromis – regulace, které podporují inovace, chrání lidská práva a bezpečnost, ale nezabrání rozvoji této technologie. Důležité je také, aby byly předem definovány etické principy a jasná pravidla, jak AI využívat a jak se vyvarovat jejího zneužití.

Říkáte, že vaše firma prostřednictvím digitálních technologií dělá dobro. Co to znamená?

Snažíme se pracovat jinak než dřív. Naším cílem je vytvářet produkty, které reálně pomáhají. Například jsme vyvinuli systém pro výměnu orgánů mezi členskými státy EU. Před tím se vše zajišťovalo papírově, což bylo zdlouhavé. Nyní, pokud například ve Španělsku není vhodný příjemce, může se během několika vteřin koordinovat transplantace jinde, kde někdo čeká na náhradu. To má velký dopad na životy lidí – ročně to pomůže 60 pacientům.  

Jaká je Vaše osobní vize budoucnosti AI?

Myslím si, že AI má obrovský potenciál pomáhat nejen v různých odvětvích, ale i při řešení globálních problémů – od zdravotnictví přes energetiku až po ochranu klimatu. Pokud ji budeme správně řídit, může nám výrazně usnadnit život a přispět ke spravedlivější a udržitelnější společnosti. Ale je také nezbytné, abychom věnovali pozornost jejím rizikům a bránili jejímu zneužití nebo nekontrolovanému růstu. To je výzva, která nás čeká v nadcházejících letech. Myslím si také, že bude důležité mít kritické myšlení. Lidé budou muset umět kriticky hodnotit informace, ověřovat zdroje a rozlišovat pravdu od dezinformací, protože právě množství dat bude extrémní. Výzvou bude naučit veřejnost, jak správně s informacemi zacházet a jak si udržet důvěru v pravdivé zdroje, což nebude jednoduché.

Foto: Applifting