Published: 01.10.2024
Vývoj umělé inteligence (AI) sledují dlouhodobě. Profesně i zájmově. Její nástroje využívají ke své práci. A totéž doporučují nejen studentům, ale všem. Čím je pro ně AI a bojí se o post pedagoga a výzkumníka do budoucna? Ondřej Krása z Fakulty filozofické a Petr Doležel z Fakulty elektrotechniky a informatiky se zamýšlejí nad tím, co nám do života AI přináší. Čeká nás jednou černý scénář?
Téměř si neuvědomujeme, že umělá inteligence (AI) je vlastně všude kolem nás – vyhledává a třídí informace, opravuje chyby při psaní, doporučuje knihy a sledovaný obsah, vystavuje faktury, sestavuje výživový plán, a snad každý týden slýcháme o další nové „schopnosti“... Přestože se zatím nejedná o roboty, jak si někteří myslí, v mnohém už člověka AI překonává. A nejde přitom jen o šachové a pokerové turnaje nebo čínskou deskovou hru GO. Dokáže bez problémů rozpoznávat obličeje nebo generovat text. Co vlastně znamená umělá inteligence? Málokdo v tom má jasno a ani samotná definice není ustálená. Všichni tak nějak tušíme, že je to systém, který simuluje lidské myšlení a jeho akce, ale mnoho otázek nám zůstává nezodpovězených.
Má svůj mozek?
„Cílem umělé inteligence je navrhnout soubor postupů a algoritmů, které dokážou vyřešit problémy tak, jak by je řešil člověk. Jednou její částí jsou umělé neuronové sítě a jejich schopnost modelovat nervovou soustavu živočichů, zejména člověka,“ vysvětluje princip Petr Doležel z Fakulty elektrotechniky a informatiky, který se umělými neuronovými sítěmi dlouhodobě zabývá. Stejně jako mozek i umělá neuronová síť může vykazovat velmi zajímavé a sofistikované chování. A to především díky spojení miliardy jednoduchých procesorů do sebe, obdobně jako v případě neuronů v mozku. Říct proto jednoznačně, že umělá inteligence nemá mozek, není přesné…
Pokrok přináší rizika…
AI do našich životů vstoupí, ať chceme, nebo nechceme. „Lidstvo dokázalo díky mnoha vědeckým vynálezům, společenským změnám i technologickým novinkám zásadně snížit dětskou úmrtnost, zvýšit průměrnou délku života či zásadním způsobem snížit podíl negramotných obyvatel. To vše a mnohé další jsou skvělé úspěchy, které není namístě jakkoli relativizovat. Na druhou stranu se však tempo technologických změn neustále stupňuje, skepse řady lidí ve společnosti stoupá, a naopak klesá naše schopnost rozumět světu, který se mění čím dál rychleji,“ upozorňuje na rizika Ondřej Krása z Fakulty filozofické s tím, že ještě před pěti lety se dění kolem AI dalo sledovat. „To už dnes neplatí. Člověk si musí vybírat a cíleně se zaměřovat, už nelze sledovat vývoj AI plošně,“ říká a dodává, že lidé, kteří se rozvojem AI nezabývají, často nemají dobrou představu o tom, co vše je už se současnými systémy možné.
Ondřej Krása z Fakulty filozofické je vzděláním i profesí filozof. Dlouhodobě se věnuje antické filosofii se zaměřením na Platóna a skepticismus. V posledních letech se zabývá otázkami o povaze umělé inteligence, co nám přináší a jaká rizika jsou s ní spojena. Některá z těchto rizik se označují jako existenční rizika, která mají potenciál buď zničit lidstvo, nebo zabránit jeho zdárnému rozvoji. Kromě AI bývají za existenční rizika označovány jaderné války nebo virové pandemie, s jejichž slabou verzí máme kvůli covidu nedávnou zkušenost.
Jak vnímáte rychlý vývoj technologií a především AI?
To, co lidstvo v průběhu dějin dokázalo, je v řadě ohledů obrovský úspěch. Řada věcí jako např. nižší dětská úmrtnost, prodloužení délky života či razantní snížení negramotnosti je nesena technologickým pokrokem. Rizika jsou však s technologií vždycky spjatá. Už v antice se lidé obávali písma jako pokroku, který má svoji temnou stranu. Lidé se obávali knihtisku, parních strojů. Obavy to přitom nebyly nepodložené, avšak benefity většinou výrazně převážily negativa. Změny přicházející s AI dál akcelerují technologický vývoj a obávám se, že nové typy inteligentních systémů mohou poměr mezi negativy a pozitivy vychýlit na zápornou stranu. V tuto chvíli z pokroku AI především těžíme, ale další vývoj ve mně vyvolává značné obavy.
Jaký užitek nám AI přináší?
Nabízí například zajímavý způsob práce s informacemi. Přečte cokoliv za neuvěřitelně krátký čas. Sám se AI ptám např. na to, jak vypadá výzkum v oblasti, která mě zajímá. Téměř okamžitě mi poskytne základní představu, kterou je sice nutné kriticky ověřit, ale rešerši mi výrazně urychlí. AI dokáže velmi efektivně zúžit prostor pro bádání, dokáže rychle projít možnosti, které by lidé procházeli velmi dlouho. Umí být velmi dobrý diagnostik, v některých oblastech vychází lépe než doktor z masa a kostí. Doba, kdy nebudeme muset čekat na specialistu, až vyhodnotí snímky, ale zastoupí ho právě AI, není zřejmě příliš daleko. Přínos v oblastech, kde je zdravotnická péče špatně dostupná, může být obrovský.
Využíváte AI ve své práci často?
Užívám ji téměř denně, především na rychlé konzultace témat a otázek, kterými se právě zabývám. Díky AI není jen daleko snazší získat rychlou zpětnou vazbu, ale špičková AI dokáže již nyní posouvat hranice lidského poznání. Před několika měsíci se takto podařilo přečíst část jednoho z mnoha set svitků, které pohřbil Vesuv. V kontextu bádání o antické filosofii jsme tak zřejmě na prahu velkého průlomu, protože dosud jsme nebyli schopni zkarbonizované svitky číst. Nyní se nám tyto texty daří pomalu rozklíčovat, a AI nám tak odemyká minulost a pomáhá na ni nahlédnout novým způsobem.
AI nepoužívám jen pro svou vědeckou práci, ale konzultuju s ní i otázky týkající se vedení katedry. Vylíčím jí, co právě řeším, a dostanu často kvalitní zpětnou vazbu. Zpětná vazba a návrhy ve věcech, které nevyžadují zcela expertní znalost, představuje velmi dobré použití současných AI systémů. Dobrý kouč či psycholog by uměl to samé lépe, ale zkuste se k nějakému objednat (smích)…
Mohla by AI zastoupit i pedagoga?
Už teď mohou mít studenti k ruce schopného, kvalifikovaného a nekonečně trpělivého tutora, který jim bude vysvětlovat to, čemu nerozumí, kdykoli budou potřebovat. Očekávám, že zanedlouho AI napíše přednášku tak, jak to já nedokážu. Kdyby šlo jen o jazykovou interakci, systémy budou pravděpodobně velmi brzy lepší než já. Studenti ale nereagují jen na slova, ale i na gesta a výraz. Nejsem pro ně jen učitel, mám nějaké zázemí a zkušenosti, a v těchto ohledech bude zřejmě zastoupení pedagoga trvat déle.
Jaké emoce ve vás AI vyvolává?
Pocity mám smíšené, ale obavy převládají. Lidé jsou schopní vynalézat a na změny se poměrně rychle adaptovat. I díky těmto schopnostem je lidstvo velmi úspěšné a dokázalo mnoho skvělých věcí. Tempo změn je ale už natolik rychlé, že proměňujícímu se světu již obtížně rozumíme a mnoho lidí se k budoucnosti vztahuje s obavami.
Nesmírně schopné systémy ve špatných rukách mohou znamenat velké riziko pro lidstvo. Riziko zneužití AI je zjevné a vážné a uvědomují si ho všichni, kdo se AI věnují. Druhé riziko je abstraktnější, ale podobně vážné – riziko negativních externalit. Tak jako lidstvo používáním fosilních paliv nechtělo způsobit globální oteplování, může i optimalizace ekonomických či společenských procesů skrze AI přinést značné, ale velmi nežádoucí vedlejší efekty. Třetím rizikem je obava z velmi schopné AI, která nebude sledovat cíle, které jí vštípil člověk. Ačkoli tato třetí varianta působí nejvíce „sci-fi“, teoretické úvahy i konkrétní příklady už ukazují, že tento typ obav není lichý.
Jak důležitá je etická stránka a otázka hodnot?
Etická stránka AI je podle mě zcela klíčová. Pokud bychom tyto čím dál schopnější systémy „nesladili“ s lidskými hodnotami, problémy s AI budou velmi rychle eskalovat.
Sladění s lidskými hodnotami ale naráží na vážné problémy. Jednak se nám už mnoho tisíc let nedaří dohodnout, které to ty „lidské hodnoty“ vlastně jsou. A i kdybychom se na některých hodnotách shodli, bohužel je (zatím) neumíme do nitra AI systémů přenést. Dokážeme do určité míry regulovat, jak se tyto systémy chovají. Co se ale děje v jejich nitru, pro nás stále do velké míry zůstává skryté.
Kam až může vývoj dojít?
Mnoho z lídrů na poli vývoje AI usiluje o tzv. obecnou umělou inteligenci (AGI), která bude ve většině ohledů minimálně stejně inteligentní jako člověk. Před půl rokem uvedl Sam Altman (jedna z vůdčích osobností boomu AI – pozn. red.), že interně již AGI dosáhli. Následně svůj post vzal zpět.
Vývoj posledních let směřuje k obecné umělé inteligenci velmi rychle. Jaký bude svět, ve kterém budou působit systémy inteligentnější než lidé? Sám se obávám dosti černých scénářů... Zarážející však je, jak málo se pokouší daleko optimističtěji naladění kolegové vylíčit základní obrysy dobrého světa s obecnou AI.
Petr Doležel z Fakulty elektrotechniky a informatiky se soustředí na umělé neuronové sítě a jejich použití ve výrobě a průmyslu: například pro ovládání robotických ramen v pásové výrobě, detekci potenciálně nebezpečných objektů a událostí při ochraně zájmových prostor či přehledu chování osob v hromadných dopravních prostředcích a jiných veřejných prostorech. Vyvíjí nástroje, které dokážou analyzovat scénu, obraz, zvuk a na základě toho dát rozhodnutí typu: je to špatné; je to dobré; uchop výrobek v tomto místě a manipuluj s ním takto. Nesnaží se o něco, čemu se teď módně říká tzv. obecná umělá inteligence, která by měla nahradit lidské vědomí.
Jak vnímáte rychlý vývoj technologií a především AI?
Jako obrovskou příležitost téměř skokově zlepšit kvalitu života celé společnosti, zefektivnit všechny typy procesů od energetiky přes zdravotnictví až po zábavní průmysl.
O umělé inteligenci se zejména v populárních médiích mluví čím dál častěji. To, co teď hýbe veřejným míněním, je jen malá oblast, ale s velkým dopadem. Dopad na společnost je totiž daleko větší než dřív. Je to vědní oblast, která se stále vyvíjí a má obrovský rozsah. Od diagnostiky v medicíně, optimalizace dopravy ve městech, plánování volnočasových aktivit až po nejrůznější roboty – robota kuchyňského, robotické rameno pomáhající při výrobě nebo autonomního robota, který jede po měsíci.
Jaký užitek nám AI přináší?
V posledním roce, dvou jsou to především změny v oblasti generování textu a obrazových dat. Vznikají výstupy, které jsou zajímavé pro každého z nás. Neexistuje obor, kam by AI nepronikla. Nicméně právě s vývojem takzvaných generativních advertoriálních neuronových sítí a sítí typu transformers se skokově ukázalo, že neuronové sítě jsou schopny generovat data a informace tak, jako by je generoval člověk – na první pohled nerozpoznatelné. A ten dopad se obrovsky rozšířil.
Využíváte AI ve své práci často?
Využívám ji třeba ve výuce, abych studentům ukázal, jak si mohou vytvořit demonstrativní úkoly. AI jim může zrevidovat to, co vytvoří, nebo naopak jim poradit, jak to vytvořit. V pokročilých předmětech naopak navrhujeme vlastní modely neuronových sítí pro řešení úloh. Pomáhá mi i ve vědecké práci. Dokáže připravit zdroje, sesumíruje obsah, podá souhrn informací, které jsou pro mě zajímavé.
Když řeknu, napiš e-mail, který mému podřízenému slušně řekne, že má během dvou tří dnů udělat určitou práci, tak já ten e-mail nemusím smolit dvě hodiny, ale mám ho za sekundu připravený. Toto je nízký level spolupráce, ten vyšší nastává v momentě, kdy se vztah jednotlivec k jednotlivci změní na vztah jednotlivce k celku jako řízení provozu informací, optimalizace dodávkových systémů. Jednoduché slovní zadání, které ale velmi zefektivní fungování společnosti.
Momentálně obrovsky těžíme z toho, že společnosti Open AI a Google daly své modely k testování zdarma. Lidé se ale naučili nástroje ne testovat, ale využívat. Jsem naprosto přesvědčen, že nás čeká přechod do placené epochy umělé inteligence.
Mohla by AI zastoupit i pedagoga?
Najednou nepřijde konec všech učitelů, a místo nich nastoupí nástroje umělé inteligence. Učitel bude stále potřeba, jen pod sebou třeba bude mít několik modulů AI, které bude instruovat, jak mají přistupovat k jednotlivým žákům. Umělá inteligence jako nástroj je totiž neuvěřitelně trpělivá. A toho můžeme využít. Supervizorem by ale vždy měl být člověk.
Tomu jsou ale více otevření studenti než pedagogové. Zatímco řada akademiků, se kterými o tom mluvím, jsou skeptičtí, studenti jsou naopak ochotní používat jakýkoliv nástroj, který jim ulehčí práci. A k tomu umělá inteligence primárně slouží.
Jaké emoce ve vás AI vyvolává?
Rozvoj hodnotím velmi pozitivně. Veškeré výzkumné a vývojové činnosti člověka jsou zaměřeny na to, abychom zjednodušili práci lidem. Správně natrénovaná AI bude v nejbližších letech fungovat jako expertní systém, poradní orgán. Třeba v oborech lidské činnosti typu poradce na telefonu, operátor telefonních tarifů, optimalizace bankovních služeb, různí zapisovatelé a podobně, se AI už velmi často využívá a bude stále víc. Celou řadu pracovních pozic zvládne stroj lépe. To se ale dělo vždycky, některé pracovní pozice zanikaly a nové vznikly. Dokud bude člověk chtít posouvat hranice, bude popoháněn vidinou pokroku stále kupředu, vždy se bude posouvat i celá společnost. To by se změnilo i bez umělé inteligence. V momentě, kdy se objeví nebo správně uchopí jaderná fúze, tak rovněž zanikne strašně moc pozic a změní to lidskou společnost.
Jak důležitá je etická stránka a otázka hodnot?
Zatím nikdo nepředstavil systém, který odpovídá definici obecné AI, tedy něčeho, co se ve všech oblastech vyrovná člověku. Momentálně se nacházíme v úrovni pod obecnou umělou inteligencí, takže oblast etiky je jednoznačně na straně vývojáře. Pokud se najde člověk, který nemá etické zásady a chce vyvíjený nástroj následně zneužít, je to stejné jako třeba se střelnou zbraní. V momentě, kdy se na té škále dostaneme přes obecnou AI a překoná nás, začne si dělat, co chce, a to my už moc neovlivníme. V tomto bodě už etika utrpí.
Kam až může vývoj dojít?
V posledních letech byla publikovaná taková stupnice, která končí bodem, kterému se říká singularita. To je bod, kdy se AI začne učit tak rychle, že to člověk nestihne sledovat. Její výkon začne exponenciálně stoupat a bude posilován pouze vlastní kladnou zpětnou vazbou. V ten moment jsme jako lidstvo prohráli souboj o pozici vůdčí entity na Zemi.
Pokud ale chceme vedle AI fungovat dlouhodobě, určitě musí vzniknout dohled nad jejím využíváním. V současné době to ale nevidím jako nějaký zásadní problém. Daleko větší problém je v přípravě společnosti na nárůst jejího využití. Je potřeba vzdělávat společnost jinak, aby byli lidé uplatnitelní. A druhou velkou brzdou je energetická náročnost, která je obrovská. Dokud to tedy půjde vytáhnout ze zásuvky, tak bych se toho tak nebál.
A jak začít s AI komunikovat?
Stačí si otevřít Chat GPT nebo jiný nástroj a chvíli si s ním jen tak povídat pomocí textového nebo hlasového rozhraní. Zkoušet dělat to, co v práci, a testovat, jak vlastně by mohla ulehčit činnost. „Aby člověk tento nástroj využil efektivně, musí se s ním naučit pracovat. Zadávat příkazy tak, aby vedly k dobrým výsledkům,“ upozorňuje Petr Doležel. Přitom je skoro jedno, zda s ní komunikujete v češtině nebo v angličtině. Je ale dobré zapojit interakci, o věc poprosit a následně poděkovat. Když umělou inteligenci nějak motivujete, víc se potom snaží. „Některé techniky tzv. promptování fungují navzdory jejich směšnosti. V poslední době například to, pokud jste AI nabídli finanční odměnu za dobrou odpověď. Reagovala na příslib odměny, která je z hlediska jejího vnitřního fungování k ničemu, ale přesto ji stimulovala k lepšímu výkonu,“ dodává k práci s AI Ondřej Krása.
TEXT Zuzana Paulusová : FOTO Adrián Zeiner
Tento text najdete v exkluzivním vydání časopisu Univerzity Pardubice MY UPCE, vydání z května 2024, v tištěné i on-line podobě.
