Jak je jasné i z minulého článku, nebývám zpravidla zrovna na čele technologického pokroku. Konec konců první chytrý telefon jsem si pořídila teprve loni a podobně jsem na tom i ve všem ostatním. Ani mě ale nemohl minout obrovský poprask ohledně pár měsíců staré umělé inteligence ChatGPT. Tenhle chytrý program, který si s vámi informovaně popovídá v podstatě o čemkoli a splní vám prakticky libovolné přání, jehož výsledkem může být text, okamžitě spustil tradiční vlnu apokalyptických předpovědí: brzy budeme všichni bez práce, studenti budou moct ve škole podvádět tak, jak nám se o tom ani nesnilo, svět ovládnou roboti a mrtví budou vstávat z hrobů. Kdybych neučila, nejspíš bych jenom protočila panenky. Takhle se mě ale minimálně jeden z uvedených bodů osobně dotýká, a tak jsem se technologii, o které všichni mluví, rozhodla vyzkoušet.
Jako první jsem se ChatGPTho zeptala, jaké by mi předložil argumenty a protiargumenty k jednomu ze současných horkých témat, konkrétně k homosexuálnímu manželství (samo od sebe by mě to asi nenapadlo, ale potom, co jeden student při hodině z legrace naznačil, že políbí jiného studenta, se nám o tom ve třídě rozproudila poměrně pikantní debata). Robot nezaváhal a předložil krásně strukturovaný a očíslovaný seznam shrnující nejčastější argumenty. Neměla jsem co vytknout. Háček se zasekl.
Tehdy se probudila moje vlastní vnitřní studentka. Víte, zrovna totiž píšu kapitolu dizertace, na kterou ještě nemám tak úplně načteno – a jelikož je to ta jediná doopravdy otravná kapitola, krutě se mi do toho nechce. I nechala jsem robota, aby mi jen tak zkusmo shrnul obsah jedné z knih, které bych si měla přečíst, a to, co na mě vypadlo, vypadalo opravdu velmi lákavě. Mám o obsahu té knihy jistou představu a tohle znělo přesně jako to, co jsem od ní čekala.
O tři články, které bych si měla přečíst, později, jsem se zarazila. Ano, zní to všechno velmi plauzibilně, ale mně už přeci jen dávno není šestnáct a doktorát je doktorát. I rozhodla jsem se bota si proklepnout. Nechala jsem ho udělat výtah z několika knih, které velmi dobře znám, a tehdy mi asi poprvé doopravdy zatrnulo. Výsledky totiž byly dobré. Zatraceně dobré. Navíc napsané velmi hezkou, pokročilou angličtinou; právě takovou, v jaké se píší akademické texty. Donedávna se psalo o tom, že umělá inteligence v první řadě nahradí nekvalifikované a manuální profese. Rozhodně ne akademiky.
Skutečné překvapení ale přišlo až v momentě, kdy jsem se bota zeptala, jak se při výuce dají použít mé milené jazykové univerzálie. Vypadlo na mě totiž úplně všechno, co si myslím, a řada toho, co už při výuce s úspěchem používám. Brada mi poklesla. Rozhodla jsem se tedy zajít ještě o úroveň dál a nechala jsem bota, aby mi navrhl výukovou hodinu. Přede mnou se v řádu sekund objevila naprosto dokonalá příprava včetně podrobného rozvrhu časové dotace a přínosu jednotlivých aktivit. Brada mi břinkla o zem.
Myslet dopředu a dohlížet všemožné důsledky kdečeho mi nikdy nečinilo větší potíže, tady mi ale skutečně došla představivost. Pravda, na některé otázky mi bot nebyl schopen dát uspokojivou odpověď, jednou si vymyslel článek, který neexistuje, jeho čeština znatelně pokulhávala a vygenerovat anglický sloh, u něhož by šlo uvěřit tomu, že ho napsal český teenager, nezvládl. To je ale všechno nejspíš jen otázka času; navíc vzhledem k množství dat, kterými momentálně ChatGPT všichni krmíme, nejspíš docela krátkého času. Co se teď všechno stane? Kolika profesím právě odzvonilo? Jaké to bude mít důsledky? Naprosto nedokážu dohlédnout. A vůbec – jen tak pro jistotu – nevšimli jste si náhodou kolem hřbitovů v poslední době nějaké podezřelé aktivity?
Umela inteligence je mozns v plenkach, ale to znamena, ze s tech pleneknjednou vyroste a jestli je ted uz v batolecim veku…bude to jeste zajimave…
Jestli je ChatGPT batole, tak si snad radši ani nechci představovat, co se stane, až přijde do puberty!
Přiznám se, čím víc o tom slyším nebo čtu, tím víc z toho mám spíš nepříjemný pocit.
Zrovna včera jsem o AI poslouchala spíš kritičtější rozhovor a bylo tam dost věci k zamyšlení. Tak si říkám, aby to nebylo jako s ohněm – dobrý sluha, špatný pán.
Nejde jen o to, co píšeš výše, náhrada profesí. Ale to maximální nakrmení daty, nejen běžně dostupnými údaji, ale třeba i o lidech atd… (AI by mohla umět prohledat a propojit na netu kdoví co…) Plus riziko nějaké chyby zadané při požadavku vyhodnocování atd… Kdo ví, na co vše to bude možno použít a kde všude… No, není mi z toho úplně nejlépe…
Naprosto souhlasím. V sociologii je zažitý pojem „nezamýšlené důsledky lidského jednání“. Většina vynálezců vždycky všechno myslela dobře – a pak se nestačili divit. Od atomovky po tlačítko „to se mi líbí“ na facebooku. Všechno jde zneužít. Obzvlášť to, co má opravdu velký potenciál.
U nas doma to mame rozdelene. Em je fanousek a ja konzervativni odpurce. Pokud uz ted vyzkumy potvrzuji digitalni demenci, jak na tom budeme v pate generaci GPT? Nechtela bych dostavat dopisy od AI a pri psani clanku me prave bavi dohledavani zdroju a souvislosti. Druha kapitola je vizualni umeni od AI, ktere je dechberouci – jen je vsechno tak trochu chladne stejne. Takze az vznikne underground lidske tvorby, budu rozhodne v nem:)
My jsme domácnost konzervativních odpůrců, takže se v tom undergroundu nejspíš všichni potkáme 🙂 Každopádně ta grafika generovaná AI trpí podobnými neduhy, o jakých jsem psala u ChatGPT, akorát většina lidí na to nemá tak vytrénované oko. Když se ale podíváš blíž, zjistíš, že třeba lidské postavy mají podivně zdeformované některé části těla nebo šest prstů – zkrátka asi jako ten český text se špatnou syntaxí. To ale samozřejmě nic nemění na otázce, jak na tom budeme s digitální demencí v páté generaci AI. Protože ta straší opravdu hodně lidí.
Schválně jsem se na to chtěl podívat, ale AI chce abych se zalogoval.
Tak počkám, až vymyslí systém, kde se nikam logovat nemusím.
A.P.
Je to bohužel tak a upřímně řečeno mě to na první dobrou taky odradilo. Nakonec ale zvědavost přeci jen zvítězila 🙂
Vidím to podobně jako Nominek. Spíš husí kůže než nadšení. Manžel zatím pro AI horuje, že prý zanedlouho nebude potřeba ani programovat, AI udělá všechno. Chudáci programátoři (a nejen oni), skončí o žebrácké holi…
Tak. Programátoři prostě vyvíjeli, celkem bez ohledu na společenské důsledky. Takhle zvnějšku to vypadá, že se sami prostě cítili v bezpečí, protože je přece umělá inteligence hned tak nenahradí. No, ehm…
Mě zaujalo, že počítač udělá tu přípravu vyučovací hodiny a ještě tam vypíše, které dovednosti a znalosti to rozvíjí atd. To je dot šikovné hlavně pro lidi, co třeba mají super přístup k dětem, ale jejich analytický možnosti zas nejsou tak skvělý, to jim pomůže. – Na druhou stranu zůstává i tady obava, jestli někdo, kdo si hodinu nepřipravil sám a nepochopil sám ze základu, proč dělá, co dělá, jestli ten bude skutečně schopen tu hodinu v realitě dobře provést, jestli to nebude působit nějak strojeně, neautenticky, obšlehátorsky.
Ta jedna hodina, co mi ji ChatGPT vyplivl, vypadala relativně klasicky (byť v moderním střihu zahrnujícím video, diskusi a tak), takže na tom si myslím, že není co zkazit. Je otázka, jestli by lepší instrukce nevyplivly něco inovativnějšího a kreativnějšího – a to si pak dovedu představit, že by mohlo přesně z těch důvodů, co zmiňuješ, pohořet. Ono jak slyším od některých svých studentů, tak ani sebeskvěleji navržená hodina sama o sobě nestačí. Pokud oni mají pocit, že je učitel akorát posuzuje, tak to prostě nikdy nebude úplně fungovat. Minimálně ve výuce jazyků ne.
Jsem zvědav, jak se to vše vyvine. Zatím počítám s tím, že se z AI stane v krátké době podobný nenahraditelný pomocník, jakým je internet. No a pak už to bude záviset na tom, kolik ctižádosti dostane AI od svých sudiček do vínku :-).
Jinými slovy: radši psát dotazy pro ChatGPT zdvořile, za každou odpověď poděkovat a nezapomenout se ho občas zeptat, jak se má, protože co kdyby náhodou 🙂
O tomhle tématu v poslední době dost přemýšlím, snad nebude vadit, když se tu rozepíšu…
Upřímně, taky nemám z AI úplně nejlepší pocity a nevím, jestli jsme náhodou neosvobodili něco, co brzy nebudeme umět kontrolovat. Jistě, pokrok nejde zastavit (nebo jde, ale jen s velkými obtížemi), a představa mít jakousi entitu, která za nás bude řešit složité problémy, je lákavá. Otázka je, jestli jsme kvůli touze se trochu ohřát nezaložili ohýnek na seníku. Dá se očekávat, že AI naše životy v následujících letech nějak změní – jak, to si prozatím netroufám s jistotou tvrdit, jen doufám, že ne nějak likvidačně.
Nicméně že by umělá inteligence v blízké době nahradila práci učitelů a že by se dala používat ke vzdělávání nebo i vědeckým účelům, si nemyslím. Trpí totiž dvěma zásadními nedostatky, o nichž nevím, jestli je někdy překoná, zatím se mi totiž jeví být v podstatě neoddělitelné od principů jejího fungování.
Zaprvé – součástí jakékoliv seriózní vědecké a pokud možno i vzdělávací práce je uvádět zdroje informací, které používám, umět je kriticky vyhodnocovat, posuzovat jejich relevanci, polemizovat s nimi, srovnávat… Vědět, odkud který poznatek pochází, je klíčové. Ovšem AI nezdrojuje. A nevím, jestli vůbec zdrojovat může. Když se AI zeptám, jestli by mi nemohla říct, odkud ta – třeba chybná – informace, kterou mi poskytla, pochází, tak odpoví „jako strojový model jsem trénován na velkém množství informací, které pocházejí z různých zdrojů“ a „při odpovídání se snažím zkontrolovat informace z více zdrojů, abych zajistil/a přesnost a správnost odpovědí“. To je vše, konkrétnější není. Nejsem si jistý, jestli si AI vytváří nějakou databázi zdrojů, a nebo jestli prostě kombinuje dohromady ty informace, na které narazí nejčastěji. Dle toho, jak fungování AI chápu, tuším že je správně spíš B (ačkoli se mohu plést), čímž bychom se dostali k dalšímu problému – to, že se něco píše často, neznamená, že je to správně. Na internetu se třeba mnohem častěji dají najít „online filmy ke shlédnutí“ než „ke zhlédnutí“, Google tu pravopisně správnou variantu dokonce podtrhává domněle jako chybnou. To také znamená, že hodně záleží na tom, jakými daty je AI „krmena“. Ovšem jakými ji krmit třeba v případě složitých filozofických či etických otázek, na které existují různé názory?
A zadruhé – neumí přiznat, když si vymýšlí. V předchozím odstavci jsem několikrát použil obraty typu „nevím“, „nejsem si jistý“ nebo „mohu se plést“. To dělá i dobrý vědec nebo dobrý učitel – je si vědom hranic své odbornosti. AI to nedělá. I o věcech, o kterých neví vůbec nic, dokáže báječně blufovat a vršit jeden nesmysl na druhý – a pro jakýkoliv náznak nejistoty v tom není místo. A opět bych řekl, že vlastně ani nemůže být. AI si je totiž vlastně nejistá permanentně. Jestliže jde o „textový model“, je to zřejmě jakási výrazně vyvinutější a dokonalejší obdoba našeptávače slov, který máme v chytrém telefonu; našeptávače, který se snaží odhadnout, co vlastně chceme napsat. Obdobně si představuji, že se AI snaží odhadnout, jakou odpověď chceme číst, a není tedy v důsledku schopna rozlišit mezi pravdivou informací a nesmyslem. Hádá totiž neustále.
Proto – ač mě schopnosti tohoto nového nástroje poněkud děsí – nejsem v současné době přesvědčený, že by se vědci nebo učitelé museli obávat o svoji budoucnost v oboru. Možná se pro ně nakonec AI stane jen dalším z potenciálně užitečných nástrojů, který jim ulehčí a urychlí práci, tak jako se něco podobného stalo už několikrát v minulosti. Automatická kontrola pravopisu ve Wordu nevzala práci korektorům, naopak jim ji zefektivnila, protože tím, že upozorňuje na velkou spoustu jednoduchých chyb a překlepů, dává korektorovi možnost soustředit se na více na stylistiku – a jelikož kontrola není dokonalá a občas i správně napsané slovo nebo formulaci označí za chybu, je to právě korektor, kdo ji dokáže se svými znalostmi nejefektivněji použít. Automatické překladače nevzaly práci překladatelům, ale mohou jim sloužit coby poradní nástroje, přivádějící je k nápadům, jak přeložit tu kterou formulaci, popřípadě má nenáročný překladatel možnost, aby si nechal text strojově přeložit celý a pak už jen hlídal sjednocení napříč textem a učesával dílčí pasáže. A zase je to právě vyškolený překladatel, kdo si s tímto nástrojem umí nejlépe poradit, protože laik nedokonalosti strojového zpracování přehlédne – tím spíše, čím méně jsou nápadné.
Nástup AI možná nevezme práci odborníkům. Možná budou nakonec potřeba víc než dnes, aby dokázali usměrňovat nedostatky poněkud nabubřelého robota. 🙂 Chce to jen se nedostat do stavu, kdy už se robot nechat usměrňovat nebude chtít.
Vřelé díky za tohle zajímavé zamyšlení! Líbí se mi ta myšlenka, že nejistota je pozitivní lidská vlastnost, kterou AI (minimálně zatím) nedovede napodobit – a že bez ní se neobejdeme. Velmi lidská perspektiva, ve všech významech toho slova 🙂 A co se týče práce učitelů, tak tam bych se nebála. Když jsem se ptala svých kvartánů, jestli by chtěli, aby je učil chytrý robot, okamžitě odpověděli, že ne. Minimálně do určitého věku prostě hraje prim osobní vztah a ten prostě nehradit nejde; minimálně ne do doby, než by ten robot vypadal a projevoval se opravdu po všech stránkách jako člověk.
Zdá se, že člověk začal přemýšlet, jak jako druh začít degenerovat tj. přestat pracovat rukama a přestat myslet . V tom případě jsme na dobré cestě. Že by se opravdu zrodilo R.U.R.?
Na tom, abychom nemuseli pracovat rukama, makáme už nejmíň sto padesát let; na tom, abychom mohli přestat myslet, přeci jen zatím o něco kratší dobu. Ale zase to jde dopředu o to rychleji 😀
Viděla jsem o umělé inteligenci pár filmů a už tehdy jsem z toho měla mražení na zátylku. Vím, byly to jen filmy a dnes je umělá inteligence ještě v plenkách, ale jak píše Jan, ona z nich jednou vyroste. Snažím se věřit tomu, že lidem nepřeroste přes hlavu a bude „jen“ dalším užitečným nástrojem v našich životech.
P.S:No jo, u našeho hřbitova se to teď podezřelými individui jen hemžilo, pokládali tam novou silnici :D.
Jo, z některých filmů fakt mrazí! Od Ex Machina, přes Her nebo některé epizody Black Mirror až po kultovní japonské Ghost in the Shell. Z Ex Machina se mi tehdy udělalo špatně skoro fyzicky. Tak doufejme, že se budeme schopní včas zastavit.
Tohle je náročné téma. Pamatuji si jednu bouřlivou diskuzi před asi 8 lety, v jedné z mých prvních prací, kdy kolega hlásil, že do pár let budeme kvůli AI všichni bez zaměstnání. Tehdejší pozice stále nezanikla, takže zas tak žhavé to vskutku nebylo. Osobně se na větší užití AI v praxi těším, sama jsem si vědomá hned několika úkonů, kde by mi velmi pomohla, a konkrétně ChatGPT někteří kolegové již dnes využívají (ačkoliv trochu „načerno“, mimo oficiální politiku firmy). Nemyslím si, že by kvůli AI zanikaly pozice ve velkém, spíše dojde k celkové restrukturalizaci v některých odvětvích. Pořád má plno much, nezdrojuje a často uvádí mylné informace, ale jak píšeš, jestli je tohle batole, máme se u teenagera na co těšit.
Ty apokalyptické vize bývají často mnohem temnější než skutečnost, která přijde, na to stačí i malý exkurz do historie. Ale tady mě tedy opravdu zamrazilo. Inu, necháme se překvapit 🙂
Musím říct, že z umělé inteligence úplně nejásám, ale mé povědomí je spíš povrchní. Možná by mi někdo dovedl vysvětlit, jak hodně užitečné to je… Kdo dnes ví…
Marie Veroniko, měj hezké odpoledne. Helena
Myslím, že povědomí skoro všech je velmi povrchní. Vlastně možná i proto se nám to jeví jako děsivé – a kdybychom tomu rozuměli, v klídku bychom si pískali 🙂 Děkuji a nápodobně!