SK
EN
ŠTUDENTI MAJÚ CHATGPT POUŽÍVAŤ TAK, ABY SA NAUČILI MYSLIEŤ KRITICKY
Rozvoj umelej inteligencie napreduje, minulý rok spustili ChatGPT vyvinutý spoločnosťou OpenAI. Najnovšia verzia prináša čoraz lepšie odpovede, ktoré sa podobajú odpovediam reálneho človeka. Niektorí odborníci sa obávajú rizík, napríklad, že nahradí niektoré zamestnania. Existuje tiež obava, že ak ju budú používať študenti, nebudú toľko rozvíjať svoje vlastné myslenie. Na druhej strane je umelá inteligencia veľkým pomocníkom a uľahčuje nám prácu. Docent Martin Takáč z Katedry aplikovanej informatiky FMFI UK si myslí, že ak ju študenti budú používať rozumným spôsobom, môže im pomôcť skvalitniť obsah vysokoškolských prác.
Ako vnímate využitie umelej inteligencie? Skôr sa jej obávate, alebo si myslíte, že by mohla byť prospešná?
Každý z nás už umelú inteligenciu používa v bežnom živote, či už ide o navigáciu v aute, inteligentné vyhľadávanie alebo preklady z jazyka. Som za to vďačný, je to dobrá vec. V budúcnosti môžu nastať určité riziká, ale všeobecne som skôr optimista, s tým, že riziká treba ošetriť.
A čo ChatGPT? Ako ho vnímate?
Veľmi ma prekvapil, v pozitívnom zmysle. Keby ste sa nás odborníkov pred pár rokmi spýtali, kedy umelá inteligencia dokáže to, čo dnes ChatGPT, odhadovali by sme, že to bude oveľa neskôr. Aj jeden z priekopníkov umelej inteligencie Geoffrey Hinton sa vyjadril, že to očakával až tak o 30 až 50 rokov.
Myslíte si, že je správne, aby študenti využívali ChatGPT ako pomôcku pri štúdiu? Do akej miery by ho mali využívať?
Podvod nastáva v momente, keď študenti a študentky robia to, čo pravidlá zakazujú. ChatGPT je nový fenomén, s ktorým pravidlá nerátali, preto je čas zamyslieť sa nad tým, ako prispôsobiť pravidlá novej realite tak, aby ostal splnený základný cieľ: rozvinúť zručnosti študujúcich a pripraviť ich na prax. Na fakultnom dni otvorených dverí som sa spýtal stredoškolákov a stredoškoláčok, koľkí z nich využívajú ChatGPT. Zdvihlo sa okolo 200 rúk, prakticky celá sála. Nielen študenti a študentky, ale aj zamestnanci a zamestnankyne používajú ChatGPT pri práci, navyše to od nich začínajú vyžadovať aj zamestnávatelia. Zúčastnil som sa konferencie, kde boli ľudia z IT praxe. Zaznel tam názor, že ten, kto nepoužíva ChatGPT v zamestnaní, by mal mať nižší plat, pretože nepracuje maximálne efektívne. Realita je taká, že tieto technológie budú do 10 rokov bežnou súčasťou nášho života. Preto si myslím, že nie je správne ich používanie zakazovať, radšej by sme študentov a študentky mali naučiť používať ich rozumným spôsobom.
Najnovšia verzia ChatGPT 4 dokáže napísať takmer celú záverečnú prácu pre vysokoškolákov na takmer akúkoľvek tému. Ak by ju študent využil napríklad na napísanie eseje, akým spôsobom vedia vyučujúci prísť na to, že túto esej nepísal sám?
Vyučujúci si môže všímať isté vlastnosti textu. Pokiaľ študent má napísať esej napríklad po anglicky a vieme, že tento jazyk dokonale neovláda, pričom esej je v perfektnej angličtine, vtedy musíme byť obozretní. ChatGPT iba generuje text, on ho nevyhľadáva podľa faktov. Jeho použitie často prezradí aj to, že text má hlavu a pätu, ale zrazu sa v ňom vyskytne odstavec, ktorý úplne odbočuje alebo nedáva zmysel. Tiež je dobré skontrolovať, či sedia faktické údaje a či použité referencie skutočne existujú, pretože ChatGPT si ich niekedy vymýšľa.
A čo písanie záverečných prác? Ak by došlo k tomu, že študent napíše celú záverečnú prácu pomocou umelej inteligencie, akým spôsobom by si to mal školiteľ ošetriť?
Ako som už povedal, použitie ChatGPT často prezradia neexistujúce zdroje. Ale záverečné práce nevznikajú tak, že vedúci naraz dostane len hotovú odovzdanú prácu. Spísaniu záverečnej práce predchádza výskum, niekedy experimenty, ktorých výsledky má práca zhrnúť. Musí teda korešpondovať s faktami. Dobrý vedúci alebo vedúca sprevádza študenta celým procesom písania. Kontroluje jednotlivé pasáže priebežne a všíma si progres, dáva spätnú väzbu, na základe ktorej študent alebo študentka text vylepšuje. V niektorých textových editoroch je možné zapnúť sledovanie zmien, čím si spätne overíme, ako dokument vznikal. Ak text vznikol celý na jeden raz a nemá takmer žiadne zmeny, ide pravdepodobne o cudzie dielo. Pomôcť nám môžu aj softvéry (napr. GPTZero, DetectGPT), ktoré vypočítajú, s akou pravdepodobnosťou písal text človek a s akou pravdepodobnosťou umelá inteligencia. Tu si treba ale dať pozor na to, že tieto softvéry nemajú stopercentnú úspešnosť, čiže môžu niekoho obviniť aj neprávom. Prvá reakcia na takýto výsledok by teda nemal byť rovno trest, ale ďalšie zisťovanie. Uvažuje sa aj o tom, že by ChatGPT alebo podobné systémy vkladali priamo do textu akýsi vodoznak – postupnosť určitých písmen na definovaných pozíciách v texte. Toto je voľným okom neviditeľné, ale je to možné zistiť pomocou digitálneho kľúča: ak sú v texte stopy vodoznaku, vygenerovala ho umelá inteligencia. Výskumy ukazujú, že takéto vodoznaky sú dosť robustné, ostanú v texte, aj keď ho dá človek parafrázovať inému programu, prípadne pozliepa texty z viacerých zdrojov. Vkladanie vodoznaku by však do svojich produktov musela implementovať firma, ktorá ich vyrába.
Vďaka seminárnym prácam študenti nadobudnú skúsenosti s prácou so zdrojmi, rozvíjajú svoje štylistické schopnosti. Čo však v prípade, ak si pomáhajú pri ich písaní umelou inteligenciou? Neobávate sa toho, že študenti zabudnú tvoriť?
Pokiaľ to bude tak, že študent len skopíruje text vygenerovaný umelou inteligenciou a odovzdá ho vyučujúcemu, tak áno, nič sa nenaučí a zabudne tvoriť. Naším cieľom je to, aby sa študenti a študentky naučili odovzdávať kvalitné výsledky a vedeli ich kriticky posúdiť. Pokiaľ podklady od ChatGPT študent alebo študentka preveruje, porovnáva s inými zdrojmi, opravuje či preformuluje, prípadne dá ChatGPT úlohu, aby vygeneroval niekoľko rôznych verzií jedného textu, tak s nimi pracuje, vďaka čomu zapája kritické myslenie. Program nenahradzuje celý proces, za finálnu prácu je vždy zodpovedný práve študent. Kedysi sme museli vyhľadávať rešerše fyzicky, dnes nám to uľahčil internet a prevzatie informácií s uvedením zdroja sa neberie ako podvod. Tiež napríklad učíme študentov a študentky, že nemajú vo svojich prácach citovať Wikipédiu, že to nie je vedecký zdroj. Ale pokiaľ ju použijú na rýchle prvotné zorientovanie v problematike a potom si dohľadajú pôvodné zdroje, nevidím na tom nič zlé. ChatGPT môže fungovať rovnakým spôsobom: ako nástroj, ktorý celú prácu za človeka neurobí, ale môže ju zefektívniť. Každá práca je postavená na princípe Generuj a testuj. Určite sa študenti v minulosti veľa naučili aj generovaním, ale musíme žiť s realitou, že im asi s generovaním budú čoraz viac pomáhať nástroje umelej inteligencie. Tie nie sú neomylné, práve preto by sme sa mali zamerať na posilnenie schopnosti testovania, kritického overovania vygenerovaných podkladov a ďalšej práce s nimi.
Akým spôsobom by sa využívanie systémov generatívnej umelej inteligencie malo regulovať? Malo by sa zakázať jeho používanie napríklad u študentov, prípadne by sa mala prehodnotiť metodika písania záverečných prác?
Univerzity sa k tomu stavajú rôzne. Existujú precedensy reštriktívneho, ale aj veľmi otvoreného prístupu. Minimálne by však bolo vhodné dotlačiť výrobcov týchto systémov, aby vytvorili nástroje umožňujúce rozoznanie textov, ktoré písal človek a ktoré umelá inteligencia. Najmä v doménach, kde záleží na faktickej presnosti. V USA bol zdokumentovaný prípad, kde právnik na súde predložil obhajobu odvolávajúcu sa na neexistujúce precedensy, pretože mu text obhajoby vygenerovala umelá inteligencia. V dobe umelých četbotov a falošných videí (deepfake) je dôležité vedieť, kedy komunikujete s človekom a kedy so strojom. V niektorých štátoch, napr. v Kalifornii, sú zákony, ktoré zaväzujú priznať, pokiaľ na druhej strane komunikácie nie je živý človek, ale systém umelej inteligencie. Takáto regulácia sa chystá aj v EÚ, bude súčasťou tzv. Artificial Intelligence Act.
Do koľkých rokov je možné, aby sme mali takúto reguláciu aj u nás na Slovensku?
Proces prípravy zákona je dlhý, spomínanú EÚ reguláciu začali chystať pred vyše dvoma rokmi. Predpokladám, že ešte aspoň ďalšie dva roky to bude trvať. Ministerstvo investícií, regionálneho rozvoja a informatizácie SR zriadilo Stálu komisiu pre etiku a reguláciu umelej inteligencie, ktorej som aj ja členom. Komisia slúži ako poradný orgán ministerstva, čiže Slovensko môže v tomto smere prijímať opatrenia aj proaktívne, nemusí čakať na EÚ.
Ako by sme mali s novými technológiami narábať v budúcnosti?
Nové technológie vznikajú a nasadzujú sa do praxe veľmi rýchlym tempom, bez preskúmania ich dôsledkov na spoločnosť. Regulácia sa snaží dobehnúť vývoj, ale je príliš pomalá. Nové technológie neriešia len technické problémy, ale majú veľký vplyv na celú spoločnosť, napr. aj vďaka sociálnym sieťam vznikajú informačné bubliny, prosperuje množstvo konšpiračných teórií a rastie polarizácia spoločnosti. Ak chceme, aby umelá inteligencia zlepšovala náš život a aby nenastali katastrofické scenáre, musíme sa vážne zaoberať jej dôsledkami, predvídať možné riziká a predchádzať im. To si bude vyžadovať spoluprácu odborníkov z celého spektra disciplín, vrátane humanitných, nielen technokratov.
Radka Rosenbergová