Lekcia 1 z 6 · 11 min

Čo AI je a čo nie je

Prečo znie umelá inteligencia múdro aj vtedy, keď sa mýli, a čo z toho vyplýva pre prípravu na hodinu.

Po tejto lekcii budete vedieť

Viete vysvetliť, prečo si model vymýšľa, bez toho aby ste použili slovo „porucha“
Rozoznáte, ktorým typom údajov od AI sa nedá veriť bez overenia
Viete si vybrať úlohy, kde je AI spoľahlivá, a tie, kde nie je

Ako to vlastne funguje

Jazykový model nerozumie svetu. Nemá skúsenosť, telo ani zámery. Naučil sa z obrovského množstva textu, aké slová po sebe zvyknú nasledovať, a na základe toho dopĺňa najpravdepodobnejšie pokračovanie. Slovo po slove, znova a znova.

Znie to ako triviálny mechanizmus a v istom zmysle ním aj je. Prekvapivé je, čo z neho pri dostatočnej veľkosti vznikne: model vie zhrnúť text, preložiť ho, vysvetliť učivo tromi spôsobmi aj navrhnúť plán hodiny.

Prirovnanie, ktoré funguje aj pred žiakmi

Predstavte si človeka, ktorý prečítal státisíce kníh, ale nikdy nebol vonku. Vie, ako sa o veciach píše. Nevie, ako veci sú. Keď sa ho spýtate na niečo, o čom sa písalo málo, nepovie „neviem“, ale dopovie to, čo by tam logicky mohlo byť.

Prečo si vymýšľa

Model hľadá pravdepodobné pokračovanie, nie pravdivé. A to nie je to isté. Vymyslený, no dobre znejúci citát je z jeho pohľadu úplne v poriadku: veď presne takto citáty vyzerajú.

Odborne sa tomu hovorí halucinácia. Nie je to chyba programu, ktorú niekto opraví v ďalšej verzii. Je to priamy dôsledok toho, ako model funguje.

Tomuto sa dá veriť skôr	Toto overujte vždy
Preformulovanie textu, ktorý ste dodali	Letopočty, dátumy, čísla
Zhrnutie textu, ktorý ste dodali	Mená osôb a ich diela
Nápady, varianty, návrhy	Odkazy na zdroje a webové adresy
Vysvetlenie bežného školského učiva	Čísla paragrafov a znenie predpisov
Gramatika a štylistika	Miestne reálie: obce, školy, regióny

Všimnite si logiku toho stĺpca vpravo: sú to presné, konkrétne údaje. Teda presne to, čo v texte pôsobí najdôveryhodnejšie, a čo sa zároveň najľahšie overí.

Skutočná ukážka

Otázka na miestnu reáliu

Slabé zadanie

Napíš mi krátky text o histórii základnej školy na Krymskej ulici v Michalovciach.

Model odpovie plynulým odsekom s rokom založenia, menom prvého riaditeľa a počtom žiakov. Znie to úplne dôveryhodne. Problém: o tejto konkrétnej škole sa na internete veľa nepísalo, takže väčšina údajov je domyslená.

Lepšie zadanie

Mám tieto údaje o našej škole: [vložte fakty]. Sprav z nich súvislý text na štyri vety pre webovú stránku školy. Nepridávaj nič, čo v mojich údajoch nie je.

Model dostal fakty od vás a jeho úlohou je už len ich preformulovať. To zvláda spoľahlivo, a veta „nepridávaj nič, čo tam nie je“ výrazne zníži riziko, že si niečo domyslí.

Základné pravidlo: čím menej faktov musí model doplniť sám, tým je výsledok spoľahlivejší.

Čo z toho vyplýva pre školu

Tri praktické závery

AI je výborný prvý draft, nie zdroj. Za odbornú správnosť toho, čo použijete na hodine, ručíte vy.
Najspoľahlivejšia je vtedy, keď pracuje s vaším materiálom: preformulovať, skrátiť, zjednodušiť, vytvoriť otázky k textu.
Najmenej spoľahlivá je vtedy, keď má dodať fakty, ktoré nemá odkiaľ vedieť.

Častá chyba na začiatku

Učiteľ vyskúša AI na tom, čo sám dobre vie, nájde chybu a uzavrie to slovami „je to nanič“. Chyba nie je v tom hodnotení. Chyba tam naozaj bola. Ale je to ako odsúdiť kalkulačku za to, že nevie, ktorý príklad má počítať.

Užitočnejšie je pýtať sa, pri ktorých úlohách sa mýli tak málo, že vám ušetrí čas. Odpoveď je v tabuľke vyššie.

Ďalšie dve ukážky

Keď si pýtate zdroje

Slabé zadanie

Uveď tri odborné štúdie o vplyve mobilov na sústredenie žiakov aj s odkazmi.

Dostanete tri názvy štúdií, mená autorov, roky vydania a odkazy. Vyzerá to ako hotová bibliografia. Časť z toho však neexistuje. Model vie, ako názvy štúdií vyzerajú, a tak nejaké vytvorí.

Lepšie zadanie

Aké sú hlavné zistenia výskumu o vplyve mobilov na sústredenie žiakov? Nechcem odkazy ani konkrétne štúdie, len zhrnutie toho, na čom sa výskum zhoduje a v čom sa rozchádza.

Dostanete prehľad tém a sporných miest. Ten použijete ako mapu, podľa ktorej si potom nájdete skutočné zdroje sami.

Pravidlo: model je dobrý na orientáciu v téme, nie na citovanie. Odkaz od AI treba vždy otvoriť a overiť: inak sa vám môže stať, že v materiáli pre školu bude citovaná neexistujúca práca.

Počítanie

Slabé zadanie

Trieda má 27 žiakov, rozdeľ ich do skupín po 4 a povedz, koľko skupín vznikne.

Modely v počítaní chybujú prekvapivo často, nie preto, že by boli hlúpe, ale preto, že číslo „predpovedajú“ rovnako ako slovo. Pri väčších číslach je chyba pravdepodobnejšia.

Lepšie zadanie

Trieda má 27 žiakov, chcem skupiny po 4. Rozpíš to krok po kroku: koľko celých skupín, koľko žiakov zvýši a ako ich rozdeliť, aby žiadna skupina nemala viac než 5.

Keď model prinútite postupovať po krokoch, chybuje výrazne menej, a hlavne vidíte, kde sa prípadne pomýlil.

Pri čokoľvek s číslami pridajte „krok po kroku“. Je to najlacnejšia poistka, akú máte.

Úlohy

Úloha

Ktorým z týchto piatich zadaní by ste bez overenia dôverovali a ktorým nie?
(a) „Zhrň mi tento text na päť viet.“ · (b) „Kedy vznikla naša obec?“ · (c) „Preformuluj túto vetu jednoduchšie.“ · (d) „Kto napísal učebnicu, z ktorej učím?“ · (e) „Vymysli päť názvov pre školský projekt.“

Pomôcka: Rozdeľ ich podľa toho, či má model pracovať s vaším materiálom, alebo dodať fakt zvonku.

Zobraziť riešenie

Dôverovať skôr: (a), (c), (e). Vo všetkých troch model buď pracuje s textom, ktorý ste mu dali, alebo tvorí nápady, a tam sa nedá „pomýliť“ vo faktoch.

Overiť vždy: (b) a (d). Oboje sú konkrétne fakty zvonku, navyše dosť špecifické na to, aby o nich model nemal spoľahlivé informácie.

Pri (d) je to zvlášť zradné: model takmer isto vymyslí vierohodné meno autora a rok vydania.

Úloha

Vyberte si tému, ktorú učíte, a nechajte si o nej napísať odsek. Potom v ňom označte všetko, čo by ste museli overiť, kým to použijete pred triedou.

Pomôcka: Zvýrazňujte konkrétne údaje: čísla, roky, mená, názvy.

Zobraziť riešenie

Ak ste označili takmer nič, skúste sa opýtať na detailnejšiu vec. Všeobecné vysvetlenia bývajú v poriadku, problém začína pri konkrétnostiach.

Ak ste označili takmer všetko, je to znak, že ste zadali otázku typu „povedz mi fakty“ namiesto „vysvetli mi princíp“. Skúste to preformulovať.

Ideálny stav: dva alebo tri označené údaje, ktoré overíte za minútu, a zvyšok textu je použiteľný.

Zapamätajte si

Model predpovedá pravdepodobné pokračovanie, nie pravdu
Vymýšľa si najmä presné údaje: čísla, mená, letopočty, zdroje
Najspoľahlivejší je pri práci s materiálom, ktorý mu dodáte vy
Za obsah použitý na hodine ručí učiteľ, nie nástroj