Lekcia 3 z 6 · 9 min
Prečo si AI vymýšľa
Znie sebavedomo aj vtedy, keď hovorí nezmysly. Naučíš sa Pravidlo 3 krokov.
Po tejto lekcii budeš vedieť
- Vieš vysvetliť, prečo si AI vymýšľa, hoci nie je pokazená
- Vieš, ktorým údajom neveriť bez overenia
- Vieš použiť Pravidlo 3 krokov na čokoľvek, nielen na AI
Nevie, čo je pravda
AI nekontroluje, či je to, čo píše, pravdivé. Hľadá, čo znie pravdepodobne. A vymyslené meno alebo číslo často znie úplne rozumne: veď presne takto mená a čísla vyzerajú.
Odborne sa tomu hovorí halucinácia. Nie je to porucha, ktorú niekto opraví. Je to priamy dôsledok toho, ako AI funguje.
Najčastejšie si vymýšľa práve toto
- Roky a dátumy
- Mená ľudí a názvy kníh
- Čísla: výšky, vzdialenosti, počty
- Odkazy na stránky, ktoré neexistujú
- Citáty, ktoré nikto nepovedal
Všimni si tú pascu
Sú to presne tie veci, ktoré v texte pôsobia najdôveryhodnejšie. Keď niekto napíše presný rok, znie to ako niekto, kto to vie. A pritom je to práve to, čo si AI vymýšľa najčastejšie.
Najhoršie je, že to znie dobre
Keby AI písala zjavné nezmysly, nikto by jej neveril. Problém je, že píše pekne, plynulo a bez chýb v pravopise.
Pekný text nie je dôkaz, že je pravdivý. Môže byť dokonale napísaný a pritom úplne vymyslený.
Pravidlo 3 krokov
- Over zdroj. Odkiaľ to je? Vie AI povedať, kde to našla? Ak nie, pozor.
- Porovnaj. Píše to isté aj učebnica alebo iná stránka? Ak sa to líši, niečo nesedí.
- Použi zdravý rozum. Dáva to vôbec zmysel? Táto otázka odhalí prekvapivo veľa.
Funguje to aj mimo AI
Tie isté tri kroky použi na video na TikToku, na správu od kamaráta aj na titulok v novinách. Nie je to pravidlo o umelej inteligencii. Je to pravidlo o tom, čomu veriť.
Ako to vyzerá naživo
Vymyslený citát
Slabé zadanie
Daj mi tri citáty od Ľudovíta Štúra o vzdelaní.
Dostaneš tri citáty. Budú znieť presne tak, ako by Štúr hovoriť mal. Časť z nich nikdy nepovedal. AI vie, ako jeho citáty vyzerajú, tak nejaké vytvorila.
Lepšie zadanie
Čo si Ľudovít Štúr myslel o vzdelaní? Nedávaj citáty, len zhrň jeho názory vlastnými slovami.
Zhrnutie bude v poriadku, lebo o Štúrových názoroch sa písalo veľa. Riziko vymysleného citátu si tým obišiel.
Citát, meno a rok: tri veci, ktoré si AI vymýšľa najradšej.
Úlohy
Úloha
Nechaj si od AI napísať krátky text o téme, ktorú práve preberáte v škole. Potom si zober učebnicu a nájdi v tom texte aspoň jednu chybu alebo nepresnosť.
Pomôcka: Zameraj sa na čísla, roky a mená. Tam ich býva najviac.
Zobraziť riešenie
Skoro vždy tam nejaká je. Ak si žiadnu nenašiel, skús sa opýtať na niečo detailnejšie. Konkrétny rok, konkrétne meno, konkrétne číslo.
Keď nejakú nájdeš, skús ešte jednu vec: napíš AI „toto nie je pravda, over si to“. Väčšinou sa ospravedlní a opraví sa: aj keď pôvodne mala pravdu.
To je ďalšia dôležitá vec: AI sa dá ľahko presvedčiť, aj keď má pravdu. Takže ani jej ospravedlnenie nie je dôkaz.
Úloha
Opýtaj sa AI na niečo, čo ty dobre vieš. Obľúbenú hru, seriál, šport. Nájdi v odpovedi chybu.
Pomôcka: Pýtaj sa na detaily: presné čísla, mená, roky.
Zobraziť riešenie
Skoro vždy niečo nesedí. Zaujímavé je, že si to všimneš len preto, že tú tému poznáš.
A teraz tá dôležitá otázka: koľko chýb ti uniklo pri témach, ktoré nepoznáš? Presne toľko, koľko si nemal ako skontrolovať.
Preto to Pravidlo 3 krokov. Nie preto, že AI klame naschvál, ale preto, že ty nevieš, kedy sa mýli.
Zapamätaj si
- AI nevie, čo je pravda: hľadá, čo znie pravdepodobne
- Vymýšľa si najmä čísla, roky, mená a odkazy
- Pekný text nie je dôkaz pravdivosti
- Over zdroj, porovnaj, použi zdravý rozum