Halucynacje AI to określenie na sytuację, w której model podaje informację nieprawdziwą, robiąc to dokładnie tym samym pewnym tonem co przy informacji prawdziwej. W pracy domowej wygląda to niewinnie: data przesunięta o dwa lata, cytat, którego w lekturze nie ma, wzór zapisany poprawnie z błędnym wynikiem. Uczeń nie ma jak tego wychwycić, bo właśnie się tego uczy, a nauczyciel zauważa dopiero przy sprawdzaniu.
Ten tekst pokazuje, skąd biorą się takie błędy, w których miejscach pojawiają się najczęściej i jak nauczyć dziecko prostej procedury sprawdzania, która zajmuje minutę. Jest częścią działu AI a nauka dziecka i całości opisanej w głównym przewodniku AI a dziecko.
W skrócie
- Model nie kłamie, bo kłamstwo zakłada zamiar. Układa najbardziej prawdopodobne zdanie i nie wie, kiedy zgaduje.
- Najwięcej błędów pojawia się w datach, liczbach, cytatach, przypisach i tematach lokalnych.
- Matematyka jest zwodnicza: kroki wyglądają poprawnie nawet wtedy, gdy wynik jest zły.
- Procedura sprawdzania w trzech krokach zajmuje minutę i wyłapuje większość wpadek.
- Dziecko zapamiętuje lekcję dopiero wtedy, gdy samo przyłapie maszynę na błędzie.
Skąd biorą się zmyślenia
Model językowy działa na zasadzie przewidywania: dobiera kolejne słowa tak, żeby całość brzmiała spójnie i prawdopodobnie. Nie ma w środku bazy faktów, którą mógłby sprawdzić, i nie ma mechanizmu odróżniającego wiedzę od zgadywania. Kiedy w danych, na których się uczył, brakowało informacji, i tak wygeneruje odpowiedź, bo do tego został zbudowany.
To wyjaśnia najbardziej mylącą cechę takich błędów: pojawiają się w otoczeniu informacji prawdziwych i wyglądają identycznie. Akapit o wojnie może zawierać cztery poprawne fakty i jedną zmyśloną datę, a nic w tekście tego nie sygnalizuje. Dlatego sprawdzanie nie może być odruchem stosowanym wtedy, gdy coś budzi wątpliwość, tylko stałą procedurą przy określonych typach treści.
Gdzie błędy pojawiają się najczęściej
Pierwsza grupa to wszystko, co jest konkretne i policzalne: daty roczne, liczby ludności, wyniki, odległości, ceny. Druga to cytaty i przypisy, przy czym model potrafi wymyślić tytuł książki, nazwisko autora i numer strony w jednym zdaniu. Trzecia to tematy lokalne: konkretna szkoła, mniejsze miasto, lokalny zabytek, regionalna tradycja.
Czwarta grupa jest najbardziej podstępna, bo dotyczy lektur szkolnych. Chatbot z pełnym przekonaniem streści wątek, którego w książce nie ma, albo przypisze wypowiedź niewłaściwej postaci, zwłaszcza przy pozycjach mniej popularnych. Dla ucznia, który książki nie przeczytał, jest to podwójna pułapka. O tym, dlaczego warto czytać samodzielnie, piszę w tekście AI a pisanie i czytanie dziecka.
| Typ zadania | Ryzyko błędu | Jak sprawdzić |
|---|---|---|
| Daty i wydarzenia historyczne | Wysokie | Podręcznik albo strona muzeum |
| Cytaty i przypisy | Bardzo wysokie | Sprawdzić, czy tytuł i autor w ogóle istnieją |
| Zadania rachunkowe | Wysokie | Policzyć inaczej, oszacować rząd wielkości |
| Lektury szkolne | Wysokie | Znaleźć fragment w książce |
| Definicje i reguły | Niskie | Porównać z podręcznikiem |
| Tematy lokalne | Bardzo wysokie | Strona gminy, szkoły, lokalne źródło |
Dlaczego matematyka jest wyjątkowo zwodnicza
Przy zadaniu rachunkowym uczeń widzi kolejne przekształcenia zapisane porządnie, jedno pod drugim, i cała rzecz wygląda na sprawdzoną. Tymczasem model generuje te kroki tak samo jak zdania w wypracowaniu, czyli dobierając to, co pasuje, a nie licząc. Efekt bywa taki, że zapis jest poprawny stylistycznie, a wynik po prostu zły.
Dla dziecka jest to sytuacja bez wyjścia, bo nie ma jeszcze wiedzy pozwalającej ocenić poprawność. Ratunkiem jest jeden nawyk: zawsze sprawdzić wynik innym sposobem. Oszacowanie rzędu wielkości, podstawienie do równania, policzenie na kartce. To zajmuje trzydzieści sekund i wyłapuje większość wpadek. Praktyczne zastosowanie przy lekcjach opisuję w tekście Odrabianie lekcji z chatbotem.
Procedura sprawdzania w trzech krokach
Krok pierwszy: zaznacz w odpowiedzi wszystko, co jest liczbą, datą, nazwiskiem albo cytatem. To są miejsca podwyższonego ryzyka i tylko one wymagają uwagi, więc lista jest krótsza, niż się wydaje. Krok drugi: sprawdź te elementy w drugim miejscu, najlepiej w podręczniku albo na stronie instytucji.
Krok trzeci: zapytaj samo narzędzie, co w tej odpowiedzi jest najbardziej niepewne, i poproś o wskazanie źródła. Odpowiedź bywa pouczająca, bo model często sam wskazuje słabe punkty, gdy się o to poprosi. Trzy kroki zajmują minutę i wystarczą przy zdecydowanej większości prac domowych. Więcej o samym formułowaniu pytań w tekście Jak nauczyć dziecko pytać AI.
Jak tłumaczyć to dziecku w różnym wieku
Siedmiolatkowi wystarczy jedno zdanie: to program, który zgaduje kolejne słowa i nie wie, kiedy zgaduje. Do tego jedno doświadczenie, czyli wspólne pytanie o coś, co dziecko zna na pamięć, i wyłapanie błędu. Dziesięciolatek zrozumie już, że błędy nie są przypadkowe i skupiają się w konkretnych miejscach, więc można pokazać mu listę typów ryzyka.
Nastolatkowi warto powiedzieć rzecz trudniejszą: model nie tylko się myli, ale też potrafi wymyślić źródło potwierdzające własny błąd. To argument, który robi wrażenie, bo dotyka czegoś, co nastolatek uznaje za dowód. Wersje dla poszczególnych etapów rozwoju opisuję w tekstach 7-9 lat: dziecko wierzy AI i AI a wiek dziecka.
Gdy błąd trafił już do zeszytu
Zdarzy się, że nauczyciel podkreśli w pracy zdanie, którego dziecko nie sprawdziło. To dobra okazja, pod warunkiem że rodzic jej nie zmarnuje na wykład. Wystarczy wspólnie znaleźć, skąd wzięła się bzdura, i sprawdzić prawidłową wersję, bo samo odnalezienie źródła błędu jest najlepszą możliwą lekcją.
Warto też przy okazji ustalić prostą zasadę na przyszłość: do zeszytu trafia tylko to, co zostało sprawdzone w drugim miejscu. Jeśli podobne sytuacje powtarzają się często, problemem zwykle nie jest narzędzie, tylko pośpiech albo zaległości w przedmiocie. O granicy między pomocą a wyręczeniem piszę w tekście Czy używanie AI to ściąganie.
Co zrobić dziś
- Zadajcie razem pytanie o coś, co dziecko zna najlepiej, i poszukajcie w odpowiedzi błędu.
- Wypiszcie listę miejsc podwyższonego ryzyka: daty, liczby, cytaty, tematy lokalne.
- Przećwiczcie trzy kroki sprawdzania na ostatniej pracy domowej.
- Ustalcie zasadę: do zeszytu trafia tylko to, co sprawdzone w drugim miejscu.
Czego nie robić
- Nie mów, że AI kłamie. Kłamstwo zakłada zamiar, a to zmienia obraz tego, jak działa program.
- Nie każ sprawdzać wszystkiego. Wtedy dziecko nie sprawdza niczego, bo to zbyt pracochłonne.
- Nie poprzestawaj na jednym pokazie błędu. Nawyk buduje się przez powtórzenia w kolejnych tygodniach.
- Nie karz za bzdurę w zeszycie. Znalezienie źródła błędu uczy więcej niż każda konsekwencja.
Najczęstsze pytania
Czym są halucynacje AI?
To informacje nieprawdziwe podawane przez model z pełnym przekonaniem. Powstają, bo narzędzie układa najbardziej prawdopodobne zdanie, a nie sprawdzoną odpowiedź, i nie ma mechanizmu odróżniającego wiedzę od zgadywania.
W czym AI myli się najczęściej przy pracy domowej?
W datach, liczbach, cytatach i przypisach oraz w tematach lokalnych, czyli dotyczących konkretnej szkoły, miasta czy regionu. Bardzo częstym problemem są też lektury, przy których model potrafi streścić wątek, którego w książce nie ma.
Jak sprawdzić odpowiedź AI w minutę?
Zaznacz w niej liczby, daty, nazwiska i cytaty, sprawdź te elementy w drugim miejscu, a na koniec zapytaj narzędzie, co w odpowiedzi jest najbardziej niepewne. Trzy kroki wystarczą przy większości zadań domowych.
Dlaczego AI myli się w zadaniach z matematyki, skoro zapis wygląda dobrze?
Bo generuje kolejne kroki tak samo jak zdania w tekście, dobierając to, co pasuje, zamiast liczyć. Dlatego zapis bywa poprawny, a wynik błędny. Ratunkiem jest sprawdzenie wyniku innym sposobem.
Jak wytłumaczyć to małemu dziecku?
Jednym zdaniem: to program, który zgaduje kolejne słowa i nie wie, kiedy zgaduje. I jednym doświadczeniem: wspólnym pytaniem o coś, co dziecko zna na pamięć, żeby samo zobaczyło błąd.