Unijne rozporządzenie o sztucznej inteligencji jest dokumentem obszernym i napisanym językiem, którego nikt nie czyta dla przyjemności. Dla rodzica liczy się jednak kilka konkretnych rzeczy, bo AI Act a dzieci to nie abstrakcja, tylko przepisy zakazujące pewnych praktyk wprost i nakładające obowiązki na dostawców narzędzi, z których dziecko korzysta codziennie. Warto wiedzieć, czego można się domagać i na co przepisy nie odpowiadają.
Ten tekst wyjaśnia logikę rozporządzenia, wskazuje przepisy najważniejsze z punktu widzenia dziecka i pokazuje, co z tego wynika w praktyce. Nie zastępuje porady prawnej. Należy do działu Jak kraje chronią dzieci przed AI i całości opisanej w głównym przewodniku AI a dziecko.
W skrócie
- Rozporządzenie dzieli systemy według ryzyka: od zakazanych po te bez szczególnych obowiązków.
- Zakazane są między innymi praktyki wykorzystujące słabości użytkownika wynikające z wieku.
- Zakazane jest też rozpoznawanie emocji w placówkach edukacyjnych, poza wyjątkami zdrowotnymi i bezpieczeństwa.
- Systemy stosowane w edukacji, na przykład do oceniania, trafiają do kategorii wysokiego ryzyka.
- Treści generowane mają być oznaczane, co ma znaczenie przy materiałach udających prawdziwe.
Logika oparta na ryzyku
Rozporządzenie nie reguluje sztucznej inteligencji jako technologii, tylko sposoby jej użycia, co dobrze widać przy zagrożeniach opisanych w tekście Zagrożenia AI dla dzieci. Im większe potencjalne zagrożenie dla praw i bezpieczeństwa ludzi, tym więcej obowiązków, a przy najpoważniejszych przypadkach po prostu zakaz. Dzięki temu ten sam model językowy może być narzędziem bez szczególnych wymagań, gdy pomaga napisać wiersz, i systemem wysokiego ryzyka, gdy decyduje o dostępie do szkoły.
Przepisy zaczynają obowiązywać etapami, rozłożonymi na kilka lat, co oznacza, że część obowiązków działa już teraz, a część dopiero będzie działać. Dla rodzica praktyczny wniosek jest jeden: nie należy zakładać, że wszystko, co przewiduje rozporządzenie, jest już egzekwowane w każdej aplikacji.
| Kategoria | Przykład | Co z tego wynika |
|---|---|---|
| Praktyki zakazane | Wykorzystywanie słabości wynikających z wieku | Nie wolno projektować systemów żerujących na naiwności dziecka |
| Praktyki zakazane | Rozpoznawanie emocji w szkole | Poza wyjątkami zdrowotnymi i bezpieczeństwa |
| Wysokie ryzyko | Systemy oceniające uczniów | Wymogi jakości, nadzoru i dokumentacji |
| Obowiązki przejrzystości | Treści generowane, deepfake | Materiał ma być oznaczony jako wygenerowany |
| Ryzyko minimalne | Filtry, autokorekta | Brak szczególnych obowiązków |
Przepisy najważniejsze dla dzieci
Pierwszy dotyczy praktyk manipulacyjnych: zakazane są systemy wykorzystujące słabości osoby wynikające z wieku, niepełnosprawności albo sytuacji społecznej w sposób prowadzący do szkody. To przepis wymierzony dokładnie w mechanizmy żerujące na tym, że dziecko nie rozpoznaje manipulacji.
Drugi dotyczy szkoły: zakazane jest stosowanie systemów rozpoznawania emocji w placówkach edukacyjnych, z wyjątkami przewidzianymi dla celów medycznych i bezpieczeństwa. Trzeci to wysokie ryzyko dla systemów używanych w edukacji, w tym przy ocenianiu i rekrutacji, co oznacza dla dostawców szereg obowiązków dotyczących jakości i nadzoru człowieka. Co to znaczy dla konkretnej szkoły, opisuję w tekście RODO w szkole a AI.
Oznaczanie treści generowanych
Z punktu widzenia rodzica to najbardziej praktyczny element rozporządzenia. Materiały wygenerowane albo istotnie zmodyfikowane przez systemy AI mają być odpowiednio oznaczane, a przy materiałach udających autentyczne osoby czy zdarzenia obowiązek ujawnienia jest wyraźny. Docelowo powinno to ułatwić rozpoznawanie fałszywych nagrań.
Warto jednak od razu ostudzić oczekiwania. Oznaczenia nie pojawią się wszędzie i nie na każdym materiale, a najgroźniejsze treści powstają poza obiegiem, który ktokolwiek reguluje. Umiejętność sprawdzania źródła pozostaje więc ważniejsza niż jakikolwiek znaczek na filmie. Piszę o tym w tekście Dezinformacja i treści generowane.
Druga warstwa: przepisy o usługach cyfrowych
Obok rozporządzenia o sztucznej inteligencji działa unijna regulacja dotycząca usług cyfrowych, która dla codziennego życia dziecka bywa nawet ważniejsza. Nakłada ona na platformy obowiązki związane z ochroną małoletnich, w tym ograniczenia dotyczące reklamy profilowanej kierowanej do dzieci oraz wymogi w zakresie zgłaszania nielegalnych treści i reagowania na nie.
To właśnie na tej podstawie działają rozbudowane mechanizmy zgłoszeń w dużych serwisach. Dla rodzica oznacza to, że zgłoszenie materiału nie jest gestem symbolicznym, tylko uruchamia procedurę, którą platforma ma obowiązek obsłużyć. Ścieżki zgłoszeń opisuję w tekście Gdzie zgłosić i szukać pomocy.
Czego przepisy nie załatwią
Nie zmienią tego, że dziecko może zawyżyć wiek przy rejestracji, bo weryfikacja opiera się zwykle na deklaracji. Nie zapobiegną powstawaniu materiałów w usługach działających poza Unią. Nie zastąpią ustawień w domu ani rozmowy o tym, co robić w kłopocie.
Przepisy przesuwają część odpowiedzialności na dostawców i to jest ich realna wartość, ale działają wolno i nierównomiernie. Traktowanie ich jako gwarancji bezpieczeństwa jest błędem, który kosztuje najwięcej wtedy, gdy zdejmuje z rodzica czujność. Praktyczne ustawienia opisuję w tekście Bezpieczne ustawienia krok po kroku. O problemie weryfikacji wieku piszę w tekście Weryfikacja wieku w sieci.
Co zrobić dziś
- Sprawdź, czy szkoła Twojego dziecka używa narzędzi wspierających ocenianie, i zapytaj o nadzór człowieka.
- Zapytaj w szkole, czy jakiekolwiek systemy analizują zachowanie albo emocje uczniów.
- Naucz dziecko sprawdzać źródło materiału, niezależnie od tego, czy jest oznaczony.
- Korzystaj ze ścieżek zgłoszeń na platformach. Mają obowiązek je obsłużyć.
Czego nie robić
- Nie zakładaj, że wszystkie obowiązki działają już w każdej aplikacji. Przepisy wchodzą etapami.
- Nie licz na to, że oznaczanie treści rozwiąże problem fałszywych materiałów.
- Nie traktuj przepisów jako zamiennika ustawień w domu i rozmowy z dzieckiem.
- Nie rezygnuj ze zgłaszania treści w przekonaniu, że i tak nic się nie stanie.
Najczęstsze pytania
Co unijne rozporządzenie o AI zmienia dla dzieci?
Zakazuje praktyk wykorzystujących słabości wynikające z wieku, zakazuje rozpoznawania emocji w szkołach poza wyjątkami, zalicza systemy edukacyjne do wysokiego ryzyka i wprowadza obowiązek oznaczania treści generowanych.
Czy szkoła może używać systemów analizujących emocje uczniów?
Rozporządzenie zakazuje stosowania rozpoznawania emocji w placówkach edukacyjnych, przewidując wyjątki dla celów medycznych i bezpieczeństwa. Warto zapytać w szkole, czy takie narzędzia są używane.
Czy wszystkie treści generowane będą oznaczane?
Nie należy tego zakładać. Obowiązek oznaczania istnieje, ale nie obejmie wszystkiego, a najgroźniejsze materiały powstają poza regulowanym obiegiem. Umiejętność sprawdzania źródła pozostaje ważniejsza.
Czy przepisy chronią dziecko przed założeniem konta z zawyżonym wiekiem?
Nie w praktyce, bo weryfikacja wieku opiera się zwykle na deklaracji użytkownika. To jeden z najsłabszych punktów całego systemu ochrony i osobny, nierozwiązany problem.
Czy zgłaszanie treści na platformie ma sens?
Ma, bo unijne przepisy o usługach cyfrowych nakładają na platformy obowiązek obsługi zgłoszeń i reagowania na nielegalne treści. To nie jest gest symboliczny, tylko uruchomienie procedury.