Sztuczna inteligencja jako „proteza myślenia” i bliskie relacje z chatbotami, czyli AI, która wszystko za nas zrobi i wszystko „rozumie”. Tylko jaką cenę za to zapłacą uczniowie i nauczyciele? Co dzieje się z mózgiem, gdy nadmiernie polegamy na sztucznej inteligencji? Na te i inne pytania odpowiadają autorzy najnowszej publikacji NASK „AI w szkole. Od algorytmu do relacji”.
Za wygodę używania AI płacimy wysoką cenę – od ryzyka obniżenia aktywności mózgu, przez nawiązywanie zbyt bliskich relacji z chatbotami, po gonienie za ideałem piękna. Pułapek wykorzystywania sztucznej inteligencji jest wiele. O tym, jak ich uniknąć, piszą w poradniku badacze, popularyzatorzy nauki i eksperci NASK. „AI w szkole. Od algorytmu do relacji” to publikacja, która pomoże zrozumieć mechanizmy działania sztucznej inteligencji. Poradnik zawiera też wskazówki dotyczące profilaktyki – jak nie dać się wciągnąć w pułapki AI.
– W publikacji wyjaśniamy, dlaczego AI nie rozumie świata tak jak człowiek i skąd biorą się halucynacje, czyli wiarygodnie brzmiące, ale fałszywe, odpowiedzi – opowiada Aleksandra Krasnodębska, współautorka publikacji i ekspertka NASK. – Przestrzegamy w niej też, że bezrefleksyjne wyręczanie się AI może sprawić, że u młodego człowieka nie zdążą rozwinąć się ważne zdolności, takie jak argumentowanie czy samodzielne pisanie.
Jak zaznacza ekspertka, w rozwoju dzieci i nastolatków kluczowy jest bowiem umiarkowany wysiłek, który buduje trwałe ścieżki neuronalne, poczucie sprawczości i kompetencji. Zaniedbanie tych sfer przekłada się też bezpośrednio na budowanie relacji międzyludzkich.
Kiedy chatbot staje się przyjacielem
AI dla wielu nastolatków staje się rozmówcą, doradcą, a czasem – emocjonalnym towarzyszem. Dzięki pamięci rozmów, awatarom i zdolności generowania empatycznie brzmiących odpowiedzi systemy generatywnej sztucznej inteligencji (ang. generative artificial intelligence, GenAI) mogą być odbierane niemal jak wypowiedzi prawdziwych osób, z którymi młodzi nawiązują hiperpersonalne relacje. Czy to znaczy, że z czasem uczniowie mogą porzucić realne interakcje na rzecz zawsze „dostępnego” modelu? By się tego dowiedzieć, warto sięgnąć po poradnik NASK.
Deepfake, nudyfikacja, sextortion, dezinformacja i presja doskonałości
Ciemna strona sztucznej inteligencji jest coraz bardziej niebezpieczna – od deepfake’ów wykorzystywanych do cyberprzemocy, przez rozbierane zdjęcia i sextortion, po groomig i „chatbotowych oprawców”. Autorzy opisują m.in. przypadki użycia generatywnej AI do tworzenia fałszywych materiałów seksualnych z wizerunkiem nieletnich, szantażu w mediach społecznościowych oraz symulowania rozmów z podtekstem erotycznym z „wirtualnym dzieckiem”.
– Nie możemy też zapominać o nowych zjawiskach związanych z AI. Chodzi o wpływ influencerów AI i wizerunków generowanych przez sztuczną inteligencję w mediach społecznościowych na dobrostan nastolatków – podkreśla Marta Witkowska, współautorka poradnika i ekspertka NASK. – Masowa obecność w sieci obrazów „idealnych” ciał może prowadzić do obniżenia samooceny, podejmowania ryzykownych zachowań związanych z kontrolą wagi i wycofania się z aktywności fizycznej.
W publikacji zwrócono też uwagę na dezinformację i brak nawyku weryfikacji źródeł. Autorzy apelują o potrzebę edukacji o cyberzagrożeniach, a także naukę zgłaszania niebezpiecznych materiałów, np. do działającego w NASK zespołu Dyżurnet.pl.
Etyka i prawo – szkoła jako strażnik wartości
Dziś o regulacjach dotyczących sztucznej inteligencji mówi się coraz głośniej. W poradniku szeroko omówiono etyczne i prawne ramy użycia AI w edukacji – od rekomendacji UNESCO po europejski AI Act (Akt o sztucznej inteligencji), który klasyfikuje systemy AI w edukacji jako wysokiego ryzyka. Oznacza to m.in. konieczność zapewnienia przejrzystości działania narzędzi, jakości danych i nadzoru człowieka nad decyzjami wspieranymi przez AI.
Autorzy podkreślają, że nauczyciel nie może pozostać biernym odbiorcą technologii. Powinien pełnić rolę „strażnika wartości”, który potrafi wychwycić, kiedy narzędzie przestaje wspierać ucznia, a zaczyna kształtować go w niezamierzony sposób.
AI jako wsparcie
W poradniku eksperci pokazują również potencjał GenAI, m.in. w pracy z uczniami ze zróżnicowanymi potrzebami edukacyjnymi. Sztuczna inteligencja pomaga nauczycielom dostosować treści do odpowiadających im uczniom form komunikacji. Jest przydatna podczas różnicowania materiałów, ale też znacząco przyspiesza pracę pedagogów.
Jednocześnie autorzy ostrzegają przed sytuacjami, w których AI staje się „protezą” myślenia zamiast „rusztowaniem” rozwoju. Niedopuszczalne jest też powierzanie modelom roli diagnosty, terapeuty czy wprowadzanie do otwartych narzędzi wrażliwych danych o uczniach.
AI będzie coraz silniej obecna w edukacji – zarówno w narzędziach wykorzystywanych w szkole, jak i w osobistych urządzeniach uczniów. Sztuczna inteligencja powinna wspierać, a nie zastępować proces uczenia się.
Autorzy Urszula Dąbrowska, Aleksandra Krasnodębska, dr Jakub Kuś, prof. UWr dr hab. Piotr Plichta, prof. UAM dr hab. Jacek Pyżalski, Jakub Rogowiecki i Marta Witkowska – opracowali swoje artykuły z myślą o nauczycielach oraz wszystkich osobach pracujących z dziećmi i młodzieżą, które chcą nie tylko nadążyć za technologią, ale też świadomie kształtować cyfrową dojrzałość młodego pokolenia.
Publikacja „AI w szkole. Od algorytmu do relacji” powstała w ramach realizowanego w NASK programu Ogólnopolska Sieć Edukacyjna (OSE). Dostępna jest bezpłatnie na platformie OSE IT Szkoła.