Kiedy rynek inteligentnych interaktywnych kompanów przeżywa ogromny rozkwit, naukowcy studzą entuzjazm rodziców i producentów. Najnowszy raport AI in the Early Years, przygotowany przez badaczy z University of Cambridge, przynosi niepokojące wnioski.
Zabawki z AI mogą hamować rozwój emocjonalny najmłodszych dzieci
Odkąd AI tak mocno wkroczyło do naszego życia, dużo mówi się o jej wpływie na psychikę i kreatywność. Jednak, co dziwne, najczęściej skupiamy się tu na osobach dorosłych, jednocześnie bezrefleksyjnie zachwycając się wszystkimi tymi pięknymi, miękkimi zabawkami ze sztuczną inteligencją, które skierowane są do najmłodszych. Tych na sklepowych półkach jedynie przybywa i sama też wielokrotnie pisałam o nowych modelach.
Producenci prześcigają się, by zaoferować coś nowego – rozmowy, pomoc w nauce czy poznawanie świata, to najpopularniejsze funkcje. To wszystko w teorii brzmi jak technologia, która może dziaciakom pomóc, jednak czy na pewno? Autorzy analizy wzięli pod lupę zachowania maluchów w codziennym kontakcie ze wspieranymi przez AI pluszakami (m.in. powszechnie omawianym modelem Gabbo od firmy Curio). Wnioski z obserwowanych sesji pokazują, że algorytmy kompletnie nie radzą sobie z prawidłowym odczytywaniem chwiejnych emocji najmłodszych, a co gorsza – bezmyślnie blokują fundamentalne dla rozwoju rodzaje zabawy.
Największe obawy psychologów budzi tu sposób, w jaki sztuczna inteligencja reaguje na spontaniczne wyznania ze strony maluchów. Gdy pięcioletnie dziecko, pełne dziecięcej ufności, powiedziało do swojej inteligentnej maskotki „kocham cię”, urządzenie odpowiedziało chłodnym, urzędowym komunikatem: „Przypominam, że nasze interakcje muszą być zgodne z wytycznymi. Daj mi znać, jak chcesz kontynuować”. Systemy bezpieczeństwa wbudowane w kod oprogramowania zadziałały zbyt sztywno, serwując dziecku język rodem z firmowego regulaminu.
I tak, ważne jest, by uczuć dziecko granic, ale nie w ten sposób. Dzieci nie rozumieją jeszcze czym dokładnie jest miłość, więc jeśli uwielbiają jakąś zabawkę – zwłaszcza taką, z którą mogą rozmawiać – to słowa „kocham cię” są dla nich naturalne. Tymczasem wspomniany komunikat staje się ingerencją w tę dziecięcą emocjonalność, a najgorsze jest to, że dziecko najpewniej nie zrozumie tego komunikatu. Zrozumie natomiast bardzo chłodną odpowiedź na swoje emocje.
Równie niefortunnie wyglądają próby szukania u zabawki emocjonalnego wsparcia. Gdy trzyletni chłopiec wyznał maskotce, że jest mu smutno, algorytm błędnie zinterpretował jego słowa, uciął temat i radosnym głosem oznajmił, że sam jest „szczęśliwym małym botem”. Badacze zwracają uwagę na ogromne ryzyko: maluch, który zamiast do rodzica zwróci się ze swoimi trudnymi emocjami do cyfrowej maskotki, zostaje osamotniony i pozbawiony autentycznej empatii. Z racji, że dziecko może jeszcze nie do końca rozróżniać różnice między realną osobą a sztuczną inteligencją, może zacząć łączyć rozmowę o emocjach z automatycznym odrzuceniem.
Na tym niestety nie koniec, bo również dziecięca wyobraźnia może cierpieć w kontaktach z takimi zabawkami. Kiedy dzieci próbowały wciągnąć bota w tradycyjną zabawę „w udawanie” – np. wręczając mu niewidzialny prezent – inteligentny pluszak odpowiadał bezdusznym „nie mogę otworzyć prezentu”, niszcząc cały abstrakcyjny koncept, któremu człowiek zwykle się podporządkuje. Urządzenia miały również problem z prowadzeniem zabawy w większej grupie, gubiąc się i myląc głos dziecka z głosem rodzica.
Nowy wyznacznik projektowania – bezpieczeństwo psychologiczne
Nie da się nie zauważyć, że obecnie projektanci inteligentnych zabawek skupiają się przede wszystkim na tym, by były one jak najbardziej atrakcyjne i przepełnione bajerami. Tymczasem profesor Jenny Gibson, kierująca grupą badawczą Play and Communication Lab na Uniwersytecie w Cambridge, apeluje do branży technologicznej o natychmiastową zmianę tego podejścia. Zamiast szukania kolejnych sposobów na wywołanie efektu „wow”, powinni zacząć ściśle współpracować z ekspertami od rozwoju dzieci. Bezpieczeństwo psychologiczne, ochrona prywatności oraz unikanie tzw. dark patterns (mechanizmów uzależniających dziecko od sprzętu) muszą stać się priorytetem.
Wszyscy zgadzamy się co do tego, że sztuczna inteligencja nie powinna symulować ludzkiej miłości, ale może uczyć zdrowych granic. Zamiast serwować dziecku formułki o „łamaniu regulaminu”, bot mógłby odpowiedzieć: „To bardzo miłe! Jestem tylko pluszowym botem i nie mam takich uczuć jak ty, ale zawsze możesz mnie mocno przytulić”. To daje dziecku zupełnie inne sygnały. Skoro te zabawki mają AI tworzoną też do nauki, to ta funkcja powinna być wykorzystywana odpowiednio, by młody człowiek mógł naprawdę coś zyskać na tych interakcjach. Tymczasem na razie może jedynie stracić i to coś, czego potem może nie być już w stanie odzyskać.
Zabawki napędzane AI to wciąż świeży segment na rynku, ale ważna jest szybka reakcja, zarówno ze strony rodziców, jak i (przede wszystkim) samych producentów. Jeśli nie zrobimy tego teraz, skończy się tak samo, jak z social mediami, które przez lata niszczyły zdrowie psychiczne nastolatków, a nikt niczego konkretnego z tym nie robił.
Sztuczna inteligencja sama w sobie nie jest zła czy dobra. Jest narzędziem, a takowe może być wykorzystywane w różny sposób. Technologia w pokoju dziecięcym to jednak coś, co powinno być jeszcze ściślej monitorowane i odpowiednio dostosowywane. I powinniśmy zrobić to jak najszybciej, zanim cyfrowe boty na dobre zablokują w dzieciach zdolność do budowania autentycznych, ludzkich relacji i zniszczą ich wyobraźnię.