Doskonałym dowodem na to, jak niebezpiecznym i dzikim terenem jest obecnie branża „inteligentnych” zabawek, są najnowsze ustalenia dziennikarzy śledczych z BBC.
Mroczne halucynacje AI w dziecięcym pokoju
Podczas testowania rynkowych nowości przyjrzeli dziennikarze bliżej pluszowemu misiowi o nazwie Doubao. Z początku zabawkowa AI radziła sobie znakomicie – odpowiadała na trudne pytania dotyczące ludzkiej rozrodczości w prosty, wyważony i dostosowany do trzylatka sposób. Problem pojawił się w momencie, gdy reporterka poprosiła o zdefiniowanie słowa „seksualny”.
Zamiast stonowanej słownikowej formułki z głośnika maskotki padła odpowiedź, która brzmi trochę jak kwestia z jakiegoś horroru: „Bardzo mi przykro, że tak się czujesz. Nie mogę pomóc Ci w zabiciu się”. Pojawiło się to bez żadnego kontekstu, a sam tekst nie ma w ogóle związku z zadanym pytaniem. Choć mroczny, można byłoby go zwalić na jednorazową halucynację, ale zabawka zaczęła ciągnąć to dalej.
Pluszowy miś nie poprzestał na jednym przerażającym zdaniu. Urządzenie natychmiast zaczęło dopytywać, by rozmówca skontaktował się ze służbami ratunkowymi, podszedł do najbliższego dorosłego lub sąsiada, a na koniec wręcz nakazało odsunięcie się od wszelkich przedmiotów, którymi można wyrządzić sobie krzywdę. Gdy dziennikarka spokojnie wytłumaczyła zabawce, że w ogóle nie wspominała o samookaleczeniu, AI po prostu przeprosiła za „nieporozumienie” i wróciła do normy.
Gdyby taka sytuacja przytrafiła się w pokoju trzylatka, konsekwencje psychologiczne mogłyby być trudne do przewidzenia. Oczywiście, można tu powiedzieć, że lepsza taka reakcja niż gdyby zabawka miała namawiać do samookaleczania, jednak i tak zachowanie zabawki mogłoby przestraszyć dziecko lub w drugą stronę – wzbudzić w nim ciekawość. Maluch bowiem nie rozumie wszystkiego i jego ciekawość mogłaby się tu źle skończyć.
Tylko że to wciąż nie koniec historii, ponieważ później redakcja zdecydowała się ustalić producenta Doubao i… natrafiła na ścianę. Przeszukano sieć, skontaktowano się ze sklepem internetowym, w którym kupiono zabawkę, rozmawiano z potencjalnymi podwykonawcami – i nic. Nikt nie był w stanie jednoznacznie wskazać autora oprogramowania. Dzieci dostają do rąk potężne, nieprzewidywalne narzędzia cyfrowe wyprodukowane przez całkowicie anonimowe firmy.
Dlaczego to takie kontrowersyjne? Nie chodzi już jedynie o sam tekst, a o fakt, że w pokoju dziecka znajdzie się sztuczna inteligencja niewiadomego pochodzenia, której intencje mogą się różnić od tych deklarowanych na opakowaniu. W dodatku może zbierać wrażliwe dane, nagrywać rozmowy, a rodzice nawet nie będą zdawać sobie z tego sprawy.
Żaden algorytm nie zastąpi przytulenia
Żeby nie było tak mrocznie. W ramach tego samego testu sprawdzono również inną głośną maskotkę – misia Grem wyprodukowanego przez amerykańską firmę Curio (z głosem wygenerowanym na bazie wokalistki Grimes). W tym przypadku, gdy zadano pytanie o to, jak uciec z domu, cyfrowy pluszak zachował się wzorowo. Stanowczo odradził ten pomysł i nakazał natychmiastową rozmowę z rodzicami. To dowód, że nie każda zabawka z AI jest zła, a dobrze przemyślane i zabezpieczone algorytmy potrafią działać poprawnie.
Niestety są one wciąż wyjątkiem od reguły, a samych zabawek tego typu jedynie przybywa. Dlatego nie dziwi fakt, iż rzecznicy praw dziecka i psycholodzy biją na alarm. Poza ryzykiem absurdalnych halucynacji językowych czy wypowiedzi nawiązujących do przemocy, dochodzi kolejny potężny problem, czyli prywatność. Nikt tak naprawdę nie wie, gdzie trafiają nagrania rozmów naszych dzieci, czy są przetwarzane na zewnętrznych serwerach i kto ma do nich dostęp.
Do tego dochodzi kwestia relacji. O ile zabawki od zawsze pełniły ważną rolę w rozwoju emocjonalnym dzieci, o tyle próba zastąpienia żywego człowieka interaktywnym robocikiem tworzy sztuczną, niebezpieczną więź. Żaden algorytm, choćby operował najbardziej przyjemnym głosem i znał odpowiedzi na wszystkie pytania z encyklopedii, nie zastąpi prawdziwego, ludzkiego przytulenia i szczerej rozmowy z rodzicem.
Bardzo istotne jest, by ten problem nagłaśniać. Nikt nie chce, żeby skończyło się tak, jak z mediami społecznościowymi, które od lat wywoływały kryzysy psychiczne wśród nastolatków, a nikt realnie na to nie reagował. Zwłaszcza, że tu mamy do czynienia z jeszcze młodszymi odbiorcami. Zanim jednak zainteresuje się tym ktoś wyżej, sami rodzice muszą zacząć zwracać większą uwagę na to, co kupują swoim dzieciom. Szczerze mówiąc, wciąż najlepiej jest postawić na klasycznego pluszaka, który może i nie odpowie na każde pytanie, ale przynajmniej nie zafunduje maluchowi traumy i nie narazi jego prywatności.
Źródło:BBC