Chatbot może być dla Ciebie kim chcesz
Kiedyś, przy okazji artykułu dotyczącego wpływu chatbotów na zdrowie psychiczne, trochę posiedziałam na stronach typu Character.AI i innych. To miejsca, gdzie „każdy może być, kim chce”. Możemy się wcielać w fikcyjne lub rzeczywiste postacie, lub być sobą, ale rozmawiać z botami wzorowanymi na takowych. Brzmi ciekawie? W sumie takie jest. To z jednej strony nieszkodliwa rozrywka, sposób na zabicie nudy albo nawet podszkolenie się z angielskiego, czy to w piśmie, czy w mowie, bo niektóre ze stron oferują również opcję rozmowy.
Jednak ma to również swoją mroczną stronę – uzależnienie, które może prowadzić do tragedii. Po szerszy kontekst odsyłam Was do linkowanego wcześniej artykułu, ale w kontekście Character.ai wspomnę tylko o pierwszej tak głośnej sprawie samobójstwa 14-latka z Florydy. Chłopiec przez długi czas rozmawiał z botem, wzorowanym na Daenerys Targaryen z Gry o Tron. Nie byłoby w tym niczego złego, gdyby nie fakt, że konwersacje miały charakter seksualny, a w końcu, gdy nastolatek zaczął mieć myśli samobójcze, bot wprost namawiał go do ich realizacji.
Firma podjęła kroki i wprowadziła nowe funkcje, które miały zapobiegać podobnym wypadkom w przyszłości. Jednak tragedia już się stała i nie da się tego odwrócić. Zresztą, podobnych przypadków z czasem było więcej. Nie chodzi mi tu jednak o ich demonizowanie. Bo nie da się powiedzieć, że są jednoznacznie „złe” czy „dobre”. Wszystko sprowadza się do tego, jak z nich korzystamy i jaką mamy wiedzę, bo bez stosownej edukacji w tym temacie, AI łatwo wciągnie nas w pułapkę.
Od Hamleta po Gatsby’ego w kosmosie
I tak właśnie jest z nowością od Character.AI. Funkcja „Books” wykorzystuje ponad 20 tytułów z domeny publicznej, takich jak „Alicja w Krainie Czarów”, „Duma i uprzedzenie” czy „Wielki Gatsby”, pozwalając nam wprost przenieść się do tego świata. Do wyboru mamy trzy ścieżki – podążanie oryginalną fabułą, tryb „off-script”, czyli dowolne interakcje z postaciami albo zupełnie odjechane remiksy, które całkowicie przedefiniowują klasyki.
Character.AI przekonuje, że interaktywna zabawa może zachęcić do sięgnięcia po papierowy oryginał. Jednak rzeczywistość może być inna – zamiast analizy stylu autora i samodzielnej interpretacji treści, otrzymujemy wygenerowany przez AI półprodukt, który skupia się na szybkiej gratyfikacji i zabawie, a nie na refleksji, która towarzyszy tradycyjnemu czytaniu.
Czytanie to wysiłek, AI to rozrywka
Nauka nie ma wątpliwości: czytanie długich tekstów trenuje koncentrację, wyobraźnię i myślenie krytyczne. Tymczasem „c.ai Books” zamienia ten proces w grę typu „wybierz własną przygodę”. To niebezpieczne uproszczenie, które spłyca literaturę do poziomu interaktywnego czatu. Zamiast budować zdolność skupienia uwagi na wielowątkowej historii, AI promuje krótkie, rwane interakcje, zwłaszcza, gdy nie zapłacimy.
Nie chodzi o zastąpienie książek – ale o uczynienie ich niemożliwymi do zignorowania – pisze Character.ai
Próba „unowocześnienia” literatury przez Character.AI to klasyczny przykład technologicznego rozwiązania problemu, który nie istnieje. Książki nie potrzebują „remiksów w kosmosie”, by być interesujące – potrzebują czytelników zdolnych do skupienia uwagi. Zamiana „Hamleta” w bota, z którym można pogadać o pogodzie, to nie promocja kultury, to jej kanibalizacja, ale…
No właśnie. Sprawdziłam to sobie i szczerze mówiąc, to nie tak, że tę funkcję od razu trzeba skreślać. Owszem, zgadzam się z ekspertami, że serwis w tym wypadku próbuje podpiąć zabawę z AI pod promowanie czytelnictwa, co jest co najmniej śmieszne. Może trochę inaczej byłoby w przypadku nowszych lektur, ale te starsze, jak Hamlet czy Duma i uprzedzenie, są pisane zupełnie innym językiem. Nawet jeśli na początku AI się tego trzyma, w końcu i tak zaczyna przemycać nowoczesny styl. Czy młody człowiek, który faktycznie zainteresuje się książką po takiej sesji role playing, będzie w stanie naprawdę cieszyć się czytaniem? Wątpię.
Do tego dochodzi fakt, że AI nie jest nawet w stanie przez dłuższy czas wiernie trzymać się fabuły. Zawsze coś zmienia, coś halucynuje i dodaje od siebie nowości, które mogą całkowicie zmienić odbiór lektury. Po czymś takim łatwo o rozczarowanie i zniechęcenie oryginałem, który nie sprostał oczekiwaniom.
Jednak co innego, jeśli spróbujemy sobie takiej zabawy po lekturze. Jeśli znacie już treść oferowanych przez c.ai książek, to może być całkiem niezła zabawa. Nie wysokich lotów, nie zastępująca czytanie, tylko dodatkowa rozrywka. I tak powinno być to promowane – jako możliwość wejścia do ulubionych książek.
Nie podoba mi się ta próba ocieplania wizerunku
Wydaje mi się, że główny problem z „c.ai Books” leży jeszcze dalej. Platforma w ten sposób chce odciągnąć uwagę od kwestii bezpieczeństwa serwisu. Choć oficjalnie funkcja ma być dostępna dla osób powyżej 18. roku życia, pojawiają się doniesienia, że systemy weryfikacji wieku są nieszczelne, co ponownie naraża młodych użytkowników na niebezpieczne treści pod przykrywką „edukacji literackiej”. Nie łudźmy się, te boty szkolone są na różnorodnych treściach, w tym na tych, które tworzą sami użytkownicy. A to oznacza, że nawet podczas zabawy z „klasykami literatury”, w końcu można dojść do punktu, w którym AI porzuci maskę i przejdzie w typowy tryb, nawiązując do treści toksycznych, erotycznych czy przemocowych. Te, co prawda, mają być moderowane (jak potwierdził rzecznik c.ai portalowi Mashable), ale czy skutecznie? Zobaczymy.
Szczerze mówiąc, o wiele bardziej wolałabym, gdyby c.ai przedstawiło ulepszenia skupione właśnie na bezpieczeństwie, dodatkowe mechanizmy ochrony i lepszy sposób weryfikacji wieku, zamiast bawić się w kiepskiego promotora czytelnictwa. Tylko że do tego nie dojdzie. Dlaczego? Bo to się nie opłaca. Każdy użytkownik – płatny czy nie – jest na wagę złota. Dostarcza ogromnej ilości danych, na których można potem szkolić kolejne modele.
„c.ai Books” to typowa zasłona dymna. Ma być ciekawe, ma się ponieść echem i przyciągnąć ludzi. Jeśli chcecie sspróbować — śmiało Pamiętajcie tylko, że to nie to samo, co czytanie. To raczej forma rozrywkowego fast foodu. Przyjemne, ale nic Wam po tym nie zostanie. Lepiej użyć wyobraźni i myślenia i sięgnąć po oryginalną książkę. A potem? Cóż, potem możecie spróbować być Elizabeth Bennet albo Daisy Buchanan, bo czemu nie? Wszystko jest dla ludzi, o ile podchodzimy do tego z wiedzą i rozsądkiem.