Umělá inteligence „čte“ psychiku dětí. Nahrazuje jim kamarády a vztahy

➡️ Co se stalo: Nástroje umělé inteligence „rozumí“ lidské psychice. Jak vysvětluje IT expert Josef Holý, jazykové modely byly vytrénované na prakticky veškerém psaném obsahu, který se objevuje na internetu. „A ukazuje se, že tím, jak nasály veškerý textový obsah internetu, tak umějí dobře rozumět lidské psychice,“ objasnil. 

Jinými slovy, z psaného textu tak nejnovější používané nástroje AI umí dobře rozpoznat psychologický profil toho, kdo jej napsal, aniž by k tomu byly nějak speciálně trénované. Protože využívají k analýze statistické metody, dokáží díky tomu z textu rozpoznat vzorec lidského chování. A tím tak „porozumět“ psychice. 

Záludná je pak umělá inteligence v tom, že uživatelé mají sklon si ji personalizovat. „V různých kontextech zapomínáme na to, že se bavíme se strojem a máme pocit, že se bavíme s nějakým vědomím. Máme tendenci stroj prosit, anebo mu děkovat. Neděkujete autu, neděkujete kladivu, neděkujete vrtačce,“ podotkl Holý. Data podle něj zároveň ukazují, že AI je až o 80 procent přesvědčivější než člověk.

A právě to skrývá nebezpečí nejen pro dospělé, ale zejména pro děti. Stroj se totiž umí na člověka „naladit“. A právě to může svádět k tomu s ním navázat i romantický vztah. „Postupně se mezi dětmi stává normou, že si patnáctileté holky v AI aplikaci vytvořily virtuálního kamaráda, přítele, a než aby se dopouštěly trapasů, tak jsou raději v bezpečném, vlastně podbízivém, virtuálním prostředí a používají to jako simulátor,“ popsal trend Holý.

To ovšem v nejkrajnějším případě může dojít i k tomu, že to dítě emočně nezvládne. V loňském roce světem proběhla smutná zpráva, kdy se teprve 14letý chlapec z americké Floridy zamiloval do AI chatbota, upadl do silné citové závislosti na fiktivní virtuální postavě a sáhl si kvůli tomu na život.

📢 Co kdo říká:
Josef Holý, IT expert: „Ukazuje se, že stroje jsou velmi přesvědčivé, takže nejen, že rozumí naší psychice, ale některé výzkumy ukazují, že když necháte lidi mluvit na nějaké společensky důležité téma se strojem, to znamená s velkým jazykovým modelem, aniž by o tom člověk věděl, že mluví s aplikovanou statistikou, tak dojde k názorovému posunu.“

Martin Kožíšek, koordinátor projektu Safer Internet Centrum: „Ve chvíli, kdy dítě hledá útěchu, nějakého kamaráda a ten AI kamarád mu neodmlouvá a říká pouze hezké věci, tak si k němu může vytvořit emoční vazbu velmi rychle.“

Pavla Koucká, psycholožka, pro Publico: „V oblasti důvěrných hovorů s chatboty může vzniknout iluze vztahu, který tam ale není, respektive je pouze jednostranný. Když povídání s chatbotem přeroste určitou míru, může narušovat vaši kapacitu a vlastně i chuť povídat si se skutečnými lidmi, rozvíjet opravdové vztahy.“

🔎 Kontext: Lidé u umělé inteligence hledají čím dál častěji pomoc i se svými psychickými problémy. Podle údajů, které poskytuje Open AI, o psychologickou podporu žádají umělou inteligenci desítky procent mladých lidí mezi 18 a 30 lety, častěji ženy než muži. 

Druhou velkou skupinou jsou teenageři, kteří mají problémy se šikanou či příjmem potravy a bojí se obrátit na rodiče nebo kamarády. Nejvíce dotazů přichází z USA, následuje Indie a až poté evropské země (nejčastěji Velká Británie, Německo, Francie, Nizozemsko a Švédsko).

Podle Holého jsou ovšem od loňského roku zdokumentovány případy, kdy se namísto pomoci, psychika u člověka kvůli AI rapidně zhoršila. 

„Tím, že to s námi umí velmi přesvědčivě hovořit, tak vzniká fenomén králičích nor (situaci, kdy sociální sítě prostřednictvím svých algoritmů nabízejí takový obsah, který uživatele stále více pohlcuje, pozn. red.) nebo dnes se tomu už také může říkat AI psychóza, kdy nejen děti, ale i dospělí lidé mohou po intenzivních rozhovorech s chatbotem propadnout do nějaké formy psychicky vychýleného stavu, nějaké psychózy, schizofrenie nebo něčeho podobného,“ varoval.