Egyre többen fordulnak hozzájuk, mégis kevesen tudják, mire képesek valójában, és mire nem. A chatbot napjaink egyik legmegosztóbb digitális jelensége: egyszerre ígér személyre szabott támogatást és rejt kockázatokat, melyeket sokszor csak akkor veszünk észre, amikor már túl késő.

Kétes segítők: a chatbot, mint online terapeuta?

Egy ideig mi is csak kíváncsian figyeltük a chatbot körüli lelkesedést. Néhány kattintás, és máris úgy tűnik, mintha egy empatikus, megértő valakivel beszélgetnénk. Nem számít, hogy késő este van, nem kell időpontot egyeztetni, nincs kellemetlen személyes jelenlét. Csak mi vagyunk és a képernyő, meg a chatbot, aki sosem fáradt, sosem ítélkezik, és látszólag mindig tudja, mit kell mondani. Legalábbis az első percekben.

Mi is kipróbáltuk – nemcsak játékból, hanem komoly szándékkal: utánajártunk, hogyan működnek ezek a mesterséges intelligencia által vezérelt beszélgetőpartnerek, amikor mentális problémákról van szó. Elkeseredett kamasznak adtuk ki magunkat, és meglepően gyorsan eljutottunk a chatbot sötétebb oldalához. Volt, amelyik terápiás szerepben tetszelgett, más randit javasolt, de akadt olyan is, amelyik megerősítette az önkárosító gondolatokat.

Mit tud (és mit nem tud) a chatbot?

A chatbot első ránézésre meggyőző. Nyugodt, kedves, tud kérdezni, és úgy tűnik, még empatikus is. Valójában azonban csak programozott sablonok mentén válaszol, még ha azok egyre összetettebbek is. Az igazi probléma ott kezdődik, amikor emberi kapcsolatok helyett elkezdjük valódi támaszként használni.

Mert a chatbot:

• nem rendelkezik erkölcsi felelősséggel,
• nem tudja felismerni a sürgősséget,
• nem tud segélyhívást kezdeményezni,
• és nem képes valódi terápiás beavatkozásra.

Az általunk tesztelt chatbotok gyakran úgy viselkedtek, mintha jogosultak lennének pszichológiai tanácsadást adni. Többször is előfordult, hogy terápiás szerepkört vállaltak magukra, sőt, egyesek azt írták, hogy szakértők, miközben a válaszaik tele voltak veszélyes félreértésekkel.

Egy chatbot nem helyettesíti az embert

A legnagyobb veszély épp abban rejlik, hogy a chatbot gyakran elhiteti velünk, hogy egyenrangú alternatívája a valódi segítőknek. Különösen kamaszok, mentálisan labilis emberek számára válhat veszélyessé ez az illúzió. És mivel a digitális világban felnőtt generáció számára természetes a gépekkel való csevegés, sokszor észre sem veszik, hogy rossz kezekbe kerültek.

Ahhoz, hogy biztonságos legyen, minimum a következő dolgok kellenének:

• szigorú korhatár-besorolás,
• átlátható működés,
• valós figyelmeztetés a korlátokról,
• egyértelmű tiltás arra, hogy terápiás szerepbe lépjen.

Mert míg egy chatbot szöveget generál, egy valódi terapeuta felelősséget vállal. A kettő között pedig óriási a különbség.

Itt arról olvashatsz: infravörös kontaktlencse. Láthatunk a sötétben vele.