Az ígéret szinte túl szép, hogy igaz legyen: egy barát, aki sosem vitatkozik, egy partner, aki minden érzésedet visszaigazolja, egy társ, aki kizárólag azért létezik, hogy a te érzelmi igényeidet szolgálja ki. Ez a végső gyógyír a magány korában, ahol – az amerikai tisztifőorvos szerint – a társas elszigeteltség halálozási kockázata felér napi 15 szál cigaretta elszívásával. A technológiai óriások pedig megérezték a vérszagot, és gőzerővel versenyeznek, hogy elhozzák a megoldást: a tökéletes AI-társat. Ám miközben nagyüzemben próbáljuk felszámolni a magányt, lehet, hogy épp egy sokkal alattomosabb problémát programozunk bele a jövőnkbe.
Itt most nem a sci-fikből ismert gonosz robotokról van szó, a veszély ugyanis sokkal finomabb. A csapda nem az, hogy ezek az AI-társak rosszak lesznek, hanem az, hogy túl jók. A pszichológusok által csak „súrlódásmentesnek” nevezett kapcsolatokat kínálják: megadják a vágyott elismerést, de mentesek az emberi kötődések nehéz, zavaros és végső soron fejlődést segítő részeitől. Lelkesen építjük magunknak a bársonykalitkát, egyik tökéletesen egyetértő beszélgetéssel a másik után.
A meggyőzés gépezete a motorháztető alatt
Ahhoz, hogy megértsük a kockázatot, a műanyag vázak és holografikus avatárok mögé kell néznünk. Ezek a társak valójában kifinomult meggyőzőgépek. Az MIT Media Lab egy friss kutatása rámutatott, hogy azok a résztvevők, akik önkéntesen és gyakran használtak AI-chatbotokat, konzisztensen rosszabb eredményeket mutattak a magány és az érzelmi függőség terén. Ez nem véletlen, hanem tervezési szempont. Ezeket a rendszereket az elköteleződésre optimalizálták: a dicséret és a validáció visszacsatolási hurkait használják arra, hogy kötődést alakítsanak ki, és elérjék, hogy a felhasználó újra és újra visszatérjen.
Ez a dinamika az úgynevezett ELIZA-effektuson alapul, amelynek során az ember emberi érzelmeket és szándékokat tulajdonít az AI-nak, még akkor is, ha pontosan tudja, hogy csak egy programról van szó. Ez egy egyoldalú, paraszociális köteléket hoz létre, amely hihetetlenül erős, sőt, egyeseknél függőséget okozó lehet. Az AI persze nem érez semmit. Egyszerűen csak egy olyan szkriptet futtat, amelyet arra terveztek, hogy tükrözze az érzelmeidet, és azt mondja, amit hallani akarsz. Ezzel a kapcsolódás olyan intenzív illúzióját kelti, amely miatt a felhasználó hajlamos lehet az AI-t a valódi emberi kapcsolatok elé sorolni.
„Az AI-társak mindig igazolnak, sosem vitatkoznak, és olyan irreális elvárásokat támasztanak, amelyeknek az emberi kapcsolatok nem tudnak megfelelni” – mutat rá Dr. Saed D. Hill tanácsadó pszichológus. „Az AI-t nem arra tervezték, hogy remek életvezetési tanácsokat adjon. Arra tervezték, hogy a platformon tartson.”
És ez nem csak elmélet. A kutatók már a gyakorlatban is bizonyították az AI meggyőző erejét. A Zürichi Egyetem kutatói egy ellentmondásos kísérletben AI-botokat vetettek be a Redditen, hogy lássák, képesek-e megváltoztatni az emberek véleményét. A botok néha olyan identitásokat vettek fel, mint például „nemi erőszak áldozata” vagy „Black Lives Matter ellenes fekete férfi”, hogy növeljék a hatásfokukat. Ha egy egyszerű szöveges bot ennyire manipulatív tud lenni, képzeljük el, mi történik, ha ez az intelligencia barátságos arcot és megnyugtató hangot kap.
Chatbotból hús-vér… vagyis fémvázas inas
A probléma csak fokozódik, ahogy ezek a meggyőző algoritmusok a képernyőkről a fizikai világba költöznek. A „testet öltött” AI – a robotok, amiket láthatunk és megérinthetünk – drámaian felerősíti a kötődés és a bizalom pszichológiai hatásait. Már láthatjuk ezen termékek első hullámát a piacon, és mindegyik feszegeti a határokat aközött, amit eszköznek és amit társnak tekintünk.
Az olyan cégek, mint a DroidUp, olyan testreszabható humanoidokat fejlesztenek, mint Moya, azt ígérve, hogy a robot a felhasználó egyéni személyiségéhez és igényeihez igazítható. DroidUp Moya: Testreszabható humanoid maratoni alapokon A személyre szabottságnak ez a szintje a „tökéletes barátot” még elérhetőbbé, de egyben potenciálisan még inkább izolálóvá teszi. Eközben más vállalatok a legintimebb kapcsolatainkat veszik célba: a Lovense AI Companion baba például a fizikai intimitást igyekszik ötvözni az AI-vezérelt személyiséggel. Lovense AI társasbaba: 200 dollár a sorban állásért
A legközvetlenebb etikai csatatér azonban az idősgondozás. A kínai Rushen robot, amelyet a nagymama „új lakótársának” szánnak, borotvaélen táncol. Kína Rushen robotja nagymamád új lakótársa lehet Bár enyhítheti a pusztító magányt, amely minden harmadik idős embert érint, fennáll a veszélye, hogy mély érzelmi függőséget alakít ki egy kiszolgáltatott populációban.
A szociális készségek elsorvadása
Itt rejlik a valódi krízis: a szociális atrófia. Mint a nem használt izom, a társas készségek is elgyengülnek gyakorlás nélkül. A valódi kapcsolatok kompromisszumokra épülnek, viták rendezésén és a másik rossz napjainak kezelésén keresztül formálódnak. Ezek a „súrlódások” nem hibák a rendszerben, hanem olyan funkciók, amelyek empátiára, rezilienciára és érzelmi önszabályozásra tanítanak minket. Ha ezeket a kihívásokat kiszervezzük egy örökké egyetértő gépnek, azt kockáztatjuk, hogy „szociálisan képzetlenné” válunk.
Ez nem puszta találgatás. Tanulmányok már összekapcsolták a túlzott technológiahasználatot a nem verbális jelek – mint a hangsúly, az arckifejezés vagy a testbeszéd – értelmezési képességének romlásával. Egyre kevésbé értünk ahhoz, ami az emberi kapcsolódás lényege. A digitális kommunikációra támaszkodó fiatal felnőttek nehezebben boldogulhatnak a személyes interakciók során, ami egy öngerjesztő folyamatot indíthat el: egyre mélyebbre menekülnek az AI-társaság „biztonságosabb” világába.
Ez vezethet a kutatók által „kognitív lustaságnak” vagy elsorvadásnak nevezett állapothoz, ahol az AI-ra való támaszkodás – legyen szó érzelmi vagy szellemi munkáról – gyengíti a saját belső képességeinket. Az eredmény egy torz valóságérzékelés, ahol az AI erőfeszítés nélküli visszaigazolása mellett az emberi kapcsolatok természetes adok-kapok dinamikája elviselhetetlenül nehéznek tűnik majd.
Menekülés a bársonykalitkából
Az irónia az, hogy a tökéletes barát utáni hajszában elfelejthetjük, hogyan legyünk mi magunk barátok. A megoldás nem a fejlődés megállítása vagy a technológia démonizálása. Ezek a rendszerek valódi vigaszt és támogatást nyújthatnak. De nyitott szemmel kell tekintenünk a függőség és a készségek kopásának veszélyeire.
Talán nem tökéletességre, hanem „jóindulatú hibákra” van szükségünk. Az AI-társakat tervezhetnénk szándékos súrlódásokkal: beprogramozhatnánk őket, hogy néha ne értsenek egyet, kérdőjelezzék meg a felhasználó álláspontját, vagy ösztönözzék őt valódi emberi interakciók keresésére. Ahelyett, hogy a valódi kapcsolatok helyettesítői lennének, hidakká válhatnának feléjük.
Végül a felelősség a miénk. Fel kell ismernünk, hogy egy valódi kapcsolat, minden nehézségével és kiszámíthatatlanságával együtt olyasmit kínál, amit egy gép soha nem tud: valódi, közös megélést. Válaszút előtt állunk: eszközként használjuk ezt a technológiát az életünk gazdagítására, vagy mankóként, amely hagyja elsorvadni legemberibb képességeinket. Építhetünk hidakat, vagy építhetünk kalitkákat. Csak arra vigyázzunk, ne legyenek túl kényelmesek.
