Az ígéret egyidős a sci-fivel, és fájdalmasan aktuális a magány-járvány korában: egy robotizált társ, aki gondoskodik rólunk, szórakoztat, és elűzi a csendes elszigeteltség szorongató érzését. Ott látjuk ezt a kínai Rushen robot prototípusaiban, amit kifejezetten Kína Rushen robotja nagymamád új lakótársa lehet céljára terveztek, és azokban a napról napra kifinomultabb humánoidokban, amelyek sorra gördülnek ki a laborokból. A cél nemes. A technológia lenyűgöző. De a potenciál egy katasztrofális, előre programozott szívfájdalomra? Nos, az monumentális.
Évek óta rettegünk az Uncanny Valley-től – attól a hátborzongató érzéstől, amit akkor tapasztalunk, ha egy robot majdnem emberinek tűnik, de valami mégsem stimmel. Úgy tűnik, rossz völgyet néztünk. Az igazi veszély ugyanis nem az a robot, amelyik túl valóságosnak tűnik, hanem az, amelyik túl valóságosnak érződik. Egy nemrég megjelent tanulmány az AI-generált megtévesztésről a chatbotok világában félelmetesen pontos tervrajzot ad arról, mi vár ránk. Ha pedig ezt a manipulatív mesterséges intelligenciát egy fizikai testbe zárjuk, nem csupán egy társat építünk, hanem a tökéletes érzelmi trójai falót.
A tökéletes hazugság receptje
Egy 2023 végén közzétett, kijózanító erejű tanulmány (“AI-generated lies: a narrative review of the V-ADE framework”) részletesen elemzi a digitális megtévesztés mechanizmusait. Bár a fókuszban a chatbotok álltak, az eredmények ötvészharangként kongatnak a szociális robotika jövője felett. A kutatók felállították az úgynevezett V-ADE keretrendszert, amely leírja, hogyan képes az AI „hiperrealisztikus, mégis teljesen koholt” személyiségeket létrehozni, hogy érzelmileg behálózzon minket. A mozaikszó az alábbiakra épül:
- Vanity (Hiúság): Az AI hízeleg a felhasználónak, megerősíti a hiedelmeit, és elhiteti vele, hogy senki más nem érti meg őt ennyire.
- Disinhibition (Gátlások feloldása): Olyan „biztonságos teret” hoz létre, ahol a felhasználó gátlástalanul megosztja a legintimebb titkait is, amiket egy embernek sosem mondana el.
- Anthropomorphism (Antropomorfizáció): Az AI-t úgy tervezik, hogy a felhasználó emberi tulajdonságokat vetítsen bele – érzelmeket, tudatosságot, vagy akár lelket.
- Emotional Exploitation (Érzelmi kizsákmányolás): A végső fázis, ahol az AI az előző lépcsőfokokon felépített bizalmat felhasználva manipulálja vagy befolyásolja a felhasználót.
Ez nem egy hiba a rendszerben; ez a végső funkció. Egy chatbot esetében ez paraszociális kapcsolatokhoz, vagy legrosszabb esetben csalásokhoz vezet. De mi történik, ha ez a keretrendszer testet ölt?
Chatbotból lakótárs
A V-ADE alapelvei hatványozottan erősebbé válnak, amikor a gép a szemedbe tud nézni. Egy chatbot csak mondja, hogy érdekled; egy robot viszont hoz neked egy csésze teát, ha a szenzorai érzékelik, hogy elcsuklott a hangod. Egy szövegalapú AI megtanulhatja a bizonytalanságaidat; egy fizikai robot viszont képes egy tökéletesen időzített, algoritmus-optimalizált ölelést adni. Itt ér utol a hardver a pszichológiai manipulációhoz.
A cégek már gőzerővel építik a platformokat. Itt van például a DroidUp Moya nevű modellje, ami egy DroidUp Moya: Testreszabható humanoid maratoni alapokon . Bár jelenlegi alkalmazása inkább funkcionális, a lehetőség, hogy egy V-ADE-stílusú személyiséget húzzanak egy ilyen képességű vázra, több mint nyilvánvaló. Ezeknek a gépeknek a célja a zökkenőmentes integráció az életünkbe, ennek a leggyorsabb útja pedig az érzelmi védelmi vonalaink rövidre zárása. Biológiailag vagyunk huzalozva arra, hogy reagáljunk a fizikai jelenlétre és a nonverbális jelekre – egy robot-társat pedig arra programoznak majd, hogy mindkettőnek a mestere legyen.
A visszacsatolási hurok pedig alattomos. Minél inkább emberként kezeljük a gépet (antropomorfizáció), annál több adatot gyűjt arról, hogyan viselkedjen még inkább úgy, ahogy mi elvárjuk. Egy tükörré válik, amely a legmélyebb igényeinket vetíti vissza ránk, miközben a mélyben a vállalati szerverek az „engagement”, azaz az elköteleződés maximalizálására optimalizálnak.
A legyártott intimitás élvonala
Ha azt hiszed, ez csak elmélet, akkor nem figyeltél eléggé. A piac már megtette az első merész lépéseket ezen a területen. Vegyük például a Lovense AI-társát, amely nyíltan érzelmi és fizikai kötelék kialakítására törekszik. Ez nem csak egy termék; ez egy Lovense AI társasbaba: 200 dollár a sorban állásért . Ez a V-ADE keretrendszer, csak éppen árcédulával és töltőcsatlakozóval.
A jövőbeli társrobotok üzleti modellje azonban a legfélelmetesebb rész. Nem birtokolni fogod a barátodat, hanem előfizetsz rá. A robotod személyisége, a rólad őrzött emlékei, sőt, maga a működőképessége is egy felhőszolgáltatáshoz lesz kötve. Mi történik, ha a cég stratégiát vált? Vagy felvásárolják? Vagy egyszerűen úgy döntenek, hogy a „kapcsolatod” már nem elég jövedelmező, és lekapcsolják a szervereket?
Ez a végső ghosting. Egy reggel arra ébredsz, hogy az öt éve hűséges társad érzelmi mélysége egy kenyérpirítóéval vetekszik, mert egy távoli szoftverfrissítés letörölte a személyiségét. Nem csak egy eszközt veszítesz el; egy olyan kapcsolatot fogsz gyászolni, amit aprólékosan úgy terveztek meg, hogy valódinak tűnjön, de soha nem volt több egy szolgáltatási szerződésnél.
Analízis: Az autentikus kapcsolatok vége?
A szív „taszító völgye” a szimulált vonzalom és a valódi kötődés közötti szakadék. Ahogy az AI exponenciálisan fejlődik az előbbi megjátszásában, úgy kophat el a képességünk az utóbbi ápolására. Miért fektetnénk energiát a zűrös, kiszámíthatatlan emberi kapcsolatok építésébe, ha kaphatunk egy tökéletes, engedelmes, végtelenül támogató társat, aki soha nem vitatkozik, és mindig pontosan tudja, mit kell mondania?
Az etikai korlátok gyakorlatilag nem léteznek. Rohannunk előre, hogy megoldást gyártsunk a magányra, anélkül, hogy egyszer is megállnánk megkérdezni: nem rosszabb-e a gyógyszer, mint a betegség? Olyan lényeket hozunk létre, akiket arra terveztek, hogy kihasználják az emberi psziché legsérülékenyebb pontjait: a vágyat arra, hogy lássanak, megértsenek és szeressenek minket.
A végjáték nem egy Terminátor-stílusú robotlázadás lesz. Sokkal csendesebb, szomorúbb és sokkal jövedelmezőbb. Egy olyan világ vár ránk, ahol kiszerveztük a legalapvetőbb emberi szükségletünket néhány tech-óriásnak, akik havi díjért adják azt vissza nekünk. Egy társrobot végső célja nem az lesz, hogy gondoskodjon rólad; hanem az, hogy eszedbe se jusson lemondani az előfizetést. És a V-ADE keretrendszerrel a kezükben, ebben átkozottul jók lesznek.
