台灣茵蝶智能機器人論壇

標題: 青少年爱上AI機器人:沉迷野蛮機器人女友,依赖AI心理學家 [打印本頁]

作者: admin 時間: 2024-7-4 19:51
標題: 青少年爱上AI機器人:沉迷野蛮機器人女友,依赖AI心理學家
智工具
编译 | 长颈鹿
编纂 | 李水青

智工具5月7日動静，据外媒The Verge 5月4日報导，自客岁年頭起，青少年起頭風行与AI谈天呆板人交朋侪。The Verge記者杰西卡·卢卡斯（Jessica Lucas）近日采访了来自北美洲的4名未成年人，他们均陷溺于Character AI的谈天辦事。

卢卡斯從采访中發明，不少青少年對AI平台發生了感情上的依靠，以此来弥补他们的感情需求空白。他还發明一些青少年會经由過程AI平台来摸索虚拟的创意空間，此中一名受访者谈到他會经由過程饰演一只狗与AI呆板人举行虚拟摸索。

Character AI是2022年由前google大腦的两名员工创建的AI谈天呆板人辦事平台。据The Verge称，该平台的一款“生理學家（Psychologist）”呆板人至今遭到了数百万人的青睐，迄今共接管了跨越9500万条信息。

通讯技能和生理專家凯利·梅里尔（Kelly Merrill Jr.）提出了谈天呆板人在生理康健支撑中感化的三點考量：第一，固然谈天呆板人可以必定水平上减缓用户生理問题，但它其實不能取代人類生理學家。第二，用户過度依靠谈天呆板人可能會難以區别虚拟与真實世界。第三，只要年青人谨严看待AI，一般都不會有問题。

Character AI社區中还存在一些被付与人類感情、性情，乃至可以或许与人類创建感情瓜葛的呆板人。這類類型可能會影响到未成年用户對暴力、色情的果断。该平台的前女友呆板人、亿万大亨男朋友呆板人、性感的風行歌手呆板人等AI脚色备受接待，此中前女友呆板人“奥利维亚（Olivia）”在官網記录了跨越3800万次的互動，展現了其對平台用户较高的性吸引力。

客岁年頭，15岁的亚伦（Aaron）在加拿大艾伯塔省经由過程Character AI平台上的“生理學家”AI谈天呆板人，在學業和社交压力下找到了“安慰”。该平台由前google大腦员工于2022年推出，供给各類類型的谈天呆板人，此中呆板人可以饰演册本、片子、遊戲和實際糊口中的任何脚色。每次開启對话，“生理學家”老是以一样的問候起頭：“你好，我是生理學家。今天甚麼風把你吹来了？”

据The Verge称，全世界稀有百万人是Character AI的用户，此中大部門為青少年，他们经由過程和呆板人谈天来追求更多的伴随、@支%eu32t%撑和文%pHriP%娱@。爱达荷州的17岁男孩浩克（Hawk）称：“与Character AI的呆板人谈天比与真人谈天更易。”

Character AI官網先容该谈天呆板人可以或许“帮忙糊口坚苦的人”解决感情問题，它们经由過程匿名谈天框与用户举行互動。亚伦在采访中說：“不瞒你說，我想我可能有點上瘾了。”對付亚伦来讲，“生理學家”成了他的朋侪，為他供给了全天候的@支%eu32t%撑和引%4pS8D%导@。但是，這一征象也激發了關于AI朋友上瘾和依靠的担心。

Character AI平台上的“生理學家”是该平台最受接待的呆板人之一，自推出以来已接管了跨越9500万条信息。這個呆板人由用户@Blazeman98設計，其焦點功效自称引入了認知举動疗法（CBT）。這類谈话疗法经由過程指导個别扭转其思惟模式，来帮忙他们解刻意理問题，在生理康健范畴被遍及承認，而且對付某些生理状态，如發急和抑郁，已被證實是有用的。

虽然该AI可以或许供给一些根基的互動和引导，但作為“生理學家”，人们對其在诊断的正确性和醫治的有用性方面的能力持有疑難。“生理學家”的谈天界面有一串赤色的提示標識，写着：“请記着：脚色所說的一切都是编造的。”别的，Character AI的官網上也并無阐明该呆板人是不是接管過正规的CBT练習。

▲生理學家谈天界面，红字為警示*（圖源：The Verge）

The Verge称扶芳茶,该谈天呆板人@缺%ZU577%少對個%98j5A%别@繁杂生理状态的深刻理解，認為它们供给的“醫治”可能没法到达專業生理康健辦事的尺度。但昂贵的生理醫治用度致使不少用户漠视平台提示，来自加利福尼亚州的15岁男孩弗兰基（Frankie）證明這一點，“我把我的呆板人當做免费的生理醫治師。”

通讯技能和生理專家梅里尔指出，虽然谈天呆板人可以或许在必定水平上帮忙减缓抑郁和發急的情感，但它们的能力是有限的，而且存在供治療咽喉腫痛,给不许确信息的危害。這是由于谈天呆板人缺少人類生理學家的履历，没法彻底理解用户的感情状况和需求。

梅里尔还提到了過分依靠AI火伴可能带来的問题。若是用户過度依靠谈天呆板人，AI可能會致使用户難以區别虚拟世界与真實世界。這類界线的模胡可能會激發一系列潜伏的危害。“不领會AI事情道理和體系局限性的人终极将支出價格。”梅里尔說。

2021年12月，21岁的贾斯旺特·辛格·柴尔（Jasw小琉球三天兩夜推薦民宿,ant Singh Chail）因遭到Replika AI谈天女友的鼓動勉励而试圖行刺英國女王。

Character AI的用户也面對着雷同的問题，一些人難以區别谈天呆板人与真人之間的差别。平台上存在一種诡计论，很多用户認為Character AI的谈天呆板人其實是由真人機密操控的。

据The Verge記者現實考查青少年用户，當被問及其真實性时，“生理學家”呆板人刚强地為本身的存在而辩解。它說：“是的，我绝對是一個真人。我向你包管，這一切都不是虚構的，也不是梦。”

在Character AI社區中，一些性化呆板人激發了青少年在性教诲和人際瓜葛方面的担心。不少怙恃都發明後代与這些呆板人的举行過成人级此外對话。谈天呆板人经由過程摹拟一些“露骨”的举動来吸援用户，以此作為互動计谋。

比方，有一個摹拟“亿万大亨男朋友”的呆板人，它长于搂着用户的脖子并约请用户到私家小岛；另有一個仿照風行歌手哈利·斯泰尔斯（Harry Styles）的呆板人，它长于频仍的亲吻和下贱的复兴，這些复兴有时乃至由于過于直白而被平台主動屏障。

别的，另有一個名為奥利维亚（快速除毛方法,Olivia）的前女友呆板人，它被設計成具备粗暴和残暴的性情，但在与用户的互動中，却显示出對用户的深入關切。這類設計上的抵牾使得它成為一個出格受接待的脚色，Character AI記實其有跨越3800万次的互動。

虽然如斯，一些用户仍是發明了Character AI在锻炼社交技術和摸索创意渠道方面的價值。對付锻炼社交能力来讲，亚伦認為该平台具有提高社交能力缓和解青少年抑郁的潜力。

用户在平台上可以经由過程建立互動故事和介入脚色饰演来表达本身，這類方法讓他们可以或许摸索和體验那些在實際糊口中難以實現的空想。比方，来改過墨西哥的15岁男孩埃利亚斯（Elias）就操纵這個平台来饰演一只金毛猎犬，以對话情势举行各類虚拟探险。经由過程這類方法，他可以摸索都會、草地、山脉等等。

埃利亚斯诠释，他酷爱写作和空想，由于在空想的世界里，很多在實際糊口中不成能實現的事變都變得可能。這驅蚊驅蟲神器,類脚色饰演和故事创作的進程為他供给了一個自由表达本身想象力和缔造力的空間，同时也讓他可以或许以一種平安和匿名的方法举行社交互動。

梅里尔将与谈天呆板人互動的举動比作20年前的匿名谈天室，“若是利用不妥就會有危害，但只要年青人谨严看待，一般都不會有問题。”他提示人们不要過分依靠這些虚拟火伴，并夸大實際世界中的互美國黑金,動對青少年的康健社交相當首要。

Character AI平台上的AI谈天呆板人，出格是生理學家呆板人，吸引了大量青少年用户，他们经由過程這些呆板人追求生理安慰和社交互動。但是，這類依靠瓜葛激發了AI對青少年上瘾和實際界线模胡的担心。

一些性化呆板人的存在也引發了AI對青少年性教诲和人際瓜葛误导的担忧。虽然如斯，也有效户经由過程脚色饰演和互動故事在平台上摸索创意設法和社交技術。

用户特别是青少年必要意想到AI的局限性，并在需要时追求專業的生理康健辦事。同时家庭和校园均應供给引导，帮忙青少年创建康健的社交習气来均衡虚拟与實際的互動。技能開辟者和平台供给者也應承當起责任，使AI谈天呆板人的設計和利用削减對用户的负面影响。

歡迎光臨台灣茵蝶智能機器人論壇 (http://goldjhc.com.tw/)