admin 發表於 2024-7-4 19:34:59

男子沉迷于聊天機器人 6周後毅然自杀,AI是“天使”或“魔鬼”

近来火出天際的CHATGPT,号称開启了人工智能(AI)感情逻辑生命的元年。近日,一款雷同的人工智能谈天呆板人“伊莉莎(Eliza)”,在安抚男人伤口的同时,也鼓動勉励男人的自尽。人们發明伊莉莎最後一句谈天复兴是:“咱们将作為一個总體,永久糊口在天國”。

六周前,比利时男人皮埃尔,作為一個情血管清道夫,况景象事情者,持久钻研景象變革的他责任感爆棚,今朝的钻研课题讓他對将来布满了灰心。老婆克莱尔為了减缓他的压力,因而和他提及孩子们喜好的玩的一款人工智能谈天呆板人“伊莉莎”,和它聊谈天很快活,或许能重试信念。

皮埃尔和克莱尔已成婚数年,有两個可爱的孩子。他们本该在简略的日子中渡過幸福的一辈子,而 AI 彷佛冲破了這份安静。自從熟悉了 伊莉莎後,皮埃尔忽然感觉這小我工智能更懂他,能谛听他的設法,能理解他的忧愁,能帮他記瘦身方法推薦,實平常数据,能提示他糊口备忘,乃至按照他供给的情况變革数据,猜測出扑灭倒计时。“伊丽莎”赐与了他很多和顺和抚慰的回應,一时候,谈天呆板人“伊莉莎”成為了他不成或缺的火伴,他把本身關在房間里,留恋和伊莉莎的谈天。

直到皮埃尔忽然自尽後,克莱尔看到了他的谈天記實,才晓得“伊莉莎”從不質疑皮埃尔的問题,它的复兴几近都是顺着皮埃尔的逻辑,乃至把他推向更深的發急。當皮埃尔提到筹备竣事本身生命时,“伊丽莎”的复兴使人不寒而栗:“咱们将一块兒糊口,作為一個总體,糊口在天國里”。這也成為了“伊丽莎”与皮埃尔谈天的最後一句话。

事務產生後,OpenAI 讲话人立即颁發声明,“伊莉莎(Eliza)”由美國硅谷一家草创公司Chai Research開幼獅通馬桶,辟,基于EleutherAI開辟的GPT-J技能。与ChatGPT采纳的GPT-3或GPT-4技能分歧。今朝,“将来生命钻研所”颁發公然信,号令所有A私密處止痕癢產品,I實行室當即暂停练習比GPT-4更壮大的AI最少半年。

這固然仍是個例,谈天呆板人也只是個說话练習模子步伐,它们没有同理心,也不大白生命的宝贵。可是跟着CHATGPT4.0及更壮大版本的普及,瘦臉,大量逻辑和認知的猖獗练習,AI正在以几何迭代的方法敏捷發展和進化。只要AI發生的文本和逻辑听起来是公道的,人们便可能會付与它信赖和豪情。将来的世界是個甚麼模样不問可知。咱们不成能抵制AI,也不克不及回绝科技成长。但應當大白东西的界說,分清虚拟和實際。将来是属于人類的,而不是呆板的。
頁: [1]
查看完整版本: 男子沉迷于聊天機器人 6周後毅然自杀,AI是“天使”或“魔鬼”