Discuz! Board

 找回密碼
 立即註冊
搜索
熱搜: 活動 交友 discuz
查看: 896|回復: 0
打印 上一主題 下一主題

75岁Hinton再次警告:AI可能會接管人類!

[複製鏈接]

2486

主題

2486

帖子

7519

積分

管理員

Rank: 9Rank: 9Rank: 9

積分
7519
跳轉到指定樓層
樓主
發表於 2024-7-4 20:15:20 | 只看該作者 回帖獎勵 |倒序瀏覽 |閱讀模式
10月9日,Hinton面临《60分钟》的采访,再次暗示了對人工智能可能會接收人類的担心。

但早在本年5月,「人工智能教父」Ge馬桶不通,offrey Hinton為了能自由评论辩论人工智能的危害,颁布發表了從google離任。

以後,Hinton在各類公然场所中都表达了對人工智能危害的担心。

在一次采访中,Hinton乃至暗示:「我對本身的终生事情,感触很是懊悔」。

而在風起云涌的人工智能井喷之年,人们已難以停下冲锋的步调。

固然在本年3月尾,有上千名技能魁首签订了号令暂停開辟比GPT-4更壮大的人工智能的联名書。

但在9月24日的YC校友分享會上,Altman流露了OpenAI的下一代大模子GPT-5和GPT-6的動静。

与此同时,作為開源社區的魁首Meta,也在不竭開辟新的大模子。在7月,公布了在各項機能都获得晋升,程度靠近ChatGPT的Llama 2。

@跟%XC9aL%着大模%5t939%子@機能的不竭晋升,平安隐患和威逼的暗影始终如达摩克里斯之剑悬在人類頭顶。

有人認為担忧人工智能的危害还為之過早,如Meta的首席科學家、一样是圖灵奖得主的Hinton的門生Yann LeCun屡次暗示,人们强调了人工智能的危害。

但也有一些人對峙,「与保存相干的危害,若何器重都是不為過的」。

Hinton即是此中之一。

Hinton:AI接收人類的可能性

在与《連线》的記者對话时,Hinton從如下几個方面表达了對人工智能危害的担心。

起首是人工智能的智能的不竭增加。

Hinton認為,咱们正在進入如许一個期間:人工智能正變得比人類更聪慧,它们可以或许按照本身履历和理解来做出决议。

固然圖灵奖得主Bengio等用88页论證了人工智能今朝还不具有意識,但不管是Bengio仍是Hinton,都認為将来人工智能可能會成长出自我意識。

将来人工智能将會代替人類,成為地球上智商最高的存在。

决议模子智能的是進修的能力,Hinton诠释了人工智能的進修進程。

人工智能可以或许举行進修,是由于人類設計了响應算法,但模子是以發生的神经收集是繁杂的,其實不彻底為人所知。

這一進程被Hinton比作設計進化的道理,他認可跟着人工智能對更繁杂使命的處置,其内部運作對付人類而言将會變得愈来愈神秘、且不成知。

别的,Hinton还暗示了對人工智能體系會本身编写代码来點窜本身的担忧,這可能會致使人類對人工智能落空节制。

除人工智能的失控危害,Hinton还會商了人工智能把持人類的危害,指出了在自立疆场呆板人、假消息和就業成见等范畴的潜伏後果。

但比這些更糟的是,Hinton夸大了环抱人工智能的不肯定性,和在未知范畴航行所面對的挑战。

「咱们正在進入一個很是不肯定的时代,咱们正在處置之前從未做過的事變。凡是,當你第一次處置一些彻底别致的事變时,你必定會出错。但咱们不克不及在這些事變上出错。」

但Hinton也必定了人工智能做出的進献。

跟着人工智能在實際世界中各類落地利用,在辦公、科學發明、醫疗等方面都极大地晋升了人類的效力。

Hinton出格夸大了人工智能在醫疗保健范畴的庞大上風,特别是醫學圖象辨認和藥物設計等,使命googleDeepMind推出的Alpha Fold是一個绝佳的例證。

Hinton對人工智能在這一范畴的踊跃影响暗示樂觀。

對付人工智能的将来,Hinton固然没有预言人工智能必定會接收人類,但他認可了這将是咱们可能的将来。

是以,Hinton一向鞭策面临人工智能成长的潜力,人類對本身的平安举行需要的庇护辦法。

其他對人工智能危害的担心

此前,纽约大學傳授马库斯也表达了不异的担心。

「是人類将近衰亡了比力首要,仍是编码更快、跟呆板人谈天更美國偉哥哪裡買,首要?」

马库斯認為,固然AGI还太遥远,但LLM已很伤害了,而最伤害的是,如今AI已在给各類犯恶行為供给便當了。

「在這個期間,咱们天天都要自問,咱们事實想要甚麼類型的AI,有的时辰走慢一點何尝欠好,由于咱们的每小步城市對将来發生深远的影响。」

ChatGPT之父、OpenAI CEO Sam Altman也曾公然暗示,超等智能AI的危害可能會远远超越咱们的预感。

在技能钻研员Lex Fridman的播客中,Altman對高档人工智能的潜伏伤害發出了预警。

他暗示本身最担忧的是,AI酿成的子虚信息問题,和经济上的打击,和其他还没呈現的各種問题,這些風险可能远远跨越了人類能應答的水平。

他提出了如许一種可能性:大說话模子可以影响、乃至是主宰社交媒體用户的體验和互動。

「打個例如,咱们怎样會晓得,大說话模子没有在推特上批示大師的思惟活動呢?」

Altman說,「我認為,作為OpenAI,咱们有责任為咱们向世界推出的东西賣力。」

「AI东西将给人類带来庞大的益處,可是,你晓得的,东西既有益處也有坏處,」他弥补道。「咱们會把坏處降到最低,把益處最大化。」

固然GPT-4模子很了不得,但熟悉到人工智能的局限性并防止将其拟人化也很首要。

一样地,對付「AI歼灭人類」這個問题,比尔盖茨也已忧心多年了。

不少年来,盖茨一向暗示,人工智能技能已變得過于壮大,乃至可嫩白皂,能激發战役或被用来制造兵器。

他宣称,不但實際糊口中的「007反派」可能操纵它来把持世界大國,并且人工智能自己也可能失控,對人類造成极大威逼。

在他眼里,當超等智能被開辟出来,它的思虑速率會远远赶超人類。

它能做到人腦所能做的一切,最可骇的是,它的影象内存巨细和運行速率底子不受限。

這些被称為「超等」AI的實體可能會設定本身的方针,不晓得會干出甚麼事。

而公家也起頭發出本身的声音。

面临至公司之間的大模子「武备比赛」,Meta由于向公家開放了Llama 2的模子权重而受到了公民抗议。

公家担忧Meta這項開释模子权重的计谋,可讓任何人都能按照本身长處點窜模子。

同时,由于权重的開放,象征着其别人没法召回這些的模子。這對@操%9A27S%纵大模%5t939%子@来施行收集犯法几近供给了無穷制的發展泥土。

如今,對付全人類来讲,彷佛「to be,or not to be」已成了刻不容缓、不能不面临的問题。

参考資料:
回復

使用道具 舉報

您需要登錄後才可以回帖 登錄 | 立即註冊

本版積分規則

Archiver|手機版|小黑屋|台灣茵蝶智能機器人論壇  

屏東當舖當舖, 汽車借款, 堆高機, 三峽當舖房屋二胎小額借款支票貼現支票借錢台北保全, 防盜楊梅當舖台北網頁設計, 台北借錢, 台北當舖, 新竹黃金典當禮品, 贈品機關廚餘回收, 未上市股票未上市伍德低溫合金, 台北當舖, 台北招牌設計, 支票借錢, polo衫, 團體服, 隆乳, 爪蓋, 沙發工廠飲水機, 消脂針, 未上市, 水彩, 白內障, 黑桑葚乾, 提升免疫力, 空壓機, 封口機壯陽藥, 台中搬家, 台中搬家公司, 基隆汽車借款 沙發, 多囊性卵巢症候群不孕症未上市信用卡換現金刷卡換現金T shirt邱大睿邱大睿, 悠遊卡套, 珍珠奶茶, 童顏針滑鼠墊, 翻譯社, 屋頂漏水修繕, 沙發, 貓抓皮沙發, 瘦臉, 樹林當舖,, 運彩場中運動彩券場中台灣運動彩券首頁運動彩券單場運彩單場運動彩場中投注場中投注表場中投注時間表場中投注時刻表台灣運彩足球賠率台灣運彩場中歐冠杯, 歐冠杯決賽, 歐冠盃, 歐冠盃投注, L型沙發雙人床墊, 獨立筒沙發, 貓抓皮沙發, 24小時當舖, 團體制服, Polo衫,

GMT+8, 2024-11-21 17:04 , Processed in 0.173141 second(s), 4 queries , File On.

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回復 返回頂部 返回列表