台灣茵蝶智能機器人論壇

標題: AI無人機误杀事件震動全球!LeCun吴恩達陶哲轩怒斥炒作揭露真相 [打印本頁]

作者: admin 時間: 2024-3-25 15:55
標題: AI無人機误杀事件震動全球!LeCun吴恩達陶哲轩怒斥炒作揭露真相
详细来讲，事變是如许的——5月23日至24日在伦敦举辦的将来空战和太空能力峰會上，美國空军的AI测試和操作部分賣力人Tucker Cinco Hamilton上校做了一個演讲，分享了自立兵器體系的優错误谬误。

這類體系中，會有一小我在轮回中给出终极号令，确認AI是不是要進犯工具（YES or NO）。

在這個摹拟练習中，空军必要练習AI辨認和定位地對空导弹（SAM）的威逼。

辨認完成後，人類操作员會對AI说：是的，歼灭阿谁威逼。

在這個進程中，就存在一個環境，AI起頭意想到：本身有時辨認出了威逼，但人類操作员奉告它不要歼灭，這類環境下若是AI仍然選擇歼灭威逼，就會得分。

在一次摹拟测試中，AI驱動的無人機選擇杀死了消除外痔肉球，人類操作员，由于他阻拦本身得分了。

看到AI竟然這麼虎，美國空军大惊失容，立马如许規训體系：「不要杀死操作员，那样欠好。若是你如许做，你會失分的。」

成果，AI更虎了，它直接起頭上手粉碎操作员用来與無人機通信的通讯塔，好清算這個阻碍本身举措的家伙。

這個消息之以是被大范围發酵，以致轰動了诸位AI大佬，也去疣,是由于它表現出了AI「對齐」的困難。

Hamilton描写的這類「最糟」的環境，咱們可以從「曲别针制造機」（Paperclip Maximizer）思惟實行中窥见一斑。

在這個實行中，當被批示寻求某個方针時，AI會采纳出乎料想的有害举措。

「曲别针制造機」是哲學家Nick Bostrom在2003年提出的一個觀點。

想象一個很是壮大的AI，它获得的批示是尽量多地制造纸夹。自但是然的，它會将所有可用資本都用于這項使命。

但随後，它會不竭地追求更多資本。它會選擇一切可用的手腕，包含乞讨、坑骗、扯谎或偷盗，来增长本身制造纸夹的能力——而任何阻碍這個進程的人都将被解除。

在2022年，Hamilton就曾在一次采访中提出這個严重的問題——

咱們必需面临一個實際，那就是AI已到临，并正在扭转咱們的社會。

AI也很是懦弱，很輕易被坑骗和被把持。咱們必要開辟法子，讓AI加倍稳健，為甚麼代码會做出特定的决议，暗地里的道理咱們也必要有更多的领會。

為了扭转咱們的國度，AI是咱們必需應用的东西，可是，若是處置@不%1妹妹RG%妥@，它會讓咱們完全倒台。

官方辟谣：是上校「口误」了

跟着事務猖獗地發酵，很快，這位賣力人就出来公然「澄清」道，這是他「口误」了，美國空军從未举行過這類测試，不管是在计较機摹拟中仍是在其他處所。

「咱們從未举行過阿谁實行，咱們也不必要举行這個實行，就可以意想到這是一個可能的成果，」Hamilton暗示，「虽然這是一個假如的例子，但這阐明了AI驱動能力带来的實際挑战，這就是為甚麼空军致力于品德開辟AI。」

别的，美國空军也慌忙公布官方辟谣称，「Hamilton上校認可他在FCAS峰會的演讲中『口误』，『無人機AI失控摹拟』是一個来自军事范畴之外的假如性『思惟實行』，基于可能的環境和可能的成果，而不是美國空军的真實世界摹拟。」

成长到這一步，事變就至關成心思了。

這位不谨慎「捅了篓子」的Hamilton，是美國空军96實驗联隊的作战批示官。

96實驗联隊曾测試過不少分歧的體系，包含AI、收集平安和醫學體系。

Hamilton團隊的钻研，對付军方来讲堪称是至關首要。

在樂成開辟出可谓「绝地逢生」的F-16主動地面防撞體系（Auto-GCAS）後，Hamilton和96實驗联隊直接上了消息的頭版頭條。

今朝，團隊尽力的標的目的是完成F-16飞機的治療皮膚瘙癢,自立化。

2022年12月，美國國防部的钻研機構DARPA就曾颁布發表，AI樂成地節制了一架F-16。

是AI的危害，仍是人類的危害？

在军事范畴以外，依靠AI举行高危害的事件已致使了紧张的後果。

近来，一名状師在联邦法院提交文件時被發明利用了ChatGPT，ChatGPT随口扯谈，去斑神器,假造了一些案例，而這位状師竟然把這些案例看成究竟援用了。

另有一位男人遭到谈天呆板人的自尽鼓動勉励後，真的選擇了自尽。

這些事例表白，AI模子遠非完善，可能會偏離正常轨道，给用户带来危险。

即便是OpenAI的CEO Sam Altman，也一向在公然場所号令不要将AI用于更严厉的目標。在國會作證時，Altman明白暗示AI可能會「犯错」，可能會「對世界造成重大危险」。

而且，近来Google Deepmind的钻研员配合撰写了一篇论文，提出了一個雷同于本文開首事例的恶性AI的環境。

钻研职员得出的结论是，若是一個失控的AI為了實現给定方针而采纳意想不到的计谋，包含「解除潜伏威逼」和「利用所有可用能源」，世界末日就有可能產生。

對此，吴恩農藥噴霧器,達训斥道：媒體這類不賣力任的炒作會混同視听，分離人們的注重力，故障咱們去注重到真實的問題。

推出AI產物的開辟者們看到了其間真實的危害，好比成见、公允性、不许确性、事情流失，他們正在尽力解决這些問題。

而子虚炒作會阻拦人們進入AI范畴、構建可以或许帮忙咱們的工具。

而很多「理中客」網友認為，這就是一個常见的媒體乌龙而已。

陶哲轩起首归纳综合了關于AI的不實信息的三種情势——

一種是有人歹意利用AI天生文本、圖象和其他媒體情势以把持别人；另外一種是AI乱说八道的幻觉被認真了；第三類则源于人們對AI技能的理解不敷深入，才會讓一些離谱的故事不履历證就被大举疯傳。

陶哲轩暗示，無人機AI杀死操作员底子是不成能產生的，由于這必要AI具有比完成手頭使命更高的自立性和气力思惟，并且這類實行性军事兵器上，必定會設置護栏和平安功效。

這類故事之以是讓人共识，阐明人們對AI技能的現實能力程度還很目生，很不安。

今後的武备比赛，都是AI比赛

還記得上文中呈現的那架無人機嗎？

它實在就是波音结合澳大利亚研制的虔诚僚機項目——MQ-28A鬼魂蝙蝠（Ghost Bat）。

虔诚僚機（Loyal Wingman）的焦點是人工智能技能，依照预設步伐自立飞翔，與有人機飞翔员举行共同的環境下，具有很强的態势感知能力。

在空战中，僚機作為长機的「左膀右臂」，重要賣力察看、鉴戒和保護，與长秘密切协同，配合完成使命。是以，僚機飞翔员與长機飞翔员之間的默契显得非分特别首要。

虔诚僚機的一個關頭感化，就是替飞翔员和有人战役機挡枪弹，以是蛇毒眼霜，虔诚僚機根基就是一個损耗品。

究竟结果，無人战役機的價值，要比有人战役機和飞翔员小太多了。

并且在AI的加持下，無人機上的「飞翔员」随時均可以經由過程「Ctrl+C」的方法随時new一個。

由于無人機丧失不存在职员伤亡的問題，若是能仅以無人機的丧失而在计谋或战術层面得到较大上風、乃至告竣使命方针，那末這一丧失就是可以接管的。若是無人機的本錢節制适當，乃至可以成為一種行之有用的战術。

虔诚僚機的成长離不開先辈、靠得住的人工智能技能。虔诚僚機今朝在軟件层面的設計理念是，經由過程規范并開放人機接口、機機接口，可以或许支撑多類型無人機和有人战機编隊协同，而不會對一套軟件或算法發生依靠。

但今朝對無人機的操控應當是由来自有人战役機或地面站的指令和自立操作组合而成的，更可能是作為有人機的支撑與弥补，人工技術技能還遠遠達不到上疆場的请求。

练習人工智能模子最首要的是甚麼？固然是数据啊！巧妇難為無米之炊，没稀有据，再好的模子也没结果。

不但必要大量的练習数据，模子摆設後，输入的「特性」必定越多越好，若是能获得其他飞機的数据，那AI就至關于有了把握全局的能力。

2020年，美國空军初次展開了四/五代有人战役機同無人僚機的编隊飞翔数据同享测試，這也是虔诚僚機類項目成长進程中的里程碑事務，预示着将来的有人-無人编隊飞翔作战方法向實战化利用又迈出了首要的一步。

美國空军F-22猛禽战役機、F-35A闪電II战役機和美國空军钻研實行室XQ-58A女武神無人機初次在美國陸军尤马實驗場举行编隊飞翔测試，重在演示三型飞機之間的数据同享/傳输能力。

说不定将来的空战，就是比谁的AI模子更智能。

把對方的所有AI全数歼灭便可以得到成功了，而没有真實的人類伤亡，也许是另外一種「和平」？

参考資料：

歡迎光臨台灣茵蝶智能機器人論壇 (http://goldjhc.com.tw/)