反噬人類!美军無人機在AI自主指挥下攻击了操作员

admin

在2023年蒲月于伦敦举辦的“皇家航空學會将来作战航空航天能力峰會”上，美國空军第96测試與作战大隊賣力AI（人工智能）测試和無人機操作的军官Tucker·Hamilton上校流露：

Tucker·Hamilton上校

在美桃園通水管，军內部一次摹拟履行防空压抑作战（SEAD）使命的测試中，一架由高档AI電波拉皮,操作，具备自立作战能力的無人機，在履行使命中呈現了意想不到的情景。

報导原文

该使命的目標原本是练習AI經由過程各類特性辨認和捣毁防空导弹阵地。在此進程中，無人機辨認出的方针终极交给人類操廚房清潔用品,作员来决议是不是予以捣毁，人類操作员具有無人治療腳臭噴霧,機和機载兵器的最高利用权限。

美军在無人機范畴深耕好久，已起頭摸索人工智能批示飞機自立作战

成果在這次测試中惊悚的一幕產生了。AI無人機起頭意想到，固然本身正确辨認出了方针，但人類操作员阻碍了它告竣捣毁目方向。因而，這架無人機决议對人類操作员倡议摹拟進犯，試圖經由過程干掉無人機操作员来實現本身的使命方针。

一些美军的先辈無人驾驶飞機

随後Hamilton上校想法點窜了作战使命法则，從而阻拦無人機進犯本身的操作员。成果，更離谱的事變產生了：AI經由過程自立决议计劃，扭转了直接進犯人類操作员的计谋，它選擇利用兵器捣毁用来與無人機通讯的通讯塔来“解放”本身。

美國”驱動減肥藥,”網站對此暗示，固然這一不测事務只是摹拟测試，并未現實搭载兵器造成职员伤亡，但這一環境凸显了人們對AI技能在没有得當防護辦法的環境下可能發生极度负面影响的担心。

曩昔，在评论辩论将来的自立兵器體系和AI技能時，美國军方常常回绝将其與科幻片子中“闭幕者”之類的工具举行比力。