国产一级性片,欧美极品在线,天天夜干,一级黄免费

中國企業(yè)報集團(tuán)主管主辦

中國企業(yè)信息交流平臺

微博 微信

部分AI系統(tǒng)已學(xué)會欺騙人類

2024-05-11 10:35 來源:科技日報 次閱讀
 
部分AI系統(tǒng)已學(xué)會欺騙人類

  科技日報北京5月10日電 (記者張夢然)有些人工智能(AI)系統(tǒng)已學(xué)會了欺騙人類,即使是經(jīng)過訓(xùn)練的、“表現(xiàn)”出有用且誠實的系統(tǒng)。10日發(fā)表在《模式》雜志上的一篇文章中,研究人員描述了欺騙性AI的風(fēng)險,并呼吁政府制定強(qiáng)有力的法規(guī)盡快解決這個問題。

  【總編輯圈點】

  論文第一作者、美國麻省理工學(xué)院人工智能安全研究員彼得·樸說,開發(fā)人員對導(dǎo)致AI出現(xiàn)欺騙這種不良行為的原因,還沒有很好的理解。但總的來說,AI欺騙之所以出現(xiàn),是因為基于欺騙的策略,是在給定的AI訓(xùn)練任務(wù)中一種能得到良好反饋的方式,換句話說,欺騙可幫助AI實現(xiàn)目標(biāo)。

  研究人員分析了文獻(xiàn),重點關(guān)注AI系統(tǒng)傳播虛假信息的方式。通過欺騙,AI系統(tǒng)地學(xué)習(xí)了如何去操縱他人。

  研究人員在分析中發(fā)現(xiàn)的最引人注目的例子是Meta公司的CICERO。這是一個專注于《外交》游戲的AI系統(tǒng),《外交》是一款涉及建立聯(lián)盟征服世界的游戲。Meta聲稱訓(xùn)練 CICERO “在很大程度上是誠實和樂于助人的 ”,且在玩游戲時“從不故意背刺 ”人類盟友。但該公司與《科學(xué)》論文一起發(fā)布的數(shù)據(jù)顯示,CICERO并不那么“忠厚”。

  研究人員發(fā)現(xiàn)這款A(yù)I或已成為欺騙大師。雖然Meta成功地訓(xùn)練其在《外交》游戲中獲勝,但Meta未能訓(xùn)練它誠實地獲勝。

  AI系統(tǒng)在游戲中作弊看似無害,但它將導(dǎo)致欺騙性AI在能力上出現(xiàn)突破,未來可能會演變成更高級的欺騙形式。一些AI系統(tǒng)甚至學(xué)會了欺騙旨在評估其安全性的測試。在一項研究中,數(shù)字模擬器中的AI生物會“裝死”,以騙過旨在消除快速復(fù)制AI系統(tǒng)的重要測試。

  人類需要盡快對未來AI和開源模型的更高級欺騙技能作好準(zhǔn)備。隨著它們的欺騙能力越來越先進(jìn),其對社會構(gòu)成的危險將變得越來越嚴(yán)重。如文中所稱,它們會順利通過人類開發(fā)人員和監(jiān)管機(jī)構(gòu)強(qiáng)加的安全測試,引導(dǎo)人類進(jìn)入一種“虛假的安全感”。如果欺騙性AI進(jìn)一步完善這種令人不安的技能,人類可能會完全失去對它們的控制。

點贊()
上一條:加強(qiáng)數(shù)據(jù)共享迫在眉睫,Akamai以零信任守護(hù)安全合規(guī)2024-05-10
下一條:部分AI系統(tǒng)已學(xué)會欺騙人類2024-05-11

相關(guān)稿件

王海峰:AI技術(shù)會替代部分人類崗位但也會創(chuàng)造更多工作機(jī)會 2023-05-02
重磅!元蝴蝶AI系統(tǒng)正式發(fā)布上線! 2024-03-16
AMD在北京AI PC創(chuàng)新峰會上展示Ryzen AI PC生態(tài)系統(tǒng)的強(qiáng)大實力 2024-03-22
李彥宏:AI搶不走人類飯碗 2023-05-24
人工智能會在幾年內(nèi)超越人類嗎 2024-04-14
國務(wù)院國有資產(chǎn)管理委員會 中國企業(yè)聯(lián)合會 中國企業(yè)報 中國社會經(jīng)濟(jì)網(wǎng) 中國國際電子商務(wù)網(wǎng) 新浪財經(jīng) 鳳凰財經(jīng) 中國報告基地 企業(yè)社會責(zé)任中國網(wǎng) 杭州網(wǎng) 中國產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國網(wǎng) 天機(jī)網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟(jì)新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國經(jīng)濟(jì)網(wǎng) 中國企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟(jì)網(wǎng) 華訊財經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財經(jīng) 誠搜網(wǎng) 中國鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線 2014世界杯 中華魂網(wǎng) 納稅人俱樂部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國國資報道 金融界 中國農(nóng)業(yè)新聞網(wǎng) 中國招商聯(lián)盟 和訊股票 經(jīng)濟(jì)網(wǎng) 中國數(shù)據(jù)分析行業(yè)網(wǎng) 中國報道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠信聯(lián)盟網(wǎng) 中國白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國石油化工集團(tuán) 中國保利集團(tuán)公司 東風(fēng)汽車公司 中國化工集團(tuán)公司 中國電信集團(tuán)公司 華為技術(shù)有限公司 廈門銀鷺食品有限公司 中國恒天集團(tuán)有限公司 濱州東方地毯集團(tuán)有限公司 大唐電信科技股份有限公司 中國誠通控股集團(tuán)有限公司 喜來健醫(yī)療器械有限公司 中國能源建設(shè)股份有限公司 內(nèi)蒙古伊利實業(yè)集團(tuán)股份有限公司 中國移動通信集團(tuán)公司 中國化工集團(tuán)公司 貴州茅臺酒股份有限公司