在某些人工智能技術(shù)應(yīng)用門檻不斷降低而觸達(dá)面越來越廣的當(dāng)下,積極著手問題的研判與應(yīng)對(duì),研究出臺(tái)有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等,都應(yīng)當(dāng)快馬加鞭,少一些空白、多一些規(guī)范。
近來,著名小品演員、相聲演員“飆英文”的視頻讓公眾大呼震驚。據(jù)11月5日央視報(bào)道,視頻網(wǎng)站上通過人工智能換臉,國(guó)產(chǎn)影視劇里的主角用英語(yǔ)說起了臺(tái)詞,人們通過小程序也可以將自己變成電影里的人物。該新技術(shù)給人們帶來歡樂的同時(shí),也帶來了一種名為“AI換臉詐騙”的新騙術(shù),不法分子通過虛擬攝像頭,用“AI換臉”功能跟受害者聊天,相似度可達(dá)80%,而一臺(tái)電腦合成一段10秒的換臉視頻只需要一兩分鐘。為此,國(guó)家金融監(jiān)督管理總局北京監(jiān)管局近日發(fā)布謹(jǐn)防“AI換臉”等新型欺詐手段的風(fēng)險(xiǎn)提示。
“AI換臉”來了,這讓不少人感受到人工智能技術(shù)正在改變我們的生活。除了用于開發(fā)娛樂性小軟件外,人工智能技術(shù)正在被廣泛應(yīng)用于醫(yī)療、新聞傳播、生物多樣性監(jiān)測(cè)等領(lǐng)域,其發(fā)展前景值得期待。
人工智能技術(shù)迅速發(fā)展,技術(shù)升級(jí)迭代的速度超出很多人的想象。在文字寫作上,今天,相關(guān)技術(shù)可以實(shí)現(xiàn)用簡(jiǎn)短素材短時(shí)間生成復(fù)雜內(nèi)容,其專業(yè)性、便捷性很強(qiáng)。以前的人工智能合成語(yǔ)音相對(duì)粗糙生硬,如今合成的語(yǔ)音不僅有著與真人一樣的語(yǔ)氣語(yǔ)調(diào)嗓音,甚至還有了情緒。
此外,某些人工智能技術(shù)的可及度提升,公眾的應(yīng)用門檻降低。用戶使用某些人工智能軟件并不需要具備專業(yè)知識(shí)和技能,甚至有些產(chǎn)品已實(shí)現(xiàn)“傻瓜式操作”。比如,很多視頻剪輯軟件或短視頻平臺(tái)上就有生成方言語(yǔ)音的功能,用戶錄入文字或語(yǔ)音素材就可以即刻生成活靈活現(xiàn)的方言版字幕,豐富自己的視頻作品風(fēng)格。
以“AI換臉”為例,其行業(yè)門檻并沒人們通常想象的那么高,通過算法開源,普通工程師可以“分分鐘”制作出一個(gè)變臉軟件,這就導(dǎo)致控制源頭存在天然的困難。幾年前,一名外國(guó)工程師基于一個(gè)算法開源項(xiàng)目開發(fā)了某款變臉軟件,一時(shí)間,很多人在參加線上視頻會(huì)議時(shí)都紛紛化身“阿凡達(dá)”“馬斯克”,令人啼笑皆非。
問題隨之而來,一是人工智能終端產(chǎn)品已經(jīng)鋪天蓋地,但鑒別技術(shù)和設(shè)備卻未能普及,二是相關(guān)規(guī)制約束沒能及時(shí)跟上技術(shù)發(fā)展的腳步。這些在很大程度上讓某些人工智能技術(shù)有了被濫用的空間,公眾的擔(dān)心由此而起。
應(yīng)該看到,相關(guān)監(jiān)管一直在持續(xù)發(fā)力。近幾年,國(guó)家網(wǎng)信辦等部門先后出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策文件,陸續(xù)開展了“互聯(lián)網(wǎng)深度合成算法備案”“大語(yǔ)言模型算法備案”等有關(guān)工作,有效促進(jìn)了生成式人工智能的健康發(fā)展和規(guī)范應(yīng)用,對(duì)利用AI換臉、變聲等手段實(shí)施違法犯罪等行為形成有力震懾。同時(shí),一些頭部互聯(lián)網(wǎng)平臺(tái)也在探索算法檢測(cè)、軟件識(shí)別等辦法來識(shí)別人工智能生成產(chǎn)品并向公眾標(biāo)注說明,減少信息差,提升公眾防范意識(shí)。
一項(xiàng)新技術(shù)的落地應(yīng)用往往會(huì)經(jīng)歷一段“成長(zhǎng)的煩惱”,這是新事物發(fā)展過程中的共性問題。比如近年來的共享單車押金難退、傷亡責(zé)任糾紛,直播帶貨虛假宣傳、售后難覓等等。有關(guān)方面解決問題的共同思路就是加快規(guī)制步伐,不斷補(bǔ)上法律法規(guī)和行業(yè)公約等“拼圖”。同樣,在某些人工智能技術(shù)應(yīng)用門檻不斷降低而觸達(dá)面越來越廣的當(dāng)下,積極著手問題的研判與應(yīng)對(duì),研究出臺(tái)有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等,都應(yīng)當(dāng)快馬加鞭,少一些空白、多一些規(guī)范。
某種程度上,人工智能技術(shù)的使用有多方便,就可能有多少風(fēng)險(xiǎn)和變數(shù)。防范包括“AI換臉”在內(nèi)的人工智能技術(shù)被濫用,要加強(qiáng)對(duì)人臉、聲紋、指紋、步態(tài)等生物信息數(shù)據(jù)的安全防護(hù)。這需要每個(gè)人提高防范意識(shí),更需要監(jiān)管部門在完善規(guī)制的進(jìn)程上加快腳步。(本報(bào)評(píng)論員 吳迪)
相關(guān)稿件