文檔圖像是信息的重要載體，卻經(jīng)常被不法分子利用軟件、算法進(jìn)行篡改。這些虛假材料往往被用于散播謠言、經(jīng)濟(jì)詐騙、編造虛假新聞，給個(gè)人、社會(huì)造成了惡劣的影響。AIGC全球爆火后，人們對(duì)“生成式造假”風(fēng)險(xiǎn)的攀升倍感憂慮，圖像內(nèi)容的安全與可信性也成為了公眾關(guān)注的焦點(diǎn)。

　　為貫徹落實(shí)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《生成式人工智能服務(wù)管理》等文件中對(duì)于AI服務(wù)的規(guī)范性要求，系統(tǒng)性建立圖像內(nèi)容安全行業(yè)發(fā)展秩序，中國(guó)信息通信研究院（以下簡(jiǎn)稱“中國(guó)信通院”）啟動(dòng)了《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》制定工作。該項(xiàng)標(biāo)準(zhǔn)由中國(guó)信通院牽頭，上海合合信息科技股份有限公司、中國(guó)圖象圖形學(xué)學(xué)會(huì)、中國(guó)科學(xué)技術(shù)大學(xué)等科技創(chuàng)新企業(yè)及知名學(xué)術(shù)機(jī)構(gòu)聯(lián)合編制。

　　《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》將為文檔圖像內(nèi)容安全提供可靠保障，助力新時(shí)代AI安全體系建設(shè)。作為牽頭方，中國(guó)信通院表示，《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》將基于產(chǎn)業(yè)現(xiàn)狀，圍繞“細(xì)粒度”視覺(jué)差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護(hù)等行業(yè)焦點(diǎn)議題，凝聚行業(yè)共識(shí)，以期為行業(yè)提供有效指引。

　　圖像篡改風(fēng)險(xiǎn)近在咫尺，標(biāo)準(zhǔn)出臺(tái)迫在眉睫

　　隨著技術(shù)的發(fā)展和電子設(shè)備普及率的提升，人們修改圖像的門(mén)檻變得越來(lái)越低，以往圖像內(nèi)容加工需要使用專業(yè)的軟件，現(xiàn)在通過(guò)某些平臺(tái)或者軟件，動(dòng)動(dòng)手指即可產(chǎn)出一張?zhí)摷賵D片，數(shù)字圖像的原始性和真實(shí)性面臨嚴(yán)峻挑戰(zhàn)。

　　此前，圖像篡改檢測(cè)的技術(shù)研究對(duì)象主要集中于自然場(chǎng)景圖像。然而，真正為人們的生活帶來(lái)風(fēng)險(xiǎn)的通常是被篡改的資質(zhì)證書(shū)、文檔、聊天截圖等。傳統(tǒng)的檢測(cè)系統(tǒng)往往難以對(duì)這些文檔圖像進(jìn)行篡改判定及修改內(nèi)容定位，主要原因如下：

　　一方面，真實(shí)場(chǎng)景中的篡改方法多樣、篡改視覺(jué)痕跡細(xì)微，對(duì)篡改檢測(cè)方案提出了挑戰(zhàn)；文檔版面的復(fù)雜化、文本內(nèi)容的多樣化亦成為圖像內(nèi)容檢測(cè)識(shí)別過(guò)程中的“攔路虎”，加大了篡改檢測(cè)實(shí)施的難度。

　　此外，傳統(tǒng)的圖像篡改檢測(cè)方法在面對(duì)全局性的裁剪、調(diào)色處理以及組合式造假手法時(shí)，其檢測(cè)覆蓋面、精準(zhǔn)度、安全性尚存在提升空間，需要政府、研究機(jī)構(gòu)、企業(yè)等多方主體聯(lián)合起來(lái)，通過(guò)建立技術(shù)規(guī)范標(biāo)準(zhǔn)，助力AI視覺(jué)圖像產(chǎn)業(yè)健康成長(zhǎng)。

　　圖像內(nèi)容安全成為“可信AI”未來(lái)重點(diǎn)建設(shè)方向

　　AI是一把“雙刃劍”。中國(guó)信通院發(fā)布的《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告（2022）》提到，可信已成為人工智能產(chǎn)業(yè)發(fā)展必備要素，驅(qū)動(dòng)人工智能規(guī)范發(fā)展。

　　“可信”反映了AI系統(tǒng)、產(chǎn)品和服務(wù)在安全性、可靠性、可解釋、可問(wèn)責(zé)等一系列內(nèi)在屬性的可信賴程度，相關(guān)概念正隨著技術(shù)發(fā)展的腳步，從模糊走向清晰、從起步走向成熟。開(kāi)年以來(lái)，以語(yǔ)言生成類、視覺(jué)生成類模式為代表的AIGC產(chǎn)品引發(fā)了社會(huì)對(duì)于圖文內(nèi)容“可信度”問(wèn)題的討論?！段臋n圖像篡改檢測(cè)標(biāo)準(zhǔn)》的制定，或?qū)橹袊?guó)“可信AI”在機(jī)器視覺(jué)、圖像處理領(lǐng)域的體系建設(shè)提供有力支持。

　　利用科技手段實(shí)現(xiàn)文本篡改痕跡精準(zhǔn)檢測(cè)，將為文檔圖像內(nèi)容安全提供可靠保障，助力新時(shí)代AI安全體系建設(shè)。在圖像內(nèi)容安全領(lǐng)域，已有部分企業(yè)展開(kāi)了前沿探索，利用科技手段對(duì)篡改文本圖像實(shí)行真?zhèn)闻卸?、篡改痕跡檢測(cè)，人工智能科技企業(yè)合合信息是其中的代表。

　　據(jù)悉，合合信息研發(fā)了基于深度學(xué)習(xí)的圖像篡改檢測(cè)技術(shù)及相關(guān)系統(tǒng)，可檢測(cè)出多種篡改形式，智能捕捉圖像在篡改過(guò)程中留下的細(xì)微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改地點(diǎn)，相關(guān)技術(shù)已被應(yīng)用于銀行、保險(xiǎn)等行業(yè)中。

合合信息圖像篡改檢測(cè)技術(shù)對(duì)戶口本圖片篡改痕跡進(jìn)行定位

　　公開(kāi)資料顯示，合合信息專注于智能文檔處理底層技術(shù)及應(yīng)用產(chǎn)品的研究工作，相關(guān)技術(shù)在國(guó)際頂會(huì)ICPR、ICFHR等十余項(xiàng)競(jìng)賽中獲得冠軍，并于CVPR、AAAI、ACL、ACMMM等國(guó)際頂會(huì)上發(fā)表。目前，公司已獲得超百項(xiàng)自主知識(shí)產(chǎn)權(quán)發(fā)明專利，為全球超過(guò)200個(gè)國(guó)家和地區(qū)的上億用戶提供智能文字識(shí)別產(chǎn)品及AI服務(wù)。