本報(bào)記者 施露

    為貫徹落實(shí)《生成式人工智能服務(wù)管理》等文件中對(duì)于AI服務(wù)的規(guī)范性要求，系統(tǒng)性建立圖像內(nèi)容安全行業(yè)發(fā)展秩序，6月15日，中國(guó)信息通信研究院（以下簡(jiǎn)稱“中國(guó)信通院”）啟動(dòng)了《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》制定工作。該項(xiàng)標(biāo)準(zhǔn)由中國(guó)信通院牽頭，上海合合信息科技股份有限公司（以下簡(jiǎn)稱：合合信息）、中國(guó)圖象圖形學(xué)學(xué)會(huì)、中國(guó)科學(xué)技術(shù)大學(xué)等科技創(chuàng)新企業(yè)及知名學(xué)術(shù)機(jī)構(gòu)聯(lián)合編制。

    《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》將為文檔圖像內(nèi)容安全提供可靠保障，助力新時(shí)代AI安全體系建設(shè)。作為牽頭方，中國(guó)信通院表示，《文檔圖像篡改檢測(cè)標(biāo)準(zhǔn)》將基于產(chǎn)業(yè)現(xiàn)狀，圍繞“細(xì)粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護(hù)等行業(yè)焦點(diǎn)議題，凝聚行業(yè)共識(shí)，以期為行業(yè)提供有效指引。

    隨著技術(shù)的發(fā)展和電子設(shè)備普及率的提升，人們修改圖像的門檻變得越來越低，以往圖像內(nèi)容加工需要使用專業(yè)的軟件，現(xiàn)在通過某些平臺(tái)或者軟件，動(dòng)動(dòng)手指即可產(chǎn)出一張?zhí)摷賵D片，數(shù)字圖像的原始性和真實(shí)性面臨嚴(yán)峻挑戰(zhàn)。

    此前，圖像篡改檢測(cè)的技術(shù)研究對(duì)象主要集中于自然場(chǎng)景圖像。然而，真正為人們的生活帶來風(fēng)險(xiǎn)的通常是被篡改的資質(zhì)證書、文檔、聊天截圖等。傳統(tǒng)的檢測(cè)系統(tǒng)往往難以對(duì)這些文檔圖像進(jìn)行篡改判定及修改內(nèi)容定位，主要原因如下：

    一方面，真實(shí)場(chǎng)景中的篡改方法多樣、篡改視覺痕跡細(xì)微，對(duì)篡改檢測(cè)方案提出了挑戰(zhàn)；文檔版面的復(fù)雜化、文本內(nèi)容的多樣化亦成為圖像內(nèi)容檢測(cè)識(shí)別過程中的“攔路虎”，加大了篡改檢測(cè)實(shí)施的難度。

    此外，傳統(tǒng)的圖像篡改檢測(cè)方法在面對(duì)全局性的裁剪、調(diào)色處理以及組合式造假手法時(shí)，其檢測(cè)覆蓋面、精準(zhǔn)度、安全性尚存在提升空間，需要政府、研究機(jī)構(gòu)、企業(yè)等多方主體聯(lián)合起來，通過建立技術(shù)規(guī)范標(biāo)準(zhǔn)，助力AI視覺圖像產(chǎn)業(yè)健康成長(zhǎng)。

    開年以來，以語言生成類、視覺生成類模式為代表的AIGC產(chǎn)品引發(fā)了社會(huì)對(duì)于圖文內(nèi)容“可信度”問題的討論?！段臋n圖像篡改檢測(cè)標(biāo)準(zhǔn)》的制定，或?qū)橹袊?guó)“可信AI”在機(jī)器視覺、圖像處理領(lǐng)域的體系建設(shè)提供有力支持。在圖像內(nèi)容安全領(lǐng)域，已有部分企業(yè)展開了前沿探索，利用科技手段對(duì)篡改文本圖像實(shí)行真?zhèn)闻卸?、篡改痕跡檢測(cè)，人工智能科技企業(yè)合合信息是其中的代表

    據(jù)悉，合合信息研發(fā)了基于深度學(xué)習(xí)的圖像篡改檢測(cè)技術(shù)及相關(guān)系統(tǒng)，可檢測(cè)出多種篡改形式，智能捕捉圖像在篡改過程中留下的細(xì)微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改地點(diǎn)，相關(guān)技術(shù)已被應(yīng)用于銀行、保險(xiǎn)等行業(yè)中。

（編輯 李波）