本報記者 賀俊 見習記者 劉霄引

    5月16日，美亞柏科公告發(fā)布了一則投資者關(guān)系活動記錄表。記錄表顯示，在AI監(jiān)管產(chǎn)品方面，公司已經(jīng)發(fā)布了AI-3300“慧眼”視頻圖像鑒真工作站，可以對深度合成偽造的視頻圖像、AIGC生成視頻圖像進行監(jiān)測鑒定。公司推出的AIGC檢測平臺支持AIGC生成文本的檢測識別。

    隨著AIGC內(nèi)容大量涌現(xiàn)，相關(guān)應用在提升人們生產(chǎn)效率的同時，也有不法分子利用其生成虛假內(nèi)容，擾亂社會運行的正常秩序，比如美亞柏科在投資者關(guān)系活動記錄表中提到的，中國廣東某地利用AI人工智能技術(shù)炮制虛假不實信息非法獲利的案件。

    美亞柏科AI安全首席科學家金輝曾在民生AI峰會上的發(fā)言中表示，AIGC生成式人工智能的內(nèi)容確實讓人很難辨別真假，造成很多虛假的新聞，讓人顛覆了眼見為實的認知。犯罪分子也會利用生成式人工智能進行新型網(wǎng)絡犯罪手段的詐騙，這都對人工智能安全帶來一定的挑戰(zhàn)。

    對此，薩摩耶云科技集團首席經(jīng)濟學家鄭磊在接受《證券日報》記者采訪時表示：“為了避免這種情況的發(fā)生，必須研發(fā)相應的逆向鑒別技術(shù)和產(chǎn)品，作為人們?nèi)粘７婪哆@類違法犯罪活動的輔助工具，也為司法機關(guān)提供了執(zhí)法證據(jù)和依據(jù)。”

    此前，谷歌CEO桑達爾·皮查伊也曾表示，隨著人們不斷投入能力越來越強大的模型，谷歌也在深入研究AI應當肩負的責任，這包括讓用戶擁有可識別生成式內(nèi)容的工具。

    浙江大學國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林在接受《證券日報》記者采訪時表示：“此類工具未來在B端和G端有一定應用場景，尤其是當前生成式AI大行其道之時，圖像鑒真將在未來成為剛需。”

    美亞柏科表示，后續(xù)將持續(xù)圍繞包括反生成式AI在內(nèi)的AI安全及監(jiān)管領域進行研究，并根據(jù)業(yè)務需要適時布局相關(guān)產(chǎn)品。

    頂象技術(shù)安全專家田際云向《證券日報》記者介紹：“按照安全行業(yè)的說法，反生成式AI就是防范生成式AI濫用帶來的風險。”

    鄭磊表示，反生成式AI依靠AIGC的逆向工程原理開發(fā)的人工智能產(chǎn)品，本身也屬于人工智能，相當于對生成式AI輸出的結(jié)果進行逆向解碼，給出鑒別判斷，或恢復到之前的原形狀態(tài)。由于生成式AI輸出的結(jié)果與人類制作的內(nèi)容高度相似，如果不用逆向技術(shù)手段，難以和人類生成的內(nèi)容區(qū)分開。在一些應用場景中，需要進行這樣的鑒別，因此是有現(xiàn)實需要的。

    盤和林認為，生成式AI能以假亂真，反生成式AI可以去偽存真，未來自覺標注AI生成將是免責和防偽的關(guān)鍵，而反生成式AI則是技術(shù)上的重要補充。

    “對于AI監(jiān)管，我們需要從多個方面入手，包括數(shù)據(jù)集獲取的安全合規(guī)性、人工智能模型的可解釋性和透明性、人工智能生成內(nèi)容的識別和審核、建立相關(guān)的監(jiān)管機制和法律法規(guī)。”中國移動通信聯(lián)合會元宇宙產(chǎn)業(yè)委執(zhí)行主任于佳寧在接受《證券日報》記者采訪時表示，“美亞柏科在反生成式AI產(chǎn)品的研發(fā)和應用方面的布局和探索是非常值得肯定的，希望更多的企業(yè)和機構(gòu)加入AI監(jiān)管和安全方面的研究應用中，加強對AI濫用和AI作惡的打擊力度，形成人機合作、共同治理的良好局面。”

（編輯 汪世軍 喬川川）