每經(jīng)評論員 陳婷

近期，多個賬號在社交平臺上偽造跳水運動員全紅嬋及其家人聲音合成AI（人工智能）視頻為商品帶貨，不少消費者直呼上當。

無獨有偶。今年2月，據(jù)《每日經(jīng)濟新聞》報道，只需花1280元，直播、視頻通話能實時換成娛樂圈明星劉亦菲、楊冪的臉。

隨著AI技術的快速發(fā)展，AI深度偽造技術在過去幾年經(jīng)歷了顯著的迭代升級，幾近以假亂真。在此背景下，違法違規(guī)運用AI進行牟利的事件屢見不鮮。

人民日報近日發(fā)文稱，人們樂見AI技術助力網(wǎng)絡消費，但絕不允許AI騙術“張牙舞爪”，侵蝕網(wǎng)絡消費的信任與成色。

筆者認為，AI騙術帶來的亂象和影響不容忽視，相關平臺企業(yè)不可坐視不理，必須主動亮劍，將風險防控和倫理審查前置化。

事實上，面對AI技術潛藏的風險與挑戰(zhàn)，作為AI產(chǎn)品的研發(fā)者和推廣者，相關企業(yè)有機會將此類亂象盡可能扼殺在萌芽階段。

具體而言，筆者認為，第一，技術企業(yè)可在技術研發(fā)環(huán)節(jié)就嵌入合規(guī)紅線。例如，對AI生成內容設置明確的標識機制，讓公眾能夠明確辨別真實信息與AI合成內容，從源頭上避免虛假信息混淆視聽。

第二，在商業(yè)合作中，應建立嚴格的名人授權核查流程。對涉及名人形象、聲音等的AI應用，應當獲得完整、合法的授權，杜絕未經(jīng)許可的AI合成營銷行為，從流程上堵住漏洞。

第三，短視頻平臺在遏制AI虛假營銷等亂象中應扮演關鍵角色。比如，平臺可加強對創(chuàng)作者的行為規(guī)范，明確要求創(chuàng)作者在發(fā)布AI生成內容時進行顯著標識，注明內容的合成屬性，讓用戶能夠清晰區(qū)分真實信息與AI創(chuàng)作內容。

長期來看，短視頻平臺加大對AI內容溯源、真?zhèn)舞b別等技術的研發(fā)投入，有機會在技術層面筑牢防線，這也是提升平臺自身安全和履行社會職責的現(xiàn)實需要。

第四，相關平臺企業(yè)可與同行、技術企業(yè)、監(jiān)管部門等加強合作，共同制定行業(yè)規(guī)范，合力規(guī)范AI應用行為。

與此同時，監(jiān)管部門也應強化相關黑產(chǎn)打擊力度和對平臺企業(yè)、技術企業(yè)的監(jiān)督力度。

總之，對于AI技術應用普及帶來的負面效應，企業(yè)的主動擔當與應對至關重要。否則，一旦市面上出現(xiàn)大量AI違規(guī)內容，不但治理難度大幅提升，對社會公眾造成的危害也將持續(xù)蔓延。當下，公眾對AI違規(guī)內容的容忍度已經(jīng)越來越低，對相關企業(yè)而言，誰先完成前置治理，誰就有望率先把合規(guī)成本轉化為護城河。

當然，企業(yè)的主動作為離不開外部環(huán)境的支撐。相關部門應加快完善相關法律法規(guī)，明確AI應用的法律邊界和責任認定標準，加大對違法違規(guī)行為的懲處力度，形成有力震懾。社會公眾也應加強防范，提升自身對AI虛假信息的辨別能力。