▲ AI造假合成全紅嬋聲音帶貨 。（圖／翻攝 抖音）
記者任以芳／綜合報導
各類AI工具在大陸社交平台使用盛行，也出現以假亂真情況，大陸官媒《人民日報》也發文痛批「不能如此無下限！」，劍指社交平台上多個帳號利用奧運跳水冠軍全紅嬋及其家人名義，以AI合成語音和影像製作虛假帶貨影片。全紅嬋家人多次明確澄清，相關影片均為偽造，許多消費者依舊信以為真，下單後直呼受騙。此事件也揭露了AI虛假帶貨的黑產鏈條與大陸目前法律監管出現空白的情況。
大陸官媒《人民日報》日發文以《AI合成名人明星聲音虛假帶貨，不能如此無下限》為題，痛批現在AI技術冒用名人引流的詐騙手法，甚至以假亂真在各大社交平台帶貨。（單位：人民幣，同下）
文章稱，這些詐騙手法利用全紅嬋聲音，「大家好，我是嬋寶，叔叔阿姨可以下單試試」「我是全紅嬋哥哥全進華，為大家準備了2000單的蜂蜜，16塊9發兩斤」，打著全紅嬋名義的AI合成帶貨影片在社交平台流傳，內容仿真度高、語言親切，引發大量轉發與下單。不少網友看到熟悉的面孔和聲音，出於對奧運冠軍的信任，紛紛購買商品。
文章指出，全紅嬋家人隨後澄清，這些影片完全是AI偽造，他們本人從未參與相關銷售活動。虛假帶貨事件曝光後，大量消費者發現自己上當受騙。
文章痛批商家「無底線」，技術理應向上向善，AI合成技術的使用應有邊界。《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等在內容審核、信息標識上對生成式AI的規範使用提出了要求。對於濫用AI技術虛假宣傳「無底線博流量」的亂象，相關部門應嚴厲打擊，加重賠償性懲罰處置。
▲大陸許多不良店家用AI造假合成全紅嬋聲音，甚至造假其他名人虛假帶貨 。（圖／翻攝 抖音）
文章也建議短視頻平台應主動加強對AI生成內容審核，建立AI帶貨可追溯標識，既實現侵權行為的實時預警，也實現虛假侵權行為的快速「倒查倒追」。消費者也應主動學習相關知識，提高防騙意識。
大陸官媒《新華社》旗下新媒體微信公眾號「半月談」也發文表示，近期，從大陸知名演藝圈人士，到有聲望的企業家，再到兩院院士，不少公眾人物都遭到不法商家的「AI花招」暗算，其形象出現在虛假宣傳廣告中。
「從2018年9月至2025年2月底，我們共受理涉網路消費虛假宣傳案件6734件，整體呈現上升態勢。」北京互聯網法院副院長儀軍介紹，案件涉及商品品類廣泛，從生活常用的服裝、食品、電子產品，到尤受消費者關注的美妝、母嬰用品，再到珠寶文玩等奢侈品。電商平台、直播間購物、二手交易平台、社區團購等，都有虛假宣傳冒頭。
大陸中國消費者協會副秘書長潘海峰受訪時也表示，鼓勵平台經營者開展自查自糾，對宣傳文案、廣告內容、用戶評價等環節進行定期和動態核查，及時下架問題商品或整改不當行為。
儀軍呼籲，建立健全平台內經營者信息審核制度，建立健全商品信息巡檢措施。消費者要主動留存與消費有關的交易記錄、溝通記錄、支付憑證、開箱視頻等證據，在涉及直播間下單的情形時，就相關溝通內容必要時可以採用拍攝、第三方取證工具、公證等方式及時固定證據。
專家也建議，暢通平台快速舉報處理機制，單獨新增設置舉報選項。各地法院對於經營者利用AI技術構成欺詐的案件，應當依法作出適用懲罰性賠償判
推薦閱讀
大陸 熱門新聞
關鍵字
讀者迴響