熟悉的主持人面孔在廣告里推薦“神效”產品，你會信嗎？近日，北京市海淀區(qū)市場監(jiān)管局就查處了一起典型案例：某公司通過AI技術剪輯知名主持人視頻，植入虛假口播內容，在自有網絡視頻賬號上以短視頻等形式發(fā)布普通食品“深海多烯魚油”廣告，宣稱“可以解決頭暈頭痛”等醫(yī)療功效，最終因違反了廣告法相關規(guī)定，已接受行政處罰。

隨著AI技術的發(fā)展，合成影像、克隆聲音已能以假亂真，不僅催生虛假廣告，更成為詐騙犯罪的“新工具”——視頻里的“家人”可能是陌生人，電話中熟悉的聲音或許來自AI合成。公眾該如何識別防范？打擊AI技術濫用又需社會各方怎樣協(xié)作？人民網就此采訪了內蒙古自治區(qū)人民檢察院第四檢察部（知識產權檢察辦公室）檢察官助理翟慶濤。

識別AI騙局：從“防信息泄露”到“辨技術漏洞”

翟慶濤認為，防范AI合成類詐騙，核心要做好“意識提升”和“細節(jié)辨別”兩步。

首先，筑牢源頭防范意識。保護好個人及家人的生物信息（如人臉、聲音、指紋等），不輕易在非正規(guī)平臺留存。同時，不輕信非官方渠道的消息，從源頭減少信息被AI竊取、模擬的可能。

其次，留意技術合成漏洞。AI克隆的面容、聲音通常存在細節(jié)破綻。例如，AI合成聲音缺乏自然的情感起伏和呼吸停頓，畫面中的人物表情可能僵硬、眼神不自然，這些細微之處都可作為辨別依據。

再次，緊盯“錢財”核心目的。利用AI技術實施詐騙的根本目的是騙取錢財。翟慶濤強調，只要對方提出轉賬、提供銀行卡信息等涉及錢財?shù)囊?，必須立刻提高警惕。同時，應摒棄“貪小便宜”“一夜暴富”的心態(tài)，樹立通過合法勞動創(chuàng)造財富的價值觀。

AI濫用的法律代價：或將面臨民事、行政、刑事等責任

翟慶濤指出，AI技術的應用必須在法律框架內，濫用行為將面臨多重法律制裁，具體可分為三個層面。

第一，民事責任。如AI換臉、克隆聲音、合成他人指紋等深度合成他人生物識別信息，可能會侵犯他人肖像權、名譽權；利用AI技術生成論文等，可能會侵犯他人著作權。

第二，行政責任。按照反電信網絡詐騙法等相關法律法規(guī)的規(guī)定，AI技術提供方負有安全評估、風險提示等義務，若沒有履行應盡的義務，可能會面臨警告、通報批評、責令暫停相關業(yè)務、停業(yè)整頓、吊銷相關業(yè)務許可證或吊銷營業(yè)執(zhí)照、罰款等行政處罰。

第三，刑事責任。利用AI技術實施犯罪可能會觸犯刑法規(guī)定的諸多罪名。如果直接實施詐騙行為，會被以詐騙罪嚴厲懲處；若明知他人利用信息網絡實施犯罪仍為其提供AI技術支持，或利用AI技術為其提供廣告推廣等幫助，可能涉嫌幫信罪等。

治理AI濫用：需多方協(xié)作形成“共治合力”

要從根本上打擊和治理AI技術濫用，翟慶濤建議社會各方協(xié)同發(fā)力。

第一，需加快專項立法進程。推動針對AI技術濫用的專項立法，明確技術濫用的界定標準及責任劃分，為執(zhí)法監(jiān)管提供根本遵循。

第二，應強化監(jiān)管執(zhí)法能力。相關主管部門需加大監(jiān)管力度，建立AI技術應用的行業(yè)標準，提升對技術濫用行為的識別和執(zhí)法效率。

第三，要壓實企業(yè)主體責任。督促AI技術提供方、應用企業(yè)及從業(yè)人員履行安全審查、風險提示義務，加強行業(yè)自律和技術倫理建設，確保技術開發(fā)與使用不觸碰法律底線。