.

荊楚網(wǎng)（湖北日報網(wǎng)）主編輿情分析師 盧霜

9月26日，“三只羊”直播帶貨涉嫌虛假宣傳事件終于有了結(jié)果，三只羊被罰款沒收違法所得6894.91萬元，并暫停經(jīng)營限期整改。同時，此前流傳甚廣的涉“三只羊”盧某某的音視頻，被合肥市警方證實不實，相關(guān)內(nèi)容其實是利用AI工具偽造的。

此事中，相關(guān)造假音視頻給事件熱度推波助瀾，凸顯了AI新技術(shù)的發(fā)展應(yīng)用給當(dāng)前的網(wǎng)絡(luò)輿論生態(tài)帶來的新挑戰(zhàn)。

在很多人后知后覺之前，AI已經(jīng)融入了我們的生活。AI批量生產(chǎn)的圖文在各大平臺被大量瀏覽和轉(zhuǎn)發(fā)，年輕人與AI談戀愛，政務(wù)和商業(yè)服務(wù)咨詢客服引入AI進行解答，企業(yè)招聘用AI來對面試者進行初篩……同時，AI在家居生活、交通、醫(yī)療、教育方面的應(yīng)用也在逐步深入。但更值得關(guān)注的是，AI可能會影響我們的思想認(rèn)知。分析發(fā)現(xiàn)，AI對輿論生態(tài)的塑造和影響可能包括多方面：

其一，生成內(nèi)容可能誤導(dǎo)認(rèn)知。決定AI內(nèi)容生成的語料庫，也就是信息來源囊括全網(wǎng)平臺，全網(wǎng)平臺包括了權(quán)威信源，也包括了部分未經(jīng)證實的自媒體信息，因而AI聚合生成的內(nèi)容可能出現(xiàn)虛假謬誤信息，乃至價值導(dǎo)向有偏的內(nèi)容。日前，媒體曝光兒童電話手表否認(rèn)南京大屠殺存在、稱中國人最不誠實等事件，這些內(nèi)容實則源自AI的回答。參考消息報道稱，ChatGPT的計算在8%的情況下是錯誤的，它采取的按步驟解決問題的方法在42%的情況下是錯誤的。此外，智能推薦算法的普及應(yīng)用，可能加劇群體的信息繭房效應(yīng)，強化刻板印象和偏見。中國社會科學(xué)院發(fā)布的《青少年藍(lán)皮書：中國未成年人互聯(lián)網(wǎng)運用報告（2024）》指出，AI技術(shù)逐漸被廣泛應(yīng)用，潛移默化地影響未成年人的認(rèn)知。

其二，助力虛假信息生成傳播。AI技術(shù)低成本批量生成細(xì)節(jié)內(nèi)容豐富、語言表述規(guī)范的文本，增加了內(nèi)容專業(yè)性和可信度，助力虛假不實的圖片和音視頻生成，增加信息的真實感，給網(wǎng)絡(luò)造謠和謠言傳播提供了技術(shù)支持。如日前湖南省互聯(lián)網(wǎng)舉報中心通報，網(wǎng)民楊某運用AI技術(shù)將河水與楊梅果樹圖片拼接在一起，造成大雨漲水淹沒果樹的假象。逼真的畫面導(dǎo)致部分群眾信以為真，經(jīng)網(wǎng)民廣泛傳播后引發(fā)恐慌情緒。

來源：網(wǎng)信懷化

其三，灌水黑產(chǎn)防治難度增加。AI技術(shù)還對原有的灌水黑產(chǎn)有加持作用。在AI技術(shù)還沒出現(xiàn)前，因跟評內(nèi)容雷同或與主題貼近度很低，網(wǎng)絡(luò)“水軍”較容易被識別，但AI技術(shù)能低成本生成個性化、相關(guān)性高的內(nèi)容，為黑產(chǎn)公司“養(yǎng)號”打造虛假大V賬號、個性化跟評轉(zhuǎn)贊提供了便利，讓制造、操控?zé)崴训男袨楦与[蔽、更具迷惑性，也增加了平臺和有關(guān)部門監(jiān)管的難度。近日，河南省新鄉(xiāng)市公安局端掉了涉案金額達(dá)5000萬元的特大“網(wǎng)絡(luò)水軍”犯罪團伙，其中花5萬元“宣傳費”就能登上熱搜榜的現(xiàn)象背后，就有AI技術(shù)的加持。央視新聞也報道，發(fā)布“西安突發(fā)爆炸”虛假新聞的賬號所屬機構(gòu)，利用AI軟件批量造假，最高峰一天能生成4000至7000篇假新聞。

其四，內(nèi)容應(yīng)用影響信任度。AI生成的文本、視頻和圖片，因為內(nèi)容系自動生成，沒有花費過多精力，而天然被認(rèn)為不夠真誠，因為信源混雜，難以獲取輿論信任，因為內(nèi)容大而全，顯得沒有針對性。因而，AI技術(shù)的應(yīng)用要充分考慮使用對象的角色定位和具體場景。類似問題實際上早已初現(xiàn)端倪。2024年年初，有博主反映成都愛益行公益服務(wù)中心某捐贈項目的鏈接中有三張照片都是AI合成，對此，涉事慈善機構(gòu)“愛益行”聲稱此舉是為了保護受助人的隱私。但媒體評論認(rèn)為，使用AI合成照片進行網(wǎng)絡(luò)募捐，影響了公益慈善活動的公信力。無獨有偶，據(jù)環(huán)球時報報道，新加坡財政部使用了AI生成的照片配文，向民眾介紹住在組屋的不同家庭如何從本年度財政預(yù)算中獲益。盡管圖片已標(biāo)明“由AI生成”，部分網(wǎng)民仍質(zhì)疑為何財政部不使用真人照片，甚至有人認(rèn)為這些圖片“看起來像詐騙廣告”。

來源：極目新聞

對此，要限定AI生成內(nèi)容的使用范圍和場景，尤其在一些視真實性為生命的領(lǐng)域，如新聞報道、紀(jì)錄片、學(xué)術(shù)論文等，要慎用AI生成的文字、視頻和圖片。同時，在一些關(guān)涉權(quán)威性和信任度的場景，也要慎重，以免引發(fā)不必要的爭議，乃至影響自身公信力。此外，還應(yīng)加大源頭監(jiān)管和治理，應(yīng)明確標(biāo)識AI生成痕跡，加大技術(shù)和辟謠時效，加強公眾AI素養(yǎng)教育。

與此同時，近日，大量低質(zhì)量、AI生成的內(nèi)容讓互聯(lián)網(wǎng)充斥垃圾信息的現(xiàn)象引發(fā)關(guān)注，AI生成的內(nèi)容不僅涉及文字、圖片、視頻、音樂、電子書、論文，甚至搜索引擎也被AI生成的內(nèi)容所污染。一些缺乏對原創(chuàng)內(nèi)容嚴(yán)格把關(guān)的平臺，后續(xù)可能因為被AI污染而導(dǎo)致民眾降低對其信任度，而那些連接虛擬空間和現(xiàn)實世界的工作會顯得更加稀缺和重要，諸如新聞的采訪報道、紀(jì)錄片創(chuàng)作等。當(dāng)然，這也側(cè)面啟示新聞機構(gòu)在新聞報道和發(fā)布工作中要持續(xù)重視對內(nèi)容真實性審核的環(huán)節(jié)。

專題 東湖觀輿