防臺(tái)風(fēng)把汽車五花大綁？“信息增量”空間不能留給AI
更新時(shí)間：2025/10/13 17:09:08 來(lái)源：新華社
 |
| 您現(xiàn)在的位置： 焦作網(wǎng) > 社會(huì)新聞 > 社會(huì)新聞 > 正文 |
社會(huì)新聞
“臺(tái)風(fēng)‘樺加沙’期間市民把汽車五花大綁”“海嘯來(lái)襲，上海撤離30萬(wàn)居民”“上海退休教授靠陽(yáng)臺(tái)核電池供電”“華山醫(yī)院前院長(zhǎng)客死洛杉磯”……近年來(lái)，越來(lái)越多“新聞”出自AI之手，且因其逼真的視覺效果和情感沖擊力，在短時(shí)間內(nèi)就獲取了巨大流量。AI造假正以前所未有的傳播效率污染著我們的信息環(huán)境，稀釋甚至取代真實(shí)信息。
從表面看，AI新聞造假是技術(shù)濫用和流量追逐的結(jié)果。但深入分析，AI假新聞泛濫的根源，往往在于社會(huì)有效信息供給不足。
首先是信息披露時(shí)效不足。當(dāng)一些重大新聞事件發(fā)生時(shí)，公眾對(duì)于事件真相的好奇心被大大激發(fā)。但相關(guān)部門為確保信息的準(zhǔn)確和全面，往往會(huì)遵循嚴(yán)謹(jǐn)?shù)男畔l(fā)布流程，客觀上存在一段時(shí)間的真相“空窗期”。一些不法分子正是利用這個(gè)時(shí)間窗口，快速生成虛假內(nèi)容，搶占公眾注意力。
其次是技術(shù)鑒別能力與工具供給不足。有些“無(wú)中生有”的內(nèi)容，光影效果、人物微表情甚至畫面噪點(diǎn)都模擬得極為逼真，讓專業(yè)人士也難辨真?zhèn)巍Ｄ壳�，用于檢測(cè)AI生成內(nèi)容的技術(shù)工具尚未普及，普通用戶在面對(duì)可疑內(nèi)容時(shí)“手無(wú)寸鐵”，為造假者提供了可乘之機(jī)。
此外，行業(yè)治理規(guī)則與標(biāo)準(zhǔn)供給不足。從平臺(tái)的角度來(lái)看，批量炮制的假新聞給內(nèi)容治理帶來(lái)了不小的壓力。面對(duì)AI生成內(nèi)容，平臺(tái)要核實(shí)其真實(shí)性，同樣存在技術(shù)性與機(jī)制性難點(diǎn)，也給AI假信息傳播留下了一定的空間。
可喜的是，近日施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求人工智能生成合成內(nèi)容必須添加標(biāo)識(shí)。多家互聯(lián)網(wǎng)平臺(tái)也積極跟進(jìn)，要求內(nèi)容發(fā)布者以顯著方式主動(dòng)標(biāo)識(shí)AI生成內(nèi)容。不少AI技術(shù)公司也在開發(fā)更先進(jìn)的內(nèi)容檢測(cè)工具，幫助識(shí)別AI生成內(nèi)容。這些措施正在逐步構(gòu)建起治理AI造假的多重防線。
唯有權(quán)威信源跑贏謠言、技術(shù)工具賦能大眾、治理規(guī)則完善健全，我們才能構(gòu)建一個(gè)更加清朗、健康、可信的信息生態(tài)，讓技術(shù)服務(wù)于人們對(duì)了解真實(shí)世界的需求。（評(píng)論員程思琪）
 |
 |
 |
 |
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
“臺(tái)風(fēng)‘樺加沙’期間市民把汽車五花大綁”“海嘯來(lái)襲，上海撤離30萬(wàn)居民”“上海退休教授靠陽(yáng)臺(tái)核電池供電”“華山醫(yī)院前院長(zhǎng)客死洛杉磯”……近年來(lái)，越來(lái)越多“新聞”出自AI之手，且因其逼真的視覺效果和情感沖擊力，在短時(shí)間內(nèi)就獲取了巨大流量。AI造假正以前所未有的傳播效率污染著我們的信息環(huán)境，稀釋甚至取代真實(shí)信息。
從表面看，AI新聞造假是技術(shù)濫用和流量追逐的結(jié)果。但深入分析，AI假新聞泛濫的根源，往往在于社會(huì)有效信息供給不足。
首先是信息披露時(shí)效不足。當(dāng)一些重大新聞事件發(fā)生時(shí)，公眾對(duì)于事件真相的好奇心被大大激發(fā)。但相關(guān)部門為確保信息的準(zhǔn)確和全面，往往會(huì)遵循嚴(yán)謹(jǐn)?shù)男畔l(fā)布流程，客觀上存在一段時(shí)間的真相“空窗期”。一些不法分子正是利用這個(gè)時(shí)間窗口，快速生成虛假內(nèi)容，搶占公眾注意力。
其次是技術(shù)鑒別能力與工具供給不足。有些“無(wú)中生有”的內(nèi)容，光影效果、人物微表情甚至畫面噪點(diǎn)都模擬得極為逼真，讓專業(yè)人士也難辨真?zhèn)�。目前，用于檢測(cè)AI生成內(nèi)容的技術(shù)工具尚未普及，普通用戶在面對(duì)可疑內(nèi)容時(shí)“手無(wú)寸鐵”，為造假者提供了可乘之機(jī)。
此外，行業(yè)治理規(guī)則與標(biāo)準(zhǔn)供給不足。從平臺(tái)的角度來(lái)看，批量炮制的假新聞給內(nèi)容治理帶來(lái)了不小的壓力。面對(duì)AI生成內(nèi)容，平臺(tái)要核實(shí)其真實(shí)性，同樣存在技術(shù)性與機(jī)制性難點(diǎn)，也給AI假信息傳播留下了一定的空間。
可喜的是，近日施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求人工智能生成合成內(nèi)容必須添加標(biāo)識(shí)。多家互聯(lián)網(wǎng)平臺(tái)也積極跟進(jìn)，要求內(nèi)容發(fā)布者以顯著方式主動(dòng)標(biāo)識(shí)AI生成內(nèi)容。不少AI技術(shù)公司也在開發(fā)更先進(jìn)的內(nèi)容檢測(cè)工具，幫助識(shí)別AI生成內(nèi)容。這些措施正在逐步構(gòu)建起治理AI造假的多重防線。
唯有權(quán)威信源跑贏謠言、技術(shù)工具賦能大眾、治理規(guī)則完善健全，我們才能構(gòu)建一個(gè)更加清朗、健康、可信的信息生態(tài)，讓技術(shù)服務(wù)于人們對(duì)了解真實(shí)世界的需求。（評(píng)論員程思琪）
 |
|
||||
|
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
|
|
