澳大利亞《對話》雜志日前報道稱,這是數據“中毒”的一個非常典型的例子。AI系統(tǒng)在學習過程中,如果輸入了錯誤或誤導性數據,可能會逐漸形成錯誤認知,作出偏離預期的判斷。與傳統(tǒng)的黑客入侵不同,數據“中毒”不會直接破壞系統(tǒng),而是讓AI“自己學壞”。隨著AI在交通、醫(yī)療、媒體等領域的普及,這一問題正引起越來越多的關注。

AI系統(tǒng)在學習過程中,如果輸入了錯誤或誤導性數據,可能會逐漸形成錯誤認知,做出偏離預期的判斷。圖片來源:英國《新科學家》網站
AI“中毒”的現(xiàn)實風險
在火車站的例子中,假設一個技術嫻熟的攻擊者既想擾亂公共交通,又想收集情報,他連續(xù)30天用紅色激光欺騙攝像頭。如果未被發(fā)現(xiàn),這類攻擊會逐漸腐蝕系統(tǒng),為后門植入、數據竊取甚至間諜行為埋下隱患。雖然物理基礎設施中的數據投毒較為罕見,但線上系統(tǒng),尤其是依賴社交媒體和網頁內容訓練的大語言模型中,它已是重大隱患。
一個著名的數據“投毒”案例發(fā)生在2016年,微軟推出的聊天機器人Tay上線數小時后,就被惡意用戶灌輸不當言論,迅速模仿并發(fā)布到X(當時的Twitter)平臺上,不到24小時就被迫下線并道歉。
據英國《新科學家》雜志報道,2024年,互聯(lián)網出現(xiàn)了一個標志性事件,即AI爬蟲的流量首次超過人類用戶,其中OpenAI的ChatGPT-User占據了全球6%的網頁訪問量,它本質上是ChatGPT的“上網代理”,在用戶需要實時信息時替他們訪問網站。而Anthropic的ClaudeBot更是長期大規(guī)模抓取網頁內容,占到13%的流量。
互聯(lián)網上的大量內容正被AI模型不斷采集、吸收,用于持續(xù)訓練。一旦有人故意投放有毒數據,比如篡改的版權材料、偽造的新聞信息,這些大規(guī)模采集的爬蟲就可能把它們帶進模型,造成版權侵權、虛假信息擴散,甚至在關鍵領域引發(fā)安全風險。
版權之爭中的“投毒”反擊
隨著AI爬蟲的大規(guī)模抓取,許多創(chuàng)作者擔心作品被未經許可使用。為了保護版權,創(chuàng)作者采取了法律和技術手段。如《紐約時報》起訴OpenAI,稱其新聞報道被模型學習再利用,侵犯了版權。
面對曠日持久的版權拉鋸戰(zhàn),一些創(chuàng)作者轉向技術“自衛(wèi)”。美國芝加哥大學團隊研發(fā)了兩款工具。名為Glaze的工具可在藝術作品中加入微小的像素級干擾,讓AI模型誤以為一幅水彩畫是油畫。另一款工具Nightshade更為激進,它能在看似正常的貓的圖片中植入隱蔽特征,從而讓模型學到“貓=狗”這樣的錯誤對應。通過這種方式,藝術家們讓自己的作品在訓練數據中成為“毒藥”,保護了原創(chuàng)風格不被復制。
這種反擊方式一度在創(chuàng)作者群體中風靡。Nightshade發(fā)布不到一年,下載量便超過一千萬次。與此同時,基礎設施公司Cloudflare也推出了“AI迷宮”,通過制造海量無意義的虛假網頁,將AI爬蟲困在假數據的循環(huán)中,消耗其算力和時間??梢哉f,數據投毒在某些領域已經從一種反擊手段,演變?yōu)榘鏅嗯c利益之爭中的防御武器。
去中心化成為AI的防護盾
這種局面讓人警覺。創(chuàng)作者的數據“投毒”是為了保護原創(chuàng),但一旦同樣的技術被用于大規(guī)模制造虛假信息,其后果可能比版權爭議嚴重得多。
面對這種隱蔽的威脅,研究者正在探索新的防御手段。在美國佛羅里達國際大學的Solid實驗室,研究人員正著力用去中心化技術來防御數據投毒攻擊。其中一種方法叫聯(lián)邦學習。與傳統(tǒng)的集中式訓練不同,聯(lián)邦學習允許模型在分布式設備或機構本地學習,只匯總參數而非原始數據。這種方式降低了單點中毒的風險,因為某一個設備的“壞數據”不會立刻污染整個模型。
然而,如果在數據匯總環(huán)節(jié)遭遇攻擊,損害依然可能發(fā)生。為此,另一種工具——區(qū)塊鏈正被引入AI防御體系。區(qū)塊鏈的時間戳和不可篡改特性,使得模型更新過程可被追溯。一旦發(fā)現(xiàn)異常數據,可追根溯源,定位投毒源頭。同時,多個區(qū)塊鏈網絡還能互相“通報”,當一個系統(tǒng)識別出可疑模式時,可立刻警示其他系統(tǒng)。
任何依賴現(xiàn)實世界數據的AI系統(tǒng)都可能被操縱。利用聯(lián)邦學習和區(qū)塊鏈等防御工具,研究人員和開發(fā)者正在打造更具韌性、可追溯的AI系統(tǒng),在遭遇欺騙時能發(fā)出警報,提醒系統(tǒng)管理員及時介入,降低潛在風險。
標簽:
數據“中毒”會讓AI“自己學壞” 在一個繁忙的火車站,監(jiān)控攝像頭正全方位追蹤站臺的情況,乘客流量
“兩新”政策促進產業(yè)升級 提振消費需求成效明顯 央視網消息(新聞聯(lián)播):國家稅務總局發(fā)布的最新增值稅發(fā)票數據顯示,
每日精選:生意社:8月19日湖南地區(qū)銻錠市場暫穩(wěn)運行 8月19日湖南地區(qū)1 銻錠均價183000元 噸,0 銻錠均價186000元 噸。湖南
7月全國共銷售彩票519.49億元 同比下降5.0% 【7月全國共銷售彩票519 49億元同比下降5 0%】財政部數據顯示,7月份,
《學習之友》創(chuàng)刊四十周年分享會舉辦 焦點信息 本報訊8月16日,南國書香節(jié)系列活動——《學習之友》創(chuàng)刊四十周年優(yōu)秀
熱議:參賽之前先去打個卡 機器人“愛寶”探店北京麥麥島 2025世界人形機器人運動會于8月14日至17日在國家速滑館舉行。開賽前
微動態(tài)丨北京經開區(qū)出臺具身智能機器人新政 《北京經濟技術開發(fā)區(qū)關于推動具身智能機器人創(chuàng)新發(fā)展的若干措施》
每日熱點:快遞業(yè)規(guī)模效應持續(xù)放大  快遞物流連接千城百業(yè)、聯(lián)通線上線下、融入生產環(huán)節(jié)、嵌入消
焦點報道:北京經開區(qū)出臺具身智能機器人新政 《北京經濟技術開發(fā)區(qū)關于推動具身智能機器人創(chuàng)新發(fā)展的若干措施》
新規(guī)守護“小電驢”安全上路 我國電動自行車社會保有量約3 8億輛,相當于每4個人就擁有一輛電動
新規(guī)守護“小電驢”安全上路 我國電動自行車社會保有量約3 8億輛,相當于每4個人就擁有一輛電動
數據“中毒”會讓AI“自己學壞” 在一個繁忙的火車站,監(jiān)控攝像頭正全方位追蹤站臺的情況,乘客流量
如何合理安排汽車的定期檢查和保養(yǎng)?|每日短訊 汽車作為現(xiàn)代生活中常用的交通工具,定期檢查和保養(yǎng)至關重要,它不僅能
長安歐尚科尚價格配置參數 當前信息 【長安歐尚科尚價格配置參數】長安歐尚科尚作為一款主打家用與商務場景
記者手記:在“冰絲帶”見證機器人“超越自我” 為期三天的2025世界人形機器人運動會17日在國家速滑館冰絲帶落幕,
新動態(tài):中國空間站艙外航天服B累計保障20次出艙任務 實現(xiàn)“4年20次”延壽目標 神舟二十號乘組日前圓滿完成第三次出艙活動。記者18日從中國航天員
記者手記:在“冰絲帶”見證機器人“超越自我” 為期三天的2025世界人形機器人運動會17日在國家速滑館冰絲帶落幕,
研究人員利用腦機接口嘗試解碼內心獨白 一個研究團隊日前在《細胞》雜志發(fā)表論文說,他們借助腦機接口技術
HYDFORE輕預攜手旗下跨境品牌獲“中國好配方”雙料大獎,居家輕醫(yī)美概念受熱捧! 8月14日至15日,第三屆中國好配方頒獎盛典在杭州順利舉行,居家醫(yī)美
焦點熱議:外籍人才用行動書寫椰城暖心故事:“海南是我們的家” 從社區(qū)支教到臺風救災,每一次參與都讓我覺得很有價值!手捧優(yōu)秀志
阿爾卑斯之夜:暢飲狂歡,相約足球夜!8月雪山啤酒節(jié)激情開躁! 當夏日的熱烈與阿爾卑斯的涼爽交匯,太倉阿爾卑斯國際度假區(qū)以“阿
今亮點!西北華北等地多降雨和對流天氣 黃淮江淮等地有持續(xù)性高溫 據中央氣象臺網站消息,昨日,內蒙古、河北、廣東、廣西等地部分地
今日出伏?還要熱多久,如何養(yǎng)生? 每日觀點 湖北日報訊(記者湯煒瑋、實習生任康中、通訊員陳聲超)8月19日,武漢
一份加班通告何以被網友評價為“有人情味”?|每日簡訊 加班工資自每日17時起計算全員基礎薪資上調25%高溫補貼800元 人……
每日動態(tài)!高溫、暴雨預警齊發(fā) 這些地方將有40℃高溫或雷暴大風 據中央氣象臺網站消息,中央氣象臺8月19日06時繼續(xù)發(fā)布高溫黃色預警
焦點!孩子的機票為啥比爸媽的還貴 暑期是親子家庭出游的旺季,然而,一些家長在購買機票時發(fā)現(xiàn),與半
怎么把嬰兒手推車折起來 【怎么把嬰兒手推車折起來】帶寶寶外出時,嬰兒手推車是必不可少的工具
實時焦點:生意社:8月19日華東地區(qū)PMMA市場持穩(wěn)運行 8月19日,華東地區(qū)PMMA粒子國產貨源主流商談價格參考12600-13800元 噸
生意社:8月19日華魯恒升異丁醛價格暫穩(wěn)-熱推薦 8月19日,華魯恒升股份有限公司異丁醛2萬噸產能,異丁醛出廠報價6600元
快播:志愿者的口袋里裝滿了來自世界的惦念 8月17日,成都世運會落幕,但這場盛會締結的國際友誼,卻成為永不褪
中外客商以會為媒覓商機,喀交會“朋友圈”持續(xù)擴容 8月的新疆喀什,碩果盈枝,熱潮涌動。8月15日~19日,第十五屆新疆
游客暑期都去哪兒了 這個暑期很熱——車站、機場,人頭攢動,熱鬧非凡。截至目前,民航
北京多預警齊發(fā) 啟動防汛三級應急響應 重點聚焦 v
北京多預警齊發(fā) 啟動防汛三級應急響應_新動態(tài) 北京市氣象臺19日5時25分升級發(fā)布暴雨黃色預警信號:預計,當前至19
快報:北京多預警齊發(fā) 啟動防汛三級應急響應 北京市氣象臺19日5時25分升級發(fā)布暴雨黃色預警信號:預計,當前至19
就業(yè)見習補貼誰能領?人社部解答 就業(yè)見習補貼誰能領?人社部8月19日通過官方微信公眾號作出解答。國
暑期實踐大學生“對話”千年木版年畫 通訊 中國四大古鎮(zhèn)之一朱仙鎮(zhèn)的晨光里,年畫作坊的門板吱呀作響,仿佛在
暑期托管:從單純“看護”走向“托育結合”_每日速讀 今年暑期,北京外國語大學附屬外國語學校開設的托管服務以安全護航
【快播報】“內卷”不停、“套路”不少 旅拍如何重拾美好口碑 7月中旬,重慶洪崖洞景區(qū)旅拍攬客風波引發(fā)社會廣泛關注。這一事件以
年均千場宣講 福建柘榮“小板凳+N”用鄉(xiāng)音土話聚民心 從農家小院到涼亭橋頭,再到田間地頭等民眾聚集之所,福建省寧德市
(走進中國鄉(xiāng)村)“以竹造紙”數百年 古法技藝指引山村覓新機 暑期,漫步浙江縉云縣魚川村,多了一份涼意。這里青山銜云,溪清見
中巴產業(yè)融合新成果:長城汽車巴西工廠竣工投產 北京時間8月16日凌晨,長城汽車巴西工廠正式竣工投產。巴西總統(tǒng)盧拉
南洋風情邂逅新潮文創(chuàng) 海口騎樓老街煥發(fā)新生 火山荔枝老爸茶酥、斑斕竹子酥、騎樓可可夾心曲奇炸蝦餅、奇亞籽椰
“藍蝶”翩躚樟江畔:荔波旅游警察女子中隊護航山水間 八月,貴州省黔南布依族苗族自治州樟江景區(qū)的小七孔橋在藤蔓與蕨類
熱頭條丨南洋風情邂逅新潮文創(chuàng) ??隍T樓老街煥發(fā)新生 火山荔枝老爸茶酥、斑斕竹子酥、騎樓可可夾心曲奇炸蝦餅、奇亞籽椰
關注:東湖評論:正視直播打賞亂象,為未成年筑牢成長“防火墻” 移動互聯(lián)網深度重塑生活,伴隨中國網絡直播用戶規(guī)模突破8億的,是虛擬
高溫破紀錄!今年三伏為史上第二熱 出伏后還要熱多久? 當前熱門 今日(8月19日)出伏,三伏天結束。今年三伏熱力十足,為史上第二熱,
永源飛碟是什么車身 焦點熱文 【永源飛碟是什么車身】“永源飛碟是什么車身”是許多消費者在選購車輛
3000萬??聚集的社交App,LesPark它懂我們 一、品牌煥新:當 “她” 力量匯聚,世界聽見我們的聲音LesPark,
保險合同中的保單持有人是指誰? 在保險領域,保險合同涉及多個重要角色,其中保單持有人是一個關鍵身份
焦點速讀:國家統(tǒng)計局發(fā)布7月份分年齡組失業(yè)率數據 【國家統(tǒng)計局發(fā)布7月份分年齡組失業(yè)率數據】國家統(tǒng)計局發(fā)布7月份分年齡
速看:陜北革命老區(qū)首條高鐵冷滑啟動 投運后西安至延安縮短至約1小時 8月18日,一列冷滑檢測車從西延高鐵耿鎮(zhèn)線路所緩緩駛出,一路向北開
高溫破紀錄!今年三伏為史上第二熱 出伏后還要熱多久?-每日視點 今日(8月19日)出伏,三伏天結束。今年三伏熱力十足,為史上第二熱,
自行車、小電驢,娃能騎嗎?暑期青少年騎行安全必看|熱消息 暑假期間,未成年人獨自出行增多,尤其是小學高年級及以上的兒童、
自行車、小電驢,娃能騎嗎?暑期青少年騎行安全必看 焦點 暑假期間,未成年人獨自出行增多,尤其是小學高年級及以上的兒童、
HYDFORE輕預攜手旗下跨境品牌獲“中國好配方”雙料大獎,居家輕醫(yī)美概念受熱捧! 8月14日至15日,第三屆中國好配方...
阿爾卑斯之夜:暢飲狂歡,相約足球夜!8月雪山啤酒節(jié)激情開躁! 當夏日的熱烈與阿爾卑斯的涼爽交匯...
中巴產業(yè)融合新成果:長城汽車巴西工廠竣工投產 北京時間8月16日凌晨,長城汽車巴...
3000萬??聚集的社交App,LesPark它懂我們 一、品牌煥新:當 “她” 力量匯...
焦點速讀:國家統(tǒng)計局發(fā)布7月份分年齡組失業(yè)率數據 【國家統(tǒng)計局發(fā)布7月份分年齡組失...
這個暑期,在日常里養(yǎng)出豐盈心_每日關注 導語很多人說“暑期要抓緊提升”,...
實時焦點:數說醫(yī)師|七成高危妊娠,淄博婦幼產科構筑母嬰安全“硬核底盤” 齊魯晚報·齊魯壹點張曉光通訊員宋...
快看:2025年海南省中小學生游泳比賽收官 三亞代表隊收獲26枚金牌 記者從三亞市教育局獲悉,近日,由...
2025年中國內地電影暑期檔總票房破100億元 焦點精選 據燈塔專業(yè)版數據,截至北京時間8...
高溫、暴雨預警齊發(fā) 這些地方將有40℃高溫或雷暴大風_速讀 據中央氣象臺網站消息,中央氣象臺...
高溫、暴雨預警齊發(fā) 這些地方將有40℃高溫或雷暴大風-今日熱議 據中央氣象臺網站消息,中央氣象臺...
快播:理響中國|多有貢獻,這是白求恩的最后心聲 我在這里十分愉快,我唯一的希望就...
如何理解保險的保單生效條件?-新動態(tài) 保險作為一種風險管理工具,在人們...
上半年“中國購”銷售額增長近一倍 今年以來,中國游熱度不減,中國購...
英菲尼迪fx37和fx50s的區(qū)別 【英菲尼迪fx37和fx50s的區(qū)別】英...
國家防總針對遼寧啟動防汛四級應急響應 新華財經北京8月19日電據應急管理...
每日資訊:全流程智能管控,日照鋼鐵數智實驗室管理平臺上線 作為日照鋼鐵深化質量戰(zhàn)略、優(yōu)化供...
實時:一條蛇的是什么車標 【一條蛇的是什么車標】“一條蛇的...
貝達藥業(yè):MCLA-129目前在肺癌領域進行適應癥探索_當前焦點 【貝達藥業(yè):MCLA-129目前在肺癌領...
滬指近乎平開,兩融余額時隔10年突破2.1萬億 19日早盤,上證指數開盤漲0 01%,...
國家體育總局:我國體育產業(yè)總規(guī)模近五年年均增速超10% 國家體育總局局長高志丹8月19日在...
每日速遞:滬指近乎平開,兩融余額時隔10年突破2.1萬億 19日早盤,上證指數開盤漲0 01%,...
國家體育總局:我國體育產業(yè)總規(guī)模近五年年均增速超10%-每日觀察 國家體育總局局長高志丹8月19日在...
滬指近乎平開,兩融余額時隔10年突破2.1萬億-焦點短訊 19日早盤,上證指數開盤漲0 01%,...
蘇州再添一條低空新航線 昆山—楊浦復興島—浦東機場低空航...
這個暑期,在日常里養(yǎng)出豐盈心_每日關注 導語很多人說“暑期要抓緊提升”,...
70余項首單創(chuàng)新的背后_每日簡訊 今年3月,全國首部專門規(guī)范自由貿...
每日觀察!天津西青:打造京津冀協(xié)同創(chuàng)新“強磁場” 賦能新質生產力 我們正全力打造站產城融合發(fā)展的全...
“兩新”政策促進產業(yè)升級 提振消費需求成效明顯 央視網消息(新聞聯(lián)播):國家稅務...
3000余款展品亮相2025河北·贊皇高邑陶瓷博覽交易會 觀焦點 為期三天的2025河北·贊皇高邑陶瓷...
上半年全國廣播電視服務業(yè)總收入6884.14億元 同比增長5.24% 據國家廣播電視總局微信公眾號消息...
一鍵啟動的車沒熄火能鎖車嗎 【一鍵啟動的車沒熄火能鎖車嗎】在...
唯賽勃等成立新公司 含汽車零部件業(yè)務 人民財訊8月19日電,企查查APP顯示...
前沿熱點:“兩新”政策促進產業(yè)升級 提振消費需求成效明顯 國家稅務總局發(fā)布的最新增值稅發(fā)票...
中消協(xié):許多網店宣稱兒童安全座椅“明星同款”為吸引眼球 針對部分網絡平臺熱銷的兒童安全座...
快播:昆明市首批市場采購貿易出口預包裝食品順利通關出口緬甸 記者18日從昆明郵局海關了解到,一...
每日精選:生意社:8月19日湖南地區(qū)銻錠市場暫穩(wěn)運行 8月19日湖南地區(qū)1 銻錠均價183000...
實時焦點:數說醫(yī)師|七成高危妊娠,淄博婦幼產科構筑母嬰安全“硬核底盤” 齊魯晚報·齊魯壹點張曉光通訊員宋...
運送旅客超一億人次 我國最北高寒高鐵迎來開通十年 清晨6點,黑龍江哈爾濱站的站臺上...
“驢火”經濟圈粉年輕一族 從可切的毛絨驢火,到可飲的驢火拿...
三對關鍵詞,感受服務貿易新精彩_即時 服務進出口總額38872 6億元,同比...
快看:2025年海南省中小學生游泳比賽收官 三亞代表隊收獲26枚金牌 記者從三亞市教育局獲悉,近日,由...
一百公里油耗計算方法 【一百公里油耗計算方法】在日常用...
天津:今年以來出入境郵輪旅客超20萬人次-關注 記者19日從天津東疆邊檢站了解到,...
廢水焚燒系統(tǒng)優(yōu)化創(chuàng)效超3000萬元-前沿熱點 8月11日,吉林石化公司丙烯腈廠第...
焦點短訊!影視院線板塊短線拉升 慈文傳媒漲停 人民財訊8月19日電,影視院線板塊...
8月19日人民幣對美元中間價報7.1359元 下調37個基點 動態(tài)焦點 據中國外匯交易中心網站消息,中國...
焦點快播:“軟硬兼施”培育全國一體化數據市場 數據作為新型生產要素,為培育新質...
數字金融賦能工業(yè)信息化轉型 焦點要聞 近日,中國人民銀行、工業(yè)和信息化...
黃陂發(fā)現(xiàn)武漢第178種蝴蝶-快看 武漢第178種蝴蝶——波太玄灰蝶生...
焦點精選!雅迪電動車如何解鎖速度限制 【雅迪電動車如何解鎖速度限制】在...
雨天積水路段行車如何避險?交警提醒:駕駛人要牢記 “降速、控距、亮燈”六字訣 三亞新聞網8月19日消息(三亞傳媒...
7月全國共銷售彩票519.49億元 同比下降5.0% 【7月全國共銷售彩票519 49億元同...
第五屆中蒙博覽會即將開幕 各大電商平臺同步上線 內蒙古好物匯聚 風味共賞 今日熱文 第五屆中蒙博覽會即將開幕,各大電...
8月19日流感板塊漲幅達2% 今日熱門 8月19日9點57分,流感板塊指數報18...
潮宏基一城一非遺南京站:絨花與花絲的雙非遺當代敘事 以手造物,見證東方大美,2025年8...