或許，在這個(gè)AI飛速發(fā)展的時(shí)代，在真實(shí)和AI營造的虛幻之間，我們應(yīng)該思考的，是如何保持一個(gè)具備獨(dú)立思維和理智思辨的頭腦。

這是一個(gè)人工智能（AI）技術(shù)飛速發(fā)展的時(shí)代，這是一個(gè)真實(shí)和虛假愈加難辨的時(shí)代。一張美國前總統(tǒng)特朗普親吻前白宮首席醫(yī)療顧問福奇的照片近日引發(fā)爭(zhēng)議，后經(jīng)網(wǎng)友仔細(xì)查證，這是一張AI生成圖，由特朗普的黨內(nèi)競(jìng)爭(zhēng)對(duì)手德桑蒂斯團(tuán)隊(duì)炮制，目的是抨擊特朗普在任時(shí)抗疫不力?？寺÷曇?、一鍵換臉、炮制假新聞……當(dāng)AI制造的謊言潛入現(xiàn)實(shí)，究竟該如何厘清真假的邊界？

擬聲換臉騙局頻現(xiàn)

【資料圖】

當(dāng)電話另一端傳來親友的呼救聲，誰會(huì)想到這竟然是一個(gè)赤裸裸的AI騙局。前段時(shí)間，一對(duì)加拿大夫婦就經(jīng)歷了這樣一場(chǎng)“聲音克隆噩夢(mèng)”。

據(jù)《華盛頓郵報(bào)》報(bào)道，這對(duì)夫婦3月接到一通電話，電話那頭一名自稱律師的男子說，他們的兒子珀金因在一場(chǎng)車禍中撞死一名美國外交官而入獄，出庭前急需21000美元律師費(fèi)。讓故事顯得更為逼真的是，電話中還傳來了近似珀金的聲音。這對(duì)夫婦掛完電話慌作一團(tuán)，立刻跑去銀行將錢轉(zhuǎn)給“律師”。直到兒子當(dāng)晚打電話過來，他們才發(fā)覺被騙。這家人迅速報(bào)警，經(jīng)警方調(diào)查，電話中“兒子”的聲音是詐騙集團(tuán)根據(jù)珀金在社交平臺(tái)發(fā)布的視頻，利用AI技術(shù)仿造他的聲音。盡管查明了事情真相，被騙的錢財(cái)卻一去不復(fù)返。美國聯(lián)邦貿(mào)易委員會(huì)（FTC）營銷實(shí)踐部助理主任威爾·麥克森表示，追蹤語音詐騙者極為困難，他們使用的電話可能位于世界上任何角落。同樣在3月，美國的格雷格夫婦也接到了類似的電話。詐騙者模擬他們孫子布蘭登的聲音，稱人在監(jiān)獄，需要一筆保釋金。AI技術(shù)正在讓冒名詐騙變得更容易，且成本更低。FTC最新統(tǒng)計(jì)結(jié)果顯示，冒名詐騙已經(jīng)成為當(dāng)下美國第二大熱門詐騙類型。2022年此類案件超過3.6萬起，其中約5000起為電話詐騙，損失金額超過1100萬美元。

AI軟件生成的特朗普福奇親吻圖。圖源：GJ

加州大學(xué)伯克利分校數(shù)字取證學(xué)教授漢尼·法里德指出，AI技術(shù)的進(jìn)步讓詐騙者能夠輕易地根據(jù)簡(jiǎn)短的音頻樣本來復(fù)制聲音。“兩年前，你可能需要大量音頻來克隆一個(gè)人的聲音。但現(xiàn)在，只要你在臉書或者TikTok發(fā)一段超過30秒的音頻，復(fù)制聲音就可以迅速實(shí)現(xiàn)。”聲音可以模仿，面容也可以替換，AI換臉早已不是新鮮事。美國游戲主播Atrioc就發(fā)現(xiàn)自己的臉被“偷”了，有不法分子利用AI換臉技術(shù)制作她的不雅視頻，并發(fā)布在社交媒體上。崩潰的Atrioc試著向警方求助，等來的答復(fù)卻是——她所在的州目前還沒有相關(guān)法律可約束或懲罰這樣的行為。

虛假信息混淆視聽

不只是普通人，在AI的騙術(shù)面前，一些媒體也難以招架。英國《每日郵報(bào)》4月報(bào)道，一名22歲的加拿大年輕人為了能在韓國娛樂圈出道，以某韓國男團(tuán)成員的面容為模板，花了約22萬美元整容了12次，最后在韓國一家醫(yī)院不幸喪命。這則新聞一出，便引發(fā)了《紐約郵報(bào)》八卦版“第六頁”、加拿大媒體公司Postmedia等媒體的跟風(fēng)報(bào)道。但沒過多久，一些媒體進(jìn)一步查證后發(fā)現(xiàn)，或許這根本就是個(gè)編造的故事，主人公可能并不存在。因?yàn)轫n國媒體詢問警方后得到的回答是——當(dāng)時(shí)并未收到類似的死亡案例報(bào)告。而檢測(cè)網(wǎng)站的結(jié)果顯示，這名加拿大年輕人的照片有75%可能由AI生成。面對(duì)公眾質(zhì)疑，《每日郵報(bào)》刪去了這則報(bào)道。但意外的是，5月又有媒體報(bào)道，這名年輕人的家人站出來證明他們兒子的死亡和報(bào)道的真實(shí)性。不過，這篇報(bào)道沒有提供任何實(shí)質(zhì)性的證據(jù)，也沒有提供家人的真實(shí)信息和照片。

AI軟件可以輕易生成“逼真”圖片。圖源：GJ

如今，這名年輕人的身份和報(bào)道的真?zhèn)我琅f成謎。在自由撰稿人拉斐爾·拉希德看來，這件事向媒體人發(fā)出了警示，就是現(xiàn)在比以往任何時(shí)候都更需要在核查事實(shí)、揭穿謠言以及問責(zé)方面發(fā)揮作用，提升自己的媒體素養(yǎng)和批判性思維能力。AI生成的虛假信息還廣泛出現(xiàn)在政治領(lǐng)域。幾張?zhí)乩势赵诩~約街頭遭警察圍捕的圖片3月在社交平臺(tái)瘋傳，圖片中特朗普被警察抓住雙手摁倒在地，場(chǎng)面十分混亂。而事實(shí)上，這些圖片均出自開源信息調(diào)查網(wǎng)站bellingcat創(chuàng)始人、英國獨(dú)立記者艾略特·希金斯之手。他利用AI繪圖軟件生成了特朗普被捕的圖片，“我只是在鬧著玩，原以為只有幾個(gè)人會(huì)轉(zhuǎn)發(fā)”。但令他沒有想到的是，這條推文的瀏覽量在兩天后就突破了500萬次。如果說這些AI炮制的假新聞只是混淆了視聽，那還有些假新聞則對(duì)社會(huì)產(chǎn)生了實(shí)實(shí)在在的影響。5月22日，一張五角大樓爆炸的AI生成圖在網(wǎng)絡(luò)上引起軒然大波。數(shù)字原創(chuàng)媒體Vox報(bào)道，在短短幾天內(nèi)，這一假圖片就引起了一陣恐慌，甚至在短時(shí)間內(nèi)撼動(dòng)了美國金融市場(chǎng)。值得注意的是，用AI技術(shù)抹黑政治對(duì)手并不只是民主黨的伎倆。共和黨也曾使用AI制作一段30秒的視頻，呈現(xiàn)美國總統(tǒng)拜登連任后的場(chǎng)景：銀行紛紛倒閉、金融市場(chǎng)崩盤、舊金山被封鎖……用虛假的圖片和報(bào)道描繪了一系列危機(jī)。人工智能公司“抱抱臉”安全和政策專家艾琳·索萊曼認(rèn)為，AI已經(jīng)被廣泛用于政治宣傳和操縱選舉，未來的道路將會(huì)十分艱難。觀察人士擔(dān)心，AI技術(shù)的快速普及可能會(huì)加劇2024年美國大選中虛假信息的傳播。美國聯(lián)邦眾議員伊維特·克拉克警告，“如果AI技術(shù)在大選中被用來大規(guī)模操縱和欺騙選民，將會(huì)對(duì)美國的國家安全造成嚴(yán)重后果”。

如何治理面臨挑戰(zhàn)

雖然自互聯(lián)網(wǎng)誕生以來，虛假信息就一直存在于網(wǎng)絡(luò)世界，但近年來隨著ChatGPT、Midjourney等AI工具的出現(xiàn)，以及Photoshop等繪圖軟件功能的更新，大規(guī)模生產(chǎn)超逼真的假圖像、視頻和文本變得更加容易便捷。歐洲刑警組織一份報(bào)告預(yù)測(cè)，到2026年互聯(lián)網(wǎng)上多達(dá)90%的內(nèi)容可能由AI創(chuàng)建或編輯。目前，完全由AI生成的假新聞網(wǎng)站已經(jīng)出現(xiàn)，而且在短短幾周內(nèi)這些網(wǎng)站的數(shù)量就上漲了兩倍。當(dāng)AI造假的浪潮日益逼近，我們?cè)撊绾畏直嬲鎮(zhèn)?、找尋真?shí)？有媒體分析認(rèn)為，或許應(yīng)從技術(shù)研發(fā)、完善法律法規(guī)以及提高公眾意識(shí)和教育等層面入手。

AI軟件生成的特朗普被捕圖。圖源：GJ

有業(yè)內(nèi)人士建議加強(qiáng)AI反制技術(shù)研究。眼下確實(shí)有一些科技企業(yè)正在加強(qiáng)對(duì)圖像、聲音偽造技術(shù)的反制研究，但到目前為止，并沒有一個(gè)通用的標(biāo)準(zhǔn)來識(shí)別真實(shí)或虛假的內(nèi)容，AI反制技術(shù)要隨著AI技術(shù)的進(jìn)步而不斷更新。也有分析指出，AI技術(shù)的健康發(fā)展離不開相關(guān)法律法規(guī)的完善。例如，對(duì)于流媒體平臺(tái)上AI高度模仿歌手的行為，完善版權(quán)法或許是一個(gè)相對(duì)有效的策略。另有專家表示，未來AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無比接近真實(shí)的“真實(shí)”，要通過不斷的教育改變大眾觀念，讓人知道眼見不一定為實(shí)，有圖不一定有真相，對(duì)網(wǎng)絡(luò)信息提升辨識(shí)力。盡管對(duì)“AI造假”的有效治理道阻且長，但不少國家和地區(qū)已經(jīng)開始著手應(yīng)對(duì)。德國《世界報(bào)》近日?qǐng)?bào)道，歐盟正在采取行動(dòng)打擊AI深度造假。歐盟委員會(huì)委員薇拉·堯羅娃表示，識(shí)別深度造假的技術(shù)已經(jīng)存在，希望臉書、谷歌、TikTok等社交媒體平臺(tái)能夠大規(guī)模使用這些技術(shù)，并且通過軟件發(fā)出警報(bào)提醒用戶，而這項(xiàng)規(guī)則以后也可能被納入歐盟正在制定的《人工智能法》。誠然，AI技術(shù)的發(fā)展是把雙刃劍，一方面，它以驚人的速度在推進(jìn)醫(yī)療技術(shù)、改善人類生活質(zhì)量等領(lǐng)域發(fā)揮著積極作用；另一方面，它也帶來了一定的風(fēng)險(xiǎn)和挑戰(zhàn)。在5月召開的伯克希爾-哈撒韋公司的年度股東大會(huì)上，“股神”巴菲特談及對(duì)AI的看法時(shí)流露擔(dān)憂。他表示，盡管發(fā)明AI的初衷是好的，“但當(dāng)某種事物可以做各種各樣的事情時(shí)，我有點(diǎn)擔(dān)心”。他將人工智能比作原子彈：“在二戰(zhàn)期間，我們基于充分的理由發(fā)明了原子彈，但這項(xiàng)發(fā)明對(duì)未來世界而言，真的是件好事嗎？”巴菲特認(rèn)為，AI將改變世界上的一切，除了人類的思維和行為方式?；蛟S，在這個(gè)AI飛速發(fā)展的時(shí)代，在真實(shí)和AI營造的虛幻之間，我們應(yīng)該思考的，是如何保持一個(gè)具備獨(dú)立思維和理智思辨的頭腦。

出品 深海區(qū)工作室

撰稿 王若弦

編輯 深海鹽

標(biāo)簽：