陳洧農|特約記者編譯

川普總統的整個政治生涯都對「假新聞」謹防戒備,新聞界也因而佈上陰霾。現在名為「深假」(deepfake)的偽造技術已然降臨,業界的專家們也審慎以待。究竟深假可能帶來麼樣的危害,而我們又有什麼手段能克制這個不實資訊最新的利器?

「深假」是人工智慧和機器學習技術的產物,它使得高科技電腦得以製作出極度逼真的影片,描繪不存在的事件或人們不曾說過的話。2018年,一部由喬登.皮爾和「巴拉克.歐巴馬」演出的影片《關於這項科技的警告》在網路上瘋傳,然而,其中的警訊是否地傳達給大眾了呢?具體來說,這是一個甚麼樣的威脅?

「深假」能讓製作假新聞的組織以幾可亂真的影片強化他們的「報導」,用一種前所未有的方式模糊真與假的界線,使得記者與媒體的聲譽面臨更大的風險。

深假已經可以做到以假亂真。影:BuzzFeedVideo@YouTube頻道(CC BY-SA 3.0 )

芝加哥大學電腦科學系教授趙燕斌(Ben Y. Zhao)認為,這個從社群媒體攝取新聞的年代,使得消費者更容易受到這類操弄。「過去這幾年來我們看到的基本上就是,儘管在缺乏真憑實據的情況下,假新聞依然相當有說服力⋯⋯因此門檻很低。」

事實上,製作具說服力的假影片,門檻可能比人們以為的更低。

今年稍早,一則宣稱民主黨領袖裴洛西(Nancy Pelosi)在面對媒體時口齒不清的影片被廣為流傳,一度連川普的律師朱利安尼(Rudy Giuliani)都加以引用。

然而,華盛頓郵報指出,詳加檢視後即可發現這支影片被放慢至原有速度的75%,才造成口齒不清的效果。柏克萊加州大學資訊學院教授兼數位鑑識技術專家的法瑞德(Hany Farid)表示,儘管現在該影片的原真版本已經很容易取得,他還是經常收到堅持「慢速版本的影片才是真的」的電子郵件。

音軌降速至75%就會造成說話結巴的效果。影:華盛頓郵報(Fair Use)

「就連如此單純的案例,我們都還是得如此費力才能澄清真相。」法瑞德說道。

儘管要無中生有地假造歐普拉公開支持川普的影片需要相當可觀的專業技能,但研究人員表示,相關科技正日漸進步著。在華盛頓大學,電腦影像的研究員們為了正面,或者說至少是無害的用途,正在發展這門技術,藉以讓視訊會議更加逼真,或者讓學生能夠和有名的歷史人物對談。但是這項技術也導致潛在的危險,因為攻擊者的技術也會隨之不斷改進。

 ▍識破深假

電腦需要消化數以千計同一主體的靜態影像,研究者才能建立出一個人的3-D模型。不過這個做法有一些破綻,趙注意到,這些假影片中的人物從不會眨眼,因為幾乎所有的照片拍的都是人睜開眼睛的時候。

然而,法瑞德說,這些科技中的小缺陷會以極快的速度被填補。

「如果你6個月前問我,我會說『沒錯,這項科技超酷的。』但還是有許多人造的痕跡,如果你注意看,說不定還能看出哪裡有問題。」法瑞德說:「不過,我們已經迅速而確實地來到了人們普遍無法分辨真假的關卡。」

事實上,趙燕斌表示,研究者們相信這些讓深度造假影片看起來有點不自然的缺點,很快就會被更強大的科技和硬體彌補。「當有人說:『這是教你識破假影片的研究報告。』的那一刻,攻擊者也同時在說:『謝謝你指出我的缺點,我會在製作下一代的影片時將它納入考量,並輸入足夠的材料,讓以後的影片不會有同樣的問題。』」

深假影片的製作機制是讓「生成對抗網路」(Generative Adversarial Networks, GANs)與「神經網路」(Neural Networks)相抗衡。前者專注於製作仿真的假影像,後者則透過與真實影像的比對來確認前者的產出有無破綻,如果找到了,前者就要針對該處進行修改,一直重複這樣的步驟直到找不出任何破綻為止。

「生成對抗網路」(GAN)的原理。影:Packt Video@YouTube頻道(CC BY-SA 3.0 )

該領域的一項近期發展是製作「演講」影片,電腦現在只需要分析上百小時川普的說話,就能夠摹製出他的聲音。研究者可以輸入任何想讓川普說的話,電腦就能夠製作出彷彿川普真的說了那些話的影片。

法瑞德說明,Facebook、Google,以及Microsoft或多或少都使得這項科技更加優化。將深假技術注入到原先已經充滿猜忌、不實資訊、社群媒體,以及高度極化選民的環境中,對不實資訊而言,會是一種真正的強化因子。「因為當你『聽見』人們說話,相信的程度會提升到全新的層級。」

這項科技流傳之廣、取得之易的程度也非常令人震驚。技術嫻熟的科技玩家們早就在使用深假來製作情色了。雖然有點好笑,但這對新科技而言是一貫、可預見的潮流。不過,趙燕斌認為這項研究等級的科技遲早會成為套裝軟體,並且在更廣泛的脈絡中被用來進行大量影片竄改。

「到了某個時間點,總會有人取得並整合這些科技,花些跑腿的功夫把它們組裝成精緻的單一模型,裏頭應有盡有⋯⋯等到這件事成真,而且大家都可以輕易取得,你就會看見它(造假影片)大行其道了。」趙燕斌說:「反正現在也沒有什麼能阻止它的發生。」

 面臨大規模的消費者信任問題

趙燕斌表示,當這件事發生,新聞業將面臨大規模的消費者信任問題。他擔憂就連第一流的媒體業者要分辨影片真假都有困難,更不用提只是偶然在Twitter上看到影片的新聞消費者。

趙燕斌花非常多的時間與檢察官、法官(法律專業是另一個遭受重大影響的領域)、記者以及其他教授們商討,試圖了解此議題的每一項細微差異。然而,儘管他很清楚地了解到深假所帶來的威脅,他仍然不確定新聞業者將採取甚麼樣的回應。

「當然,我想有可能發生的是⋯⋯人們對主流媒體、主要新聞管道的信任度甚至會更低,具公信力的記者會傾向於報導即時的新聞,因為民眾會開始覺得他們看到的一切,其實都有可能是捏造的。」

接下來問題就演變成媒體要如何處理關於真實性的爭論。

 戰勝深度造假

帳本科技(Ledger Technology)可以提供數位基礎架構,以支援像是比特幣這類加密貨幣,我們也許能在其中找到部分解決方案——區塊鏈(blockchain)。許多產業都將區塊鏈吹捧為科技界的泰諾林(譯註:Tylenol,美國著名止痛藥)。儘管很少人了解區塊鏈到底如何運作,許多人依然宣稱它解決了他們的問題。

區塊鏈與帳本科技。影:聽書 ‧ BookListen@YouTube頻道(CC BY-SA 3.0 )

法瑞德表示,許多相片與影片的驗證平台,包括他自己在其中擔任顧問的Truepic,都此用區塊鏈來製作並保存數位簽章,好讓原真影片能更容易被驗證。

趙燕斌與法瑞德兩人都期盼Facebook和Twitter這些社群平台之後會推廣這些能確保原真性的影片,以遏止深假的進一步擴散。

事實上,Facebook這個社群媒體巨頭在九月份已經決定要挺身對抗深假科技,斥資投入1000萬美金進行「深假偵測挑戰計劃」(DeepFake Detection Challenge)。顧名思義,該計畫將幫助人們偵測影片是否為深假產物。Facebook會做此決定,也是出於利害關係重大的造假影片,可能會透過自家平台流傳的擔憂。想像一下,一支內容是川普宣稱要轟炸委內瑞拉的假影片在網路上瘋傳,那可一點都不有趣。

「造假的人總是佔有優勢,」法瑞德說:「防守方真的非常難打,因此我認為最終目標不是徹底根除這些東西,而是讓這項威脅不至於失控。」直到我們有能力做到之前,趙燕斌認為對抗假新聞之戰的第一步與其說是帳本科技,毋寧說是更強烈的消費者意識,以及透過第三方進行更有效驗證的團結記者們。

「我認為擊敗這種不實內容的其中一種可能性是:人們因為徹底被這些關於深度造假的新聞與資訊淹沒,因而從根本上對影片更加多疑,以致於他們會更仔細的觀察。」趙燕斌說道:「消費者必須有這種程度的詳查細讀,我們才有機會戰勝這種不實內容。」

西北大學傳播學助理教授,同時也是未來新聞專家的迪卡波洛斯(Nicholas Diakopoulos)在email中表示,最佳解決方案須綜合教育及社會科技的進步。他說:「許多不同的感知線索都能告訴你,所看到的是不是深假的產物,我們必須教導大眾這些知識。」

迪卡波洛斯在去年他為《哥倫比亞新聞評論》所寫的專欄中,引用了法瑞德關於照片取證的著作。他也引述了一項叫做「臉部鑑識學」(FaceForensics)的專案研究,這項研究利用機器學習技術來偵測、辨別影片中的臉孔是否是真的,具98%的準確率。另一項仍在研究中的技術則可以透過分析影片中人臉部的血流量,看出影片像素是否隨著心搏而週期性地變紅。

FaceForensics示範。影:Matthias Niessner@YouTube頻道(CC BY-SA 3.0 )

「就社會科技面而言,我們需要發展有助於專業人員破解合成媒體的先進取證技術」他對CNBC說道:「2020大選時,新聞業的快速反應部隊必須要能訓練有素地使用這些工具,以便盡快地破解不實資訊。」

迪卡波洛斯特別研究了深假與2020大選的關聯,並撰文探討記者們「在電腦打造的實境中進行報導」時該如何思考。

他依然保持樂觀:「若是新聞組織能努力藉由這些工具來確保其發布內容的真實性,進而發展出明確且透明的政策,將有助於鞏固其公信力。在一個網路資訊不能眼見為憑的年代,準備萬全的新聞組織將能泰然自若地成為更受信任的資訊來源。」

 對反制方案的不同觀點

直到目前為止,關於對抗深假的討論都著重於以AI為基礎來進行辨識的解決方案,然而,一份來自數據與社會研究所(Data & Society)的報告則顯示這樣的思考可能有欠周詳。該報告的作者派瑞思(Britt Paris)和丹諾文(Joan Donovan)將深假放在更大的、媒體操弄的脈絡下檢視,並指出我們需要社會性的解方。

大多媒體對於深假的關注都聚焦在政治領導人或是立法者等大人物所蒙受的風險上,但派瑞思卻認為,這把稱為深假技術的火焰遲早會燒到一般百姓身上。他表示,對於深假的恐懼使我們急於找尋技術面的解方,卻忽略了社會結構的不平等問題,這麼做的結果將使的那些沒有權力的人們被遺漏在外。

派瑞思引用波斯灣戰爭時媒體的行為為例,當時媒體藉由選擇性的編輯晚間新聞的影像,歪曲了整個事件的呈現。「那些影像是真的沒錯,被操弄的是它們被拼湊、被詮釋的方式,以及24小時不間斷的轟炸播放。」

派瑞思表示:「媒體與真相間的關係從來都不平穩。」

 

可參閱報導:

 

關鍵字: , , , , ,

 


《卓越新聞電子報》為讀者報導新聞媒體最前線,我們追蹤所有重大新聞演講活動現場、探索新聞媒體浮動的疆界!

主編:鄭凱榕