好文共賞 SHARE KNOWLEDGE

好文共賞
分類
台北金融

你相信眼見為憑?除非親眼看見,否則還是先求證吧!【金融科技為何那樣系列文章】

標籤 : 深度偽造,深偽技術,deepfake,AI人工智慧,深度學習
觀看人數 : 364 , 回應 : 0
AI人工智慧是二十世紀很重要的數位發展,人類透過餵給電腦大量資訊訓練電腦學習分析、預測,也為社會進步增添更多可能。但每種新技術的開展都無法避免有人鋌而走險,將新技術應用在不正當的目的上。新技術初期了解的人少,要欺騙社會大眾輕而易舉,會使用的人不多,要防堵還需要時間找方法,所以產生了今天要介紹的主題─Deepfake(深偽技術)。

歐巴馬真的這樣說過嗎?


從上面影片中可以看到歐巴馬正在發表演說,但這位歐巴馬不是真正的歐巴馬。這是外國媒體Buzzfeed為了讓人們了解假新聞的嚴重性,特別與知名導演Jordan Peele合作,利用AI技術製作了假的歐巴馬演說影片,連說話嘴型也使用AI技術變造成合理的樣子。一切看似很正常,但在影片40秒時假歐巴馬直接揭露此言論其實來自於Jordan Peele並非歐巴馬,也證實了以Deepfake製作假新聞實在令人難以判別真偽。



深偽技術原理是什麼?

深偽技術的人工智慧實際上是「深層網路」與「判別網路」之間進行「對抗」後優化出來的結果。這樣說很難以理解,底下舉個例子說明何為深偽技術。假設現在有兩個角色,一個是製作假鈔的人(深層網路),一個是抓假鈔的警察(判別網路)。製作假鈔的人不斷製造假鈔,警察拿到假鈔之後判斷真偽,製作偽鈔者就根據警察回饋的判斷結果,不斷改良自己製造的假鈔,最後假鈔質量精細到難以跟真鈔分出真偽,這就是深偽技術的概念。
 
有人可能會覺得「還好吧,這技術應該很困難,普通人根本做不到,不用怕假影片充斥吧?」,其實這想法一半正確,一半錯誤。Deepfake照理說應該要使用複雜的程式製作,不過現在許多軟體開發者將這類功能與環境寫好、打包成軟體之後放在網路上供人下載取用,故此技術的取得其實是很方便的。下載之後只要在網路搜尋軟體教學,要製作深度偽裝的假影片應非難事。
 
有辦法判斷自己看到的是不是深偽技術影片嗎?
 
國際上已經出現好幾個因為Deepfake技術造成損失的案例。例如有些女性面容被合成到成人影片中成為女主角,造成名譽嚴重損害;也有歐洲高階管理者因為此技術被詐騙上百萬台幣,就算報案也無從查起。既然防不勝防,那要怎麼判斷看到影片的真偽呢?
 
以目前技術來說,由於影片仿造得太過於真實,故沒有人可在第一時間判斷是否假造,雖說Deepfake反譯技術已在開發中,但畢竟尚未有成品出現,無法成功的反制或瞬間做出判斷,只能靠自己在接收訊息時多方求證。如有人寄影片要求勒索款項,請先馬上求證並報案,避免慌張情急下執行對方要求之事,避免後悔莫及。
 
有什麼法令可以制止這類偽造?
 
隨著社會與科技進步,法條也應該因時制宜的更新調整。美國眾議院曾為了遏止此類AI技術損害社會及被偽造當事人的權益,提出「深度偽造究責法案」,意在制止有心人以此技術對他人造成名譽上、精神上、甚至人身上的傷害。
 
技術本身是中性、中立的,但要用在哪就看使用者本身。科技促進生活更加便利,但另一方面也會出現為非作歹的空間,我們應該著重於如何改善人類生活,而非因一己之私對人、事、物造成損害。我們期待會有更新的科技出現,好杜絕有心人胡作非為的機會,也期望法規能夠跟上新科技發展的腳步,好維護所有人的權益。
 
看到這裡,你覺得,你現在看到的影片,是真的嗎?

 
● 延伸閱讀 

電影《關鍵報告》上映後的十八年,哪些電影裡的科技成真?

人工神經網路疊加之後的神奇效果─從Google貓臉辨識計畫看深度學習

防制洗錢!打擊資安威脅!運用創新金融科技向金融犯罪say NO!

【台灣再次迎向國際的願景】數位轉型戰略制高點下,台灣的機會在哪裡?!