國際時事

濫用AI技術偽造女性裸照　打擊復仇式色情「DeepNude」在美遭下架

高詣軒 2019年06月30日 07:00:00

爭議程式DeepNude的網站已經關閉。（翻攝自@verge推特）

AI科技發展若不謹慎考慮後果，恐會造成難以抹滅的的傷害。日前，一個網路應用程式「DeepNude」開放下載，用戶可以使用該App將女性的照片轉換為以假亂真的裸照，引發外界憂心會遭用以假造色情內容從事霸凌。如今該App官方團隊已表示，不希望從用戶的濫用行為中獲利，將不會再推出該款程式。

該款程式先前已下架，但仍顯示所謂「deepfake」科技，也就是利用人工智慧等技術創造逼真的偽造影像的技術，可能會遭濫用來輕易傷害他人。在過去，大多的deepfake軟體都需上傳多筆偽造對象的影片後，才能製成逼真的假象，但DeepNude讓人只需在彈指之間，上傳一張女性照片，軟體就能產生竄改後的裸照。

'The world is not yet ready for DeepNude': The disturbing deepfake app for making fake nudes of any woman with just a few clicks has been shut down https://t.co/TGAqWnwk3G
— Business Insider (@businessinsider) 27 June 2019

更易針對女性偽造色情內容

據《商業內幕》（Business Insider）報導，有人會用deepfake相關科技來製作貓的影像，或是好萊塢電影畫面的修改版，但部分有心人士卻也可以用科技來輕易地製作假內容，例如美國眾議員卡特茲（Alexandria Ocasio-Cortez）就曾經在他人製作的假訪問影像當中，被竄改為不知道如何回答問題的樣子。

至今「deepfake」科技已經造成引發加速假新聞、假消息傳播的疑慮，但「DeepNude」程式則又再顯示相關科技可以很快地被用以讓非專業的一般大眾，有能力更輕易地製造假影像來從事威脅、霸凌等惡行，而女性在這股衝擊下更容易成為受害的一方。

技術上，deepfake因為並非真實影像，難稱是法律上的復仇式色情（revenge porn）內容，但不代表不會對人造成傷害。報導指出，deepfake技術已遭有心人用以假造朋友、同學的色情內容。另外，女星史嘉蕾喬韓森（Scarlett Johansson）等人也是假影片的受害者。

本次備受爭議的DeepNude能讓使用者輕易製作假裸照，引發外界擔心。根據《商業內幕》報導，使用該程式免費版本所產生的照片，上面會附有浮水印，但網站也販售一種付費版本，只要50元美金購買，就能夠讓用戶去除浮水印，能在Windows 10、Linux等系統的裝置上使用。

I’m glad DeepNude is dead. As a person and as a father, I thought this was one of the most disgusting applications of AI. To the AI Community: You have superpowers, and what you build matters. Please use your powers on worthy projects that move the world forward.
— Andrew Ng (@AndrewYNg) 28 June 2019

科技濫用　「彷彿身體不再屬於自己」

DeepNude恐讓沒有特殊技術的一般人也能偽造色情內容來報復女性，引發倡議人士對該程式的強烈批評。反復仇式色情的倡議組織「Badass」創辦人兼執行長鮑德溫（Katelyn Bowden）就向媒體《Motherboard》表示，該軟體「極為可怕」，恐讓所有人都面臨成為復仇式色情受害者的威脅之下，「這項科技不應該讓公眾取得」。

《Motherboard》也引述美國馬里蘭大學法學院教授奇特隆（Danielle Citron）表示，這類科技是對「性隱私權的侵害」。奇特隆說，雖然科技生成的裸體圖象並非受害者真實的身體，但是「別人正在想著看到了妳的裸體...就像一名deepfake的受害者告過訴我—這讓她感覺到像是有成千上萬人看著她的裸體，彷彿身體不再屬於自己。」

The DeepNude app shows what deepfakes were always about: claiming ownership over women’s bodies. https://t.co/DUBt4VWBR4
— VICE (@VICE) 26 June 2019

但DeepNude的幕後開發者「Alberto」也有話要說。他向《Motherboard》表示，自己並不是偷窺狂，只是「科技狂熱者」。Alberto說，DeepNude是根據一個開放原始碼、用以從事影像對影像轉譯的演算法「pix2pix」而來。據報導，pix2pix幕後的電腦科學研究者則對於DeepNude使用自家研發成果的做法感到「相當擔心」。

協助創造pix2pix的麻省理工學院教授伊索拉（Phillip Isola）透過電郵向《商業內幕》表示，他們的成果已經幫助許多醫師、藝術家、製圖師與音樂家工作更順利，「作為科學社群，我們應該認真討論的是，如何在推展領域向前的同時，設置合理的預防措施，以更加確保可以我們可以受其正面用途帶來的好處，並減少濫用發生。」

面對爭議不斷，DeepNude曾一度表示因為流量太大，需要維護而下架程式，但會在「幾天之內」重新推出服務。不過根據官方的最新聲明指出，由於用戶濫用的風險太高，已決定今後不再重新上架，也不再同意用戶散布、使用該程式，「對DeepNude來說，這個世界還沒準備好。」

pic.twitter.com/8uJKBQTZ0o
— deepnudeapp (@deepnudeapp) 27 June 2019

DeepNude 人工智慧 AI

熱門新聞

（測試）【完整菜單】延長至五月底！添好運港式飲茶 100 分鐘點心吃到飽只要 699 元

（測試）【完整菜單】延長至五月底！添好運港式飲茶 100 分鐘點心吃到飽只要 699 元

美日俄三巨頭如何瓜分世界是我們該擔憂的事

廖偉棠專欄：《巴布·狄倫：搖滾詩人》──挑釁的傳主，不挑釁的傳記片

台日菲防禦監控情資共享之必要與迫切

為什麼川普不可能變獨裁

國防部修訂「志願士兵甄選條件」的省思

這樣的信徒不是在敬奉神明

【大師講堂】抗中或成川普和莫迪「兄弟情」的催化劑

從台灣到美國　政治文化才是民主良窳的關鍵

「藍白敵人論」無法讓罷免運動成功

濫用AI技術偽造女性裸照　打擊復仇式色情「DeepNude」在美遭下架

更易針對女性偽造色情內容

科技濫用　「彷彿身體不再屬於自己」

熱門關鍵字

回首頁

大S猝逝

最新

調查

評論

國際

焦點

軍事

流行

生活

遊戲

影音

專題

大師講堂

濫用AI技術偽造女性裸照 打擊復仇式色情「DeepNude」在美遭下架

更易針對女性偽造色情內容

科技濫用 「彷彿身體不再屬於自己」

熱門關鍵字

濫用AI技術偽造女性裸照　打擊復仇式色情「DeepNude」在美遭下架

科技濫用　「彷彿身體不再屬於自己」