跳到主要內容
網站顏色切換 深色模式
進階搜尋
關閉搜尋
:::

商周三月專欄訪談唐鳳部長逐字稿

  •  問
    謝謝部長,我們就開始進行。我先照這個訪綱詢問,因為當初接收到的一些訊息是有關部長您大力推動這個 AI 評測中心。
  •  唐鳳
    唐鳳
    我們剛剛講的是投資詐騙,以及主動去掃描內容。這個部分也是我們資安院在做,但不是資安院裡 AI 評測中心的那群人做,反而是智慧防詐的同仁。其實這些主動掃描的工具,確實我們有開發、也有在用,但它沒有用在 AI 評測中心裡,因為 AI 評測中心主要在處理的是生成式 AI,就是像 GPT 這種東西。但是我們這種掃描名人詐騙的AI,是 discriminatory AI,就是類似「監督式學習 AI」,它並不是 AI 評測中心的範圍。
  •  唐鳳
    唐鳳
    我們如果真的要談詐騙的話,就不能以 AI 評測這塊去談。這個概念很簡單,因為詐騙犯不會把他們的模型交給我們評測,只有合法的行業才會送模型來評測。總不會有人說我想要取得數位部發的合法詐騙執照,沒有這種東西。跟一般說我們要用來做醫療診斷,或者要用來做法律服務,需要獲得我們的一個評測報告,才能說服他的客戶,但是一個詐騙集團不需要看我們的評測報告,那個情況完全不一樣。
  •  問
    了解。我也好奇剛才您這樣解說過程中,有沒有那種單位假冒說他自己是正當的部門,然後也來做 AI 評測,會不會有發生類似這樣的情況?
  •  唐鳳
    唐鳳
    我覺得還好,因為我們評測的這個報告,其實重點是在幫助受評的單位怎麼樣變得更好,它目前還不是一個像食藥署的那種認證單位,你剛講的比較是要發售之前,要先取得一個證號,所以在網路上登一個藥品廣告時,你要先取得食藥署的證號,所以仿冒食藥署的證號,就會有市場。但是我們現在 AI 模型並不是一個特許事業,我們的評測只是讓它可以變成更好的一個報告,但是並沒有說你沒拿到這個認證就不能上市了,目前沒有這樣子,可能到明年也不會這樣,因此我們這個月可能不容易寫這個部分。
  •  問
    了解。我們直接跳到我的這個訪綱,您剛有提到詐騙集團在使用生成式 AI 去做犯罪,您跟您的同仁觀察下來,哪一種類型最多,然後相關單位目前的因應方式是什麼?
  •  唐鳳
    唐鳳
    我想目前就是投資理財相關的詐騙,尤其是透過線上的廣告平台。這個目前非常猖獗,不管是 YouTube 或者 Facebook ,大家可能都會看過某某名人帶你來存股、帶你去了解投資等廣告,現在在 YouTube,你可以看到已經有揭露刊登者的名字,但他的名字就會跟名人的名字剛好差一個字,但是音一樣。
  •  唐鳳
    唐鳳
    現在在 YouTube 上一定要揭露他的名字,但目前的審核看起來並不是非常嚴謹,以至於一直會有跟名人差一個字的狀況,然後檢舉下架後又重新上架。目前已經通過《投信投顧法》修正案說,如果有被害人——而且這個被害人是看了平台上面的廣告受騙——這個平台廣告即便已經被我們通知,但 24 小時之後都沒有下架,在這些條件都完成的情況下,他被騙多少、這個平台就要賠多少,等於是一個連帶的責任,目前是已經有這樣一個連帶責任的法案在作用中。
  •  問
    比較多這樣的情況,只是民眾實際上有沒有碰到。現在使用者就是消費者,也就是一般大眾,發生這件事情後,他可能去通報 165。整個流程是什麼?也就是比如民眾發現他自己被詐騙了,然後可能去通報 165,再接下來是的整串流程會是怎麼樣?
  •  唐鳳
    唐鳳
    我覺得這樣分成兩個不同的方向來談,你在講的比較是已經有犯罪者的情況,他當然是去 165 報案,這部分完全是由警察處理,但因為我們並不是警察、也不是檢察官,我們並沒有調查犯罪的權限。但是,我剛剛在講的是還沒有被害人的,就是他還沒有被騙,他只是看到有一個廣告掛在網路平台上,他進行檢舉後,檢舉平台會不會理他呢?這部分就是我們可以幫忙的,也就是還沒有被害人,但他發現有人被冒用了、或者他就是個名人、或他認識這個名人等等,這個情況就比較像是檢舉的情況,而不是報案的情況。
  •  問
    OK。可是檢舉的話,像這些名人覺得他自己被冒用了,他會怎麼樣去跟警方講?
  •  唐鳳
    唐鳳
    165有一個專門做檢舉、而不是報案的網站,所以包含 Facebook、Google 關鍵字廣告、Google 廣告聯播網跟 YouTube,只要有人從這邊開始檢舉,刑事局就開始算 24 小時,需要在這 24 小時之內,這個平台就要來判斷,然後把它下架。如果是平台,不會有罰款,但如果有人被騙的話,平台就要負連帶責任。
  •  問
    我剛才突然想到一個情況,比如像在 YouTube 上面,我可能常常會看到比如哪個名人,然後他可能他的聲音⋯⋯畫面可能就是這個人,畫面下面可能會有一些字幕,字幕可能就是一些詐騙的文字,要大家去跟這個平台聯繫,這是不是目前比較常見詐騙集團利用的手法?
  •  唐鳳
    唐鳳
    對,確實因為 YouTube底下可以放廣告的版位,所以事實上是結合這個廣告的推播。你看的是一個正常的影片,但底下可能就推播一個橫式的廣告,你如果把它往上滑的話,可能就會引導你去加入一個 LINE 群組,然後開始跟你互動,確實這現在是很常見的一個樣態。
  •  問
    既然這麼常見的話,數發部在這一塊有做哪些努力嗎?因為這應該不是最近才有,可能他有一段時間了,數發部在這一塊做了哪些?您可以跟我們說一下嗎?
  •  唐鳳
    唐鳳
    我們現在有「防詐雷達」,大概從去年 9 月就已經開始開發。我們從一開始的時候就去看廣告商品,是不是直接抄別的商品?這個情況很容易知道是否是詐騙,因為正牌的已有一個知名品牌、賣什麼東西,但如果在一個別的電商平台,或甚至同一個名不見經傳的某個小商家,但是他 PO 出來的那個商品照片完全跟這個有名的一模一樣,而這個有名的賣家已經賣很久了,這個完全是新的,這就不太可能是副品牌,感覺上就是假的。所以這種情況我們會主動找出來,然後也會整理成風險清單,給電商平台去做預防性下架。我們去年 9 月就大概已經掃了 42 萬次,然後有 1.7 萬筆高風險的這個商品,這是電商的部分。
  •  唐鳳
    唐鳳
    接下來,我們就把這個技術放到廣告,也就是偽冒名人的這個風險。這大概是今年 1 月才開始的,不到兩個月的時間,也已經掃了 3 萬筆的可疑廣告,我們就透過跨機關的聯防,提供給像 YouTube 或者是 Facebook 這些平台,並且說我們有蒐集到。但可能會可能有個疑問點,就是感覺詐騙的案件一直在往上攀升,特別投資詐騙⋯⋯
  •  問
    對,投資詐騙。然後我的問題會是,部長剛才講的這個情況,會不會是因為母體多,所以數量就會增加?
  •  唐鳳
    唐鳳
    我覺得不能這樣講,像我們自己主管的部分就是偽冒電商的解除分期付款詐騙,這部分已經大幅下降,而點數詐騙也大幅下降。這些部分之所以大幅下降,並不是因為詐騙集團的母體變少,而是每一次要犯案的單位成本增加了。一年半以前好比像我們剛成立的時候,其實整天⋯⋯就不講特定哪個電商了,也就是在這些大的電商買書、買東西,幾乎一買你就會接到一堆簡訊,說需要解除分期付款之類,表示他們的物流或者下游的業者,有洩漏個資的情況。
  •  唐鳳
    唐鳳
    這部分我們把它整個肅清,也就是變成你的手機號碼根本不提供給物流,這之後基本上到現在這種解除分期付款詐騙,已經消失了,最近五個月都沒有到高風險賣場。所以,我覺得大概不能講母體的大小,而是在講再犯的成本有多高。
  •  唐鳳
    唐鳳
    我剛剛講到的投資詐騙就是這樣,我們現在做的這些「智慧防詐雷達」,確實都是在比較後面的,並沒有墊高他的成本,最多就是下架而已。但是我們透過數位簽章,真的可以墊高他的成本,他等於一個被下架之後,要再找另外一個自然人,且願意負法律責任的人頭,他才能夠再上架一次。但他不可能找到那麼多自然人去幫他頂罪,所以這個情況下,他只要被下架一次,再上架就變得非常困難。我們希望這個會期立法院就可以三讀通過,這樣我們就可以來做這方面的防範,尤其針對投資廣告上架前,必須要用數位簽章的這個做法。
  •  問
    了解。剛才部長提到這個我突然想到,因為之前有在做詐騙的報導,我大略有看過,就是有一些詐騙集團會去找遊民、街友。
  •  唐鳳
    唐鳳
    對,人頭。所以對詐騙集團來說,這個成本的部分可能搞不好不是很高。但是以前你一個人頭可以申請十幾、二十個 Gmail 帳號,而且可以用好幾次。
  •  唐鳳
    唐鳳
    但是,現在如果有數位簽章,這個人頭還真的得去戶政事務所辦自然人憑證,就算他辦了,他只要被發現一次,我們可以一起下架所有平台,而且下架之後這個人至少有一陣子就不能再用了。所以這個時候等於一次用完之後就沒有了,不像之前那樣子,換個 Gmail 帳號,再發一個電話號碼給他,因為以前都是查電話號碼,一個人可以申請好多支門號,所以至少那幾支門號可以輪流用,但現在因為數位簽章是綁到特定人,所以這個情況下,該帳號就沒有辦法再繼續使用。
  •  問
    部長提到數位簽章的部分,現在還要等三讀,之前為什麼沒有先這樣?為什麼不是在先前就有三讀?
  •  唐鳳
    唐鳳
    本部一成立,我就指示他們來做《電子簽章法》修法,我們也才成立一年半,一般法規的作業期程都是這樣的,因為這裡面還有各部會都要配合的部分。所以我們也有協調,像行動自然人憑證,一般商家本來是不能夠使用的,只有一些特許的像電信、醫療也可以用,這我們也去協調內政部,他們現在也都開放。所以像 Facebook 或 Google 或什麼,如果要接的話,也可以接得起來。
  •  唐鳳
    唐鳳
    回答你的問題,一方面法制作業要各部會都同意,甚至司法院也要經過討論,所以本來就是要大概一年左右的時間,這是第一個。第二個,因為有一些技術的配套也要跟上,這個部分我們是完全沒有 delay,都有跟上。所以,我才跟立委說只要三讀通過,剩下的事情我們大概都可以 ready。
  •  問
    部長,你可不可以再詳細說一下,你剛說的那些技術上配套的部分?
  •  唐鳳
    唐鳳
    好,沒問題。
  •  唐鳳
    唐鳳
    所以簡單來講就是說,首先內政部就是發自然人憑證或行動自然人憑證的這個單位,他必須要提供程式的 API,就像是程式的插座一樣,給 Facebook 或者是 YouTube 或者是 LINE。當然也不一定只是給這些廣告平台,我們剛講到的電商,有些電商他是叫做 C to C 的電商,就是他的賣家也不是公司或者是行號,賣家也是個人身分,這時也同樣存在一個個人,可以冒充成好幾個賣家的這個問題。
  •  唐鳳
    唐鳳
    所以,我們也同時會請內政部看能不能提供給這些 C to C 的賣場,像新的賣家上線的時候,也可以用數位簽章來確定他的身份。所以,內政部提供這個 API、驗證數位簽章的方法,我們剛講到的廣告跟電商平台都可以使用,這是第一件事。
  •  唐鳳
    唐鳳
    第二件事情,內政部警政署現在有《投信投顧法》70 條之一的報案辦法,這個辦法的重點是,如果 24 小時不下架就要負連帶責任。我們現在想要跟他們討論說,只要你不做數位簽章,你連 24 小時下架都沒有這個餘裕,要很短、很短的時間內就要下架,不然就要負連帶責任。有數位簽章的,才給你 24 小時的時間去進行這方面下架的工作。在法規命令上,變成給這些平台一個誘因說,你一定要用數位簽章,不然負連帶責任的機率就變得非常高,這是第二件事。
  •  唐鳳
    唐鳳
    第三件事,我們在技術上面必須要有一個聯防的平台,有任何一個下架之後,同一個數位簽章、同一個人簽的,在別的平台也就一起下架,這樣詐騙集團才不能下架一個後,卻跑去另外一個平台上架。
  •  唐鳳
    唐鳳
    以上這三個都做到了,差不多就可以了。我也貼一個連結給您,這是我們之前記者會專門講的事情。
  •  問
    謝謝,看到了。我先把我本來就想問的問題問好:剛才在講到評測中心,在監管詐騙上面比較沒有那麼直接的相關,所以是在處理 AI 監管這一塊嗎?
  •  唐鳳
    唐鳳
    我覺得應該這樣講,就是說 AI 讓這一類冒充成別人的犯罪成本下降到幾乎於零的程度。以前你需要很擅長騙人的人,才能夠一次冒充成好幾個人,需要這種特殊的才能,但是現在有了 AI 之後,這些都不需要了。
  •  唐鳳
    唐鳳
    只要特別是公眾人物,下載他講話的方法及一些公開的發言,任何人都可以瞬間偽冒,因為中間已經不需要特別訓練誰了,所以只要成本下降到這個程度,就很難只靠檢警調調查、再去起訴等等,因為他成本低到這個程度,只要有錢賺,只要有個車手或者是人頭,就可以偽冒成一百個人。
  •  唐鳳
    唐鳳
    所以要把 AI 的危害在這方面解決,唯一的方式就是增加源頭的成本,而且這個很難說是對 AI 本身的監管,這比較像是對濫用 AI 的監管。
  •  問
    好。我想要先問一下,應該不是比較人為的,你本人有遇過生成式 AI 的詐騙嗎?
  •  唐鳳
    唐鳳
    我自己也有拍過相關影片,我把自己 deepfake 起來的影片。當時在行政科技會報辦公室,我們那時看到有 deepfake 這件事情,而且知道之後很快就會普及了,所以我請人deepfake 我。在這個情況下,我們可以看到一個結果:真的看過這部片的人,他就比較不會變成那麼容易被騙了。
  •  唐鳳
    唐鳳
    它等於是好像打預防針的狀況,這叫做 pre-bunking(預先澄清)。有了預先澄清的情況,看到的人之後那個抗體濃度就會比較高,比較不會受騙。
  •  唐鳳
    唐鳳
    這個影片網址在這邊,你如果點開的話,會看到一個看起來就不太像我的人,但是也有一點點像,用我的語調來跟大家解釋 deepfake 是怎麼一回事。最後,真的我冒出來,說這個是 deepfake 做的。然而,現在任何人用筆電、花 12 小時,就可以很容易合成這樣的影片。
  •  唐鳳
    唐鳳
    這是 2022 年 1 月的影片,從那時到現在,當然 deepfake 更加難以被偵測出來。我的意思是說,與其是我被騙,不如是我讓大家先經驗一次,什麼是 deepfake 的情況,這樣大家在腦裡就會知道眼見不再為憑這樣。
  •  問
    所以部長你自己沒有被這樣子的東西掃到過嗎?
  •  唐鳳
    唐鳳
    我們當然跟任何人一樣,我有時候看 YouTube 或者我看 Facebook ,有時還是多少會看到一些冒充名人的廣告。但自從我們這兩個月開始做主動式的掃描、智慧防詐之後,我自己碰到機率是越來越少,但是當然有時我同事都會給我看賣藥的廣告又來了,或是存股的廣告又來了等等,當然就是大家日常生活中會碰到。
  •  唐鳳
    唐鳳
    但我們覺得廣告業當然不應該一方面賺錢,然後一方面又助長犯罪。所以,這些廣告平台目前都願意至少做一些基本的投資,去確保資訊的完整性,他們也不想被當成在上面看到廣告都是詐騙的平台。
  •  唐鳳
    唐鳳
    裡面有一個特別高風險的,就像我們剛剛講的,一個付費廣告最後不是要你去看什麼頻道,也不是要立刻買什麼東西,而是跑到一個 LINE 個人帳號,準備開始跟你一對一聊天,這就是高風險,因為很少想像商家會做這種事情,而且大部分商家都是把你導到電商平台,導到接下來要賣的東西上。因此,若一定要跟你一對一私聊——而且是用一種名人的身份跟你一對一私聊——這就非常可疑,因為大部分並沒有那麼大的空間與時間跟成千上萬個看到廣告的人一對一私聊,這幾乎就可以斷定大概是與 AI 機器人對話。
  •  問
    我現在又冒出另外一個問題,有關像這些詐騙集團如何得知這些技術是從哪裡冒出、從哪裡得來的,然後他會需要花多少的成本去建構這些東西?
  •  唐鳳
    唐鳳
    這些技術都不是什麼特別稀有的技術。我們剛剛講到那個對話機器人,或者是 deepfake 的那支影片,這些都是用公開可得的技術,在一台筆電就跑得起來了。又或者像說我整天在這邊訓練幫我回 email 的模型,差別只是我看過再送出去,那些要偽冒我的,大概都就直接使用了。
  •  唐鳳
    唐鳳
    所以我的意思是說成本上,現在只需要一台比較高檔的筆電或是雲端跑即可,而程式碼基本上都是可以免費取得的。資料方面,如果你要偽冒公眾人物,資料事實上是非常、非常容易取得,你只要看我的訪問或者我的相關新聞,就可以產出了。所以這些都不是門檻,也很難說他的技術從哪邊提供的,因為這是任何一般小孩子現在都可以用的。
  •  問
    以往如果回到比較不那麼高科技的方式,好比用 AI 犯罪,可能要取得一般大眾的電話,才可以做這樣的事情。現在是不是就是進入到下一個階段,他只是取得這個畫面,就可以騙到這些對象,所以他要怎麼去找?
  •  唐鳳
    唐鳳
    以前電話你還要一通一通打。
  •  問
    對。
  •  唐鳳
    唐鳳
    因為現在詐騙綁在廣告平台上,等於平台是一個擴大器,只要花錢,就可以精準投放,甚至可以專門挑某些特定年齡層或某些特定興趣,如此比較容易被騙那些人去做精準投放,這樣的效率就比隨機的打電話要高很多。所以,可以說精準投放廣告的這些技術,也是幫助那些想要鎖定特定會容易被騙的人群做詐騙,反正更容易達到他們的這個目的。
  •  問
    不曉得數發部有沒有調查現在這個生成式 AI 的犯罪,最容易騙到的年齡層為何?
  •  唐鳳
    唐鳳
    已經到有被害人的,你就要去問警政署。還沒被害人的,我們這邊會直接跟那個民眾接觸嗎?我們比較會做的是分析部分,比較像是哪些名人正在被偽冒,這個我們就很清楚,或者這個投資類型是可疑的一頁式網站,最後會被導引到那些網頁,特別是跨境一頁式的詐騙,我們成立之前大概一年下架3,000件,成立之後去年整年就3萬多件,等於每天都100件上下。
  •  唐鳳
    唐鳳
    以前的詐騙網址後面不是「.tw」的,所以這是以前沒有辦法管的原因,但從去年開始,我們整年下來,你只要點下去那個網址,就會看到 165 的警示訊息,等於我們現在已經可以把這種一頁式連到外面的網站,差不多都會封鎖住,這就是為什麼現在大概都是跑去 LINE詐騙,因為以前這種一頁式網站詐騙的這條路,已經走不太通了。
  •  問
    在 LINE 的部分呢?數發部這邊有可能去做⋯⋯
  •  唐鳳
    唐鳳
    如果廣告連到 LINE,在有人看到以前,我們每天會掃描1萬筆,因此大概都已經先被掃瞄到。掃描到之後,我們就會提供這個高風險的情資,因此當然詐騙的廣告可以減少。但現在是我們通知之後才下架,未來就可以:如果沒有數位簽章的,我們一通知,平台就要馬上做出判斷,等於有數位簽章的,才等平台 24 小時時間。
  •  問
    我覺得聽起來蠻有趣的,對我來講,比之前的採訪有更多的理解。另外,我比較想知道解決方案,就是剛剛部長分享的都是解決方法。
  •  問
    如果我們再拉高更高層次來看,是不是還可以創造什麼效益?
  •  唐鳳
    唐鳳
    對,這是一件事情,最近推特上有人說,連黃牛票的問題可以一起解決,尤其是線上搶票的那種平台,因為臺灣比較流行先搶先贏,比較不流行先登記後抽票。
  •  唐鳳
    唐鳳
    先搶先贏的問題就是:只要手上有那麼多人的個資,就可以一次用一百多人的個資搶,而且只要寫個程式,怎麼樣都搶不過這個人,但如果現在用數位簽章,而不是只是需要個資,還要有自然人憑證,因此除非那一百多個人都把自然人憑證交給你,但這是比較難做到的事情。
  •  唐鳳
    唐鳳
    而且可以達到真正的實名制,就是你真的只能幫自己買票,或是幫願意相信你把自然人憑證交給你的人來買票,因此就沒有那麼容易一個人幫幾千個人買票,黃牛票的問題就可以獲得逐步解決。
  •  問
    其實我覺得對於臺灣的民眾來說,這個題目現在越吵越烈,當然是跟立院有關係。我覺得還有另外一個可能性是,臺灣其實很講究 quick win,就是在短期內,一定要看到某些場面。
  •  唐鳳
    唐鳳
    對,就是劍及履及。
  •  問
    我們是不是可以先讓這專欄裡,讓大家知道短期內做的,像是前面剛剛部長講到去年有做的事情。
  •  唐鳳
    唐鳳
    畢竟我們才成立一年半。
  •  問
    三年內我們可以想像,就是在打詐上⋯⋯
  •  唐鳳
    唐鳳
    對,大家都很喜歡這種 quick win。
  •  問
    可是打詐或是數位發展的立基,可能不會是一個月、半年、一年內就會看到的成績。我們可以給大家一個展望嗎?
  •  唐鳳
    唐鳳
    我覺得可以。因為我們現在這種高風險網路廣告掃描、即時下架的這套聯防,其實真的已經做出來了。
  •  唐鳳
    唐鳳
    所以我覺得最主要的 quick win,只要數位簽章取得法律效力、只要《電簽法》三讀通過,我們就可以說只要被我們掃描到的,他的再犯率一定就會降到非常低,不那麼容易再犯了,這是很明確、一定可以講的部分。
  •  問
    OK,好,了解。第二個我想要再追問的事情是,其實過去我做金融防詐有關的題目時都聽說我們現在只能跟「詐騙共存」,請問這是所有人都應該要有的心理準備嗎?
  •  唐鳳
    唐鳳
    應該這樣講:如果有人願意承受全部的後果來詐騙,那他也不需要用什麼科技工具,他當面都可以詐騙了,對不對?這個當然還是有。但是,我們要確保像 AI 這樣的技術,不要放大他一個人能夠詐騙的人數,這才是重點。
  •  唐鳳
    唐鳳
    現在人跟人之間,好比感情詐騙,對方很難一次騙非常大量的人,而且他必須要投入一定的時間,所以雙方投入的時間成本是對稱的;為什麼現在投資詐騙這麼猖獗?就是因為是不對稱的時間成本。
  •  唐鳳
    唐鳳
    現在透過偽冒名人,然後引導到 LINE,你看受騙的人是用他實際的時間跟對方聊天,但對話機器人是一次跟幾萬個人聊天,等於他可以用極少的投入,換到一次騙幾萬人,因此這是不能接受的。
  •  唐鳳
    唐鳳
    你剛說的「共存」,如果最後回到就是要用數位簽章,被抓到的人一定就是抓到這個犯罪者;若他用一對一的方式來騙,這個確實你很難完全消滅掉,因為總是會有人想騙人,但至少他不要一次騙一萬人。
  •  問
    所以我們就是現在 AI 可以作為大幅度大範圍詐騙的工具,我們同時也可以用 AI 來把他們的詐騙漏斗縮小?
  •  唐鳳
    唐鳳
    對,沒錯,就是主動掃描,然後透過像數位簽章這樣的方法,讓一個人他不能再冒充幾萬人,簡單講就是這樣。
  •  問
    我想一個很重要的是描述,很像《星際大戰》裡面的光劍,就是我拿的原力什麼光明面、AI 面什麼的,自動化辦案⋯⋯
  •  唐鳳
    唐鳳
    如果用來回應民眾檢舉等等,準確性只要低於 90 幾 %,立刻你就造成新的民怨;但是如果詐騙的這個人用生成式 AI 冒充唐鳳,他講了幾句平常不會講的話,那又如何呢?就是對詐騙者完全沒有後果。所以,生成式 AI目前還沒有解決準確性問題,也就是生成式 AI還不是一個百分之百準確的技術,所以生成式 AI目前對攻擊方比較好用,對防守方比較難用。
  •  問
    未來這個態勢會轉換嗎?
  •  唐鳳
    唐鳳
    當然我們如果要提到評測中心,我們可以說希望在評測中心的鼓勵之下,很快就會到達一個準確性完美無瑕的這個狀況,或至少 90 幾 % 的狀況,如此我們用它來流線化辦案,讓它自動分析,這就變得越來越好等等。
  •  問
    其實我最後想要問的問題是,因為我在想的是這個故事,不能說這個是故事,但這就是民眾心中的問題,我們要用最簡單、易懂,且最有張力的方式來形容,也就是AI 能載舟也能覆舟的感覺,所以我剛才會講它是不是跟原力一樣,也就是我在想用什麼方式來形容它。
  •  問
    現在感覺是兩方陣營都拿著一樣的工具,但是一方使用是攻擊,另外一方是防守,但現在防守使用上比較弱勢。有沒有什麼樣的形容,可以比較具體的講這件事?
  •  唐鳳
    唐鳳
    我自己常常用的比喻,比較像 AI shapeshifter,讓它變成變形人、變身人,就是讓一個人變形、變身得非常容易,它可以很容易地去冒充另外一個人等等。這種技術當然有好的用法,好比像用在拍電影上,就比較不需要找替身了,或用在畫插畫上,或用在讓已過世的歌手又可以出來發唱片等等,生成式 AI有一些好的用法,但是它大部分的用法真的是對壞人比較有利的。
  •  唐鳳
    唐鳳
    所以我倒不會把它講成水能載舟、亦能覆舟,或者是端看你怎麼使用。我們在講的是這套方式,詐騙者就是利用我們在社會信任上面的一些漏洞進行詐騙,因為我們通常看到人,是眼見為憑,所以我們會覺得隔著網路,只要聽到聲音或者看到視訊,就會相信對方是一個人,除非對方開始露出破綻、露出馬腳,比如像臉轉過去突然出現縫線之類的畫面;但現在 AI 已經發展到轉過去不會出現縫線了。
  •  唐鳳
    唐鳳
    很多這種我們覺得眼見為憑,我們相信對方是一個人的這些判斷,其實已經失準了。所以,我們現在才要退到用數位簽章來判斷,因為看它寫的內容、看它講話的語氣,這些都已經不再能判斷了;所以確實是有一種好像是某個險要守不住,所以我們就撤退到這個後面的一線碉堡上的感覺。
  •  唐鳳
    唐鳳
    所以不是水能載舟、亦能覆舟,我們本來還在戰場上在那邊運用 AI,因為那樣子比較像:我們是不是發明 AI 來偵測看起來像偽造的 AI,也就是「用 AI 來偵測 AI」,但是事實上目前的研究都顯示,尤其在對話這種文字的形式裡,就是非常容易偽造,而幾乎不可能偵測,所以我盡量不這樣描述。
  •  問
    了解,不好意思,我再問最後一題。剛才有提到我們現在只能整理出哪一些人很容易被偽造,可以幫我們舉幾個特徵或例子嗎?就是什麼樣的人,比方說可能是在社會上特別具有公信力等等,可以整理出這樣的特點,讓我們知道誰較容易被偽冒嗎?
  •  唐鳳
    唐鳳
    我不確定我能講到多少,因為講了、報導了,對方就會調整攻勢,確實是有一些特徵沒錯,但我不確定現在能不能說,因為講了他們就改變做法。
  •  問
    了解,OK 好,謝謝。
  •  唐鳳
    唐鳳
    沒問題,OK,那就這樣子。
返回頁面頂端