[20181031] 不能指望人工智慧能消滅假新聞

No, A.I. Won’t Solve the Fake News Problem

By Gary Marcus and Ernest Davis @NYT Opinion

紐約大學心理學教授 Gary Marcus 和電腦科學教授 Ernest Davis 撰文駁斥臉書創辦人 Mark Zuckerberg 對國會 “馬上就會研發出消滅假新聞的人工智慧 (AI)” 的承諾,認爲這個目標不切實際,現在的技術還無法做到對新聞內所宣稱的因果關係進行評估、也無法理解各方面對同一件事情看到的不同角度,人類對於如何作出這樣的系統還沒有頭緒,根本不可能列出具體時間表。

目前的技術水平離能夠正確分辨新聞真假還有很遠的路:

Decades from now, it may be possible to automate the detection of fake news. But doing so would require a number of major advances in A.I., taking us far beyond what has so far been invented.

目前機器學習的技術還是基於統計分析,比方說在之前很長一段時間 Brad Pitt 和 Angelina Jolie 離婚的假新聞不斷在流傳,所以訓練出來的模型會判斷只要 “Brad”、”Angelina”、”Divorce” 三個單詞同時出現,該新聞是假新聞的機率就會高很多。 然而,當他們兩人最後真的離婚的時候,這個模型很可能還是會將其歸類爲假新聞。

作者還舉了一個例子,極右派網站 WNT 對於男童子軍組織的誤導性新聞,該新聞提到了兩個事實,男童子軍組織的確開始接受女性和同性戀參加,也的確在聚會上提供了保險套,但兩者之間並不像該新聞說的有因果關係,事實上,提供保險套的決定遠早在接受女性和同性戀之前。目前的機器學習技術還無法偵測這種錯誤的因果關係。(編按:就算提供保險套的時間在接受女性和同性戀之後,文章也沒有足夠的證據表明兩者之間有因果關係)

“The Boy Scouts have decided to accept people who identify as gay and lesbian among their ranks. And girls are welcome now, too, into the iconic organization, which has renamed itself Scouts BSA. So what’s next? A mandate that condoms be made available to ‘all participants’ of its global gathering.”

就連臉書自己的研究者都承認分辨新聞真假目前還是只有人類能做到:

As Eduardo Ariño de la Rubia, a data scientist at Facebook, told us, for now “A.I. cannot fundamentally tell what’s true or false — this is a skill much better suited to humans.”

(編按:事實上現在許多人類都無法判斷假新聞,不然我們就不會有這個問題要解決了。分辨假新聞需要大量的認知能力和精力投入。)

Photo Credit

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料