[20180712] 假 AI 公司

The rise of ‘pseudo-AI’: how tech firms quietly use humans to do bots’ work

by Olivia Solon @Guardian

一些 “AI 公司” 發現與其花大錢研發真正的 AI 系統和商業模式,外包工作給廉價人力要便宜的多。但這其中牽涉到很多對消費者和投資人的誠信問題,這篇文章揭露了不少這種接近惡意欺騙的行爲,並且討論了其中牽涉到的隱私風險。雖然媒體不斷吹噓各種 AI 的進步,以現在的科技,建立一個能夠模仿人類的機器還是經常比聘用人類來模仿機器難很多而且貴很多:

It’s hard to build a service powered by artificial intelligence. So hard, in fact, that some startups have worked out it’s cheaper and easier to get humans to behave like robots than it is to get machines to behave like humans.

從 2008 年開始就有一家提供自動轉換語音信箱成爲簡訊的公司被揭發使用了人類從事實際的轉換工作,2016 年有一些行事歷排程服務使用人類假裝機器人和客戶對話,2017 年一家公司承認使用部分”自動掃描和轉換成文字”的收據背後其實是人類的功勞。就連在 AI 上投入巨大資源的 Facebook 也在他們的虛擬助理產品背後使用了大量的人力

很多公司就這樣推出一個其實背後還是使用人力的 “AI 產品”,以騙取投資人的資金,其實就是赤裸裸的欺詐。

對於一般消費者來說,一個假的 AI 產品不一定直接騙到你的錢,但隱私的泄漏可能更嚴重。華爾街日報最近一篇報導揭露了 Gmail 其實開放了你的個人郵件給上百家第三方公司閱讀,其中一家公司就被發現使用了人力閱讀部分郵件以改進他們的智能回復系統,和隱私政策內宣稱的 “只有機器會閱讀你的郵件” 不同。

如果是更私密的服務,如心理治療聊天機器人,這個風險更應該被強調。當使用者認爲他說的話只有機器人能看到時,一般會更願意透漏更深層的隱私。如果這些隱私泄漏出去,除了可能對受害者造成心理創傷之外,還有可能被有心人士利用作爲威脅的手段,其後果非常嚴重。

Photo Credit

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料