[20180812] 當人工智慧開始學會作弊

When Bots Teach Themselves to Cheat

by Tom Simonite @Wired

人工智慧 (AI) 目前的階段只能夠完成設計者字面上要求他做的事情,並不能理解設計者要求背後的邏輯,這很容易造成人工智慧做出一些設計者意料之外的舉動,比方說在遊戲中作弊。

“Today’s algorithms do what you say, not what you meant,” says Catherine Olsson, a researcher at Google.

這些違規行爲通常簡單被當作程式錯誤 (bug) 修復,在發表的研究論文中鮮少被提及,但 DeepMind 的研究員 Victoria Krakovna 認爲這些 “失常” 行爲有必要被提出來研究,否則我們無法正確應對大規模使用人工智慧可能帶來的威脅:

“We don’t want to wait until these things start to appear in the real world,” says Victoria Krakovna, a research scientist at Alphabet’s DeepMind unit.

一些例子:

  • 四只腳的虛擬機器人被賦予任務 —— 原本的用意是讓機器人學會平衡背上的球,但是機器人學會了將球夾在關節上走路 (source)
  • 人工智慧學會利用遊戲 Elite Dangerous 的一個規則漏洞,研發新的 OP 武器碾壓對手 (source)

Photo Credit

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料