[20180812] 當人工智慧開始學會作弊

When Bots Teach Themselves to Cheat

by Tom Simonite @Wired

人工智慧 (AI) 目前的階段只能夠完成設計者字面上要求他做的事情，並不能理解設計者要求背後的邏輯，這很容易造成人工智慧做出一些設計者意料之外的舉動，比方說在遊戲中作弊。

“Today’s algorithms do what you say, not what you meant,” says Catherine Olsson, a researcher at Google.

這些違規行爲通常簡單被當作程式錯誤 (bug) 修復，在發表的研究論文中鮮少被提及，但 DeepMind 的研究員 Victoria Krakovna 認爲這些 “失常” 行爲有必要被提出來研究，否則我們無法正確應對大規模使用人工智慧可能帶來的威脅：

“We don’t want to wait until these things start to appear in the real world,” says Victoria Krakovna, a research scientist at Alphabet’s DeepMind unit.

一些例子：

  • 四只腳的虛擬機器人被賦予任務 —— 原本的用意是讓機器人學會平衡背上的球，但是機器人學會了將球夾在關節上走路 (source)
  • 人工智慧學會利用遊戲 Elite Dangerous 的一個規則漏洞，研發新的 OP 武器碾壓對手 (source)

Photo Credit

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料。