Menu
Only Human After All
  • (外鏈)看什麼電影?
  • (外鏈)其實新聞
  • About
Only Human After All

[20180812] 當人工智慧開始學會作弊

Posted on 2018-08-122018-08-12 by thisshrine

When Bots Teach Themselves to Cheat

by Tom Simonite @Wired

人工智慧 (AI) 目前的階段只能夠完成設計者字面上要求他做的事情,並不能理解設計者要求背後的邏輯,這很容易造成人工智慧做出一些設計者意料之外的舉動,比方說在遊戲中作弊。

“Today’s algorithms do what you say, not what you meant,” says Catherine Olsson, a researcher at Google.

這些違規行爲通常簡單被當作程式錯誤 (bug) 修復,在發表的研究論文中鮮少被提及,但 DeepMind 的研究員 Victoria Krakovna 認爲這些 “失常” 行爲有必要被提出來研究,否則我們無法正確應對大規模使用人工智慧可能帶來的威脅:

“We don’t want to wait until these things start to appear in the real world,” says Victoria Krakovna, a research scientist at Alphabet’s DeepMind unit.

New resource: a master list of examples of AI systems gaming their objective specification:https://t.co/No73R9GYdO
Accompanying blog post:https://t.co/HE7ESXRkuw
Thanks @gwern and @catherineols for the inspiration and feedback on putting this together!

— Victoria Krakovna (@vkrakovna) April 2, 2018

一些例子:

  • 四只腳的虛擬機器人被賦予任務 —— 原本的用意是讓機器人學會平衡背上的球,但是機器人學會了將球夾在關節上走路 (source)
  • 人工智慧學會利用遊戲 Elite Dangerous 的一個規則漏洞,研發新的 OP 武器碾壓對手 (source)

Photo Credit

  • ethics
  • tech
  • 發表迴響 取消回覆

    你的電子郵件位址並不會被公開。 必要欄位標記為 *

    這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料。

    About | 關於本網站

    一個科技工作者的閱讀筆記。

    標籤雲

    book (5) demography (1) economics (19) entrepreneurship (16) ethics (30) free speech (4) friendship (1) game (3) gender (2) history (1) leadership (3) media (2) personal development (17) politics (49) productivity (4) psychology (22) public health (4) society (60) start-up (2) tech (40) u.s. (1)

    往期文章

    • 2019 年 一月
    • 2018 年 十二月
    • 2018 年 十一月
    • 2018 年 十月
    • 2018 年 九月
    • 2018 年 八月
    • 2018 年 七月
    • 2018 年 六月
    • 2018 年 五月
    • 2018 年 四月
    ©2019 Only Human After All | WordPress Theme by Superb Themes