原標題：真有一天，人類會成為自己發明的機器人的受害者嗎？

　　假設我們發明了一個可以用于控制氣候變化的強大人工智能系統，并且能將大氣中的二氧化碳水平恢復到工業革命前的水平。

　　該人工智能系統經過分析后認為，最容易的方式就是消滅人類，因為人類活動是產生二氧化碳的最主要來源。

　　當然人類可能會對機器人說，你做什么都可以但就是不能把人類全滅絕。人工智能系統然后可能會說服人類少生孩子，直到最后沒有人生孩子，人類慢慢滅絕為止。

　　這些風險都是人類在創造人工智能前并沒有想明白的。

　　從英國著名理論物理學家史蒂芬·霍金（Stephen Hawking)到特斯拉創始人伊隆·馬斯克（ Elon Musk）等世界頂尖人工智能（AI）專家，都曾表示過AI對人類生存的威脅。

　　加州大學伯克利分校（the University of California, Berkeley）的斯圖爾特羅素教授（Stuart Russell）是該領域的專家，他強調：我們應該擔憂的不是意識，而是它們的能力（competence）。

　　他在剛出版的《人類相容：人工智能與控制問題》（"Human Compatible: AI and the Problem of Control"）一書中指出，這種威脅并非來自機器人開始有了自我意識，并起來反抗人類主人，而是因為這些機器人能力變得超強，最后有可能是因為人類的疏忽，為機器人設置了錯誤的目標，讓他們無意中把我們都消滅了。

　　英國劍橋大學存在風險研究中心（ the Centre for the Study of Existential Risk, at Cambridge University）表示，當前大多數AI系統都是相對「狹窄」的應用程序，專門用于解決某一領域中的特定問題。

　　但1997年，超級電腦深藍（Deep Blue) 打敗了國際象棋世界衛冕冠軍加里卡斯帕羅夫（Garry Kasparov），成為人工智能史上里程碑。

　　然而，雖然深藍擊敗了世界象棋衛冕冠軍，但深藍卻可能連一場簡單的跳棋游戲都贏不了。因為深藍的設計者是專門讓它下象棋的。

　　但這才僅僅是開始，隨著人工智能的發展和進步，阿爾法圍棋的最新版AlphaGo Zero在經過短短3天跟自己練習之后，已經達到了超人水平。

　　AlphaGo Zero通過深度學習，已經不太需要太多的人工程序。它成為圍棋、國際象棋以及將棋（又稱日本將棋）的高手。