本文作者Chris，原刊自INSIDE，天地人授權轉載。「硬塞的」科技網誌成立於2009年11月底，係由一群熱愛網路的人所成立的共筆部落格。我們閱讀、觀察、思考並分享。針對新媒體的過去、現在與未來，分享新知、討論個案、研討技術，竭誠歡迎您跟我們一起關心、討論與分享。
（Photo Credit：Buster Benson@flickr）
不得不提，自從 AlphaGo 圍棋下贏李世乭以後，人工智慧的熱度一下子就爆發開來，但有關「天網」或「駭客任務」般 AI 是否會反過來統治人類的討論，則出現了正反兩種截然不同的聲音。像是 Elon Musk、Bill Gates 都十分擔心真的會發生，但也有人從技術與意識的角度告訴大家不會發生（反而要擔心有心人士使用機器來破壞秩序）。
但不管會不會成真，有所防範總是好的。因此打敗李世乭的 Google DeepMind 與牛津大學合作發表了一篇論文，表示已經正在研擬對 AI 可隨時「安全中斷」的機制，以防止人工智慧或機器人的異常甚至有害行為。論文雖然還沒有明確解釋其運作原理，但表示已經創造了一個「框架」，允許現實中的人類「操作員」可以隨時反覆安全中斷 AI，又確保 AI 不能把「如何阻止中斷」的方法學習起來。
不過他們也承認，有些系統或演算法可能無法使用這套框架機制。
DeepMind 確實很清楚認知到他們所研發的人工智慧技術是有其危險性的，因此讓他們的母公司 Google 成立了 AI 倫理委員會監督其進展，但這個機構由誰來管理、怎麼運作，卻一直還是一團謎。肯塔基州路易斯維爾大學獨立研究者 Federico Pistono 和 Roman Yampolskiy 也認為，惡意的人工智慧系統很可能會在缺乏監督、使用閉源代碼等極為封閉的環境所創造出來的，所以要防治惡意的人工智慧，另一個根本之道可能還是確保一切發展都處在公眾的視野之中。
INSIDE
「硬塞的」科技網誌成立於 2009年11月底，係由一群熱愛網路的人所成立的共筆部落格。
＞ ＞ ＞延伸閱讀：為何在KKBOX看不到廣告？織田紀香：不看點擊、不做導購的廣告策略改革
＞ ＞ ＞延伸閱讀：4模式累積用戶、4型態廣告獲利，全球第三大APP開發商的事業拓展關鍵
＞ ＞ ＞延伸閱讀：AR／VR重新洗牌產業規則？不可不知最新數位技術4大趨勢
