16.6 C
Taipei
星期一, 20 9 月, 2021

【跨x特刊】AI 反過來統治人類?「安全中斷」機制,防範「天網」情節上演|TDRwatch

Must Read

本文作者Chris,原刊自INSIDE,天地人授權轉載。「硬塞的」科技網誌成立於2009年11月底,係由一群熱愛網路的人所成立的共筆部落格。我們閱讀、觀察、思考並分享。針對新媒體的過去、現在與未來,分享新知、討論個案、研討技術,竭誠歡迎您跟我們一起關心、討論與分享。

25717574115_a13441f167_b(Photo Credit:Buster Benson@flickr)

不得不提,自從 AlphaGo 圍棋下贏李世乭以後,人工智慧的熱度一下子就爆發開來,但有關「天網」或「駭客任務」般 AI 是否會反過來統治人類的討論,則出現了正反兩種截然不同的聲音。像是 Elon Musk、Bill Gates 都十分擔心真的會發生,但也有人從技術與意識的角度告訴大家不會發生(反而要擔心有心人士使用機器來破壞秩序)。

但不管會不會成真,有所防範總是好的。因此打敗李世乭的 Google DeepMind 與牛津大學合作發表了一篇論文,表示已經正在研擬對 AI 可隨時「安全中斷」的機制,以防止人工智慧或機器人的異常甚至有害行為。論文雖然還沒有明確解釋其運作原理,但表示已經創造了一個「框架」,允許現實中的人類「操作員」可以隨時反覆安全中斷 AI,又確保 AI 不能把「如何阻止中斷」的方法學習起來。

不過他們也承認,有些系統或演算法可能無法使用這套框架機制。

DeepMind 確實很清楚認知到他們所研發的人工智慧技術是有其危險性的,因此讓他們的母公司 Google 成立了 AI 倫理委員會監督其進展,但這個機構由誰來管理、怎麼運作,卻一直還是一團謎。肯塔基州路易斯維爾大學獨立研究者 Federico Pistono 和 Roman Yampolskiy 也認為,惡意的人工智慧系統很可能會在缺乏監督、使用閉源代碼等極為封閉的環境所創造出來的,所以要防治惡意的人工智慧,另一個根本之道可能還是確保一切發展都處在公眾的視野之中。

斜標_合作媒體
1375670_10151676163421566_797850962_n
INSIDE
「硬塞的」科技網誌成立於 2009年11月底,係由一群熱愛網路的人所成立的共筆部落格。我們閱讀、觀察、思考並分享。針對新媒體的過去、現在與未來,分享新知、討論個案、研討技術,竭誠歡迎您跟我們一起關心、討論與分享。

 


> > >延伸閱讀:為何在KKBOX看不到廣告?織田紀香:不看點擊、不做導購的廣告策略改革

> > >延伸閱讀:
4模式累積用戶、4型態廣告獲利,全球第三大APP開發商的事業拓展關鍵
> > >延伸閱讀:
AR/VR重新洗牌產業規則?不可不知最新數位技術4大趨勢

- Advertisement -spot_img
- Advertisement -spot_img

Latest News

從 電商 到虛實融合OMO 的品牌新零售實戰必修課...

業師將於課堂中介紹品牌零售的發展趨勢、 電商 模式的演進、虛實融合的主要概念、虛實融合地應用情境,讓學員瞭解零售業者如何透過導入虛實融合概念,建立用戶體驗、精準行銷、組織發展、經營策略。重新拆解通路。分為實體與線上型態,課程將說明虛擬與實體的經營差異,以及人、貨、場零售三元素的應用...(see more...)
- Advertisement -spot_img

猜你喜歡

- Advertisement -spot_img