Google正在研究機器人"切斷開(kāi)關(guān)” 目的是預防機器人的攻擊

發(fā)布時(shí)間:2016-6-6 18:46    發(fā)布者:eechina
關(guān)鍵詞: 機器人
來(lái)源:36kr 作者:boxi

Google 收購的英國人工智能公司 Deep Mind 已經(jīng)展現出 AI 先進(jìn)的自學(xué)能力,其算法不僅在玩游戲比人厲害,而且還在與人類(lèi)頂級圍棋選手的對決中取得了壓倒性的勝利。這不僅引發(fā)了 AI 超越人類(lèi)的擔憂(yōu),甚至還有人擔心類(lèi)似《未來(lái)終結者》那樣天網(wǎng)對人類(lèi)殺戮時(shí)刻的到來(lái),F在 Deep Mind 決定未雨綢繆,據英國鏡報報道,在近日公布的一篇論文中,Deep Mind 提出了給機器人安裝 “切斷開(kāi)關(guān)(kill switch)” 的想法,為的是阻止 AI 學(xué)會(huì )如何阻止人類(lèi)對某項活動(dòng)(比方說(shuō)發(fā)射核武器)的干預。用專(zhuān)業(yè)術(shù)語(yǔ)來(lái)說(shuō),這叫做 “安全可中斷性”。

關(guān)于安全科中斷性的作用,論文寫(xiě)道:安全可中斷性可用于控制機器人不端甚至可能導致不可逆后果的行為,或者將其從微妙處境中脫身出來(lái),或者甚至臨時(shí)用來(lái)實(shí)現某項機器人尚未學(xué)會(huì )執行或者未必會(huì )為此受到獎勵的任務(wù)。

天生具備拯救人類(lèi)使命感的 Elon Musk 以及地球最聰明的大腦之一霍金都認為,機器對人類(lèi)的威脅并非杞人憂(yōu)天。去年底的時(shí)候,Musk 和孵化器 YC 的總裁 Sam Altman 共同宣布設立一家非盈利的人工智能公司 OpenAI。 他們希望,這個(gè)項目能夠抵消邪惡的人工超級智能可能帶來(lái)的威脅。這種威脅的可能性正如牛津大學(xué)的哲學(xué)家 Nick Bostrom 發(fā)出的警告一樣—如果毫無(wú)限制地分享人工智能的研究成果,在沒(méi)能確保安全的情況下,一些不懷好意的人可能就會(huì )利用它干壞事:“如果你有一個(gè)按鈕,只要按一 下就能夠對世界造成破壞,你肯定不希望每個(gè)人都擁有一個(gè)這樣按鈕! 而 Deep Mind 的研究,就是對這樣一種按鈕的切斷按鈕。不過(guò)將來(lái)的問(wèn)題也許是,哪一個(gè)按鈕會(huì )先起效?
本文地址:http://selenalain.com/thread-166799-1-1.html     【打印本頁(yè)】

本站部分文章為轉載或網(wǎng)友發(fā)布,目的在于傳遞和分享信息,并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和對其真實(shí)性負責;文章版權歸原作者及原出處所有,如涉及作品內容、版權和其它問(wèn)題,我們將根據著(zhù)作權人的要求,第一時(shí)間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

相關(guān)視頻

關(guān)于我們  -  服務(wù)條款  -  使用指南  -  站點(diǎn)地圖  -  友情鏈接  -  聯(lián)系我們
電子工程網(wǎng) © 版權所有   京ICP備16069177號 | 京公網(wǎng)安備11010502021702
快速回復 返回頂部 返回列表
午夜高清国产拍精品福利|亚洲色精品88色婷婷七月丁香|91久久精品无码一区|99久久国语露脸精品|动漫卡通亚洲综合专区48页