|
“技術(shù)奇點(diǎn)”就快到了。這是真的…… 呃，也可能還沒(méi)有吧。技術(shù)奇點(diǎn)指真正的人工智能開(kāi)始出現、實(shí)現自我感知并通過(guò)創(chuàng )造比自身更好的實(shí)體來(lái)開(kāi)始遞歸自我改進(jìn)的事件。這只是其中一種表述。[1] [2] [3] 在大多數人的觀(guān)點(diǎn)中，技術(shù)奇點(diǎn)事件毫無(wú)疑問(wèn)將是破壞性的[4]，甚至可能是所有技術(shù)進(jìn)步中最具破壞性的。當然，科幻作家幾十年來(lái)一直在探索人工智能的未來(lái)究竟是美好的愿景還是一場(chǎng)災難，而且后者似乎是主流看法。與機器人制造出更好的機器人相關(guān)的知名影片在集體流行意識中已經(jīng)全然沒(méi)有了新意。 但是，如何從這里到達彼岸呢？ （我們真的想去嗎？ 是不是應該認真想想我們想要的究竟是什么？） 這就涉及到人工智能 (AI) 領(lǐng)域了。它從未如此強大和繁忙。[5][6] AI是對智能實(shí)體的研究和創(chuàng )造，它們不斷改善并最大化其成功機會(huì )�，F在的問(wèn)題是，“智能”的機器、實(shí)體，等等等等，都必須由人類(lèi)來(lái)告訴他們該做什么。但是，對于如何建立一個(gè)更好的思維機器的進(jìn)展和理解，似乎正以越來(lái)越快的速度到來(lái)，有時(shí)會(huì )導致與學(xué)習型機器人進(jìn)行的對話(huà)成為令人不安的體驗[7]。 “思考”和“自我意識”的概念只是全局的一部分。長(cháng)期以來(lái)，人類(lèi)一直在思考如何測試一臺機器，看看它是否已經(jīng)從單純的編程跨越到了基于某種程度自我意識的獨立思考。圖靈測試 (Turing Test) 就是一種極其著(zhù)名的方法。簡(jiǎn)而言之，這項測試的目標是與機器展開(kāi)一小段對話(huà)，其以假亂真的程度要達到讓人無(wú)法判斷出它是人還是機器。此類(lèi)聊天機器人[10] 已進(jìn)入兒童玩具中，例如智能芭比娃娃 (Hello Barbie)。這是幾十年來(lái)AI技術(shù)逐漸融入各種電子消費品、商業(yè)、金融、農業(yè)、政府和軍事用途的典型例子。 也許，在技術(shù)奇點(diǎn)真正發(fā)生時(shí)，由于A(yíng)I幾乎已經(jīng)充斥每個(gè)角落，這將不再是一件新鮮事。 隨著(zhù)時(shí)間的推移，許多遠見(jiàn)卓識者已經(jīng)預測到技術(shù)奇點(diǎn)會(huì )出現的時(shí)間[11]。這些“先知者”對AI的過(guò)快采用以及AI的發(fā)展方向發(fā)出了可怕的警告。[12] [13] [14] 這些預測和警告值得我們重視嗎？ AI的發(fā)展會(huì )將人類(lèi)帶向末日嗎？ 與AI相關(guān)的一個(gè)笨拙冗長(cháng)的首字母縮寫(xiě)是TEOTWAWKI（The End of the World as We Know It，我們所知的世界末日）。一個(gè)不一樣的世界不一定是糟糕的（它完全可能是美好的），但肯定會(huì )存在顛覆性變革，而且如果大規模復制的AI認為人類(lèi)是可以犧牲的，或者構成了其他性質(zhì)的障礙，那肯定會(huì )帶來(lái)危險。在一些研究中，意味著(zhù)“后技術(shù)奇點(diǎn)”的AI已經(jīng)浮出水面，伴隨它的還有其他迫在眉睫的威脅，例如海平面上升一米以及極端天氣破壞造成的糧食短缺[15] [16]。 在閱讀本文的時(shí)候，您可能會(huì )不由自主地坐在椅子上慢慢轉動(dòng)，不時(shí)瞄一瞄你的智能手機、烤面包機或家庭自動(dòng)化系統。如果您的工作涉及在工業(yè)機器人上的作業(yè)，只需要遵循最佳做法，先關(guān)掉電源，然后再用扳手拆開(kāi)螺絲。如果您是短線(xiàn)交易者，您可能更需要擔心高速機器人交易員來(lái)和你競爭（這更像是一個(gè)監管政策問(wèn)題，而非技術(shù)威脅）。但是，這并不是說(shuō)機器人交易員會(huì )突然擴散到互聯(lián)網(wǎng)上，滲入成千上萬(wàn)的智能手機中，計算能呈力指數級增加，并突然實(shí)現自我意識。 對嗎？ （參見(jiàn)：Skynet） 是的，發(fā)生這種情況的可能性很小。要到達奇點(diǎn)，我們還有很長(cháng)的路要走[17] [18] [19]。機器依然在按照我們告訴它們的去做。 計算機運行的是人類(lèi)編寫(xiě)的軟件。軟件總是會(huì )有漏洞 (bug)。AI也是。想想這些天幾乎每天都在爆出的故障和安全漏洞。軟件漏洞是個(gè)神奇的東西。由于過(guò)于復雜，我們無(wú)法在軟件交付前對其進(jìn)行100％的測試。編寫(xiě)一個(gè)好的軟件本來(lái)就很難，更不用說(shuō)沒(méi)有漏洞的軟件了。根據迄今為止幾十年來(lái)任何軟件的平均質(zhì)量來(lái)看，技術(shù)奇點(diǎn)的臨界點(diǎn)還很遙遠，也許永遠不會(huì )發(fā)生。 或者，也許有一天，某一處的某個(gè)軟件開(kāi)發(fā)人員在開(kāi)始工作時(shí)，發(fā)現一個(gè)由分布在四個(gè)國家的頂尖團隊努力了一年多的項目在一夜之間發(fā)生了變化，修復了團隊甚至沒(méi)有意識到存在的漏洞， 還做出了團隊從未想到的復雜改進(jìn)。 這時(shí)，在幾年前購買(mǎi)的那間僻靜的遠離電網(wǎng)的小屋中度過(guò)一個(gè)悠長(cháng)假期，前往沙漠或者深山，或許會(huì )是個(gè)好主意。 安全提示：不要乘坐無(wú)人駕駛的智能汽車(chē)。走著(zhù)去。不要跑。 來(lái)源：貿澤電子 作者：Arden Henderson |
