|
“技術(shù)奇點”就快到了。這是真的…… 呃，也可能還沒有吧。技術(shù)奇點指真正的人工智能開始出現(xiàn)、實現(xiàn)自我感知并通過創(chuàng)造比自身更好的實體來開始遞歸自我改進(jìn)的事件。這只是其中一種表述。[1] [2] [3] 在大多數(shù)人的觀點中，技術(shù)奇點事件毫無疑問將是破壞性的[4]，甚至可能是所有技術(shù)進(jìn)步中最具破壞性的。當(dāng)然，科幻作家?guī)资陙硪恢痹谔剿魅斯ぶ悄艿奈磥砭烤故敲篮玫脑妇斑�是一場災(zāi)難，而且后者似乎是主流看法。與機(jī)器人制造出更好的機(jī)器人相關(guān)的知名影片在集體流行意識中已經(jīng)全然沒有了新意。 但是，如何從這里到達(dá)彼岸呢？ （我們真的想去嗎？ 是不是應(yīng)該認(rèn)真想想我們想要的究竟是什么？） 這就涉及到人工智能 (AI) 領(lǐng)域了。它從未如此強(qiáng)大和繁忙。[5][6] AI是對智能實體的研究和創(chuàng)造，它們不斷改善并最大化其成功機(jī)會�，F(xiàn)在的問題是，“智能”的機(jī)器、實體，等等等等，都必須由人類來告訴他們該做什么。但是，對于如何建立一個更好的思維機(jī)器的進(jìn)展和理解，似乎正以越來越快的速度到來，有時會導(dǎo)致與學(xué)習(xí)型機(jī)器人進(jìn)行的對話成為令人不安的體驗[7]。 “思考”和“自我意識”的概念只是全局的一部分。長期以來，人類一直在思考如何測試一臺機(jī)器，看看它是否已經(jīng)從單純的編程跨越到了基于某種程度自我意識的獨立思考。圖靈測試 (Turing Test) 就是一種極其著名的方法。簡而言之，這項測試的目標(biāo)是與機(jī)器展開一小段對話，其以假亂真的程度要達(dá)到讓人無法判斷出它是人還是機(jī)器。此類聊天機(jī)器人[10] 已進(jìn)入兒童玩具中，例如智能芭比娃娃 (Hello Barbie)。這是幾十年來AI技術(shù)逐漸融入各種電子消費品、商業(yè)、金融、農(nóng)業(yè)、政府和軍事用途的典型例子。 也許，在技術(shù)奇點真正發(fā)生時，由于AI幾乎已經(jīng)充斥每個角落，這將不再是一件新鮮事。 隨著時間的推移，許多遠(yuǎn)見卓識者已經(jīng)預(yù)測到技術(shù)奇點會出現(xiàn)的時間[11]。這些“先知者”對AI的過快采用以及AI的發(fā)展方向發(fā)出了可怕的警告。[12] [13] [14] 這些預(yù)測和警告值得我們重視嗎？ AI的發(fā)展會將人類帶向末日嗎？ 與AI相關(guān)的一個笨拙冗長的首字母縮寫是TEOTWAWKI（The End of the World as We Know It，我們所知的世界末日）。一個不一樣的世界不一定是糟糕的（它完全可能是美好的），但肯定會存在顛覆性變革，而且如果大規(guī)模復(fù)制的AI認(rèn)為人類是可以犧牲的，或者構(gòu)成了其他性質(zhì)的障礙，那肯定會帶來危險。在一些研究中，意味著“后技術(shù)奇點”的AI已經(jīng)浮出水面，伴隨它的還有其他迫在眉睫的威脅，例如海平面上升一米以及極端天氣破壞造成的糧食短缺[15] [16]。 在閱讀本文的時候，您可能會不由自主地坐在椅子上慢慢轉(zhuǎn)動，不時瞄一瞄你的智能手機(jī)、烤面包機(jī)或家庭自動化系統(tǒng)。如果您的工作涉及在工業(yè)機(jī)器人上的作業(yè)，只需要遵循最佳做法，先關(guān)掉電源，然后再用扳手拆開螺絲。如果您是短線交易者，您可能更需要擔(dān)心高速機(jī)器人交易員來和你競爭（這更像是一個監(jiān)管政策問題，而非技術(shù)威脅）。但是，這并不是說機(jī)器人交易員會突然擴(kuò)散到互聯(lián)網(wǎng)上，滲入成千上萬的智能手機(jī)中，計算能呈力指數(shù)級增加，并突然實現(xiàn)自我意識。 對嗎？ （參見：Skynet） 是的，發(fā)生這種情況的可能性很小。要到達(dá)奇點，我們還有很長的路要走[17] [18] [19]。機(jī)器依然在按照我們告訴它們的去做。 計算機(jī)運行的是人類編寫的軟件。軟件總是會有漏洞 (bug)。AI也是。想想這些天幾乎每天都在爆出的故障和安全漏洞。軟件漏洞是個神奇的東西。由于過于復(fù)雜，我們無法在軟件交付前對其進(jìn)行100％的測試。編寫一個好的軟件本來就很難，更不用說沒有漏洞的軟件了。根據(jù)迄今為止幾十年來任何軟件的平均質(zhì)量來看，技術(shù)奇點的臨界點還很遙遠(yuǎn)，也許永遠(yuǎn)不會發(fā)生。 或者，也許有一天，某一處的某個軟件開發(fā)人員在開始工作時，發(fā)現(xiàn)一個由分布在四個國家的頂尖團(tuán)隊努力了一年多的項目在一夜之間發(fā)生了變化，修復(fù)了團(tuán)隊甚至沒有意識到存在的漏洞， 還做出了團(tuán)隊從未想到的復(fù)雜改進(jìn)。 這時，在幾年前購買的那間僻靜的遠(yuǎn)離電網(wǎng)的小屋中度過一個悠長假期，前往沙漠或者深山，或許會是個好主意。 安全提示：不要乘坐無人駕駛的智能汽車。走著去。不要跑。 來源：貿(mào)澤電子 作者：Arden Henderson |
