久久久精品2019中文字幕神马_欧美亚洲一区三区_欧美大人香蕉在线_精品88久久久久88久久久_中文字幕一区二区三区在线播放 _精品国产一区二区三区久久影院_欧洲av在线精品_粉嫩av一区二区三区_亚洲欧美一区二区三区极速播放_国产亚洲精品久久

原創(chuàng) 樟稻 科技新知

“AI不如狗”，控制AI是否為時(shí)尚早？

(資料圖)

@科技新知 原創(chuàng)

作者丨樟稻 編輯丨伊頁

ChatGPT讓人工智能再次引起科技界的震動(dòng)，同時(shí)也激起了政策制定者、消費(fèi)者倡導(dǎo)團(tuán)體以及企業(yè)領(lǐng)導(dǎo)層的警覺。他們普遍要求為這種前沿技術(shù)制定規(guī)范，以確保其發(fā)展道路的可控性和可持續(xù)性。

幾個(gè)月前，馬斯克資助的生命未來研究所（Future of Life Institute，F(xiàn)LI）發(fā)起了一場(chǎng)具有影響力的公開信簽名運(yùn)動(dòng)。該運(yùn)動(dòng)強(qiáng)烈呼吁先進(jìn)大模型研究應(yīng)至少暫停6個(gè)月，目的在于對(duì)當(dāng)前人工智能發(fā)展的快速膨脹進(jìn)行深入反思，因?yàn)檫@可能正導(dǎo)致我們失去對(duì)這項(xiàng)技術(shù)的控制。

上個(gè)月，人工智能安全中心（Center for AI Safety，CAIS）公布了一份矚目的簡(jiǎn)短聲明。這份聲明得到了OpenAI和DeepMind的高級(jí)管理人員、圖靈獎(jiǎng)得主以及其他AI領(lǐng)域的領(lǐng)軍研究人員的共同簽署。他們稱AI這一堪比“疫情和核戰(zhàn)爭(zhēng)”的技術(shù)或?qū)θ祟悩?gòu)成生存威脅。

不過，與眾多AI謹(jǐn)慎派不同，以“深度學(xué)習(xí)三巨頭之一”楊立昆（Yann LeCun）為代表的樂觀派并認(rèn)為，我們應(yīng)該更加耐心，更加相信科技的進(jìn)步；AI現(xiàn)階段仍處在它的青澀和幼稚期，我們遠(yuǎn)未抵達(dá)那個(gè)需要緊急行動(dòng)的點(diǎn)。

這兩派的對(duì)立并非細(xì)枝末節(jié)的學(xué)術(shù)爭(zhēng)論，而是關(guān)于人類如何看待技術(shù)的問題，是人類把技術(shù)看作是工具，完全受人類控制，還是把它看作可能脫離人類控制，甚至危及人類存亡的潛在威脅。

01

樂觀派：AI不如狗

上周三的Viva Tech大會(huì)上，Meta首席AI科學(xué)家楊立昆被問及AI目前的限制。

“這些系統(tǒng)仍然非常有限，它們對(duì)現(xiàn)實(shí)世界的底層現(xiàn)實(shí)沒有任何理解，因?yàn)樗鼈兺耆窃诖罅康奈谋旧辖邮苡?xùn)練的。”楊立昆說，“大部分人類的知識(shí)與語言無關(guān)……所以人類經(jīng)驗(yàn)的那一部分并未被AI捕捉到。”

“這告訴我們，人工智能還缺失了一些真正重要的東西……別說是趕上人類的智力水平了，人工智能現(xiàn)在是連狗都不如。” 楊立昆總結(jié)道。

這并不是楊立昆首次發(fā)言“AI不如狗”，在上月底350位AI領(lǐng)域大佬簽署CAIS組織的聯(lián)名公開信時(shí)，楊立昆轉(zhuǎn)發(fā)了同是樂觀派華人科學(xué)家吳恩達(dá)的推文表示：

“在人類最重要的生存問題清單上，根本排不上超越人類的人工智能。主要是因?yàn)樗€不存在。直到我們能設(shè)計(jì)出起碼達(dá)到狗狗水平的智能（更不用說人工智能了），再來談安全問題也不遲。”

當(dāng)然，“AI不如狗”本質(zhì)上輸出的結(jié)論是，人類并沒有真正設(shè)計(jì)出超級(jí)智能系統(tǒng)，談?wù)摪踩蚩刂茊栴}有些為時(shí)過早。至于如何更加全面地反駁AI威脅論，他提供了兩個(gè)更有力的論證角度。

其一，人們不會(huì)給現(xiàn)階段的AI以完全自主權(quán)：

楊立昆指出，現(xiàn)階段的自回歸模型如GPT-4，雖然擁有強(qiáng)大的自然語言處理能力，但其輸出結(jié)果是不可預(yù)測(cè)和難以控制的。無論是改變訓(xùn)練數(shù)據(jù)的統(tǒng)計(jì)信息，還是調(diào)整問題的形式，都無法直接地約束這些AI模型以滿足某種特定目標(biāo)。

這種情況自然引發(fā)了一系列的擔(dān)憂。人們?cè)谀撤N程度上假設(shè)，一旦允許這些AI系統(tǒng)自由地做任何我們能通過互聯(lián)網(wǎng)連接的事情，讓它們有自由使用網(wǎng)絡(luò)資源的權(quán)限，那么它們可能會(huì)做出一些瘋狂的、不理智的，甚至可能帶來危險(xiǎn)的行為。一些人擔(dān)心，我們將無法控制這些AI系統(tǒng)，它們會(huì)逃脫我們的控制，甚至可能控制我們，因?yàn)樗鼈兊囊?guī)模更大，所以它們的智能也會(huì)增強(qiáng)。

然而，這種觀點(diǎn)其實(shí)是沒有根據(jù)的，或者說是純粹的想象和夸大。未來被授予自主性的系統(tǒng)，應(yīng)該是能夠規(guī)劃一系列行動(dòng)、有明確目標(biāo)且易于控制的。因此，楊立昆預(yù)測(cè)，理智的人不會(huì)使用完全自動(dòng)的大語言模型，他們會(huì)轉(zhuǎn)向更復(fù)雜、可控制的系統(tǒng)。

其二，智力和控制欲毫無關(guān)聯(lián)性：

許多人認(rèn)為，智能實(shí)體會(huì)因?yàn)楸热祟惛斆鞫胍淙祟悺Ｈ欢瑮盍⒗フJ(rèn)為這是個(gè)誤解。智力高并不意味著就有支配他人的欲望，這更多的是與進(jìn)化和生物性質(zhì)相關(guān)。

人類、黑猩猩、狼、狗等社會(huì)動(dòng)物會(huì)想要影響他人，是因?yàn)樗鼈冊(cè)谶M(jìn)化過程中建立了這種欲望。而對(duì)于非社會(huì)動(dòng)物如長(zhǎng)頸鹿來說，它們并沒有支配他人的欲望。因此，控制欲望和能力與智力是兩個(gè)不同的概念，它們之間沒有必然聯(lián)系。

此外，談及AI帶來的失業(yè)問題，他認(rèn)為關(guān)鍵在于如何分配財(cái)富，如何組織社會(huì)使每個(gè)人都能從中獲益。這是一個(gè)政治問題，不是技術(shù)問題，也不是人工智能造成的新問題，而是技術(shù)進(jìn)化造成的。

在楊立昆、吳恩達(dá)等樂觀主義者的觀點(diǎn)中，可以發(fā)現(xiàn)一個(gè)共識(shí)： 任何新技術(shù)在初次出現(xiàn)時(shí)，都不可能完美無缺。

實(shí)際上，人類需要的是一種可以控制的方式，限制技術(shù)可能帶來的危害，對(duì)其進(jìn)行有效地監(jiān)管，并解決可能的惡性用例。完全中斷研發(fā)進(jìn)程并不是一個(gè)明智的決策。人類應(yīng)該保持對(duì)技術(shù)進(jìn)步的尊重和包容，而不是因?yàn)楹ε挛粗^早地否定其潛在的價(jià)值。

02

謹(jǐn)慎派：心思各異的聯(lián)盟

相較于樂觀派，謹(jǐn)慎派的陣營(yíng)似乎人數(shù)更多，也反應(yīng)了人性的一種普遍趨勢(shì)。當(dāng)新的事物出現(xiàn)時(shí)，它往往會(huì)引發(fā)人們的擔(dān)憂和疑慮。這是人類對(duì)可能帶來顛覆性改變的新技術(shù)所產(chǎn)生的本能反應(yīng)。

在兩輪的公開簽名活動(dòng)中，可以看到謹(jǐn)慎派的聲音和影響力逐步增強(qiáng)。 當(dāng)這種關(guān)于“AI風(fēng)險(xiǎn)”的討論在外界引發(fā)了廣泛地思考和討論的同時(shí)，一些質(zhì)疑聲音也不斷出現(xiàn)。

關(guān)于“AI的風(fēng)險(xiǎn)和危害”，這個(gè)話題已經(jīng)成為了一個(gè)表態(tài)的舞臺(tái)，每個(gè)參與者都希望在這場(chǎng)風(fēng)潮中塑造自己的正面形象。

然而，問題在于，這場(chǎng)大討論真的有用嗎？表面看起來，似乎每個(gè)人都在積極參與，但實(shí)際上，卻鮮有人真正采取行動(dòng)。這種現(xiàn)象在一定程度上顯得像是在浪費(fèi)大家的時(shí)間。“那些創(chuàng)造出AI技術(shù)的人參與這種聲明，其實(shí)無非就是為了給自己博取好名聲。”這是不少業(yè)界人士對(duì)這種現(xiàn)象的評(píng)價(jià)。

就連“人工智能之父”，德國(guó)計(jì)算機(jī)科學(xué)家于爾根·施密德胡伯（Jürgen Schmidhuber）也表示，許多在公開場(chǎng)合對(duì)人工智能的危險(xiǎn)提出警告的人只是在尋求宣傳。

當(dāng)然， 在一些人可能試圖利用這種情況來提升自己的知名度的同時(shí)，不乏也有一些獨(dú)到的見解。

中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅，也在CAIS組織的這封公開信中簽名。他認(rèn)為，公開信的目的并不是阻礙人工智能的發(fā)展，而是絕大多數(shù)人有權(quán)利知道人工智能的潛在風(fēng)險(xiǎn)，研發(fā)者們也有義務(wù)確保人工智能不給人類帶來生存風(fēng)險(xiǎn)，至少要確保這種風(fēng)險(xiǎn)的最小化。

在他的觀點(diǎn)中，人工智能對(duì)人類生存所可能帶來的威脅，可以從兩個(gè)不同的角度進(jìn)行分析：

如果將目光放到無限遠(yuǎn)，遠(yuǎn)到通用人工智能和超級(jí)智能到來，AI智力水平可能遠(yuǎn)超人類，那么或許就會(huì)像很多影視作品呈現(xiàn)的那樣，視人類如同螻蟻，與人類爭(zhēng)奪資源，甚至危及人類生存。

如果只看現(xiàn)在和不遠(yuǎn)的未來，當(dāng)代人工智能只是看似智能的信息處理工具，不具有真正的理解能力。但曾毅認(rèn)為，正因?yàn)樗鼈兯悴簧险嬲闹悄埽焕斫馐裁词侨祟悺⑹裁词巧篮褪裁词巧骘L(fēng)險(xiǎn)，才有可能會(huì)以人類難以預(yù)期的方式犯下人類不會(huì)犯的錯(cuò)誤。而這恰恰是更緊迫的關(guān)切所在。

有趣的是，這似乎正好在反駁楊立昆的兩大主要論點(diǎn)。

此外，謹(jǐn)慎派陣營(yíng)中，三位“人工智能教父”中的兩位辛頓（Geoffrey Hinton）和本吉奧（Yoshua Bengio）也赫然在列。他們?cè)蛟谏疃葘W(xué)習(xí)方面的工作，與楊立昆共同獲得2018年“圖靈獎(jiǎng)”。

然而，與楊立昆的觀點(diǎn)相左，本吉奧在接受采訪時(shí)坦言，他開始對(duì)自己這一生的工作成果產(chǎn)生了一種“迷茫”的感覺。 本吉奧認(rèn)為，所有致力于構(gòu)建強(qiáng)大AI產(chǎn)品的企業(yè)都應(yīng)該進(jìn)行正式的注冊(cè)和報(bào)備。 “政府需要對(duì)這些公司的行動(dòng)進(jìn)行追蹤，對(duì)其工作內(nèi)容進(jìn)行審查，對(duì)AI行業(yè)至少要實(shí)行像對(duì)待航空、汽車或者制藥等領(lǐng)域一樣的監(jiān)管機(jī)制。”

辛頓則在近期辭去了谷歌的工作，并警告這一技術(shù)領(lǐng)域的持續(xù)發(fā)展或?qū)砭薮箫L(fēng)險(xiǎn)。辛頓表示，“我總在用這樣的借口安慰自己：哪怕我自己不做，其他人也會(huì)這樣做。但目前真的不知道要怎么防止壞蛋利用 AI 來作惡。”

辛頓對(duì)于AI的擔(dān)憂主要有兩個(gè)方面。首先，他擔(dān)心AI會(huì)完全取代那些需要大量記憶的工作，這可能會(huì)對(duì)許多行業(yè)和職業(yè)產(chǎn)生深遠(yuǎn)影響。其次，隨著AI逐步獲取編寫和運(yùn)行自身代碼的能力，他擔(dān)憂AI最終可能取代人類的位置。

03

寫在最后

上文中對(duì)立兩派的觀點(diǎn)，其實(shí)也有重合的地方。對(duì)于如今的 AI 是否具有風(fēng)險(xiǎn)以及該如何克服，兩派代表人物楊立昆和奧特曼看法一致。他們都認(rèn)為，即便風(fēng)險(xiǎn)存在，但可以通過仔細(xì)的工程設(shè)計(jì)，減輕或抑制它。

可以肯定的是，隨著AI技術(shù)的不斷發(fā)展和深化，兩派之間的爭(zhēng)論和爭(zhēng)議仍將持續(xù)不斷。

不過相對(duì)于國(guó)外熱火朝天地討論，國(guó)內(nèi)對(duì)AI倫理和風(fēng)險(xiǎn)的關(guān)注相對(duì)較少。 市場(chǎng)似乎更專注于AI大模型如何改變各行各業(yè)，并對(duì)此感到喜悅和興奮。

原因可能在于，一方面為了在全球競(jìng)賽中奪取發(fā)言權(quán)，商業(yè)公司首先需要縮小與國(guó)外AI大模型的差距；另一方面，也正由于國(guó)內(nèi)的AI大模型能力還未進(jìn)入未知前沿，大家對(duì)AI可能帶來的威脅并未給予足夠的關(guān)注。

在此背景下，國(guó)內(nèi)的AI創(chuàng)業(yè)者更傾向于維持一種技術(shù)樂觀主義的態(tài)度，他們不希望過早收斂自身發(fā)展，認(rèn)為這將相當(dāng)于提前投降，放棄了與國(guó)外競(jìng)爭(zhēng)的機(jī)會(huì)。

總的來說，這次的爭(zhēng)論并非毫無意義的口舌之爭(zhēng)。它為我們提供了一個(gè)理想的舞臺(tái)，讓我們深入探討AI的未來走向，以及如何以人類的智慧和經(jīng)驗(yàn)，來引導(dǎo)這一領(lǐng)域的發(fā)展，使其真正地服務(wù)于人類社會(huì)，而非反過來控制我們。

從這場(chǎng)激烈的辯論中，可以清楚地看到，人類現(xiàn)在正站在一個(gè)重大的決策點(diǎn)。 無論是選擇樂觀地?fù)肀I的發(fā)展，還是謹(jǐn)慎地審視其可能帶來的風(fēng)險(xiǎn)，都需要意識(shí)到，現(xiàn)在所做的每一個(gè)決定，將會(huì)影響人類和AI之間的關(guān)系，也將塑造人類對(duì)未來的想象和期望。

/ THE END /