中新經(jīng)緯12月21日電 (薛宇飛)近日,清華大學(xué)社會科學(xué)學(xué)院社會學(xué)系、中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會協(xié)同發(fā)展研究中心主辦了“倫理立場、算法設(shè)計(jì)與企業(yè)社會責(zé)任”研討會。在研討會上,中科院自然科學(xué)史研究所副研究員王彥雨表示,無論是外界干擾還是自我演化,只要人工智能可以形成區(qū)別于初始目標(biāo)的新目標(biāo),并根據(jù)新目標(biāo)自主行動,就可以看作是強(qiáng)人工智能形式。但機(jī)器所形成的新目標(biāo)并不是基于意向性,而是基于目標(biāo)變化而產(chǎn)生了與原始目標(biāo)不同的新東西,成為相對于原始智能機(jī)器的異化體?;谝庀蛐缘娜斯ぶ悄埽辽俚浆F(xiàn)在還沒有任何可行性。
中科院自然科學(xué)史研究所副研究員王彥雨。主辦方供圖
強(qiáng)人工智能概念在1980年提出,相對于弱人工智能,強(qiáng)人工智能概念有以下共同特征:一是達(dá)到或者是超越人類智慧;二是具有意向性,擁有自我目標(biāo)設(shè)定與自我評價(jià)及認(rèn)知能力;三是強(qiáng)AI必須有通用性,擁有完整的人類能力譜系。
王彥雨分享了人工智能研究共同體和哲學(xué)科學(xué)社會界對于強(qiáng)AI的看法和態(tài)度轉(zhuǎn)換過程。20世紀(jì)50年代中期至70年代初期,是人工智能的第一個(gè)黃金期,隨著人工智能技術(shù)的進(jìn)步,這一時(shí)期的人工智能界對于強(qiáng)AI非常樂觀,當(dāng)時(shí)的許多人工智能科學(xué)家認(rèn)為10年、20年以后的機(jī)器就可以做人類能夠完成的任何事情。但這一時(shí)期,哲學(xué)社會科學(xué)界共同體是以強(qiáng)AI的反對者身份出現(xiàn)的,他們基于人腦功能的特殊性(如心靈的整體性、感知的綜合性、經(jīng)驗(yàn)的情景性等),對當(dāng)時(shí)的強(qiáng)AI樂觀思潮進(jìn)行了批判。
在20世紀(jì)70年代中期至80年代末,人工智能研究進(jìn)入寒冬期,強(qiáng)AI概念逐漸衰落。1966年美國自動語言處理咨詢委員會發(fā)布“ALPAC 報(bào)告”,以及1973年英國的“Lighthill Report”,均指出當(dāng)時(shí)的人工智能技術(shù)難以解決諸如語義消歧、智能爆炸、不具備學(xué)習(xí)能力等問題。在他們看來,當(dāng)時(shí)的人工智能并不智能,更多的是依賴一系列已經(jīng)給出的固定程序來執(zhí)行命令,沒有學(xué)習(xí)能力。在這一時(shí)期,一種新的理念“智能增強(qiáng)”——強(qiáng)調(diào)人工智能研究目的是為了簡化人機(jī)交互,而不是為了制造超越人類智慧的終極機(jī)器,開始吸引到越來越多的科學(xué)家。
從20世紀(jì)90年代初至90年代末,人工智能界基本不再提及強(qiáng)AI概念,怕被貼上“白日夢”標(biāo)簽。不過,那時(shí)候開始出現(xiàn)了“奇點(diǎn)議題”,如機(jī)器人專家莫拉維克、弗諾·文奇等通過寫作科幻小說,來宣揚(yáng)未來可能會出現(xiàn)超級智能機(jī)器,它的興起為21世紀(jì)初的哲學(xué)社會科學(xué)界的強(qiáng)AI思潮提供思想基礎(chǔ)。進(jìn)入21世紀(jì),基于摩爾定律的印證,哲學(xué)社會科學(xué)界開始復(fù)興奇點(diǎn)議題,從2010年到現(xiàn)在,隨著深度學(xué)習(xí)理念的提出,強(qiáng)AI的論調(diào)開始盛行。
那強(qiáng)AI到底強(qiáng)在哪里呢?他介紹,它擁有以深度學(xué)習(xí)為代表的學(xué)習(xí)模式,更類似于人,這種類似包括結(jié)構(gòu)和學(xué)習(xí)過程等。而且,數(shù)據(jù)存儲、搜索能力也比較強(qiáng),擁有一個(gè)強(qiáng)大的泛化能力與進(jìn)化能力。此外,當(dāng)前基于深度學(xué)習(xí)技術(shù)的人工智能產(chǎn)品,具有更快的進(jìn)化速度,以圍棋AI為例,Crazy Stone的進(jìn)化單位是按年計(jì)算的,阿爾法狗(AlphaGo)是以月為單位進(jìn)行功能提升的,而最新的AlphaGo Zero則呈現(xiàn)出以天/小時(shí)為單位的功能提升模式,這種進(jìn)化效率令人擔(dān)憂。此外,人們的擔(dān)憂還包括AI的自主性,包括決策自主性與行動自主性,且純自主的機(jī)器人已經(jīng)出現(xiàn)。
但這并不意味著人工智能能超越人類,因?yàn)槿祟惖乃季S具有其獨(dú)特品質(zhì)。王彥雨說:人的思維由主動的意識起,是基于已有的背景知識、需求甚至責(zé)任等等方面而形成的自主目標(biāo),這個(gè)目標(biāo)是主動提出的,而阿爾法狗(AlphaGo)等智能機(jī)器的目標(biāo)則是先賦的、由人設(shè)定的,這與人類有著根本區(qū)別。此外,人腦思維具有更高階的思維模式,比如智慧、直覺、靈感,這是人工智能沒有的。
“我們還提出強(qiáng)人工智能2.0概念,無論是外界的干擾,還是自己的演化,只要人工智能可以形成新目標(biāo),根據(jù)這個(gè)目標(biāo)自主行動,就可以看作是強(qiáng)AI形式。新目標(biāo)不是基于意向性,而是基于目標(biāo)的變化,產(chǎn)生了一些與原始目標(biāo)不同的新東西,就可以稱為強(qiáng)AI?!彼f。
弱AI與強(qiáng)AI是兩個(gè)不同的機(jī)制,強(qiáng)AI在外部的入侵與干擾、內(nèi)部的演化下可以做到原始目標(biāo)的偏離,這在科學(xué)上可以實(shí)現(xiàn),更具有可行性,如俄羅斯機(jī)器人Promobot IR77在沒有預(yù)先訓(xùn)練的情況下獨(dú)自走出實(shí)驗(yàn)室尋找“充電樁”,一些機(jī)器人可將所習(xí)得的常識自主運(yùn)用到新場中等。但基于意向性的人工智能,至少到現(xiàn)在還沒有任何可行性。
王彥雨指出,在未來社會,除了作為工具的人工智能帶來的風(fēng)險(xiǎn),還有可能出現(xiàn)更多具有強(qiáng)AI2.0特質(zhì)的智能體所帶來的風(fēng)險(xiǎn),這需要引起關(guān)注;另外,從哲學(xué)角度來講,未來可能會出現(xiàn)人工智能機(jī)器自己生產(chǎn)知識的形式,隨著這種知識體量的增大,會對人際關(guān)系等帶來新的社會影響。(中新經(jīng)緯APP)
中新經(jīng)緯版權(quán)所有,未經(jīng)書面授權(quán),任何公司及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。