您的位置：首頁(yè) >綜合 > 產(chǎn)經(jīng) >
肖颯：熱度“狂飆”的ChatGPT面臨哪些潛在法律風(fēng)險(xiǎn)？ 世界關(guān)注
中新經(jīng)緯2月6日電 題：熱度“狂飆”的ChatGPT面臨哪些潛在法律風(fēng)險(xiǎn)？
作者 肖颯 北京大成律師事務(wù)所合伙人
(相關(guān)資料圖)
2023開年之初，全球科技巨頭微軟的巨額投資讓ChatGPT成為科技領(lǐng)域的“頂流”，并成功出圈。我們作為法律工作者，不禁要評(píng)估ChatGPT自身在實(shí)際運(yùn)用中可能會(huì)帶來(lái)的法律安全風(fēng)險(xiǎn)。
事實(shí)上，ChatGPT似乎遠(yuǎn)沒(méi)有部分消息宣傳的那樣“神”——其僅僅是Transformer和GPT等自然語(yǔ)言處理技術(shù)的集成，本質(zhì)上依然是一個(gè)基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)言模型，而非一項(xiàng)“跨時(shí)代的AI進(jìn)步”。
第一，人工智能在中國(guó)整體監(jiān)管仍有待完善。
和許多新興技術(shù)一樣，ChatGPT所代表的自然語(yǔ)言處理技術(shù)也面臨著“科林格里奇窘境”(Collingridge dilemma)，即信息困境與控制困境。
所謂信息困境，即一項(xiàng)新興技術(shù)所帶來(lái)的社會(huì)后果不能在該技術(shù)的早期被預(yù)料到；所謂控制困境，即當(dāng)一項(xiàng)新興技術(shù)所帶來(lái)的不利社會(huì)后果被發(fā)現(xiàn)時(shí)，技術(shù)往往已成為整個(gè)社會(huì)和經(jīng)濟(jì)結(jié)構(gòu)的一部分，致使不利的社會(huì)后果無(wú)法被有效控制。
在人工智能領(lǐng)域，尤其是自然語(yǔ)言處理技術(shù)領(lǐng)域的快速發(fā)展階段，該技術(shù)很可能會(huì)陷入“科林格里奇窘境”，而與此相對(duì)應(yīng)的法律監(jiān)管似乎并未“跟得上步伐”。
目前，中國(guó)尚無(wú)國(guó)家層面的人工智能產(chǎn)業(yè)立法，但深圳、上海等城市已有相關(guān)立法嘗試。相信未來(lái)各地均會(huì)出臺(tái)類似的人工智能產(chǎn)業(yè)立法。
在人工智能的倫理規(guī)制方面，國(guó)家新一代人工智能治理專業(yè)委員會(huì)亦在2021年發(fā)布了《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。
第二，ChatGPT帶來(lái)的虛假信息存在法律風(fēng)險(xiǎn)問(wèn)題。
ChatGPT等AI聊天基礎(chǔ)存在的現(xiàn)實(shí)合規(guī)問(wèn)題也急需重視。ChatGPT基于AI背后已有的自然語(yǔ)言文本信息(語(yǔ)料庫(kù))進(jìn)行概率統(tǒng)計(jì)，返回的答案也是“統(tǒng)計(jì)結(jié)果”，這就導(dǎo)致ChatGPT在許多問(wèn)題上會(huì)“一本正經(jīng)的胡說(shuō)八道”，這種看似真實(shí)、實(shí)則離譜的虛假信息具有一定誤導(dǎo)性。
倘若ChatGPT應(yīng)用到搜索引擎、客戶投訴系統(tǒng)等領(lǐng)域，其回復(fù)的虛假信息可能造成嚴(yán)重的法律風(fēng)險(xiǎn)。
實(shí)際上，這樣的法律風(fēng)險(xiǎn)已出現(xiàn)，2022年11月，幾乎與ChatGPT同一時(shí)間上線的Meta服務(wù)科研領(lǐng)域的語(yǔ)言模型Galactica，就因?yàn)檎婕俅鸢富祀s的問(wèn)題，測(cè)試僅3天就被用戶投訴下線。
在技術(shù)原理無(wú)法短期突破前提下，ChatGPT及類似語(yǔ)言模型要應(yīng)用到搜索引擎、客戶投訴系統(tǒng)等領(lǐng)域，就必須對(duì)其進(jìn)行合規(guī)性改造，以最大程度降低相應(yīng)的合規(guī)風(fēng)險(xiǎn)。
第三，ChatGPT會(huì)帶來(lái)知識(shí)產(chǎn)權(quán)的合規(guī)問(wèn)題。
聊天AI，尤其是像ChatGPT這樣的大型語(yǔ)言模型知識(shí)產(chǎn)權(quán)問(wèn)題應(yīng)引起合規(guī)人員注意。
第一個(gè)合規(guī)難題是“文本數(shù)據(jù)挖掘”是否需要相應(yīng)知識(shí)產(chǎn)權(quán)授權(quán)問(wèn)題。正如前文所指，ChatGPT依靠巨量自然語(yǔ)言本文(或言語(yǔ)料庫(kù))運(yùn)轉(zhuǎn)，其需要將語(yǔ)料庫(kù)中內(nèi)容復(fù)制到自有數(shù)據(jù)庫(kù)中，相應(yīng)行為通常在自然語(yǔ)言處理領(lǐng)域被稱為“文本數(shù)據(jù)挖掘”。當(dāng)相應(yīng)文本數(shù)據(jù)可能構(gòu)成作品前提下，文本數(shù)據(jù)挖掘行為是否侵犯復(fù)制權(quán)，當(dāng)前仍存在一定爭(zhēng)議。
目前，中國(guó)著作權(quán)法并未將AI中的“文本數(shù)據(jù)挖掘”納入到合理適用范圍內(nèi)，文本數(shù)據(jù)挖掘在中國(guó)依然需要相應(yīng)知識(shí)產(chǎn)權(quán)授權(quán)。
第二個(gè)合規(guī)難題是ChatGPT產(chǎn)生的答復(fù)是否具有獨(dú)創(chuàng)性？我們認(rèn)為，無(wú)論某一答復(fù)是AI完成還是人類完成，其都應(yīng)當(dāng)根據(jù)現(xiàn)有獨(dú)創(chuàng)性標(biāo)準(zhǔn)進(jìn)行判定。
此時(shí)，其實(shí)還面臨另一個(gè)爭(zhēng)議，如果AI生成答復(fù)具有獨(dú)創(chuàng)性，那著作權(quán)人可以是AI嗎？顯然，包括中國(guó)在內(nèi)的大部分國(guó)家知識(shí)產(chǎn)權(quán)法律下，作品的作者僅有可能是自然人，AI無(wú)法成為作品的作者。
第三個(gè)合規(guī)難題是ChatGPT倘若在自己的回復(fù)中拼接了第三方作品，其知識(shí)產(chǎn)權(quán)問(wèn)題應(yīng)當(dāng)如何處理？
我們認(rèn)為，如果ChatGPT的答復(fù)中拼接了語(yǔ)料庫(kù)中擁有著作權(quán)的作品(雖然依照其工作原理，這種情況概率較小)，按照中國(guó)現(xiàn)行著作權(quán)法，除非構(gòu)成合理使用，否則必須獲得著作權(quán)人的授權(quán)后才可以復(fù)制。(中新經(jīng)緯APP)
本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。選編內(nèi)容涉及的觀點(diǎn)僅代表原作者，不代表中新經(jīng)緯觀點(diǎn)。
責(zé)任編輯：李惠聰
