藍(lán)海沙龍|第269期:“生成式人工智能領(lǐng)域下的個(gè)人信息侵害風(fēng)險(xiǎn)及應(yīng)對(duì)策略”研討會(huì)在京召開
2024年03月26日 17:39
3月22日,中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)召開第269期藍(lán)海沙龍——“生成式人工智能領(lǐng)域下的個(gè)人信息侵害風(fēng)險(xiǎn)及應(yīng)對(duì)策略”研討會(huì)。中國(guó)政法大學(xué)副校長(zhǎng)、數(shù)據(jù)法治研究院院長(zhǎng)時(shí)建中,中國(guó)科學(xué)院信息工程研究所正高級(jí)工程師戴嬌,中國(guó)社科院法學(xué)所研究員、科技與法研究中心主任楊延超,北京郵電大學(xué)電子工程學(xué)院教授吳帆,中國(guó)移動(dòng)研究院博士袁博,中國(guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心高級(jí)工程師趙淑鈺,華為云EI解決方案專家張瑞鋒,360集團(tuán)法務(wù)部資深律師王樂,阿里巴巴集團(tuán)公共事務(wù)總監(jiān)肖堯,淘天集團(tuán)政府事務(wù)總監(jiān)鐵木爾夫等專家參加了會(huì)議。會(huì)議由中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)副秘書長(zhǎng)裴瑋主持。
裴瑋表示,生成式人工智能為教育、娛樂、醫(yī)療保健和科學(xué)研究等多個(gè)領(lǐng)域提供了變革潛力,激發(fā)起前所未有的關(guān)注度和創(chuàng)造力浪潮。但在具有廣闊應(yīng)用前景與發(fā)展未來的同時(shí),生成式人工智能也對(duì)既有的個(gè)人信息保護(hù)體系形成了巨大沖擊與威脅。生成式人工智能通常需要大量數(shù)據(jù)進(jìn)行訓(xùn)練,隨著生成式人工智能的廣泛使用,個(gè)人數(shù)據(jù)的收集、存儲(chǔ)和處理將變得非常普遍。在未形成有效的數(shù)據(jù)管理和個(gè)人信息保護(hù)機(jī)制的情況下,生成式人工智能服務(wù)將缺乏透明性和可控性,個(gè)人信息保護(hù)的落地需要更加細(xì)化的技術(shù)、機(jī)制與規(guī)則設(shè)計(jì)。本次研討會(huì)結(jié)合人工智能的具體落地應(yīng)用案例,重點(diǎn)關(guān)注生成式人工智能時(shí)代如何提升個(gè)人信息保護(hù)技術(shù)手段的有效性,討論如何健全監(jiān)管空缺與補(bǔ)充機(jī)制、平衡安全與發(fā)展等問題,旨在為政府部門的監(jiān)管和治理提供思路和建議,更好地推動(dòng)生成式人工智能行業(yè)的建設(shè)和健康發(fā)展。
張瑞鋒表示,華為云大模型分為三層,包括L0基礎(chǔ)大模型,L1行業(yè)大模型及L2場(chǎng)景模型。其中基礎(chǔ)大模型當(dāng)前包括NLP大模型、CV大模型、多模態(tài)大模型、預(yù)測(cè)大模型和科學(xué)計(jì)算大模型5種。華為云大模型在各個(gè)行業(yè)的應(yīng)用已有很多案例,如政務(wù)、醫(yī)療、金融、司法、礦山、軌道、電力、氣象行業(yè)等。政務(wù)大模型功能主要包括城市感知、協(xié)同辦公、政策咨詢、城市治理。金融大模型功能主要包括金融政策梳理、跨模態(tài)內(nèi)容理解與多任務(wù)理解、代碼的智能生成及軟件的交互集成。醫(yī)療大模型則主要通過醫(yī)療報(bào)告的生成與解讀服務(wù)推動(dòng)醫(yī)療領(lǐng)域疑難問題的解決。 王樂表示,360的大模型包括360智腦大模型、奇元大模型、多模態(tài)大模型和360安全大模型,目前智腦大模型和奇元大模型已經(jīng)通過備案向公眾開放。生成式人工智能領(lǐng)域個(gè)人信息保護(hù)的風(fēng)險(xiǎn)主要有三個(gè)方面,一是訓(xùn)練數(shù)據(jù)過程中的誤抓取的風(fēng)險(xiǎn);二是信息流轉(zhuǎn)過程中的信息泄露風(fēng)險(xiǎn);三是AI作為新業(yè)態(tài),在發(fā)展速度較快的同時(shí),企業(yè)可能會(huì)輕視信息安全的風(fēng)險(xiǎn)。結(jié)合我國(guó)AI發(fā)展現(xiàn)狀,建議更多的去鼓勵(lì)行業(yè)發(fā)展,采取輕事前重事后、輕過程重結(jié)果的監(jiān)管策略。建議企業(yè)強(qiáng)化自身的安全建設(shè),對(duì)個(gè)人信息做分類,分級(jí)的管理。尤其敏感信息強(qiáng)化監(jiān)管,嚴(yán)防泄露,同時(shí)建立規(guī)范的信息管理及處理流程,確保信息的處理及使用合法合規(guī),且符合與用戶的約定。企業(yè)要強(qiáng)化和監(jiān)管部門的對(duì)話,對(duì)新業(yè)態(tài)新模式以及潛在的風(fēng)險(xiǎn)及時(shí)報(bào)備,積極聽取監(jiān)管部門的意見與建議,在監(jiān)管部門的指導(dǎo)下,將個(gè)人信息保護(hù)工作能落到實(shí)處。在信息收集及內(nèi)部處理使用階段,以企業(yè)的自律為主,個(gè)人信息分享、轉(zhuǎn)讓以及涉及任何形式的流出時(shí),應(yīng)按照規(guī)定對(duì)信息接收方做安全能力評(píng)估,一旦造成信息泄露可以從嚴(yán)處理,如造成了比較嚴(yán)重的安全事故,可酌情加重處理。 肖堯表示,阿里巴巴自研了通義千問、通義萬相兩款基礎(chǔ)大模型,相繼開源了1.8B、7B、14B、72B參數(shù)大模型。并推出通義聽悟、通義法睿、通義靈碼等8類垂類大模型,推動(dòng)大模型在千行百業(yè)落地。同時(shí),阿里還推出一站式大模型應(yīng)用開發(fā)平臺(tái)“百煉”,大幅降低大模型應(yīng)用開發(fā)門檻,讓廣大企業(yè)能夠根據(jù)自己的業(yè)務(wù)需求快速“煉”出專屬模型。對(duì)于AIGC領(lǐng)域下的個(gè)人信息保護(hù)問題,肖堯表示阿里巴巴對(duì)此高度重視,嚴(yán)格根據(jù)法律要求和行業(yè)規(guī)范對(duì)AIGC全生命周期中的各關(guān)鍵節(jié)點(diǎn)采取了針對(duì)性合規(guī)措施。建議探索AIGC數(shù)據(jù)治理的元規(guī)則,由政企學(xué)社媒多方聯(lián)合,綜合考慮治理價(jià)值的平衡性、治理主體的平衡性、治理手段的靈活性,開展敏捷治理。要以確定性的規(guī)則來滿足人工智能對(duì)個(gè)人信息處理的需求,在保護(hù)個(gè)人信息的同時(shí)能夠激發(fā)數(shù)據(jù)價(jià)值。此外,還需要通過行業(yè)標(biāo)準(zhǔn)、國(guó)家標(biāo)準(zhǔn)明確公開領(lǐng)域個(gè)人信息作為訓(xùn)練語料時(shí)的合法性的基礎(chǔ)。 鐵木爾夫表示,生成式人工智能監(jiān)管的目的是促發(fā)展,對(duì)于大型公司與小型垂類公司可以考慮采取分級(jí)分類和分階段的方式細(xì)化監(jiān)管。同時(shí),可以將協(xié)會(huì)作為平臺(tái)構(gòu)建一套沙箱自律的監(jiān)管平臺(tái)或自律平臺(tái),使大模型的運(yùn)行公開、透明化。讓監(jiān)管部門能夠有效了解到整個(gè)模型的個(gè)人信息保護(hù)情況,既提升了行業(yè)的自律,也能夠做好事前監(jiān)管工作。 趙淑鈺表示,生成式人工智能在發(fā)展過程存在著一定的個(gè)人信息風(fēng)險(xiǎn)。一方面,大規(guī)模數(shù)據(jù)匯集、多樣的數(shù)據(jù)來源等特性會(huì)加大個(gè)人信息濫用、泄露風(fēng)險(xiǎn)。另一方面,生成式人工智能對(duì)現(xiàn)有立法中“知情-同意”原則、刪除權(quán)、更正權(quán)等也構(gòu)成挑戰(zhàn)。建議對(duì)生成式人工智能實(shí)施審慎監(jiān)管,可明確大模型應(yīng)用紅線,以個(gè)案導(dǎo)向、問題導(dǎo)向解決生成式人工智能應(yīng)用發(fā)展中的突出問題,出臺(tái)權(quán)威指引、標(biāo)準(zhǔn),逐步構(gòu)建完善生成式人工智能規(guī)則體系。 袁博表示,中國(guó)移動(dòng)的九天大模型平臺(tái)宗旨是借助移動(dòng)海量的客戶以及網(wǎng)絡(luò)運(yùn)營(yíng),依托泛在的網(wǎng)絡(luò)和智能算力使人工智能像水電一樣為大眾所使用。目前已經(jīng)發(fā)布了139億參數(shù)的九天眾擎基座大模型,在研的行業(yè)大模型三大類包括客服大模型、政務(wù)大模型、網(wǎng)絡(luò)大模型。在大模型的使用上,建議在技術(shù)層面上充分保障用戶和行業(yè)數(shù)據(jù)安全的同時(shí),監(jiān)管部門還要明確哪些數(shù)據(jù)、行業(yè)具有涉及國(guó)家機(jī)密信息不能對(duì)外滲透,做好安全措施。 吳帆表示,從法律法規(guī)的角度看,目前國(guó)內(nèi)生成式人工智能監(jiān)管較為寬松,政府主要以約談、督促的方式展開監(jiān)管,總體秉持保護(hù)企業(yè)、保護(hù)技術(shù)發(fā)展的立場(chǎng)。從技術(shù)發(fā)展角度看,國(guó)內(nèi)生成式人工智能的發(fā)展將在行業(yè)應(yīng)用有所側(cè)重并會(huì)取得一定優(yōu)勢(shì),這將與個(gè)人隱私數(shù)據(jù)、行業(yè)隱私數(shù)據(jù)甚至是國(guó)家安全數(shù)據(jù)緊密聯(lián)系在一起,無法進(jìn)行脫鉤。在技術(shù)快速發(fā)展的當(dāng)下,建議從標(biāo)準(zhǔn)和政策制定層面去做快速的引導(dǎo)、迭代和推進(jìn),使監(jiān)管體系與技術(shù)發(fā)展速度相匹配。同時(shí),在使用境外服務(wù)的過程中,政府可加強(qiáng)對(duì)關(guān)鍵數(shù)據(jù)、國(guó)家安全數(shù)據(jù)的分級(jí)分類統(tǒng)籌管理,確保國(guó)家數(shù)據(jù)安全。 楊延超表示,生成式人工智能領(lǐng)域下個(gè)人信息保護(hù)最大的風(fēng)險(xiǎn)是使用過程中的聊天記錄所形成的完整的用戶畫像,使用者的意思意圖會(huì)被完整精確地表達(dá)出來,個(gè)人信息保護(hù)的重點(diǎn)應(yīng)當(dāng)是對(duì)大模型使用過程中聊天記錄的管理與治理,要明確好聊天記錄是否需要定期刪除、是否能用于訓(xùn)練等問題。政府需要考慮如何實(shí)現(xiàn)有效監(jiān)管,如充分落實(shí)數(shù)據(jù)刪除權(quán)等,確保個(gè)人信息不被泄露或?yàn)E用。 戴嬌表示,人工智能監(jiān)管政策要服務(wù)于整個(gè)國(guó)家的發(fā)展,生成式人工智能的管理尺度應(yīng)當(dāng)與它的不同發(fā)展階段以及發(fā)展訴求相匹配。在堅(jiān)持包容審慎鼓勵(lì)發(fā)展原則的基礎(chǔ)上,一方面可以通過發(fā)展個(gè)人信息保護(hù)技術(shù)推動(dòng)生成式人工智能的治理,另一方面可以加強(qiáng)事前、事后的管理,事前階段對(duì)涉及侵權(quán)或違法的信息進(jìn)行處理,使生成式人工智能無法對(duì)該類信息進(jìn)行操控或修改,事后階段通過設(shè)置方便事后追溯的標(biāo)識(shí)等推動(dòng)監(jiān)管。同時(shí),建議自上而下構(gòu)建一套框架性的監(jiān)管體系,配合現(xiàn)行規(guī)范體系推動(dòng)監(jiān)管的落地。 時(shí)建中表示,生成式人工智能的監(jiān)管要充分考慮發(fā)展與安全、促進(jìn)與規(guī)范、國(guó)內(nèi)與國(guó)際、研發(fā)與運(yùn)用、政府與市場(chǎng)等因素的關(guān)系,明確側(cè)重點(diǎn)。同時(shí),站在全球視角,針對(duì)我國(guó)數(shù)據(jù)、算法、算力等人工智能不同要素的情況,精準(zhǔn)施策。當(dāng)前生成式人工智能缺乏高質(zhì)量的訓(xùn)練數(shù)據(jù),公共數(shù)據(jù)流通也存在障礙。隨著生成式人工智能算法的先進(jìn)程度與復(fù)雜度日益提高,算法黑箱的問題也日益凸顯,而算力的不斷發(fā)展也在沖擊各類數(shù)據(jù)加密手段。建議以促進(jìn)發(fā)展為目標(biāo),在實(shí)踐中分場(chǎng)景展開監(jiān)管。對(duì)于預(yù)訓(xùn)練階段個(gè)人信息的使用可采取寬容的態(tài)度,對(duì)于實(shí)際應(yīng)用場(chǎng)景則做嚴(yán)格把控。同時(shí),注重發(fā)揮法律規(guī)范的倒逼作用,在明確主體責(zé)任與對(duì)象的基礎(chǔ)上,推動(dòng)企業(yè)以先進(jìn)技術(shù)實(shí)現(xiàn)對(duì)用戶個(gè)人信息的保護(hù)。 會(huì)議認(rèn)為,我國(guó)生成式人工智能在政務(wù)、醫(yī)療、金融等領(lǐng)域已展開廣泛的應(yīng)用,但需注意到其與產(chǎn)業(yè)前沿之間的技術(shù)差距。個(gè)人信息的保護(hù)要以促進(jìn)發(fā)展為目標(biāo),做好各類監(jiān)管場(chǎng)景的區(qū)分。建議政府以自上而下的形式構(gòu)建一套生成式人工智能的治理框架,加快該領(lǐng)域下標(biāo)準(zhǔn)與政策的制定進(jìn)程,使其與生成式人工智能技術(shù)的發(fā)展需要相匹配。同時(shí),不斷創(chuàng)新隱私保護(hù)技術(shù),以技術(shù)手段解決好生成式人工智能領(lǐng)域下的個(gè)人信息保護(hù)問題,實(shí)現(xiàn)我國(guó)新質(zhì)生產(chǎn)力的發(fā)展與飛躍。