科技研發

8月(yuè)28日至29日舉辦的(de)首屆網絡空間安全（天津）高(gāo)峰論壇上，近800位來自網絡安全領域的(de)官員、專家學者和(hé)科研機構、院校、企業代表齊聚一堂，共話網絡空間安全形勢、共享網絡安全理(lǐ)念、共商網絡安全對策。

随著(zhe)人(rén)工智能的(de)出現，網絡信息技術叠代升級加速，網絡安全領域新情況、新問題、新挑戰層出不窮，影(yǐng)響全球經濟格局、發展格局、安全格局，也(yě)給網絡安全保障提出了(le)更高(gāo)要求。部分(fēn)業内人(rén)士認爲，應強化(huà)風險意識，建立有效的(de)風險預警和(hé)應對機制。同時，各方應加強交流與合作，不斷提升網絡安全水(shuǐ)平。

人(rén)工智能産業在規範中發展、發展中規範

今年，生成式人(rén)工智能熱潮席卷全球。目前，國内的(de)百度、科大(dà)訊飛等企業機構已推出自己的(de)大(dà)模型産品。

部分(fēn)專家判斷，生成式人(rén)工智能将引發新一輪人(rén)工智能革命，人(rén)類與機器、技術與産業、虛拟與現實之間的(de)關系正在發生廣泛而深刻的(de)變化(huà)，技術創新也(yě)給人(rén)類社會文明(míng)秩序帶來了(le)挑戰。

對此，國家網信辦聯合國家發展改革委、教育部、科技部、工業和(hé)信息化(huà)部、公安部、國家廣播電視總局公布的(de)《生成式人(rén)工智能服務管理(lǐ)暫行辦法》（以下(xià)簡稱《辦法》）于8月(yuè)15日起正式實施。這是我國首個針對生成式人(rén)工智能産業的(de)規範性政策。《辦法》明(míng)确鼓勵生成式人(rén)工智能技術在各行業、各領域的(de)創新應用(yòng)，生成積極健康、向上向善的(de)優質内容，探索優化(huà)應用(yòng)場景，構建應用(yòng)生态體系。

360集團創始人(rén)周鴻祎認爲，《辦法》内容表明(míng)了(le)有關部門鼓勵創新，支持大(dà)模型發展的(de)态度，爲科技企業創新提供了(le)信心和(hé)保障。《辦法》還明(míng)确了(le)适用(yòng)邊界，既能夠規範大(dà)模型的(de)公衆服務，同時也(yě)有利于組織機構的(de)研發和(hé)應用(yòng)。

“産業數字化(huà)戰略背景下(xià)，大(dà)模型作爲工業革命級的(de)生産力工具，應當幫助傳統産業特别是制造業實現數字化(huà)轉型、智能化(huà)升級。《辦法》對推動大(dà)模型在企業級場景的(de)落地有積極意義。”周鴻祎說。

出席論壇的(de)國家網信辦有關負責人(rén)表示，生成式人(rén)工智能首先要統籌發展和(hé)安全。“我們深知人(rén)工智能是今天技術發展方向，生成式人(rén)工智能是人(rén)工智能的(de)重要内容，它必将對我們的(de)經濟社會發展、人(rén)民群衆的(de)生活發揮重要作用(yòng)；同時，我們也(yě)要看到生成式人(rén)工智能可(kě)能帶來的(de)安全風險，需要法律、标準規範引領。”他(tā)說。

出席論壇的(de)工業和(hé)信息化(huà)部有關負責人(rén)表示，工信部系統推進網絡安全的(de)保障體系和(hé)能力建設，取得(de)積極成效，關鍵信息基礎設施的(de)保護、工信領域的(de)數據安全、新型基礎設施安全等一批标準陸續出台，網絡空間環境大(dà)幅改善，人(rén)民群衆利益得(de)到了(le)切實保護。

“我國針對大(dà)模型的(de)安全管理(lǐ)政策是科學且務實的(de)。”百度安全副總經理(lǐ)包沉浮說。

多(duō)位專家表示，加強生成式人(rén)工智能的(de)發展、應用(yòng)、管理(lǐ)，目的(de)是把技術轉變爲生産力，讓人(rén)工智能技術在經濟社會發展中發揮更大(dà)的(de)作用(yòng)。

人(rén)工智能爲網絡安全治理(lǐ)帶來新挑戰

“人(rén)工智能在網絡安全領域給攻防雙方都帶來了(le)變革。”殺毒軟件企業安博士中國區首席執行官沈珉奎說。公安部網絡安全保衛局楊骎博士也(yě)表示，人(rén)工智能正在降低網絡犯罪的(de)門檻。

在個人(rén)層面，人(rén)工智能降低個人(rén)網絡犯罪門檻。美(měi)國專業安全技術公司邁克菲市場總監泰勒·麥基說，“我發現暗網上有很多(duō)暗黑(hēi)版的(de)GPT，價格低廉，容易獲取，有的(de)每個月(yuè)隻需花90美(měi)元就能訂閱使用(yòng)。這些暗黑(hēi)版GPT不但能寫釣魚郵件，還能編寫惡意程序代碼。”

技術“小白”也(yě)能通(tōng)過簡單的(de)問答(dá)方式實施黑(hēi)客攻擊，這相當于給了(le)普通(tōng)人(rén)一本“武林(lín)秘籍”，讓不懂(dǒng)代碼、不懂(dǒng)技術的(de)普通(tōng)人(rén)成爲黑(hēi)客。此外，近期，通(tōng)過AI換臉和(hé)拟聲技術獲取信任進行詐騙的(de)案例屢見不鮮。“隻需要幾秒鍾的(de)語音(yīn)樣本或者一些視頻，就可(kě)以假亂真，利用(yòng)人(rén)工智能詐騙，人(rén)們很難辨别。”泰勒·麥基說。

在社會層面，人(rén)工智能僞造虛假信息會誤導社會公衆。人(rén)工智能深度僞造軟件簡單易用(yòng)，能輕松将面部表情、技術動作和(hé)聲音(yīn)三者融爲一體，這種平民化(huà)和(hé)社會娛樂化(huà)的(de)工具，使得(de)大(dà)規模、低成本的(de)針對個人(rén)的(de)惡搞乃至污蔑成爲可(kě)能。從娛樂到工作，從新聞到科普，無處不見人(rén)工智能的(de)身影(yǐng)，它們以驚人(rén)的(de)速度和(hé)數量回答(dá)問題、發布文章(zhāng)、制作圖片，但往往缺乏真實性、準确性。楊骎舉例說，利用(yòng)人(rén)工智能技術制作虛假新聞事件，對公衆人(rén)物(wù)制作虛假視頻，容易造成不良引導，影(yǐng)響社會認知，甚至破壞社會信任、擾亂社會秩序。

今年6月(yuè)，浙江紹興警方在網上巡查時發現“紹興上虞化(huà)工廠發生重大(dà)火災”的(de)視頻，短時間内浏覽量迅速攀升。警方核實後确認視頻爲人(rén)工智能技術深度合成，并很快(kuài)鎖定某科技網絡公司有較大(dà)作案嫌疑。經調查，5月(yuè)以來，該公司爲牟取利益，從網上非法收購一批視頻賬号，通(tōng)過人(rén)工智能軟件，自動生成或拼接制作虛假視頻發布，以博取流量，并通(tōng)過流量算(suàn)法返款盈利，造成了(le)不良社會影(yǐng)響。

聯合國安理(lǐ)會7月(yuè)18日就人(rén)工智能與安全問題舉行高(gāo)級别公開會。中國常駐聯合國代表張軍在會上指出，國際社會要強化(huà)風險意識，建立有效的(de)風險預警和(hé)應對機制，确保不發生超出人(rén)類掌控的(de)風險，确保在關鍵時刻人(rén)類有能力按下(xià)停止鍵。

呼喚網絡安全治理(lǐ)新格局

面對人(rén)工智能時代，網絡安全領域的(de)新情況、新問題、新挑戰，業内專家建議，首先，建立縱深化(huà)立體化(huà)防禦體系。深信服科技股份有限公司首席安全官周欣認爲，針對多(duō)階段和(hé)定制化(huà)的(de)攻擊，可(kě)以建立縱深防禦體系解決勒索病毒攻擊的(de)行爲。他(tā)建議以人(rén)工智能技術爲核心，持續對抗未知的(de)樣本攻擊。“我們希望用(yòng)‘魔法’對抗‘魔法’，用(yòng)人(rén)工智能打敗人(rén)工智能，我們企業也(yě)在進行有益嘗試。”他(tā)說。

其次，建設一體化(huà)網絡安全運營中心。奇安信科技集團董事長齊向東表示，做(zuò)好安全合規不能隻從簡單的(de)産品堆砌入手，要配合安全體系從管理(lǐ)、技術、運營三個角度開展安全運營治理(lǐ)和(hé)防護工作，要建立“人(rén)+數據+智能”的(de)運營體系，讓安全能力真正活起來。

“隻有這樣才能實現多(duō)元數據的(de)彙聚，對安全風險進行整體的(de)态勢感知，在遭到威脅和(hé)網絡攻擊的(de)時候能夠及時預警和(hé)響應，完成對安全事件的(de)閉環處置。”齊向東說。

此外，還應深化(huà)國際交流，推進網絡安全技術新發展。俄羅斯卡巴斯基實驗室創始人(rén)尤金·卡巴斯基表示，要打擊散布全球的(de)網絡罪犯，執法部門之間的(de)國際合作至關重要。國家計算(suàn)機病毒應急處理(lǐ)中心主任陳玉東說，網絡安全是開放的(de)而不是封閉的(de)，隻有立足開放環境，加強交流合作，吸收借鑒先進技術，網絡安全水(shuǐ)平才會不斷提高(gāo)。

“推動網絡空間國際治理(lǐ)進程，需要發揮信息化(huà)對經濟社會發展的(de)引領作用(yòng)，積極利用(yòng)法律法規和(hé)标準規範引導新技術應用(yòng)，自主創新推進網絡安全技術提升，以技術創新夯實網絡安全基礎。”陳玉東說。

“各方應繼續努力，進一步搭建合作交流的(de)平台，共同建立更加科學完善的(de)網絡安全威脅應對處置機制，攜手構建網絡空間命運共同體。” 天津市副市長、市公安局長衡曉帆表示。（記者 李鲲 王井懷 張宇琪 黃江林(lín) 實習生 金梓純）