<span id="jt1b7"></span>
<noframes id="jt1b7"><em id="jt1b7"><big id="jt1b7"><menuitem id="jt1b7"></menuitem></big></em>
<form id="jt1b7"></form>

<span id="jt1b7"></span>

    新華通訊社主管

    首頁 >> 正文

    人工智能亟待構筑“主動免疫”安全防線
    2023-05-25 記者 周武英 綜合報道 來源: 經濟參考報

      近年來,全球人工智能(AI)產業蓬勃發展,今年ChatGPT更是引爆了新一輪投資和競爭浪潮,人工智能已成為新一輪科技革命和產業變革的重要驅動力量?!督洕鷧⒖紙蟆酚浾咴谡{研中發現,人工智能正顯露出對網絡安全行業的巨大影響力和應用潛力,如何應對人工智能可能帶來的安全問題成為各界關注點,也成為網絡安全工作的下一個著力點。

      人工智能產業發展迅速

      近年來,人工智能產業加速發展。據中國信通院測算,2022年我國人工智能核心產業規模達5080億元,同比增長18%,企業數量超過4000家,中國人工智能產業已進入全球第一梯隊。另據預測,2030年我國人工智能核心產業規模將超過1萬億元人民幣,全球人工智能市場規模將達到16萬億美元。美國商會今年3月的報告指出,在未來20年里,“幾乎所有企業和政府機構”都將使用人工智能,人工智能將對社會、經濟和國家安全產生深遠影響。

      中國科學技術部部長王志剛近日在第七屆世界智能大會上表示,當前全球人工智能發展進入新一輪躍升期,超大規模預訓練模型的重大突破實現了人工智能的一次歷史性跨越,探索出通往通用人工智能的可能路徑,潛在創新發展空間巨大。

      當前,主要發達國家均十分重視發展人工智能,美國、英國、法國、德國、加拿大、日本、印度、新加坡等國均已陸續發布了人工智能戰略。我國也十分重視這一領域的發展,2017年就印發了新一代人工智能發展規劃,提出要搶抓發展的重大戰略機遇,構筑我國人工智能發展的先發優勢。

      今年,ChatGPT引發新一波人工智能投資和競爭浪潮。谷歌、Meta等美歐企業和我國的百度、阿里、華為、科大訊飛等都在加緊對人工智能的研究。

      業界人士預計,未來5至10年將是人工智能發展的關鍵期。僅就生成式人工智能而言,Gartner預計其將在2至5年內進入成熟期,并將帶來大量的應用機會和商業潛力,是未來的重要技術趨勢。

      潛藏安全風險引擔憂

      人工智能在網絡行為異常分析、網絡安全漏洞識別、人臉檢測、自動威脅檢測、反欺詐等很多方面都發揮了重要作用,但人工智能快速發展可能帶來的潛藏風險引發廣泛擔憂,關于人工智能發展監管的呼聲越來越高。

      中國信息協會信息安全專業委員會主任葉紅指出,全球范圍內人工智能引發的數據泄露、網絡攻擊、模式誤導、學習反噬等安全風險日益凸顯,已成為影響和制約人工智能高質量發展的障礙。下一階段,人工智能安全將是網絡安全發力的一個重點。

      國家信息中心黨委專職副書記、紀委書記吳文化日前在2023西湖論劍·數字安全大會上表示,人工智能給網絡安全引入了三方面風險:一是網絡攻擊風險,人工智能在一定程度上降低了網絡犯罪的門檻,提高了攻擊的有效性;二是數據泄露風險,容易造成敏感數據或個人信息泄露;三是模型誤導風險,一旦遭受數據投毒或模型攻擊,容易引發負面輿情擴散或重要決策偏差。

      人工智能發展所呈現的新特征帶來了安全挑戰。中國電信股份有限公司研究院副院長/云網基礎設施安全國家工程研究中心常務副主任李安民認為,人工智能安全不同于以往,其具有double security(雙重安全)特征。以往的安全主要是確保系統、對象的安全,而人工智能對象特殊,目前已進入模型驅動時代,其本身具有學習、演進、變化的能力。尤其到元宇宙時代,多元、多維、全息、全能的特征和以往狹義的網絡空間和網絡信息安全相比,人工智能涉及的安全問題范疇無論從內涵還是外延都有極大的突破。

      中國電信集團有限公司科技創新部總經理/云網基礎設施安全國家工程研究中心主任王桂榮認為,由于AI技術應用滲透到方方面面,因此有可能帶來社會生活和社會治理安全的問題。一些技術,如歧視性的算法、換臉技術等,如果應用不當則會帶來倫理安全等風險。

      國家信息技術安全研究中心原總工程師李京春認為,由于目前人工智能還不具備創新或聯想的特性,尚不足以對人類安全構成威脅。但隨著技術的不斷演進,仍可能對國家安全、數據安全、網絡安全具有影響。

      安恒信息董事長范淵日前接受媒體采訪時也從技術層面分析解釋了AI將帶來的兩個挑戰:一是一些自動化生成工具會帶來病毒、木馬、后門等出現幾率的大幅提升,甚至可能是幾百倍的提升,怎樣來對抗、來快速發現和快速進行智能化的防護是重要挑戰;二是如ChatGPT這樣的應用大模型會伴隨大量的數據應用,從而產生相關的安全漏洞風險。

      業界人士還指出,人工智能應用不當或濫用會增加網絡安全、信息安全的監管成本,引發監管滯后。中國電科首席專家董貴山對此表示,ChatGPT作為輔助工具后可能出現過度采集使用者信息的情況,如果ChatGPT本身的源代碼上游系統有漏洞,也會導致不同用戶的交互隱私遭泄露。

      中國工程院院士沈昌祥警告,人工智能自身失誤可能會給人類帶來災難;智能硬件可能被惡意用于恐怖襲擊;智能工具可能被用于干預和引導政治走向;智能化武器與軍備競賽引發國際新的擔憂。

      未雨綢繆筑牢安全防護墻

      業界人士認為,在人工智能發展過程中,要堅持安全可靠和創新發展并重,筑牢安全防護墻,應對人工智能帶來的安全風險亟須未雨綢繆,從而真正擁抱人工智能發展帶來的機遇。

      中國科學技術協會主席萬鋼近日表示,要進一步推動科技、倫理、規范、標準和技術的融合,為智能體構建與科技向善的人類共同理念相契合的學習、理解和行為模式,以及更有效的安全性、可靠性、有效性的行為邊界。

      在沈昌祥看來,人工智能發展是趨勢,但安全是發展前提,要避免產業盲目發展,需要構建主動免疫人工智能安全產業的空間。他提出,構建起業務信息、資源和管理的安全可信的三重防護框架,并設置基礎軟件安全可信、應用軟件可信、電信安全可信和實時態勢感知四個保護等級。

      我國對人工智能安全高度重視,近年來,關于網絡安全的法律法規、標準規范,包括各種團體標準、地方政策不斷出臺。

      業界人士認為,從制度、標準、防范技術等方面來看,在制定了相應的框架后,仍需進一步細化深化。與產業的蓬勃發展相比,安全制度仍顯得滯后,給人工智能風險防范和安全監管帶來了嚴峻挑戰。

      葉紅建議,要健全人工智能安全制度的體系建設。在推動產業發展時,應深刻認識到其發展可能面臨的風險,健全和完善人工智能算法安全、模型安全、數據安全以及安全評估等政策和制度;要在強化人工智能安全行業治理方面加大力度,需要多元主體共同參與治理。積極鼓勵相關科研院所持續開展人工智能相關重點問題研究,鼓勵相關行業組織制定相關人工智能標準;鼓勵第三方開展相關安全評估和檢測認證。

      李京春指出,人工智能安全問題需要全球共同治理,守住道德底線。要重視軟件和軟件供應鏈的安全管控,加大數據安全保護力度,要開展識別、封控等對抗AI技術研究,打擊人工智能犯罪。要加強網絡安全審查、數據安全審查等國家安全審查。

      針對人工智能隱藏風險的新特征,方正證券5月的研報指出,在本輪人工智能產業浪潮下,網絡安全產業在攻擊側、防守側及監管側的邏輯將發生重大變化。

      記者在調研中發現,網絡安全企業和技術應用企業已經在積極把握時機,主動應對人工智能的新模式、新應用帶來的安全需求。

      作為深耕網絡安全的企業,安恒信息對人工智能安全防護有著積極看法?!啊瓵I+安全’,這個大幕才剛剛拉開,未來還有更大的可能性?!狈稖Y認為。據介紹,安恒信息積極利用“AI+安全”的智能化應用給智能防護和響應產業帶來的機遇。過去幾年,安恒信息已經在云端數據大腦、云端AI模型生成及應用領域進行了積極布局,對類似于大語言模型帶來的安全挑戰已積累了一定實戰經驗。

      中國電信也在積極構建完備的人工智能應用安全處理體系。在讓人工智能更安全方面,中國電信加大相關技術研發,攻關人工智能縱深防御技術、密碼技術和數據產業鏈化技術。目前,其自主研發的威脅檢測系統、隱私計算的數據共享平臺,以及數據安全流通與監管系統、數據安全的智能化關鍵技術等,已經在內部和客戶場景得到了廣泛應用。

      業界專家指出,隨著人工智能科技和產業的快速發展,有必要根據最新形勢變化,制定實施新的人工智能發展國家戰略,包括加快研發人工智能大模型、集中力量攻克人工智能關鍵核心技術、超前規劃布局人工智能產業、培養和引進世界一流的人工智能創新人才、及時研究制定有關規則和標準等。針對一些核心技術方面的難題,特別是在基礎理論、底層框架和算法核心領域,要強化和深入人工智能核心技術攻關,聚集產學研用各方力量,開展人工智能技術的聯合攻關,深化人工智能的技術和產業融合創新。

    凡標注來源為“經濟參考報”或“經濟參考網”的所有文字、圖片、音視頻稿件,及電子雜志等數字媒體產品,版權均屬經濟參考報社,未經經濟參考報社書面授權,不得以任何形式刊載、播放。獲取授權

    “數實融合”邁向深水區 產業逐“智”待夯實底座

    “數實融合”邁向深水區 產業逐“智”待夯實底座

    當前,發展數字技術、數字經濟,已成為搶抓世界科技革命和產業變革先機,搶占國際競爭高地的重要選擇。

    ·重慶永川:“扭緊”影視與科技的產業鏈條

    上市央企ESG信披提速“交卷” 監管指引正加快制定

    上市央企ESG信披提速“交卷” 監管指引正加快制定

    ESG成為A股上市公司“必答題”,國有企業尤其是中央企業“交卷”提速。

    ·“新引擎”讓老國企“輕裝快跑”

    經濟參考報社版權所有 本站所有新聞內容未經經濟參考報協議授權,禁止轉載使用

    新聞線索提供熱線:010-63074375 63072334 報社地址:北京市宣武門西大街57號

    JJCKB.CN 京ICP備18039543號

    亚欧乱色国产精品免费九库_天天做天天爱天天爽天天综合_国产l精品国产_国产睡熟迷奷系列网站

    <span id="jt1b7"></span>
    <noframes id="jt1b7"><em id="jt1b7"><big id="jt1b7"><menuitem id="jt1b7"></menuitem></big></em>
    <form id="jt1b7"></form>

    <span id="jt1b7"></span>