• <span id="n97xl"><optgroup id="n97xl"></optgroup></span>
          1. <li id="n97xl"></li>
            <label id="n97xl"><meter id="n97xl"></meter></label>

              防范人工智能安全風險

                 2022-09-27 經濟日報1868
              核心提示:近年來,我國人工智能產業規模快速增長。據工信部發布數據顯示,人工智能核心產業規模超過4000億元,比2019年同期增長6倍多,企業數量超過3000家,比2019年同期增加15%,在制造、交通、醫療、金融等重點行業形成一批典型應用場景。

              將一張“神奇貼紙”貼在臉上,就能讓人臉識別門禁系統出現誤判,毫無防備地為陌生人打開大門;把這張“貼紙”放在眼鏡上對準手機,就能解鎖其人臉識別系統,獲取用戶信息如入無人之境……這曾經只出現在科幻電影中的場景,如今已經在現實生活中發生。日前,首屆人工智能安全大賽在北京舉辦,上述攻防場景在大賽中令不少觀眾直呼驚訝。

              近年來,我國人工智能產業規模快速增長。據工信部發布數據顯示,人工智能核心產業規模超過4000億元,比2019年同期增長6倍多,企業數量超過3000家,比2019年同期增加15%,在制造、交通、醫療、金融等重點行業形成一批典型應用場景。“伴隨應用場景日益廣泛以及使用頻次快速增長,人工智能安全風險發生的范圍和可能性持續提高。”中國科學院院士、清華大學人工智能研究院名譽院長張鈸認為,以深度學習為代表的算法爆發拉開了人工智能浪潮序幕,在計算機視覺、智能語音、自然語言處理等眾多領域取得長足發展。但以數據驅動的第二代人工智能在可解釋性、穩健性方面的缺陷也逐漸暴露出來,導致安全事件頻發。如何實現高質量發展和高水平安全良性互動,是當前人工智能產業面臨的最為重要命題。

              中國信息通信研究院發布的《人工智能白皮書(2022年)》同樣指出,隨著人工智能應用暴露出各種風險和挑戰,以及人們對人工智能認識的不斷深入,人工智能治理已經成為全球各界高度關注的議題,對可信安全的呼聲不斷增多。

              “人工智能安全風險主要從‘人’與‘系統’兩個角度剖析。從人的視角看,人工智能安全風險存在技術濫用甚至‘武器化’問題。”北京瑞萊智慧科技有限公司CEO田天以深度合成技術為例解釋,該技術能夠大幅提升內容制作效率與質量,但其負向應用——深度偽造的風險正持續加劇且已產生實質危害。比如,通過“AI換臉”捏造虛假講話視頻等引導公眾輿論。對此,清華大學人工智能研究院基礎理論研究中心主任朱軍認為,技術是中性的,應加強對應用場景、使用者的監管,防止技術濫用等衍生風險發生,保障其應用可控。

              大賽現場演示的人臉識別破解則展示了人工智能系統層面風險,它來自深度學習模型本身存在脆弱和易受攻擊的缺陷,通過輸入數據添加擾動,使系統作出錯誤判斷,導致其可靠性難以得到信任。這一漏洞在自動駕駛感知系統同樣存在:正常情況下,自動駕駛系統識別到路障、指示牌、行人等目標后,會立即制動車輛,但對目標物體添加干擾圖案后,車輛感知系統就會出錯,引發碰撞危險。“與傳統信息系統不同,人工智能系統存在高度不確定性,技術漏洞更為復雜。”朱軍建議,在算法模型外部署安全防護組件,利用算法安全檢測與防御加固等措施,抵御模型竊取、對抗樣本等新型攻擊,提高攻擊門檻與防御成本,讓攻擊者無利可圖,從而在源頭上實現安全。

              北京航空航天大學軟件開發環境國家重點實驗室副主任劉祥龍則認為,構建科學評測手段是提高人工智能系統防御能力的另一項有效解決方案。人工智能算法不僅種類眾多,還包含數據集、模型等眾多要素,涉及訓練、測試、驗證等多個環節,這使得人工智能算法安全性評測成為一項復雜命題。因此,應配備從測試、分析到加固的完整技術手段,形成標準化測試流程。人工智能安全評估不僅局限于算法,未來還應拓展至數據、應用等多個層面,形成全面測評,保障人工智能全周期安全。

              從長遠看,人工智能安全問題需要從算法模型原理上尋找突破口。張鈸提出構建第三代人工智能,即在第二代人工智能具有的數據、算法、算力3個要素基礎上,再融合知識要素,建立新的可解釋、穩健的人工智能方法。

              筑牢人工智能安全屏障需要不斷在攻防演練中升級對抗能力。大賽聚焦人臉識別、自動駕駛等場景中的典型漏洞及風險,通過考核漏洞發現、挖掘等能力,尋找新型安全需求場景,推動人工智能安全攻防技術創新,為強化人工智能治理體系與安全評估能力建設提供支撐。

              作為人工智能產業發展重要基石,算力基礎設施的加快建設將滿足人工智能爆發式增長的算力需求。國家工業信息安全發展研究中心日前發布的《人工智能算力基礎設施安全發展白皮書》指出,安全的算力基礎設施應保護數據模型不被竊取,有效防范惡意攻擊,提供可信任的運行環境,保障人工智能系統安全穩定。

              但人工智能算力基礎設施發展仍處于初期階段,專門的安全標準、技術體系、評估規范、監測和檢查手段仍在建設中。為進一步推動人工智能算力基礎設施安全發展,國家工業信息安全發展研究中心副主任何小龍認為,算力基礎設施與人工智能的安全問題相互交織,應構筑具有針對性的一體化、全鏈路標準體系,實現協同聯防。同時,鼓勵算力基礎設施企業和算法企業加強合作,推動安全技術工具集成到人工智能算力基礎設施中,降低企業應用人工智能成本,形成安全發展良好氛圍。(記者 李芃達)

               
              分享到: 0
              收藏 0
               
              更多>同類資訊
              免責申明
              推薦資訊
              點擊排行
              最新資訊更多>
              最新供應更多>
              網站首頁  |  聯系方式  |  關于我們  |  問題解析  |  版權隱私  |  使用協議  |  網站地圖  |  排名推廣  |  廣告服務  |  積分換禮  |  網站留言  |  RSS訂閱  |  違規舉報  |  粵ICP備1207862號

              中國智能化網(zgznh®)--引領工業智能化產業發展 共享智能化+優質平臺

              版權所有:深圳市智控網絡有限公司 學術指導:深圳市智能化學會

              粵ICP備12078626號

              深公網安備案證字第 4403101901094 號 | 粵公網安備 44030702001206號

               
              主站蜘蛛池模板: 一本久久综合亚洲鲁鲁五月天亚洲欧美一区二区 | 狠狠色狠狠色综合久久| 国产福利电影一区二区三区久久久久成人精品综合 | 亚洲综合一区二区国产精品| 一本大道久久a久久精品综合| 亚洲精品综合在线影院| 综合网日日天干夜夜久久| 亚洲欧美日韩综合二区三区| 一本久久a久久精品vr综合| 婷婷综合久久狠狠色99h| 一本色道久久88综合日韩精品 | 久久综合丁香激情久久| 一本色道久久综合亚洲精品| 日韩欧美Aⅴ综合网站发布| 久久99亚洲综合精品首页| 狠狠色伊人久久精品综合网| 色综合久久久久综合99| 亚洲综合日韩中文字幕v在线| 中文网丁香综合网| 欧美亚洲综合激情在线| 久久久久高潮综合影院| 亚洲综合精品一二三区在线| 国产激情综合在线观看| 色狠狠色狠狠综合一区| 亚洲色图综合在线| 老色鬼久久亚洲AV综合| 色综合网站国产麻豆| 久久本道综合久久伊人| 色综合久久最新中文字幕| 欧美日韩综合精品| 一本大道久久a久久精品综合| 国产成人综合色在线观看网站| 亚洲国产欧美国产综合一区| 色综合久久久久无码专区| 天天av天天翘天天综合网| 亚洲综合中文字幕无线码| 一本色综合久久| 亚洲国产欧美国产综合久久| 久久婷婷五月综合色高清| 久久综合九色综合欧美狠狠| 色综合久久久久|