10月30日,香山論壇“人工智能安全”論壇現場。圖/新京報記者柯銳 攝


新京報訊(記者柯銳)第十屆北京香山論壇30日在京開幕。在當天下午召開的“人工智能安全”論壇上,十余位國內外專家學者、重磅嘉賓就人工智能在軍事等領域的應用以及人工智能治理進行了深度討論。


無人機大出風頭引關注


在烏克蘭危機中頻繁出現的無人機,和近年來人工智能在軍事領域的運用,引起了論壇嘉賓的關注。


俄羅斯國立高等經濟大學歐洲與國際綜合研究中心主任瓦西里·卡申表示,在俄烏前沿陣地,有大量的遙控使用的無人機,每天使用量達數百個。這些無人機成本低,可大規模生產。一般是操作員使用VR眼鏡遙控指揮。


AI在武器中的應用,不但會改變現代戰爭的模式,且可能會對人類社會帶來不可預測的后果。對此,紅十字國際委員會科學與政策高級顧問尼爾·戴維森表示,AI在軍事上的運用,對人和生命的影響值得關注。AI控制自助武器,可能會造成不可逆的影響。國際社會要采取措施,減少對平民和民用設施的影響。


他認為,對某些致命性自主武器要采取限制措施。例如,在過去,對地雷的影響,人們是在大量使用后才研討對策;現在,對于采用AI技術的機器人武器的使用,人們應該先進行研判,形成共識。


近期,基辛格與人合作的新著《人工智能時代與人類未來》也引起了與會嘉賓的關注。該書提出,人工智能將重塑全球安全與世界秩序。同時指出,人工智能武器具備核武器不具備的三個特點:集中在大公司和私人部門;技術更容易被復制,從而容易被非政府組織掌握;小國也有機會掌握。


對此,秘魯國家高等研究中心馬林阿里斯塔研究所主任羅伯托·比斯卡多建議,成立針對AI的國際治理機構,由聯合國來主導。制定AI應用的相關標準,確保倫理法律準則的實施。


中國科學院類腦智能研究中心副主任曾毅表示,關于AI的規則標準,美國、中國、英國等國都有,在此方面,各國相似的內容多于不同的內容。各國應該相互學習,關注共同的挑戰。


中國為治理提供建設性思路


除了軍事領域,AI在更廣泛領域的應用和治理問題也引起了論壇嘉賓討論。


論壇上,外交部軍控司參贊高會君表示,人工智能治理要堅持三個原則。一是要確??深A測性,確保人工智能始終處于人類控制之下。二是堅持倫理先行,建立并完善人工智能倫理準則、規范及問責機制,堅持公平和非歧視性原則,充分尊重并保障各群體的合法權益。三是逐步建立健全法律和規章制度,保護個人隱私和數據安全,反對非法收集和利用個人信息的行為。


另外,在人工智能治理方面有幾個重點。第一是要密切跟蹤技術發展形式,提高人工智能治理的技術能力,要用人工智能技術來規范、助力人工智能治理。第二是要加強信息交流和技術合作,共同做好風險防范,不斷提升人工智能技術的安全性、可靠性、可控性、公平性。三是要確保人工智能發展和治理權力平等、機會平等、規則平等,增強發展中國家代表性和發言權,彌合智能鴻溝和治理能力的差距,在尊重各國政策和實踐差異的基礎上,推動國際人工智能治理領域形成廣泛共識。


高會君表示,中國人工智能技術雖比較發達,但是在國際人工智能治理這個問題上,我們非常關注廣大發展中國家的利益。中方積極支持在聯合國框架下討論成立國際人工智能治理機構,協調國際人工智能發展、安全和治理重大問題。


10月18日,習近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布中方將提出《全球人工智能治理倡議》。


高會君表示,該倡議為各方普遍關切的人工智能發展與治理問題,提供了建設性解決思路,最大程度凝聚了國際共識,為相關國際討論和規則制定提供了藍本,是中方踐行人類命運共同體理念,落實全球發展倡議、全球安全倡議和全球文明倡議后又一重要舉措。


“與一些西方國家處心積慮搞‘小院高墻’、制造‘智能鴻溝’的政策主張相比,倡議反映出中國在人工智能領域成熟的治理經驗,彰顯出我們胸懷天下、大公無私的大國胸襟?!备邥f。



新京報記者 柯銳

編輯 鄭偉彬

校對 賈寧