AI解鎖無人時(shí)代 仍需數(shù)據(jù)安全保駕護(hù)航

  ICC訊 近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)作為驅(qū)動(dòng)人工智能快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機(jī)遇和挑戰(zhàn)。

  驗(yàn)證碼登陸、移動(dòng)在線支付、人臉識別門禁……

  隨著新一代信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)和人工智能技術(shù)應(yīng)用蓬勃發(fā)展，數(shù)據(jù)也被視為一種無形的資產(chǎn)。然而，技術(shù)是一把雙刃劍，在給我們生產(chǎn)生活帶來效率提升的同時(shí)，伴隨的安全問題也不可忽視。

  近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)安全成為當(dāng)今數(shù)字化轉(zhuǎn)型時(shí)代的關(guān)鍵緊迫議題。

  在7月8日至10日舉行的2021世界人工智能大會(huì)上，數(shù)據(jù)安全、數(shù)據(jù)治理、網(wǎng)絡(luò)安全等問題備受關(guān)注。業(yè)界認(rèn)為，在人工智能深入推進(jìn)城市數(shù)字化轉(zhuǎn)型過程中，企業(yè)應(yīng)積極主動(dòng)接受監(jiān)管，推動(dòng)產(chǎn)業(yè)健康持續(xù)發(fā)展。

  數(shù)據(jù)安全治理面臨新的機(jī)遇和挑戰(zhàn)

  近日，桔視記錄儀等25款A(yù)pp因存在嚴(yán)重違法違規(guī)收集使用個(gè)人信息問題，被國家互聯(lián)網(wǎng)信息辦公室依據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》相關(guān)規(guī)定，通知應(yīng)用商店下架。

  此前，在上海車展特斯拉車主維權(quán)事件中，特斯拉公布了維權(quán)車主車輛事發(fā)前半小時(shí)的行車數(shù)據(jù)。該行為引發(fā)了眾多爭議：車企該不該將行車數(shù)據(jù)公開？人們?nèi)绾未_定數(shù)據(jù)的可靠性？

  沒有大數(shù)據(jù)的收集和基礎(chǔ)，人工智能是無本之木。數(shù)據(jù)作為驅(qū)動(dòng)人工智能快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機(jī)遇和挑戰(zhàn)。

  “大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)的開展，讓數(shù)據(jù)安全對城市運(yùn)轉(zhuǎn)變得前所未有的重要，數(shù)據(jù)一旦遭到攻擊，就意味著業(yè)務(wù)會(huì)停轉(zhuǎn)，將造成嚴(yán)重的經(jīng)濟(jì)損失和社會(huì)后果?！?60公司創(chuàng)始人、董事長兼CEO周鴻祎表示，最近幾年，360公司接到大量醫(yī)院的報(bào)警，稱醫(yī)院網(wǎng)站被勒索軟件攻擊之后不能進(jìn)行手術(shù)，不能給病人掛號看病。

  近年來，城市也成為了網(wǎng)絡(luò)勒索的重要目標(biāo)，而且網(wǎng)絡(luò)攻擊的對象不僅限于電腦、手機(jī)、設(shè)備、系統(tǒng)，還逐漸擴(kuò)展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應(yīng)用具有極強(qiáng)的隱私性與領(lǐng)域擴(kuò)展性，關(guān)乎個(gè)人信息安全甚至國家信息安全。對政府、城市公共事業(yè)單位的數(shù)據(jù)勒索，會(huì)造成城市運(yùn)轉(zhuǎn)和服務(wù)陷入停擺。今年5月，美國最大的燃油輸送管線遭遇網(wǎng)絡(luò)攻擊被迫關(guān)停，導(dǎo)致美國東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。

  業(yè)界認(rèn)為，針對上述情況，要讓人工智能技術(shù)的頭頂上高懸一把達(dá)摩克里斯之劍。

  數(shù)據(jù)輸入、分析等過程都存在相應(yīng)風(fēng)險(xiǎn)

  數(shù)據(jù)非法跨境流通可能危害國家主權(quán)和國家安全；數(shù)字信息的過度采集和非法使用，可能侵犯公民的權(quán)利和隱私；算法的偏好可能加劇社會(huì)的偏見或歧視，威脅公平正義；無人駕駛汽車緊急避險(xiǎn)等智能決策可能威脅特定人群的生命……

  全國政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏在人工智能大會(huì)安全高端對話上指出，人工智能發(fā)展與安全發(fā)展風(fēng)險(xiǎn)同時(shí)并存，這不僅是一個(gè)技術(shù)問題，也是一個(gè)安全問題，同時(shí)還涉及倫理、法律和國際規(guī)則等相關(guān)問題。

  國家工業(yè)信息安全發(fā)展研究中心副主任何小龍?jiān)谌斯ぶ悄艽髸?huì)上表示，人工智能帶來的數(shù)據(jù)安全問題一方面加速了傳統(tǒng)數(shù)據(jù)安全問題。

  人工智能大規(guī)模的運(yùn)用使得過度采集數(shù)據(jù)安全問題進(jìn)一步加劇。另一方面，也帶來了新型數(shù)據(jù)安全的問題。人工智能的算法對數(shù)據(jù)具有較強(qiáng)的依賴性，可能會(huì)帶來數(shù)據(jù)投毒等新型數(shù)據(jù)安全挑戰(zhàn)。

  算法、模型和數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)三大基石。騰訊朱雀實(shí)驗(yàn)室首席AI安全專家朱季峰在人工智能大會(huì)主題論壇上表示，以算法構(gòu)建過程中上下游的產(chǎn)業(yè)鏈來看，數(shù)據(jù)的輸入、數(shù)據(jù)的分析、模型的訓(xùn)練、模型的決策、模型的上線部署應(yīng)用以及模型的改造過程當(dāng)中都存在相應(yīng)的風(fēng)險(xiǎn)。

  例如，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制了數(shù)據(jù)來源，或者攻擊者能夠?qū)κ占?A href="http://odinmetals.com/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數(shù)據(jù)的設(shè)備本身產(chǎn)生安全攻擊，最終將通過這個(gè)鏈條影響到算法模型。如通過超聲波影響陀螺儀，最終可以使無人機(jī)墜落。或者在模型決策階段，可以通過物理攻擊，使得自動(dòng)駕駛車輛最終視覺識別系統(tǒng)出問題，這樣可能影響車輛自動(dòng)行駛或者對行人的判斷。

  隨著人工智能的應(yīng)用，技術(shù)的濫用帶來失控風(fēng)險(xiǎn)。驗(yàn)證碼驗(yàn)證機(jī)制首當(dāng)其沖。朱季峰介紹，早在2017年，地下的黑產(chǎn)就已經(jīng)開始用機(jī)器學(xué)習(xí)的方法做二維碼識別訓(xùn)練。資料表明，80%以上驗(yàn)證的準(zhǔn)確性都可以通過機(jī)器學(xué)習(xí)算法自動(dòng)完成線上的注冊，這就產(chǎn)生了一系列的安全問題。

  3大系統(tǒng)共筑數(shù)據(jù)安全防火墻

  人臉識別技術(shù)依托于對海量視圖數(shù)據(jù)的分析，因而數(shù)據(jù)安全直接影響著人臉識別技術(shù)的實(shí)戰(zhàn)應(yīng)用。人工智能技術(shù)在安防領(lǐng)域的應(yīng)用是技術(shù)尋求落地進(jìn)程最快、應(yīng)用最早的訓(xùn)練場。

  達(dá)闥創(chuàng)始人、董事長兼CEO黃曉慶表示，從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，解決數(shù)據(jù)網(wǎng)絡(luò)安全問題有很多手段。從網(wǎng)絡(luò)和數(shù)據(jù)角度要完成三個(gè)重要的任務(wù)——物理隔離、網(wǎng)絡(luò)隔離、應(yīng)用端到端的保護(hù)。

  除了技術(shù)，我國利用法律武器在數(shù)據(jù)立法上也做出了探索。

  今年6月，我國頒布了《數(shù)據(jù)安全法》，9月1日將開始正式實(shí)施?！?A href="http://odinmetals.com/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數(shù)據(jù)安全法》提出以數(shù)據(jù)分級分類為核心，搭建數(shù)據(jù)安全的監(jiān)管制度，要求強(qiáng)化落實(shí)各級數(shù)據(jù)處理活動(dòng)主體數(shù)據(jù)安全保護(hù)的義務(wù)與責(zé)任，為規(guī)范數(shù)據(jù)處理活動(dòng)，保障數(shù)據(jù)安全提供法律依據(jù)。另外，《個(gè)人信息保護(hù)法（草案）》也即將進(jìn)入三審階段，兩項(xiàng)法案相輔相成，推動(dòng)我國個(gè)人信息保護(hù)和數(shù)據(jù)安全治理進(jìn)入全新階段。

  在人工智能大會(huì)“大愛無疆·共生”論壇上，清華大學(xué)蘇世民書院院長薛瀾回顧人工智能治理模式歷經(jīng)回應(yīng)式治理、集中治理和敏捷治理三個(gè)階段?！艾F(xiàn)在我們進(jìn)入了相對比較集中的治理模式。該模式明確了國家加強(qiáng)行業(yè)監(jiān)管，促進(jìn)制度落地的決心，對暴露出來的各種問題采取比較堅(jiān)決的措施落實(shí)監(jiān)管規(guī)則，同時(shí)觸及到需要進(jìn)一步研究的問題。”薛瀾說。

  目前，上海正研究立項(xiàng)公共場所人臉識別分級分類應(yīng)用規(guī)范的地方標(biāo)準(zhǔn)，將成為全國首個(gè)立項(xiàng)的人臉識別的地方性標(biāo)準(zhǔn)；開展全市人工智能數(shù)據(jù)立法調(diào)研，規(guī)范數(shù)據(jù)確權(quán)，數(shù)據(jù)共享等重要內(nèi)容，推動(dòng)可信人工智能的研究。上海市人大也正在起草《上海市數(shù)據(jù)條例》。

  此外，上海市數(shù)字證書認(rèn)證中心、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動(dòng)互聯(lián)網(wǎng)系統(tǒng)與應(yīng)用安全國家工程實(shí)驗(yàn)室、上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起籌建數(shù)字身份與數(shù)據(jù)流通信任技術(shù)實(shí)驗(yàn)室，該實(shí)驗(yàn)室將基于數(shù)字信任技術(shù)的產(chǎn)學(xué)研生態(tài)合作，開展隱私計(jì)算、區(qū)塊鏈、前沿密碼等數(shù)字信任技術(shù)攻關(guān)和產(chǎn)業(yè)應(yīng)用，支撐城市數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素市場構(gòu)建和網(wǎng)絡(luò)安全體系建設(shè)。

  記者獲悉，上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開發(fā)利用等方面進(jìn)行立法探索；臨港新片區(qū)將試點(diǎn)開展企業(yè)法人數(shù)據(jù)的跨境流通的安全評估和服務(wù)監(jiān)管，加強(qiáng)個(gè)人數(shù)據(jù)的全生命周期安全監(jiān)控和防護(hù)。