起點課堂會員權益
職業(yè)體系課特權
線下行業(yè)大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業(yè)技能直播
會員專屬社群
榮耀標識 AI的未來?。。?/h2>
本文探討了AI的未來趨勢，包括其對大數(shù)據(jù)、網(wǎng)絡安全的影響以及全球治理的必要性。隨著AI技術的廣泛應用，我們必須認識到它帶來的機遇與挑戰(zhàn)，尤其是在數(shù)據(jù)安全和隱私保護方面。
人工智能（AI）確實是計算機科學的一項革命性壯舉，將在未來幾年和幾十年內(nèi)成為所有現(xiàn)代軟件的核心組成部分。這既是威脅，也是機遇。
人工智能將被部署來增強防御性和進攻性網(wǎng)絡作戰(zhàn)。此外，還將發(fā)明新的網(wǎng)絡攻擊手段，以利用人工智能技術的特定弱點。最后，人工智能對大量訓練數(shù)據(jù)的需求將放大數(shù)據(jù)的重要性，從而重新定義我們必須如何考慮數(shù)據(jù)保護。全球?qū)用娴膶徤髦卫韺τ诖_保這一定義時代的技術帶來廣泛共享的安全和繁榮至關重要。
一、人工智能與大數(shù)據(jù)
一般來說，人工智能是指能夠替代人類智能執(zhí)行某些任務的計算工具。這項技術目前正在以驚人的速度發(fā)展，就像二十世紀末數(shù)據(jù)庫技術經(jīng)歷的指數(shù)增長一樣。數(shù)據(jù)庫已發(fā)展成為驅(qū)動企業(yè)級軟件的核心基礎設施。同樣，未來幾十年軟件帶來的大部分新附加值預計將至少部分由人工智能驅(qū)動。
在過去的十年中，數(shù)據(jù)庫已經(jīng)發(fā)生了顯著的發(fā)展，以應對被稱為“大數(shù)據(jù)”的新現(xiàn)象。這是指現(xiàn)代數(shù)據(jù)集的規(guī)模和全球范圍前所未有，這些數(shù)據(jù)集主要來自計算機系統(tǒng)，這些系統(tǒng)幾乎已經(jīng)影響了日常生活的各個方面。例如，YouTube 每分鐘接收超過 400 小時的視頻內(nèi)容。
例如，研究人員訓練計算機模型，僅根據(jù)個人喜歡的 Facebook 帖子，比朋友更準確地識別個人的性格特征。
大數(shù)據(jù)和人工智能有著特殊的關系。人工智能發(fā)展的最新突破主要源于“機器學習”。該技術不是規(guī)定人工智能要遵循的一組靜態(tài)方向，而是使用大數(shù)據(jù)集來訓練人工智能。例如，人工智能聊天機器人可以接受包含從通訊應用程序收集的人類對話文本記錄的數(shù)據(jù)集的訓練，以學習如何理解人類所說的話，并提出適當?shù)幕貞??？梢哉f，大數(shù)據(jù)是推動人工智能算法和模型的原材料。
創(chuàng)新的主要限制不再是記錄和存儲信息的困難，而是在現(xiàn)在收集的大量數(shù)據(jù)中找到有用的見解。人工智能可以注意到龐大數(shù)據(jù)集中超出人類感知能力的模式。這樣，人工智能技術的采用就可以讓看似平凡、看似微不足道的數(shù)據(jù)變得有價值。例如，研究人員訓練計算機模型，僅根據(jù)個人喜歡的 Facebook 帖子，比朋友更準確地識別個人的性格特征。
二、人工智能和網(wǎng)絡安全
幾乎每天都會有有關備受矚目的數(shù)據(jù)泄露或造成數(shù)百萬美元損失的網(wǎng)絡攻擊的新聞報道。網(wǎng)絡損失很難估計，但國際貨幣基金組織認為全球金融部門每年損失的網(wǎng)絡損失在 100 至 2500 億美元之間。此外，隨著計算機、移動設備、服務器和智能設備的日益普及，威脅暴露的總量與日俱增。盡管商業(yè)和政策界仍在努力認識網(wǎng)絡領域新發(fā)現(xiàn)的重要性，但人工智能在網(wǎng)絡安全中的應用預示著更大的變化。
人工智能的基本目的之一是實現(xiàn)以前需要人類智能才能完成的任務的自動化。減少組織為完成項目而必須使用的勞動力資源，或個人必須投入日常任務的時間，可以極大地提高效率。例如，聊天機器人可用于回答客戶服務問題，醫(yī)療助理人工智能可用于根據(jù)患者的癥狀診斷疾病。
在人工智能如何應用于網(wǎng)絡防御的簡化模型中，服務器和網(wǎng)絡組件記錄的活動日志行可以被標記為“敵對”或“非敵對”，并且可以使用該數(shù)據(jù)集訓練人工智能系統(tǒng)進行分類未來對這兩類之一的觀察。然后，該系統(tǒng)可以充當自動哨兵，從正?；顒拥木薮蟊尘霸胍糁刑暨x出異常觀察結果。
自動化以前需要人類智能完成的任務，例如使用聊天機器人來解決客戶服務問題，是人工智能的基本目的之一，可以為組織帶來巨大的效率提升。
這種自動化網(wǎng)絡防御對于應對現(xiàn)在必須監(jiān)控的大量活動是必要的。我們已經(jīng)達到了無需使用人工智能即可防御和識別敵對行為者的復雜程度。展望未來，只有將人工智能應用于任務的系統(tǒng)才能處理網(wǎng)絡安全環(huán)境中的復雜性和速度。
不斷地重新訓練此類人工智能模型至關重要，因為正如人工智能用于防止攻擊一樣，所有類型的敵對行為者也在使用人工智能來識別模式并識別其潛在目標的弱點。比賽狀態(tài)是一個戰(zhàn)場，雙方不斷試探對方并設計新的防御或新的攻擊方式，而且這個戰(zhàn)場每時每刻都在變化。
也許黑客武器庫中最有效的武器是“魚叉式網(wǎng)絡釣魚”——使用收集到的有關預期目標的個人信息向他們發(fā)送單獨定制的消息。一封看似由朋友撰寫的電子郵件，或與目標興趣愛好相關的鏈接，很有可能避免懷疑。目前，這種方法相當耗費人力，需要潛在的黑客對其每個預期目標手動進行詳細研究。然而，類似于聊天機器人的人工智能可以利用從瀏覽歷史記錄、電子郵件和推文中獲得的數(shù)據(jù)，自動為大量用戶構建個性化消息。通過這種方式，敵對行為者可以利用人工智能來大幅擴大他們的進攻行動。
人工智能還可以用于自動搜索軟件中的安全缺陷，例如“零日漏洞”。這樣做可以出于合法或犯罪意圖。軟件設計人員可以使用人工智能來測試其產(chǎn)品的安全漏洞，就像犯罪分子在操作系統(tǒng)中尋找未被發(fā)現(xiàn)的漏洞一樣。
人工智能不僅會增強現(xiàn)有的進攻和防御策略，而且還會在網(wǎng)絡安全之戰(zhàn)中開辟新的戰(zhàn)線，因為惡意行為者會尋求利用該技術特定弱點的方法。敵對行為者可能使用的一種新穎的攻擊途徑是“數(shù)據(jù)中毒”。由于人工智能使用數(shù)據(jù)來學習，敵對行為者可能會篡改用于訓練人工智能的數(shù)據(jù)集，以使其按照自己的意愿行事。 “對抗性例子”可以提供另一種新的攻擊形式。與視錯覺類似，對抗性示例包括以人類可能無法察覺的方式修改人工智能的輸入數(shù)據(jù)，但經(jīng)過計算會導致人工智能以某種方式對輸入進行錯誤分類。在一種廣泛猜測的場景中，停車標志可能會被巧妙地改變，使控制自動駕駛汽車的人工智能系統(tǒng)將其錯誤地識別為讓行標志，從而可能造成致命的后果。
三、數(shù)據(jù)的新價值
人工智能技術將以另一種方式改變網(wǎng)絡安全環(huán)境，因為它對數(shù)據(jù)的渴望改變了構成有用資產(chǎn)的信息類型，將以前不感興趣的信息寶庫轉變?yōu)閿硨π袨檎哒T人的目標。
雖然一些網(wǎng)絡攻擊的目的只是為了破壞、造成損害或造成嚴重破壞，但許多網(wǎng)絡攻擊的目的是奪取知識產(chǎn)權等戰(zhàn)略資產(chǎn)。網(wǎng)絡空間中的攻擊者越來越多地玩著一場長期游戲，尋求出于未知目的獲取數(shù)據(jù)。人工智能系統(tǒng)甚至能夠利用無害的數(shù)據(jù)，這引發(fā)了“數(shù)據(jù)收集”策略——收集任何可以收集的信息并將其存儲起來以供未來的戰(zhàn)略使用，即使目前這種用途尚未明確定義。
《紐約時報》最近的一篇報道展示了這一策略的實際應用示例。報告指出，中國政府涉嫌盜竊萬豪連鎖酒店 5 億多名客戶的個人數(shù)據(jù)。盡管通常對數(shù)據(jù)泄露的主要擔憂是可能濫用財務信息，但在這種情況下，這些信息可用于通過檢查旅行習慣來追蹤可疑的間諜，或跟蹤和拘留個人，將其用作其他事務中的討價還價籌碼。
數(shù)據(jù)和人工智能連接、統(tǒng)一和釋放無形和有形資產(chǎn)；它們不應該被認為是不同的。正如劍橋分析丑聞所表明的那樣，數(shù)據(jù)量正在成為商業(yè)、國家安全乃至政治成功的關鍵因素。萬豪事件表明，相對普通的信息現(xiàn)在可以在情報和國防領域提供戰(zhàn)略資產(chǎn)，因為人工智能可以從看似不同的信息來源中提取有用的見解。因此，此類批量數(shù)據(jù)可能會成為在此領域運營的參與者更常見的目標。
四、對政策和治理的影響
這些正在發(fā)生的事態(tài)發(fā)展將迫使人們重新思考現(xiàn)行的網(wǎng)絡安全戰(zhàn)略。在日益互聯(lián)的系統(tǒng)中，識別最薄弱的環(huán)節(jié)變得更具挑戰(zhàn)性，但也更加重要。隨著傳感器、機器和人成為有價值的人工智能系統(tǒng)的數(shù)據(jù)的交織提供者，網(wǎng)絡攻擊的入口點將會激增。網(wǎng)絡安全需要全面的戰(zhàn)略來最大程度地減少最薄弱環(huán)節(jié)；零敲碎打的網(wǎng)絡政策是行不通的。由于為最重要和革命性的人工智能技術提供支持的訓練數(shù)據(jù)是全球范圍的，從許多不同的國家收集的，很明顯，僅靠國家層面的治理是不夠的。
全球政策制定者已開始將注意力轉向人工智能技術廣泛應用的影響，尤其是其對網(wǎng)絡安全的影響。七國集團（G7）在 2018 年魁北克省沙勒瓦峰會期間將注意力轉向人工智能治理，承諾通過對網(wǎng)絡安全的適當投資“促進以人為中心的人工智能”，同時注重隱私和個人信息保護作為機器學習原始輸入的數(shù)據(jù)。
將人工智能技術應用于魚叉式網(wǎng)絡釣魚等現(xiàn)有網(wǎng)絡攻擊策略，不僅可以增強其有效性，而且可以通過規(guī)避勞動力限制，增加有能力執(zhí)行這些攻擊的攻擊者的數(shù)量。這使得當前在網(wǎng)絡空間和國際數(shù)據(jù)保護方面建立有效的全球治理的努力變得更加緊迫，例如聯(lián)合國政府專家組試圖建立公認的行為準則。
雖然人工智能通常被認為是對隱私的威脅，但它也有可能幫助保護隱私并對專有數(shù)據(jù)及其衍生資產(chǎn)進行控制。
導致更具威脅性的網(wǎng)絡攻擊的技術也正在推動民用經(jīng)濟的增長并實現(xiàn)更有效的網(wǎng)絡防御。雖然人工智能通常被認為是對隱私的威脅，但它也有可能幫助保護隱私并對專有數(shù)據(jù)及其衍生資產(chǎn)進行控制。政策制定者必須仔細考慮如何規(guī)范這些技術的使用，平衡防止強大武器落入惡意行為者手中，同時又不扼殺創(chuàng)新的需要。協(xié)調(diào)國家管轄范圍內(nèi)的此類政策至關重要。由于敵對行為者能夠輕而易舉地跨越邊界，任何單方面限制這些技術在其境內(nèi)使用和開發(fā)的國家都會使自己處于競爭劣勢。
此外，隨著人工智能技術越來越融入一般經(jīng)濟和民用領域，現(xiàn)有的法律和規(guī)范框架可能需要調(diào)整，以涵蓋數(shù)據(jù)中毒和對抗性示例等新型攻擊形式。到目前為止，數(shù)據(jù)盜竊一直是網(wǎng)絡空間的主要問題。展望未來，敵對行為者可能會嘗試訪問數(shù)據(jù)庫，不僅是為了獲取其信息，而且是為了改變和操縱它們。網(wǎng)絡攻擊的法律定義可能需要修改，以涵蓋這些新威脅。
人工智能算法從數(shù)據(jù)中學習，產(chǎn)生有價值的新預測工具，并且人工智能的輸出可以與原始訓練數(shù)據(jù)分離。因此，要真正控制數(shù)據(jù)及其價值，任何由數(shù)據(jù)產(chǎn)生的資產(chǎn)也必須受到控制。允許記錄、存儲和分析大數(shù)據(jù)的基礎設施應被視為資產(chǎn)，就像任何其他部門一樣。此外，金融等一些部門具有系統(tǒng)性影響，由于與第三方的聯(lián)系，保護起來更加重要。管理機構需要繼續(xù)改善這些領域和許多其他領域的安全狀況，包括身份欺詐。由于用于攻擊目的的人工智能軟件能夠快速發(fā)展，因此這是一項持續(xù)的需求，而不是一次性的投資。
本文由 @Letter Bee 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉載
題圖來自 Unsplash，基于 CC0 協(xié)議
該文觀點僅代表作者本人，人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務。
更多精彩內(nèi)容，請關注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
本文探討了AI的未來趨勢，包括其對大數(shù)據(jù)、網(wǎng)絡安全的影響以及全球治理的必要性。隨著AI技術的廣泛應用，我們必須認識到它帶來的機遇與挑戰(zhàn)，尤其是在數(shù)據(jù)安全和隱私保護方面。
人工智能（AI）確實是計算機科學的一項革命性壯舉，將在未來幾年和幾十年內(nèi)成為所有現(xiàn)代軟件的核心組成部分。這既是威脅，也是機遇。
人工智能將被部署來增強防御性和進攻性網(wǎng)絡作戰(zhàn)。此外，還將發(fā)明新的網(wǎng)絡攻擊手段，以利用人工智能技術的特定弱點。最后，人工智能對大量訓練數(shù)據(jù)的需求將放大數(shù)據(jù)的重要性，從而重新定義我們必須如何考慮數(shù)據(jù)保護。全球?qū)用娴膶徤髦卫韺τ诖_保這一定義時代的技術帶來廣泛共享的安全和繁榮至關重要。
一、人工智能與大數(shù)據(jù)
一般來說，人工智能是指能夠替代人類智能執(zhí)行某些任務的計算工具。這項技術目前正在以驚人的速度發(fā)展，就像二十世紀末數(shù)據(jù)庫技術經(jīng)歷的指數(shù)增長一樣。數(shù)據(jù)庫已發(fā)展成為驅(qū)動企業(yè)級軟件的核心基礎設施。同樣，未來幾十年軟件帶來的大部分新附加值預計將至少部分由人工智能驅(qū)動。
在過去的十年中，數(shù)據(jù)庫已經(jīng)發(fā)生了顯著的發(fā)展，以應對被稱為“大數(shù)據(jù)”的新現(xiàn)象。這是指現(xiàn)代數(shù)據(jù)集的規(guī)模和全球范圍前所未有，這些數(shù)據(jù)集主要來自計算機系統(tǒng)，這些系統(tǒng)幾乎已經(jīng)影響了日常生活的各個方面。例如，YouTube 每分鐘接收超過 400 小時的視頻內(nèi)容。
例如，研究人員訓練計算機模型，僅根據(jù)個人喜歡的 Facebook 帖子，比朋友更準確地識別個人的性格特征。
大數(shù)據(jù)和人工智能有著特殊的關系。人工智能發(fā)展的最新突破主要源于“機器學習”。該技術不是規(guī)定人工智能要遵循的一組靜態(tài)方向，而是使用大數(shù)據(jù)集來訓練人工智能。例如，人工智能聊天機器人可以接受包含從通訊應用程序收集的人類對話文本記錄的數(shù)據(jù)集的訓練，以學習如何理解人類所說的話，并提出適當?shù)幕貞??？梢哉f，大數(shù)據(jù)是推動人工智能算法和模型的原材料。
創(chuàng)新的主要限制不再是記錄和存儲信息的困難，而是在現(xiàn)在收集的大量數(shù)據(jù)中找到有用的見解。人工智能可以注意到龐大數(shù)據(jù)集中超出人類感知能力的模式。這樣，人工智能技術的采用就可以讓看似平凡、看似微不足道的數(shù)據(jù)變得有價值。例如，研究人員訓練計算機模型，僅根據(jù)個人喜歡的 Facebook 帖子，比朋友更準確地識別個人的性格特征。
二、人工智能和網(wǎng)絡安全
幾乎每天都會有有關備受矚目的數(shù)據(jù)泄露或造成數(shù)百萬美元損失的網(wǎng)絡攻擊的新聞報道。網(wǎng)絡損失很難估計，但國際貨幣基金組織認為全球金融部門每年損失的網(wǎng)絡損失在 100 至 2500 億美元之間。此外，隨著計算機、移動設備、服務器和智能設備的日益普及，威脅暴露的總量與日俱增。盡管商業(yè)和政策界仍在努力認識網(wǎng)絡領域新發(fā)現(xiàn)的重要性，但人工智能在網(wǎng)絡安全中的應用預示著更大的變化。
人工智能的基本目的之一是實現(xiàn)以前需要人類智能才能完成的任務的自動化。減少組織為完成項目而必須使用的勞動力資源，或個人必須投入日常任務的時間，可以極大地提高效率。例如，聊天機器人可用于回答客戶服務問題，醫(yī)療助理人工智能可用于根據(jù)患者的癥狀診斷疾病。
在人工智能如何應用于網(wǎng)絡防御的簡化模型中，服務器和網(wǎng)絡組件記錄的活動日志行可以被標記為“敵對”或“非敵對”，并且可以使用該數(shù)據(jù)集訓練人工智能系統(tǒng)進行分類未來對這兩類之一的觀察。然后，該系統(tǒng)可以充當自動哨兵，從正?；顒拥木薮蟊尘霸胍糁刑暨x出異常觀察結果。
自動化以前需要人類智能完成的任務，例如使用聊天機器人來解決客戶服務問題，是人工智能的基本目的之一，可以為組織帶來巨大的效率提升。
這種自動化網(wǎng)絡防御對于應對現(xiàn)在必須監(jiān)控的大量活動是必要的。我們已經(jīng)達到了無需使用人工智能即可防御和識別敵對行為者的復雜程度。展望未來，只有將人工智能應用于任務的系統(tǒng)才能處理網(wǎng)絡安全環(huán)境中的復雜性和速度。
不斷地重新訓練此類人工智能模型至關重要，因為正如人工智能用于防止攻擊一樣，所有類型的敵對行為者也在使用人工智能來識別模式并識別其潛在目標的弱點。比賽狀態(tài)是一個戰(zhàn)場，雙方不斷試探對方并設計新的防御或新的攻擊方式，而且這個戰(zhàn)場每時每刻都在變化。
也許黑客武器庫中最有效的武器是“魚叉式網(wǎng)絡釣魚”——使用收集到的有關預期目標的個人信息向他們發(fā)送單獨定制的消息。一封看似由朋友撰寫的電子郵件，或與目標興趣愛好相關的鏈接，很有可能避免懷疑。目前，這種方法相當耗費人力，需要潛在的黑客對其每個預期目標手動進行詳細研究。然而，類似于聊天機器人的人工智能可以利用從瀏覽歷史記錄、電子郵件和推文中獲得的數(shù)據(jù)，自動為大量用戶構建個性化消息。通過這種方式，敵對行為者可以利用人工智能來大幅擴大他們的進攻行動。
人工智能還可以用于自動搜索軟件中的安全缺陷，例如“零日漏洞”。這樣做可以出于合法或犯罪意圖。軟件設計人員可以使用人工智能來測試其產(chǎn)品的安全漏洞，就像犯罪分子在操作系統(tǒng)中尋找未被發(fā)現(xiàn)的漏洞一樣。
人工智能不僅會增強現(xiàn)有的進攻和防御策略，而且還會在網(wǎng)絡安全之戰(zhàn)中開辟新的戰(zhàn)線，因為惡意行為者會尋求利用該技術特定弱點的方法。敵對行為者可能使用的一種新穎的攻擊途徑是“數(shù)據(jù)中毒”。由于人工智能使用數(shù)據(jù)來學習，敵對行為者可能會篡改用于訓練人工智能的數(shù)據(jù)集，以使其按照自己的意愿行事。 “對抗性例子”可以提供另一種新的攻擊形式。與視錯覺類似，對抗性示例包括以人類可能無法察覺的方式修改人工智能的輸入數(shù)據(jù)，但經(jīng)過計算會導致人工智能以某種方式對輸入進行錯誤分類。在一種廣泛猜測的場景中，停車標志可能會被巧妙地改變，使控制自動駕駛汽車的人工智能系統(tǒng)將其錯誤地識別為讓行標志，從而可能造成致命的后果。
三、數(shù)據(jù)的新價值
人工智能技術將以另一種方式改變網(wǎng)絡安全環(huán)境，因為它對數(shù)據(jù)的渴望改變了構成有用資產(chǎn)的信息類型，將以前不感興趣的信息寶庫轉變?yōu)閿硨π袨檎哒T人的目標。
雖然一些網(wǎng)絡攻擊的目的只是為了破壞、造成損害或造成嚴重破壞，但許多網(wǎng)絡攻擊的目的是奪取知識產(chǎn)權等戰(zhàn)略資產(chǎn)。網(wǎng)絡空間中的攻擊者越來越多地玩著一場長期游戲，尋求出于未知目的獲取數(shù)據(jù)。人工智能系統(tǒng)甚至能夠利用無害的數(shù)據(jù)，這引發(fā)了“數(shù)據(jù)收集”策略——收集任何可以收集的信息并將其存儲起來以供未來的戰(zhàn)略使用，即使目前這種用途尚未明確定義。
《紐約時報》最近的一篇報道展示了這一策略的實際應用示例。報告指出，中國政府涉嫌盜竊萬豪連鎖酒店 5 億多名客戶的個人數(shù)據(jù)。盡管通常對數(shù)據(jù)泄露的主要擔憂是可能濫用財務信息，但在這種情況下，這些信息可用于通過檢查旅行習慣來追蹤可疑的間諜，或跟蹤和拘留個人，將其用作其他事務中的討價還價籌碼。
數(shù)據(jù)和人工智能連接、統(tǒng)一和釋放無形和有形資產(chǎn)；它們不應該被認為是不同的。正如劍橋分析丑聞所表明的那樣，數(shù)據(jù)量正在成為商業(yè)、國家安全乃至政治成功的關鍵因素。萬豪事件表明，相對普通的信息現(xiàn)在可以在情報和國防領域提供戰(zhàn)略資產(chǎn)，因為人工智能可以從看似不同的信息來源中提取有用的見解。因此，此類批量數(shù)據(jù)可能會成為在此領域運營的參與者更常見的目標。
四、對政策和治理的影響
這些正在發(fā)生的事態(tài)發(fā)展將迫使人們重新思考現(xiàn)行的網(wǎng)絡安全戰(zhàn)略。在日益互聯(lián)的系統(tǒng)中，識別最薄弱的環(huán)節(jié)變得更具挑戰(zhàn)性，但也更加重要。隨著傳感器、機器和人成為有價值的人工智能系統(tǒng)的數(shù)據(jù)的交織提供者，網(wǎng)絡攻擊的入口點將會激增。網(wǎng)絡安全需要全面的戰(zhàn)略來最大程度地減少最薄弱環(huán)節(jié)；零敲碎打的網(wǎng)絡政策是行不通的。由于為最重要和革命性的人工智能技術提供支持的訓練數(shù)據(jù)是全球范圍的，從許多不同的國家收集的，很明顯，僅靠國家層面的治理是不夠的。
全球政策制定者已開始將注意力轉向人工智能技術廣泛應用的影響，尤其是其對網(wǎng)絡安全的影響。七國集團（G7）在 2018 年魁北克省沙勒瓦峰會期間將注意力轉向人工智能治理，承諾通過對網(wǎng)絡安全的適當投資“促進以人為中心的人工智能”，同時注重隱私和個人信息保護作為機器學習原始輸入的數(shù)據(jù)。
將人工智能技術應用于魚叉式網(wǎng)絡釣魚等現(xiàn)有網(wǎng)絡攻擊策略，不僅可以增強其有效性，而且可以通過規(guī)避勞動力限制，增加有能力執(zhí)行這些攻擊的攻擊者的數(shù)量。這使得當前在網(wǎng)絡空間和國際數(shù)據(jù)保護方面建立有效的全球治理的努力變得更加緊迫，例如聯(lián)合國政府專家組試圖建立公認的行為準則。
雖然人工智能通常被認為是對隱私的威脅，但它也有可能幫助保護隱私并對專有數(shù)據(jù)及其衍生資產(chǎn)進行控制。
導致更具威脅性的網(wǎng)絡攻擊的技術也正在推動民用經(jīng)濟的增長并實現(xiàn)更有效的網(wǎng)絡防御。雖然人工智能通常被認為是對隱私的威脅，但它也有可能幫助保護隱私并對專有數(shù)據(jù)及其衍生資產(chǎn)進行控制。政策制定者必須仔細考慮如何規(guī)范這些技術的使用，平衡防止強大武器落入惡意行為者手中，同時又不扼殺創(chuàng)新的需要。協(xié)調(diào)國家管轄范圍內(nèi)的此類政策至關重要。由于敵對行為者能夠輕而易舉地跨越邊界，任何單方面限制這些技術在其境內(nèi)使用和開發(fā)的國家都會使自己處于競爭劣勢。
此外，隨著人工智能技術越來越融入一般經(jīng)濟和民用領域，現(xiàn)有的法律和規(guī)范框架可能需要調(diào)整，以涵蓋數(shù)據(jù)中毒和對抗性示例等新型攻擊形式。到目前為止，數(shù)據(jù)盜竊一直是網(wǎng)絡空間的主要問題。展望未來，敵對行為者可能會嘗試訪問數(shù)據(jù)庫，不僅是為了獲取其信息，而且是為了改變和操縱它們。網(wǎng)絡攻擊的法律定義可能需要修改，以涵蓋這些新威脅。
人工智能算法從數(shù)據(jù)中學習，產(chǎn)生有價值的新預測工具，并且人工智能的輸出可以與原始訓練數(shù)據(jù)分離。因此，要真正控制數(shù)據(jù)及其價值，任何由數(shù)據(jù)產(chǎn)生的資產(chǎn)也必須受到控制。允許記錄、存儲和分析大數(shù)據(jù)的基礎設施應被視為資產(chǎn)，就像任何其他部門一樣。此外，金融等一些部門具有系統(tǒng)性影響，由于與第三方的聯(lián)系，保護起來更加重要。管理機構需要繼續(xù)改善這些領域和許多其他領域的安全狀況，包括身份欺詐。由于用于攻擊目的的人工智能軟件能夠快速發(fā)展，因此這是一項持續(xù)的需求，而不是一次性的投資。
本文由 @Letter Bee 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉載
題圖來自 Unsplash，基于 CC0 協(xié)議
該文觀點僅代表作者本人，人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務。
- 目前還沒評論，等你發(fā)揮！
