警惕AI造黃謠 淺析大數據掃黃應用中的SNA算法原理
隨著AI技術的深度發(fā)展,“AI換臉”“AI脫衣”工具變得常見。一些不法分子將歪主意打到了造“黃謠”,甚至威脅、詐騙上。4月19日,北京市海淀區(qū)人民法院審理了一起使用“AI去衣”軟件制作淫穢物品案。被告人將他人提供的承載人臉信息的不特定多數女性圖片,通過深度偽造技術、AI軟件制作成裸體圖片販賣牟利,同時出售“AI去衣”軟件及使用教程牟利。(引5月13日《南方都市報》)
當今社會網絡造謠事件頻發(fā),我們在警惕AI造謠的同時,也要對大數據掃黃引起更多的關注。本文就來淺析一下在警務情報分析系統(tǒng)中常見的SNA算法原理是怎樣的。
一、什么是SNA算法
簡單來說,SNA算法稱為社交網絡算法。社會網絡分析(social network analysis,SNA)是復雜系統(tǒng)的一個分支,可用于構建多智能體系系統(tǒng)。
首先,在研究社會網絡分析如何協助多智能體系系統(tǒng)建模的同時,需要解決兩種實例之間的異同。所以在構建SNA體系之前需要建構一個多智能體系系統(tǒng)的原型,通過在智能體實例之間建立的社會網絡基礎之上,形成的智能集群來解決任務。
我們再來看下MAS的定義,多智能體系(Multi-Agent Systems,MAS)的定義是:代表社會結構(如組織和聯盟)的模型,以便客觀地分析開放系統(tǒng)的關聯行為。通過不同類型的關系(如對目標的依賴、對資源的沖突、相似的信念等)相互關聯的個體組成了組織和聯盟。
弄清了SNA和MAS兩者定義之后,我們可以發(fā)現多智能體系統(tǒng)(MAS)和復雜系統(tǒng)理論之間存在密切關系,并且可以在社交網絡分析的背景下進行表示。在情報分析系統(tǒng)原理中將MAS和SNA技術相結合,使智能體社會能夠在決策過程中利用SNA指標,考慮智能體在網絡中的位置、價值和重要性等屬性。
二、SNA的作用
社交網絡分析(SNA)是一種源自社會學、社會心理學和人類學等領域的科學研究領域。這個領域研究社會行為者之間的關系鏈接(也稱為關系紐帶)。
在SNA中,角色可以是個人或公司,可以作為個體單元進行分析,也可以作為集體社會單位進行分析。
SNA與其他研究的根本區(qū)別在于它不關注行為者的屬性(特征),而是關注它們之間的聯系。行為者之間的關系由關系紐帶或連接建立。
最常見的連接類型有:個體評估(例如友誼或情感交換);物質資源的交易和轉移(兩家公司之間的購買和銷售交易);非物質資源的轉移(電子消息的交換);當行為參與者與事件同時發(fā)生具有地域、行為等關聯或隸屬關系時,那么交易網絡就形成了。例如:網絡關聯集群關系(QQ、微博、微信使用者之間的社交網絡聯系);正式節(jié)點之間的聯系(公司中的上下級權威循環(huán));生物關系(父子關系)等等。
SNA是一種通過分析行為者之間的位置和結構(即它們的關系)來增強知識共享的方法。
那么您可能會提出疑問
- 本文主要討論了多智能體團隊組成的基于SNA的推理方法,那么在這個方法中,SNA如何被應用于多智能體系統(tǒng)的決策過程中?
- 本文中提到了多智能體系統(tǒng)和社交網絡的緊密聯系,那么在這個集成過程中,如何利用SNA指標來評估智能體在網絡中的地位和重要性?
那么我們下面就通過一個列舉的例子來談談社交關系網絡的實際效用。
三、SNA的應用領域案例
在情報分析系統(tǒng)領域中,我們熟知的IBM I2就是一款常用的警務情報分析系統(tǒng)。IBM I2的底層邏輯中就運用了SNA的模型應用。
我們淺看一例:
圖片摘自-360doc【知識】IBM i2可視化分析產品概述(網圖侵刪)
在本案例中,通過IBM i2的網絡節(jié)點分析,由中心節(jié)點引出關聯節(jié)點的關系集群推算。該原型使用SNA原理展示了團隊動態(tài)形成的模型,團隊中的節(jié)點是在基于其本地社會網絡的決定后自發(fā)且分散地形成的。該集群的參與者擁有一個社會網絡。
對于一個節(jié)點來說,要成為團隊的一員,它必須至少與團隊中的一名成員擁有社交連接(即網絡中的邊)。因此,在此集群中,多節(jié)點包含N個子節(jié)點,A={a1,a2,…,aN},其中每個子節(jié)點都可以被視為社會網絡中的一個節(jié)點。網絡被建模為一個鄰接矩陣E,其中每個鄰接矩陣元素eij=1,如果存在,則連接兩個代理人ai和aj的邊,否則eij=0。簡單來說就是0出度邊界。即邊界中的最后一個節(jié)點。那么該集群的選定范圍就確定了。
四、結語
筆者大學畢業(yè)后兩年在國家級法治期刊從事新媒體記者工作,后又投入IT領域從事風控領域中的情報分析系統(tǒng)產品設計工作多年。
筆者想說:在如今AI大流行的時代,我們務必從風控角度意識到這樣一個觀點。
科技越發(fā)達,網絡造謠、別有用心的人網絡違法的可能性就越高。
但還是一句老話:天網恢恢疏而不漏。
時代的進步同樣也是網絡法治的進步。會有更多的高科技系統(tǒng)來杜絕、偵查、抓捕那些利用AI、利用網絡造謠、詐騙、違法行為的人。千萬不要抱有僥幸心理。尊重科技遵守優(yōu)良品德做個良好公民。
本文由 @kingwu 原創(chuàng)發(fā)布于人人都是產品經理。未經作者許可,禁止轉載
題圖來自Unsplash,基于CC0協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務
- 目前還沒評論,等你發(fā)揮!