8000字干貨說(shuō)清楚AI產(chǎn)品經(jīng)理必修的“神經(jīng)網(wǎng)絡(luò)”
神經(jīng)網(wǎng)絡(luò)就像是一個(gè)強(qiáng)大的虛擬大腦,它可以解決許多類(lèi)型的問(wèn)題。這篇文章里,作者就總結(jié)了神經(jīng)網(wǎng)絡(luò)的概念、技術(shù)基本實(shí)現(xiàn)原理、應(yīng)用場(chǎng)景與產(chǎn)品案例等方面的內(nèi)容,一起來(lái)看看,或許會(huì)對(duì)AI產(chǎn)品經(jīng)理們有所幫助。
各位看官:
上一篇文章我們提到了AI中的監(jiān)督學(xué)習(xí),監(jiān)督學(xué)習(xí)屬于機(jī)器學(xué)習(xí)中的一種范式,計(jì)算機(jī)通過(guò)提供已知輸入和對(duì)應(yīng)輸出的訓(xùn)練數(shù)據(jù),學(xué)習(xí)輸入與輸出之間的映射關(guān)系,以便在面對(duì)新的未知輸入時(shí)能夠做出準(zhǔn)確的預(yù)測(cè)。如果想了解監(jiān)督學(xué)習(xí)的更多內(nèi)容,可以翻閱我之前寫(xiě)的一篇《產(chǎn)品經(jīng)理的獨(dú)門(mén)技能—AI監(jiān)督學(xué)習(xí)(6000字干貨)》
在AI人工智能的機(jī)器學(xué)習(xí)中,不僅有監(jiān)督學(xué)習(xí),還有神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是一種起源于 20 世紀(jì) 50 年代的監(jiān)督式機(jī)器學(xué)習(xí)模型,它就像一個(gè)強(qiáng)大的虛擬大腦,能夠?qū)W習(xí)、處理信息,解決各種問(wèn)題,今天我們就來(lái)討論一下神經(jīng)網(wǎng)絡(luò)。
本篇會(huì)先介紹一下神經(jīng)網(wǎng)絡(luò)的基本概念,神經(jīng)網(wǎng)絡(luò)是如何傳遞信息的。然后,從神經(jīng)網(wǎng)絡(luò)的3大優(yōu)勢(shì)出發(fā),強(qiáng)大的學(xué)習(xí)能力、廣泛的通用性,高效地端到端學(xué)習(xí),展開(kāi)說(shuō)說(shuō)為啥神經(jīng)網(wǎng)絡(luò)這么火。
說(shuō)完神經(jīng)網(wǎng)絡(luò)的概念和優(yōu)勢(shì)之后,我會(huì)進(jìn)一步說(shuō)明神經(jīng)網(wǎng)絡(luò)的技術(shù)基本實(shí)現(xiàn)原理。從神經(jīng)元,層次結(jié)構(gòu),權(quán)重,激活函數(shù)這四點(diǎn)入門(mén),來(lái)揭開(kāi)神經(jīng)網(wǎng)絡(luò)的“蓋頭”,看其廬山真面目。
接下來(lái),基于神經(jīng)網(wǎng)絡(luò),順帶引出它的高級(jí)版本:深度學(xué)習(xí),淺聊一下他們之間的關(guān)系。后期會(huì)有專(zhuān)門(mén)的篇章來(lái)介紹深度學(xué)習(xí),就不在此處展開(kāi),本篇重點(diǎn)還是圍繞神經(jīng)網(wǎng)絡(luò)。
在第五節(jié),會(huì)介紹神經(jīng)網(wǎng)絡(luò)在金融、醫(yī)療、電商三大應(yīng)用場(chǎng)景之下,提供智能風(fēng)控,智能診斷,個(gè)性化推薦等解決方案。
最后,帶著大家簡(jiǎn)單體驗(yàn)一款在神經(jīng)網(wǎng)絡(luò)技術(shù)上實(shí)現(xiàn)落地的產(chǎn)品,網(wǎng)易有道翻譯。它通過(guò)自主研發(fā)的神經(jīng)網(wǎng)絡(luò)技術(shù),實(shí)現(xiàn)了更準(zhǔn)確、更自然的翻譯效果,為用戶(hù)提供了全新的語(yǔ)言交流體驗(yàn)。
網(wǎng)易有道翻譯從翻譯這個(gè)非常細(xì)分垂直,但是又如此普及大眾的使用場(chǎng)景出發(fā),我們不僅看到了神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)的應(yīng)用,更見(jiàn)證了它在實(shí)際場(chǎng)景中的亮點(diǎn)。我們正身處AI變革的時(shí)代,神經(jīng)網(wǎng)絡(luò)不再是遙不可及的未來(lái)科技,它已經(jīng)深入到我們生活的方方面面,成為推動(dòng)整體行業(yè)進(jìn)步的強(qiáng)大引擎。
(附圖:本篇文章結(jié)構(gòu)導(dǎo)圖,方便大家在閱讀前總攬全局,有大致的畫(huà)面框架)
一、神經(jīng)網(wǎng)絡(luò)這玩意,其實(shí)沒(méi)有那么難理解
神經(jīng)網(wǎng)絡(luò)這個(gè)詞,聽(tīng)起來(lái)很玄乎又高深,我剛開(kāi)始知道的時(shí)候,也是感覺(jué)自己知曉了什么神秘魔法似的,AI里面還有神經(jīng)網(wǎng)絡(luò)這么厲害的學(xué)問(wèn)啊,但當(dāng)我深入了解之后,發(fā)現(xiàn)其真相也沒(méi)有我想象的那么深?yuàn)W難懂。
神經(jīng)網(wǎng)絡(luò)靈感來(lái)源于人腦的神經(jīng)系統(tǒng),是一種模仿人腦神經(jīng)系統(tǒng)結(jié)構(gòu)和功能的計(jì)算模型,模擬了人腦神經(jīng)元之間的連接和信息傳遞,通過(guò)訓(xùn)練數(shù)據(jù)來(lái)學(xué)習(xí)復(fù)雜的模式和關(guān)系。
神經(jīng)網(wǎng)絡(luò)有很多層,它們通過(guò)層層的神經(jīng)元連接構(gòu)建模型,連接傳遞信息,用于解決各種復(fù)雜的問(wèn)題,如圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等。
那么,神經(jīng)網(wǎng)絡(luò)是如何傳遞信息的呢?
在神經(jīng)網(wǎng)絡(luò)之中,每個(gè)神經(jīng)元都有輸入和輸出,它接收一些輸入,通過(guò)權(quán)重和激活函數(shù)的作用,產(chǎn)生一個(gè)輸出。這個(gè)輸出可以作為其他神經(jīng)元的輸入,從而形成神經(jīng)元之間的連接。
這些連接的權(quán)重決定了信息在網(wǎng)絡(luò)中傳播的強(qiáng)度,而激活函數(shù)則決定了神經(jīng)元是否應(yīng)該被激活并傳遞信息。通過(guò)調(diào)整神經(jīng)元之間連接的權(quán)重,神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)并適應(yīng)輸入數(shù)據(jù)的模式,在大量數(shù)據(jù)中找到規(guī)律,從而在學(xué)習(xí)后提供更為準(zhǔn)確和有效的輸出。
神經(jīng)網(wǎng)絡(luò)分為不同層次,包括輸入層、隱藏層和輸出層。輸入層接收原始數(shù)據(jù),輸出層產(chǎn)生模型的預(yù)測(cè)或結(jié)果,而隱藏層則在這兩者之間進(jìn)行信息處理和學(xué)習(xí)。
關(guān)于神經(jīng)元,權(quán)重,激活函數(shù)和神經(jīng)網(wǎng)絡(luò)的層次結(jié)構(gòu),我會(huì)在第三節(jié)單獨(dú)展開(kāi)說(shuō)說(shuō),畢竟這部分是神經(jīng)網(wǎng)絡(luò)可以如此厲害的“秘密武器”。
二、神經(jīng)網(wǎng)絡(luò)這么“火”,因?yàn)橛幸韵聝?yōu)勢(shì)
神經(jīng)網(wǎng)絡(luò)像是學(xué)霸,像是全能高手,簡(jiǎn)直就是一名六邊形戰(zhàn)士,其實(shí),神經(jīng)網(wǎng)絡(luò)這么牛也是有原因的。我將從神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)出發(fā),講述其強(qiáng)大的學(xué)習(xí)能力、廣泛的通用性、端到端學(xué)習(xí)的高效性,用盡可能通俗易懂的語(yǔ)言呈現(xiàn)神經(jīng)網(wǎng)絡(luò)的亮點(diǎn)優(yōu)勢(shì)。
1. 強(qiáng)大的學(xué)習(xí)能力
神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力很強(qiáng),神經(jīng)網(wǎng)絡(luò)在處理大規(guī)模、高維度數(shù)據(jù)時(shí)表現(xiàn)出色,它能夠從海量數(shù)據(jù)中學(xué)習(xí)復(fù)雜的模式和特征,大數(shù)據(jù)就是它愛(ài)吃的一道主菜。
AlphaGo就是一個(gè)典型例子,AlphaGo通過(guò)大量棋局?jǐn)?shù)據(jù)進(jìn)行訓(xùn)練,利用神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)了高級(jí)的圍棋策略。在2016年,AlphaGo以4比1戰(zhàn)勝了世界冠軍李世石,展示了神經(jīng)網(wǎng)絡(luò)在復(fù)雜智力游戲中的非凡學(xué)習(xí)能力。
2. 廣泛的通用性
神經(jīng)網(wǎng)絡(luò)不受限于特定領(lǐng)域,具有廣泛的通用性,在各領(lǐng)域都能發(fā)揮其本領(lǐng)。無(wú)論是圖像識(shí)別、語(yǔ)音處理還是自然語(yǔ)言處理,神經(jīng)網(wǎng)絡(luò)都能夠處理各種類(lèi)型的數(shù)據(jù)。這種通用性使得神經(jīng)網(wǎng)絡(luò)成為解決多領(lǐng)域問(wèn)題的通用工具。有一說(shuō)一,這在哪里都“吃得開(kāi)”的優(yōu)勢(shì),著實(shí)令人佩服。
例如,在圖像識(shí)別領(lǐng)域,基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)的圖像分類(lèi)模型,能夠在海量圖像中準(zhǔn)確識(shí)別出不同物體。這項(xiàng)技術(shù)在人臉識(shí)別、醫(yī)學(xué)影像分析等方面都帶來(lái)了巨大便利。
3. 端到端學(xué)習(xí)的高效性
當(dāng)我們用傳統(tǒng)方法解決問(wèn)題時(shí),通常需要多個(gè)步驟,比如先處理原始數(shù)據(jù)、提取特征,然后再應(yīng)用模型進(jìn)行預(yù)測(cè),最后根據(jù)預(yù)測(cè)輸出結(jié)果。
神經(jīng)網(wǎng)絡(luò)支持端到端學(xué)習(xí),這是一種更簡(jiǎn)化的方法,它讓神經(jīng)網(wǎng)絡(luò)直接從原始數(shù)據(jù)到最終輸出進(jìn)行學(xué)習(xí),省略了中間許多繁瑣的步驟,無(wú)需人為干預(yù)。
這種高效性不僅簡(jiǎn)化了問(wèn)題的處理流程,也減輕了人工干預(yù)的負(fù)擔(dān),使得神經(jīng)網(wǎng)絡(luò)在處理實(shí)際問(wèn)題時(shí)更為高效。
相信大家對(duì)語(yǔ)音識(shí)別已經(jīng)不陌生了,神經(jīng)網(wǎng)絡(luò)的端到端學(xué)習(xí)為語(yǔ)音識(shí)別模型的發(fā)展帶來(lái)了重大突破。通過(guò)神經(jīng)網(wǎng)絡(luò),系統(tǒng)能夠直接從聲波信號(hào)中學(xué)習(xí)到語(yǔ)音的表示,避免了過(guò)程中復(fù)雜的特征工程,比如語(yǔ)音信號(hào)的預(yù)處理、特征提取、聲學(xué)建模、語(yǔ)言模型等。
端到端學(xué)習(xí)通過(guò)使用神經(jīng)網(wǎng)絡(luò),將整個(gè)語(yǔ)音識(shí)別過(guò)程作為一個(gè)端到端的模型進(jìn)行訓(xùn)練,將輸入的聲音波形映射到相應(yīng)的文本輸出,直接完成語(yǔ)音到文本的轉(zhuǎn)換。這不僅降低了對(duì)專(zhuān)業(yè)知識(shí)和人工干預(yù)的需求,而且提高了語(yǔ)音識(shí)別系統(tǒng)的性能和適應(yīng)性。
從以上三大優(yōu)勢(shì)可以發(fā)現(xiàn),神經(jīng)網(wǎng)絡(luò)有強(qiáng)大的學(xué)習(xí)能力,又不挑食,什么領(lǐng)域都能搞定,還能自動(dòng)化解決問(wèn)題,又聰明又省心,試問(wèn)誰(shuí)不愛(ài)呢?也難怪神經(jīng)網(wǎng)絡(luò)這么受人歡迎了。
三、掀起神經(jīng)網(wǎng)絡(luò)的“蓋頭”,看看技術(shù)實(shí)現(xiàn)原理
既然神經(jīng)網(wǎng)絡(luò)這么厲害,那我們就不得不去揭秘一下其背后的技術(shù)原理啦。照慣例,我們淺淺涉入一下基本原理即可,太深入的話,大腦CPU會(huì)燒壞的吧,哈哈。
神經(jīng)網(wǎng)絡(luò)聽(tīng)起來(lái)高大上,其實(shí)它的實(shí)現(xiàn)原理并不復(fù)雜。我們可以從神經(jīng)元、層次結(jié)構(gòu)、權(quán)重和激活函數(shù)等方面來(lái)看。這部分呼應(yīng)了第一節(jié)的概念說(shuō)明,之所以單拎一節(jié)展開(kāi)詳解,是為了能重點(diǎn)說(shuō)清楚其工作原理,有基礎(chǔ)的同學(xué)可以淺看一下或順便路過(guò)哦。
1. 神經(jīng)元:模擬大腦的基本單元
神經(jīng)網(wǎng)絡(luò)中的基本單元是神經(jīng)元,這個(gè)概念是受到生物學(xué)啟發(fā)的,就像大腦中的神經(jīng)元一樣。每個(gè)神經(jīng)元接收一些輸入,通過(guò)一定的權(quán)重進(jìn)行加權(quán),然后通過(guò)激活函數(shù)產(chǎn)生輸出,這個(gè)輸出會(huì)傳遞到下一層的神經(jīng)元,形成信息的傳遞鏈。
神經(jīng)元的工作原理分四步:接收信息,信息加權(quán),整合與決策、傳遞信息。
【接收信息】:想象一下神經(jīng)元就像是一個(gè)小小的信息接收器,它從其他神經(jīng)元或外部輸入接收信息,就像你大腦中的神經(jīng)元通過(guò)神經(jīng)突觸傳遞信號(hào)一樣。
【信息加權(quán)】:接收到的信息并不是平等的,每個(gè)輸入都有一個(gè)權(quán)重。權(quán)重就像信息的重要性標(biāo)志,有些信息可能對(duì)神經(jīng)元的決策更有影響。就像我們?nèi)粘L幚硎聞?wù)時(shí),會(huì)考慮輕重緩急,重要緊急的事情相較于不重要不緊急的事情,權(quán)重會(huì)高很多。
【整合與決策】:神經(jīng)元會(huì)將加權(quán)的信息匯總,并通過(guò)一個(gè)激活函數(shù)來(lái)做出決策。這個(gè)激活函數(shù)就像是神經(jīng)元的思考過(guò)程,它決定了神經(jīng)元是否“激活”(發(fā)出信號(hào))或“不激活”(保持靜默)。
【傳遞信息】:如果神經(jīng)元激活了,它會(huì)向連接的其他神經(jīng)元傳遞信息,就像一個(gè)信息傳遞者。這樣,信息就可以在神經(jīng)網(wǎng)絡(luò)中流動(dòng),實(shí)現(xiàn)復(fù)雜的任務(wù)和學(xué)習(xí)過(guò)程。
比方說(shuō),你可以將神經(jīng)元想象成一個(gè)小秘書(shū)。她接收來(lái)自不同同事的信息,對(duì)每個(gè)同事的話分配不同的重要性(權(quán)重),最后整合這些信息并作出決策。如果決策是積極的,她就會(huì)把相關(guān)信息傳遞給其他同事。這樣,整個(gè)辦公室中的信息可以有效地傳遞和處理,就像神經(jīng)元在神經(jīng)網(wǎng)絡(luò)中的作用一樣。
2. 層次結(jié)構(gòu):分層處理信息
神經(jīng)網(wǎng)絡(luò)通常有多層,分為輸入層、隱藏層和輸出層。輸入層接收外部輸入,比如圖像的像素值。隱藏層對(duì)輸入進(jìn)行處理,提取特征。輸出層產(chǎn)生最終的結(jié)果。每個(gè)層都有很多神經(jīng)元,形成了一個(gè)層次化的結(jié)構(gòu)。
如果把神經(jīng)網(wǎng)絡(luò)比作一家有分層管理的公司結(jié)構(gòu),其工作原理就是這樣的。
【輸入層】:假設(shè)有一家公司的員工小A,他工作是收集客戶(hù)的信息,這些信息就像是公司的輸入,而小A就處在神經(jīng)網(wǎng)絡(luò)中的輸入層。在這一層,信息通過(guò)各種通道(特征)進(jìn)入系統(tǒng)。
【隱藏層】:通常情況下,公司的管理層會(huì)有多個(gè)負(fù)責(zé)處理不同任務(wù)的團(tuán)隊(duì)。每個(gè)團(tuán)隊(duì)都負(fù)責(zé)公司內(nèi)部的一部分處理工作,但他們的工作對(duì)外部來(lái)說(shuō)是不可見(jiàn)的。這就像神經(jīng)網(wǎng)絡(luò)中的隱藏層,它在內(nèi)部處理信息,執(zhí)行各種復(fù)雜的計(jì)算,對(duì)外也是不可見(jiàn)的。
【輸出層】:公司最終需要將處理過(guò)的信息呈現(xiàn)出來(lái),這就是輸出。管理層的決策通過(guò)“輸出層”來(lái)完成,就像神經(jīng)網(wǎng)絡(luò)中的輸出層將結(jié)果信息傳遞出來(lái)一樣。
同理,如果把神經(jīng)網(wǎng)絡(luò)的層次結(jié)構(gòu)比作是電商平臺(tái)。輸入層就像是收集了用戶(hù)的瀏覽、購(gòu)買(mǎi)等信息,隱藏層就像是進(jìn)行了各種復(fù)雜的推薦算法和分析,最后輸出層將推薦的商品呈現(xiàn)給用戶(hù)。
總之,神經(jīng)網(wǎng)絡(luò)的這種分層結(jié)構(gòu),有助于更有效地處理和理解復(fù)雜的信息。
3. 權(quán)重:調(diào)整信息的關(guān)鍵
權(quán)重是神經(jīng)網(wǎng)絡(luò)中非常關(guān)鍵的參數(shù),每個(gè)連接都有一個(gè)權(quán)重,這個(gè)權(quán)重代表了網(wǎng)絡(luò)中連接的強(qiáng)度,而強(qiáng)度決定了信號(hào)在網(wǎng)絡(luò)中傳遞的影響程度。在訓(xùn)練過(guò)程中,神經(jīng)網(wǎng)絡(luò)會(huì)通過(guò)學(xué)習(xí)調(diào)整這些權(quán)重,使其能更好地適應(yīng)任務(wù)。
打個(gè)比方,作為一名咖啡深度用戶(hù),每天一杯咖啡代表了一天工作的開(kāi)始,我就以制作一款咖啡來(lái)比喻,說(shuō)一下權(quán)重是如何發(fā)揮作用的。
如果我們想調(diào)制出一款符合自己口味的咖啡,配方中咖啡豆、牛奶和糖的比例,就像神經(jīng)網(wǎng)絡(luò)中的不同的連接權(quán)重,決定了每個(gè)成分對(duì)最終咖啡味道的影響程度。
發(fā)現(xiàn)咖啡的味道不夠濃郁,可能會(huì)增加咖啡豆的比例,就像在神經(jīng)網(wǎng)絡(luò)中增加“咖啡”連接的權(quán)重,這會(huì)使咖啡豆的影響更大,整體咖啡更濃。反之,如果咖啡太苦,我們可能會(huì)減少咖啡豆的比例,減輕其影響,就像在神經(jīng)網(wǎng)絡(luò)中減小“咖啡”連接權(quán)重。同理,如果喜歡甜一點(diǎn),就會(huì)增加糖的比例,那么神經(jīng)網(wǎng)絡(luò)中“糖”連接的權(quán)重就會(huì)變大,反之亦然。
以調(diào)制咖啡為例,權(quán)重就是調(diào)整不同成分比例的關(guān)鍵。我們通過(guò)調(diào)整每個(gè)成分的比例,實(shí)現(xiàn)了咖啡味道的優(yōu)化,沖泡出了一杯自己喜歡的咖啡。同樣,神經(jīng)網(wǎng)絡(luò)通過(guò)調(diào)整連接權(quán)重,根據(jù)輸入數(shù)據(jù)的影響程度,優(yōu)化模型對(duì)不同輸入的響應(yīng),適應(yīng)不同的任務(wù)和數(shù)據(jù),實(shí)現(xiàn)豐富的學(xué)習(xí)和預(yù)測(cè)功能。
4. 激活函數(shù):引入非線性因素
激活函數(shù)是神經(jīng)元內(nèi)部的一種數(shù)學(xué)操作,類(lèi)似于人腦中神經(jīng)元的激活過(guò)程。激活函數(shù)接收神經(jīng)元的輸入,通過(guò)一些數(shù)學(xué)運(yùn)算(通常是非線性的)得出一個(gè)輸出。這個(gè)輸出將決定神經(jīng)元是否激活,并將信息傳遞給網(wǎng)絡(luò)的下一層。簡(jiǎn)單來(lái)說(shuō),它決定了神經(jīng)元是否應(yīng)該“激活”并傳遞信息給其他神經(jīng)元。
如果沒(méi)有激活函數(shù),神經(jīng)網(wǎng)絡(luò)的每一層都只能執(zhí)行線性變換,多層的線性疊加依然只會(huì)得到線性關(guān)系。激活函數(shù)的引入使得神經(jīng)網(wǎng)絡(luò)能夠?qū)W習(xí)和表示更為復(fù)雜、非線性的模式和關(guān)系。
(也許有人對(duì)線性、非線性不太理解,我這里插播說(shuō)明一下,如果你已知,可以直接略過(guò))
在數(shù)學(xué)上,線性函數(shù)關(guān)系是可以用直線來(lái)表示,而非線性函數(shù)關(guān)系往往是非直線的,包括各種曲線、折線、不連續(xù)的線等。在線性關(guān)系中,一個(gè)變量的變化與另一個(gè)變量成正比例關(guān)系或反比例關(guān)系,而在非線性關(guān)系中,一個(gè)變量的變化不一定導(dǎo)致另一個(gè)變量的等比例變化。
在數(shù)學(xué)公式中,y=mx+b,就是線性關(guān)系。這種形式的關(guān)系圖像在坐標(biāo)系中是一條直線。
同樣是數(shù)學(xué)公式,冪函數(shù)就是非線性關(guān)系。其關(guān)系圖像在坐標(biāo)系中是一段曲線。(插播結(jié)束)
我們來(lái)舉個(gè)例子,便于理解激活函數(shù)的作用。
假設(shè),如果要開(kāi)發(fā)一款識(shí)別貓狗的AI工具,在神經(jīng)網(wǎng)絡(luò)中,就需要有一個(gè)神經(jīng)元專(zhuān)門(mén)負(fù)責(zé)識(shí)別貓耳朵的輪廓,激活函數(shù)就像是這個(gè)神經(jīng)元內(nèi)部的決策者,如果圖像中有貓耳朵的形狀,激活函數(shù)就會(huì)打開(kāi)這個(gè)“開(kāi)關(guān)”,讓信息傳遞到下一層,表示網(wǎng)絡(luò)認(rèn)為圖像中可能存在貓。如果沒(méi)有貓耳朵的形狀,這個(gè)“開(kāi)關(guān)”就關(guān)閉,信息不傳遞,表示網(wǎng)絡(luò)認(rèn)為圖像中可能不存在貓。
所以,激活函數(shù)的作用就是通過(guò)這種開(kāi)關(guān)的機(jī)制,讓神經(jīng)網(wǎng)絡(luò)能夠更智能地處理各種輸入,做出符合任務(wù)要求的決策。比如,幾秒鐘就成功識(shí)別出上千萬(wàn)張圖中是貓還是狗。
四、更高級(jí)的神經(jīng)網(wǎng)絡(luò):深度學(xué)習(xí)
深度學(xué)習(xí)專(zhuān)注于使用深層神經(jīng)網(wǎng)絡(luò)來(lái)解決復(fù)雜的問(wèn)題。深度學(xué)習(xí)的“深度”指的是神經(jīng)網(wǎng)絡(luò)的層數(shù),通常包含很多層,使得模型能夠?qū)W到更加抽象和復(fù)雜的特征。深度學(xué)習(xí)的核心思想是通過(guò)多層次的非線性變換來(lái)提取數(shù)據(jù)的高級(jí)表示,從而實(shí)現(xiàn)更精確的預(yù)測(cè)和決策。
想象一下,淺層神經(jīng)網(wǎng)絡(luò)就像是簡(jiǎn)單的任務(wù)處理者,而深層神經(jīng)網(wǎng)絡(luò)則是一個(gè)層層遞進(jìn)、能夠理解更復(fù)雜信息的學(xué)習(xí)者。這種層次結(jié)構(gòu)使得深度學(xué)習(xí)在處理大規(guī)模數(shù)據(jù)和復(fù)雜任務(wù)時(shí)表現(xiàn)更出色。
我們依舊以計(jì)算機(jī)識(shí)別貓和狗的圖片為例。
在深度學(xué)習(xí)中,我們會(huì)構(gòu)建一個(gè)深層神經(jīng)網(wǎng)絡(luò),這個(gè)網(wǎng)絡(luò)就像是一堆圖層疊在一起的學(xué)習(xí)器,每一層負(fù)責(zé)學(xué)習(xí)不同層次的特征,比如底層學(xué)習(xí)貓狗皮毛紋理、中層學(xué)習(xí)貓狗形狀、高層學(xué)習(xí)貓狗整體的樣子。通過(guò)反復(fù)調(diào)整網(wǎng)絡(luò)中的權(quán)重和參數(shù),計(jì)算機(jī)能夠逐漸學(xué)到貓和狗的區(qū)別,最終達(dá)到能夠準(zhǔn)確識(shí)別的程度。
簡(jiǎn)單來(lái)說(shuō),神經(jīng)網(wǎng)絡(luò)是一種計(jì)算模型,而深度學(xué)習(xí)是使用深層神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)的方法。神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)的基礎(chǔ),而深度學(xué)習(xí)則是神經(jīng)網(wǎng)絡(luò)發(fā)展的一種更高級(jí)、更復(fù)雜的形式。
五、神經(jīng)網(wǎng)絡(luò)的應(yīng)用場(chǎng)景
最近幾年,神經(jīng)網(wǎng)絡(luò)就像潮流中的明星一樣,各個(gè)領(lǐng)域都紛紛圈粉。接下來(lái),我們可以看看這位“明星”在不同應(yīng)用場(chǎng)景中,分別做出了什么業(yè)績(jī)。
1. 金融領(lǐng)域:智能風(fēng)控助力安全交易
在金融行業(yè),神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于風(fēng)險(xiǎn)管理和欺詐檢測(cè)。根據(jù)FTC(美國(guó)聯(lián)邦貿(mào)易委員會(huì))的數(shù)據(jù),2021年消費(fèi)者報(bào)告的欺詐損失超過(guò)58億美元,比2020年增長(zhǎng)了70%以上。
誰(shuí)都不希望自己辛辛苦苦賺到的錢(qián),因?yàn)橐淮尉W(wǎng)絡(luò)欺詐全打了水漂,可怕的是,只要我們通過(guò)網(wǎng)絡(luò)進(jìn)行支付交易,都會(huì)面臨這個(gè)風(fēng)險(xiǎn),所以反欺詐真的是非常重要。通過(guò)深度學(xué)習(xí),神經(jīng)網(wǎng)絡(luò)可以分析大量的交易數(shù)據(jù)和用戶(hù)行為,識(shí)別潛在的風(fēng)險(xiǎn)和異常情況,保障金融系統(tǒng)的安全性。
高級(jí)授權(quán)(VAA)評(píng)分服務(wù)是Visa公司的反欺詐產(chǎn)品之一,VAA使用人工智能來(lái)評(píng)估正在進(jìn)行的交易是否存在欺詐的可能性,可在300毫秒內(nèi)完成交易的欺詐檢測(cè),幾乎不會(huì)影響客戶(hù)和商家的在線實(shí)時(shí)交易,神經(jīng)網(wǎng)絡(luò)在其中起到了重要作用。
根據(jù)Visa的報(bào)告,從2020年10月到2021年9月,Visa處理了2325億筆支付交易。僅在2021年,VAA就在其網(wǎng)絡(luò)上識(shí)別并防止了260億美元的欺詐行為。
隨著我們?cè)絹?lái)越多的財(cái)務(wù)生活存在于“云”中,真心的希望強(qiáng)大的人工智能可以保護(hù)好我們每一位老百姓的辛苦血汗錢(qián)。
2. 醫(yī)療領(lǐng)域:智慧輔助診斷
神經(jīng)網(wǎng)絡(luò)在醫(yī)療領(lǐng)域的應(yīng)用為疾病診斷提供了新的思路。通過(guò)深度學(xué)習(xí),神經(jīng)網(wǎng)絡(luò)可以分析醫(yī)學(xué)影像,輔助醫(yī)生更準(zhǔn)確地診斷病癥。例如,在乳腺癌檢測(cè)中,神經(jīng)網(wǎng)絡(luò)可以識(shí)別微小的腫塊,提高了檢測(cè)的靈敏度。
IBM的Watson for Oncology利用神經(jīng)網(wǎng)絡(luò),幫助醫(yī)生制定個(gè)性化的癌癥治療方案,根據(jù)大量醫(yī)學(xué)文獻(xiàn)和病例數(shù)據(jù),提供更精準(zhǔn)的醫(yī)療建議。WFO通過(guò)從病歷中獲取有價(jià)值的信息,為癌癥患者提供合理的個(gè)體化治療方案。
WFO于2016年首次正式登陸中國(guó),湘雅二醫(yī)院腫瘤中心就WFO在宮頸癌的治療幫助上進(jìn)行了研究。宮頸癌是女性生殖道常見(jiàn)的惡性腫瘤,其發(fā)病率在全世界女性中僅次于乳腺癌,是威脅女性健康和生命的第二大癌癥。
在 300 名宮頸癌患者中,有 246 名患者符合 WFO 分析的條件。在246名患者中,有179名患者的宮頸癌病例,WFO 治療方案與實(shí)際臨床實(shí)踐總體一致,這個(gè)占比達(dá)到了72.8%。
有了神經(jīng)網(wǎng)絡(luò)的助攻,AI醫(yī)療可以讓越來(lái)越多的人因此受益,癌癥也將變得不再可怕。
3. 電商領(lǐng)域:個(gè)性化推薦
在個(gè)性化推薦系統(tǒng)中,系統(tǒng)收集用戶(hù)的行為數(shù)據(jù),包括點(diǎn)擊歷史瀏覽、購(gòu)買(mǎi)記錄、搜索記錄等,這些數(shù)據(jù)構(gòu)成神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集,用于學(xué)習(xí)用戶(hù)的行為模式。
接下來(lái),神經(jīng)網(wǎng)絡(luò)將用戶(hù)的行為數(shù)據(jù)轉(zhuǎn)化為可理解的特征表示,并進(jìn)行學(xué)習(xí)和訓(xùn)練。
然后,根據(jù)用戶(hù)的實(shí)際反饋(點(diǎn)擊、購(gòu)買(mǎi)等),系統(tǒng)不斷更新神經(jīng)網(wǎng)絡(luò)的參數(shù),對(duì)用戶(hù)的未知行為進(jìn)行預(yù)測(cè),以提高推薦的準(zhǔn)確性和個(gè)性化程度。
亞馬遜(AWS)的推薦系統(tǒng)就利用神經(jīng)網(wǎng)絡(luò)進(jìn)行深度學(xué)習(xí),對(duì)大量用戶(hù)數(shù)據(jù)進(jìn)行分析和學(xué)習(xí)。其推薦系統(tǒng)每天能夠處理數(shù)十億條數(shù)據(jù),包括用戶(hù)的點(diǎn)擊、購(gòu)買(mǎi)、收藏等多方面的行為,以確保推薦的準(zhǔn)確性。
根據(jù)麥肯錫的報(bào)告,亞馬遜有超過(guò) 35% 的銷(xiāo)售額來(lái)自于系統(tǒng)的推薦,AWS呈現(xiàn)在不同用戶(hù)面前的就是不同的商品頁(yè)面,也就是我們俗稱(chēng)的“千人千面”。
六、神經(jīng)網(wǎng)絡(luò)的產(chǎn)品案例
1. 網(wǎng)易有道:神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)
神經(jīng)網(wǎng)絡(luò)翻譯( Neural Machine Translation,以下簡(jiǎn)稱(chēng)NMT)是一種基于深度學(xué)習(xí)的機(jī)器翻譯方法,通過(guò)模擬人腦神經(jīng)元的工作原理,實(shí)現(xiàn)對(duì)輸入語(yǔ)言到輸出語(yǔ)言的端到端學(xué)習(xí)。
神經(jīng)網(wǎng)絡(luò)翻譯是神經(jīng)網(wǎng)絡(luò)在機(jī)器翻譯領(lǐng)域的應(yīng)用,神經(jīng)網(wǎng)絡(luò)使得神經(jīng)網(wǎng)絡(luò)翻譯在處理大規(guī)模語(yǔ)料庫(kù)時(shí)能夠?qū)W到更復(fù)雜的語(yǔ)言規(guī)律和語(yǔ)境信息,實(shí)現(xiàn)準(zhǔn)確的自動(dòng)翻譯。
相較于傳統(tǒng)的機(jī)器翻譯方法,NMT更注重上下文的理解,能夠更好地處理句子的結(jié)構(gòu)和語(yǔ)境,使得翻譯結(jié)果更為自然流暢。
早在2017年4月,網(wǎng)易有道就對(duì)外公布稱(chēng),由網(wǎng)易公司自主研發(fā)的神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)(YNMT)正式上線。到了2018年,網(wǎng)易有道進(jìn)一步采用Transformer作為基礎(chǔ)架構(gòu),研發(fā)出更高效的翻譯系統(tǒng)。
2. 神經(jīng)網(wǎng)絡(luò)的落地:網(wǎng)易有道翻譯
有道旗下的翻譯產(chǎn)品——網(wǎng)易有道翻譯,就是基于有道神經(jīng)網(wǎng)絡(luò)翻譯提供文本翻譯、圖片翻譯、文檔翻譯、網(wǎng)頁(yè)翻譯等各種場(chǎng)景的翻譯服務(wù)。這幫助我們?cè)诳鐕?guó)交流中,即使不懂對(duì)方國(guó)家的語(yǔ)言,也可以滿足一些基本交流,至少在全球旅游的這個(gè)夢(mèng)想下,語(yǔ)言障礙已經(jīng)不會(huì)排在第一位了。
相信有外語(yǔ)翻譯需求的朋友,對(duì)網(wǎng)易有道翻譯這款產(chǎn)品并不陌生,有時(shí)候因?yàn)楣ぷ骰蛏畹男枰?,我們?huì)瀏覽到國(guó)外的網(wǎng)站,不僅是英文,也許我們還會(huì)瀏覽到日文、俄文的或者是其他語(yǔ)言的網(wǎng)站。所以,相對(duì)準(zhǔn)確又快速的翻譯,就顯得尤為重要。
有了YNMT有道神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)作為基礎(chǔ),網(wǎng)易有道翻譯這款產(chǎn)品的翻譯能力幾乎可以對(duì)標(biāo)一名有專(zhuān)八水平的大學(xué)生,除了能支持109種語(yǔ)言互譯,還能提供42個(gè)專(zhuān)業(yè)術(shù)語(yǔ)庫(kù)或上傳自定義術(shù)語(yǔ)庫(kù)。用大白話來(lái)說(shuō),就是懂行,翻譯出的內(nèi)容符合行業(yè)術(shù)語(yǔ)要求,也符合專(zhuān)業(yè)場(chǎng)景下的語(yǔ)境要求。
目前能直觀地看到,官方推薦的術(shù)語(yǔ)庫(kù)就有材料科學(xué)、測(cè)繪科學(xué)技術(shù)、地球科學(xué)、電子、通信與自動(dòng)控制技術(shù)、動(dòng)力與電氣工程、法學(xué)、紡織科學(xué)技術(shù)、管理學(xué)、航空、航天科學(xué)技術(shù)、化學(xué)、環(huán)境科學(xué)技術(shù)、機(jī)械工程、計(jì)算機(jī)科學(xué)技術(shù)、交通運(yùn)輸工程等等。
同時(shí),我們?cè)诜g時(shí),還可以根據(jù)具體的使用場(chǎng)景,比如醫(yī)學(xué)、計(jì)算機(jī)、金融經(jīng)濟(jì),提供更符合語(yǔ)境的翻譯結(jié)果。
就在今年的4月份,網(wǎng)易有道翻譯升級(jí)至最新的V10.0.0版本,覆蓋10種翻譯場(chǎng)景,包含文本、文檔、圖片、音頻、視頻、同傳翻譯等,支持10種文檔格式,已開(kāi)放每年240萬(wàn)免費(fèi)翻譯字符,雖然部分功能需要付費(fèi)使用,比如音頻翻譯和同傳翻譯只能免費(fèi)試用20分鐘,AI BOX智能潤(rùn)色功能(支持句子、段落潤(rùn)色,文章糾錯(cuò))也只能免費(fèi)試用10次,但如果是基本翻譯需求,也已經(jīng)夠用了。
3. 從網(wǎng)易有道翻譯中看到NMT的亮點(diǎn)
當(dāng)我們?cè)谥獣陨窠?jīng)網(wǎng)絡(luò)的原理之后,基于一定的AI知識(shí)儲(chǔ)備去體驗(yàn)一款真實(shí)的產(chǎn)品,就像在知道魔術(shù)原理的背景下去看一場(chǎng)魔術(shù)表演,其中神奇又玄幻的部分,就不會(huì)覺(jué)得那么神秘了。
從網(wǎng)易有道翻譯這款產(chǎn)品出發(fā),我們能看到神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)的特點(diǎn)。
【多語(yǔ)言支持】:網(wǎng)易有道翻譯借助神經(jīng)網(wǎng)絡(luò)翻譯技術(shù),實(shí)現(xiàn)了對(duì)多語(yǔ)言的支持,支持109種語(yǔ)言互譯,可以說(shuō)幾乎滿足了全球各個(gè)國(guó)家的語(yǔ)言溝通。
【上下文理解】:神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)通過(guò)深度學(xué)習(xí)模型對(duì)大量語(yǔ)料進(jìn)行訓(xùn)練,能夠更好地理解句子的上下文關(guān)系。
這種能力使得翻譯系統(tǒng)能更好地把握文章或?qū)υ挼恼w語(yǔ)境,產(chǎn)生更連貫、自然的翻譯結(jié)果,讓用戶(hù)獲得更符合實(shí)際語(yǔ)言使用情境的譯文,而不是簡(jiǎn)單地對(duì)獨(dú)立的句子進(jìn)行翻譯。
【專(zhuān)業(yè)詞匯處理】:通過(guò)深度學(xué)習(xí),網(wǎng)易有道翻譯產(chǎn)品可以處理各行業(yè)專(zhuān)業(yè)術(shù)語(yǔ),翻譯的結(jié)果也會(huì)更精準(zhǔn)、可靠。
比如支持材料科學(xué)、測(cè)繪科學(xué)技術(shù)、地球科學(xué)、動(dòng)力與電氣工程、管理學(xué)、航空、航天科學(xué)技術(shù)等等術(shù)語(yǔ)庫(kù)。
【用戶(hù)體驗(yàn)更棒】:神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)在保持高準(zhǔn)確性的同時(shí),模型也強(qiáng)調(diào)翻譯的自然度,使得譯文更貼近人類(lèi)語(yǔ)言表達(dá)習(xí)慣,為用戶(hù)提供更流暢、易懂的翻譯體驗(yàn)。
有道AIBox(beta版)就在這個(gè)點(diǎn)上進(jìn)行發(fā)力,YNMT模型支持的個(gè)性化體驗(yàn)可以提供更符合用戶(hù)口感的翻譯結(jié)果,提高語(yǔ)言使用的舒適度,AI潤(rùn)色后的翻譯內(nèi)容更懂人性。
4. 新功能亮相:更專(zhuān)業(yè)的AI翻譯
網(wǎng)易有道翻譯網(wǎng)頁(yè)版有新出一款新版的AI 翻譯,提供母語(yǔ)級(jí)高精AI翻譯,并支持繼續(xù)潤(rùn)色及語(yǔ)法分析等功能。
中華文化博大精深,既然適合咱們中文母語(yǔ),不知道翻譯一首李白的《將進(jìn)酒》,效果如何?
于是,我將詩(shī)句輸入文本框,點(diǎn)擊“AI翻譯”,等待了幾秒的“文本生成中”,它給了我一段譯文,譯文如圖,大家覺(jué)得翻譯效果如何哈?
如果我試著將這段英文,再讓AI翻譯成中文,并且要求AI潤(rùn)色一下,會(huì)是什么結(jié)果呢?帶著好奇心,我將AI翻譯好的英文復(fù)制進(jìn)了文本框,再次點(diǎn)擊AI翻譯后,看到了英譯中的結(jié)果。
如圖可見(jiàn),從語(yǔ)言的對(duì)仗、韻律、文字修辭,用詞精準(zhǔn)達(dá)意,情感抒發(fā)等各方面看,還是咱李白的原詩(shī)更勝一籌哈。
接下來(lái),我選擇了AI潤(rùn)色,既然是一首詩(shī),試試將句子潤(rùn)色得更華麗,AI會(huì)給我什么結(jié)果呢?選擇“句子潤(rùn)色-更華麗”,我看到了如圖回復(fù),不知道看到此處的你,有什么新的靈感呢?
感受一下帶著文學(xué)才氣的AI翻譯之后, 再體驗(yàn)一把論文翻譯的功能,arXiv論文翻譯功能支持arXiv論文摘要頁(yè)面鏈接、arXiv論文pdf下載鏈接、論文其他格式源下載鏈接或使用chrome打開(kāi)的論文pdf鏈接。從結(jié)果看,翻譯內(nèi)容還是不錯(cuò)的。從體驗(yàn)看,雙語(yǔ)對(duì)照還是很貼心的。
其實(shí),無(wú)論是多國(guó)語(yǔ)言翻譯,多場(chǎng)景翻譯,多術(shù)語(yǔ)庫(kù)支持,還是AI翻譯,網(wǎng)頁(yè)翻譯,論文翻譯等等。底層都是基于神經(jīng)網(wǎng)絡(luò)翻譯技術(shù)來(lái)實(shí)現(xiàn)的,它就在我們接觸的AI產(chǎn)品的界面背后,我們看不到、摸不著,卻又在每一次觸發(fā)翻譯時(shí),都需要調(diào)用它。
未來(lái),神經(jīng)網(wǎng)絡(luò)翻譯將更注重實(shí)時(shí)交互翻譯的能力。在翻譯領(lǐng)域,我們可以期待更快速、準(zhǔn)確的實(shí)時(shí)翻譯,語(yǔ)言將不再是溝通的障礙,也許那時(shí)候,我們就不需要學(xué)外語(yǔ)了。無(wú)論是國(guó)際會(huì)議、日常旅游、還是商務(wù)洽談等場(chǎng)景下,靠AI就能實(shí)現(xiàn)無(wú)障礙跨國(guó)交流了,或許那時(shí)候,AI翻譯的結(jié)果比我們自己直接翻譯要更貼合語(yǔ)境,更快更準(zhǔn)確呢。
本文由 @果釀 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)作者許可,禁止轉(zhuǎn)載。
題圖來(lái)自 Unsplash,基于CC0協(xié)議。
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。
不錯(cuò),通俗易懂