做好AI開放平臺(tái)(二):如何將業(yè)務(wù)接入AI能力

0 評(píng)論 5707 瀏覽 34 收藏 11 分鐘

編輯導(dǎo)語:做好AI開放平臺(tái),首先要了解AI開放平臺(tái)的認(rèn)知和架構(gòu),在這方面的基礎(chǔ)上,就需要系統(tǒng)地提升將業(yè)務(wù)如何接入AI的能力,本文將就通過接入AI的方式、具體接入過程這兩方面進(jìn)行方法的分享,非常適合新手小白學(xué)習(xí)。

一、接入AI開放平臺(tái)的方式

上一節(jié)介紹過接入的形式主要有公有云和私有化兩種形式;本節(jié)針對(duì)性的進(jìn)行細(xì)化介紹;

1. 接入形式

從接入方式上主要有公有云接入、私有化接入;其中私有化接入可以拆分為私有云接入和私有化本地部署;舉例區(qū)分下三者的區(qū)別:

公有云:類似于滴滴打車,把AI開放平臺(tái)的各項(xiàng)能力和硬件資源比作車輛,按照打車要求遵循平臺(tái)規(guī)劃,只要付錢了,就可以享受到出行服務(wù),如果想要優(yōu)質(zhì)服務(wù),還可以另外付費(fèi)進(jìn)行體驗(yàn),提供出行服務(wù)的車輛和車上用品均不歸用戶所有;從用戶開始使用到結(jié)束使用,所有的行為均在平臺(tái)的管轄范圍之內(nèi);

私有云:類似于神州租車,通過付費(fèi)租用短暫內(nèi)擁有了平臺(tái)資源的使用權(quán)和管理權(quán),甚至可以通過另外付費(fèi)要求定制化的服務(wù);但是私有云的部署仍然無法最終擁有服務(wù),仍需要遵循平臺(tái)的協(xié)議制約;

私有化部署:類似于自己買車,將AI開放平臺(tái)的服務(wù)能力部署到自己的環(huán)境中,想如何折騰都可以,擁有絕對(duì)的使用權(quán)和管理權(quán),隱私和安全都可以確保;但是容易丟失平臺(tái)的升級(jí)服務(wù)和運(yùn)維服務(wù),需要另外跟平臺(tái)進(jìn)行約定;

2. 各個(gè)接入方式的特點(diǎn)

上一節(jié)在介紹接入公有云和私有化的時(shí)候簡(jiǎn)單介紹了優(yōu)缺點(diǎn),本文將從不同角度更細(xì)致的進(jìn)行對(duì)比不同接入形式的區(qū)別;

(1)數(shù)據(jù)安全性

公有云:數(shù)據(jù)均通過公有網(wǎng)絡(luò)形式上傳到平臺(tái),并在平臺(tái)運(yùn)算后返回結(jié)果給到用戶,存在數(shù)據(jù)傳輸被截取和平臺(tái)數(shù)據(jù)泄露的風(fēng)險(xiǎn);

私有云:數(shù)據(jù)通過內(nèi)網(wǎng)傳輸,被截取的風(fēng)險(xiǎn)基本不存在,但是數(shù)據(jù)在第三方云上仍存在泄露風(fēng)險(xiǎn);

私有化部署:數(shù)據(jù)存儲(chǔ)在本地服務(wù)器,理論上不存在泄露風(fēng)險(xiǎn);

(2)經(jīng)濟(jì)成本

公有云:只需要付購(gòu)買和使用AI服務(wù)的費(fèi)用,如果按照百度QPS算,成本較低;

私有云:需要承擔(dān)使用AI服務(wù)的費(fèi)用,另外還需要采購(gòu)云存儲(chǔ)和運(yùn)維的費(fèi)用;成本相對(duì)較高;

私有化部署:需要承擔(dān)使用AI服務(wù)和服務(wù)升級(jí)的費(fèi)用,采購(gòu)服務(wù)器的費(fèi)用,機(jī)房搭建費(fèi)用,運(yùn)維的費(fèi)用,成本最高;

(3)二次開發(fā)

為什么說二次開發(fā)呢?前文提到AI能力只是基建能力,如果需要應(yīng)用到業(yè)務(wù)中,就需要涉及二次開發(fā),包括后續(xù)的擴(kuò)展;

公有云:二次開發(fā)和擴(kuò)展難度大,需要按照平臺(tái)要求配置使用

私有云:可以按照業(yè)務(wù)要求進(jìn)行二次開發(fā)和擴(kuò)展,難度??;但是如果云服務(wù)和AI服務(wù)不是一家廠商,難度將升級(jí),容易造成額外的費(fèi)用;所以可以AI服務(wù)和云服務(wù)選擇同一家;

私有化部署:可以做本地二次開發(fā)和擴(kuò)展,難度小;但是后續(xù)升級(jí)存在難度;

3. 接入的產(chǎn)品形態(tài)

了解了AI能力的接入形式后,還需要進(jìn)一步熟悉具體的產(chǎn)品形態(tài),目前AI能力的接入形態(tài)主要有以下三種方式:

(1)API,全稱為Application Programming Interface,中文稱應(yīng)用程序接口;用戶只需要按照開放平臺(tái)的規(guī)范設(shè)置參數(shù)即可在業(yè)務(wù)中使用該AI服務(wù);API的設(shè)計(jì)要點(diǎn)可以參考《API接口設(shè)計(jì),需要注意這4點(diǎn)》;其中公有云多以在線API的形式提供服務(wù);

(2)SDK,全稱為software development kit,中文稱軟件開發(fā)工具包;用戶在開放平臺(tái)需要先下載SDK,再按照要求部署到本地程序后,才能通過SDK中提供的API使用AI服務(wù)能力;SDK的設(shè)計(jì)可以參考《如何做一款SDK產(chǎn)品?》;SDK是當(dāng)前AI能力私有化本地部署的主要產(chǎn)品形態(tài);

注:這里補(bǔ)充下API和SDK的區(qū)別,實(shí)際兩者是有關(guān)聯(lián)的東西;嚴(yán)格意義來說開放平臺(tái)提供的是在線API,和離線SDK;在線API多數(shù)提供單一的功能,不需要部署;而離線SDK可能是多個(gè)功能的結(jié)合,需要用戶在本地程序中部署,再通過SDK提供的API來使用;

(3)SaaS,全稱為Software-as-a-Service,中文稱軟件即服務(wù);一般AI開放平臺(tái)會(huì)需要根據(jù)業(yè)務(wù)定制產(chǎn)品解決方案,最終多以B/S架構(gòu)的方式部署到用戶本地,提供“小白”式的AI服務(wù);通常如果是以SaaS化的產(chǎn)品形態(tài)提供,業(yè)務(wù)和AI能力已經(jīng)實(shí)現(xiàn)了高度耦合,用戶不需要二次開發(fā);

注:SaaS形態(tài)在AI開放平臺(tái)中是一個(gè)特殊的存在,公有云一般是在線API+Console,其中Console也可以理解為SaaS;而SaaS形態(tài)又可以作為私有云的產(chǎn)品提供,甚至可以私有化化部署到本地;

二、如何接入

1. 公有云如何接入

AI開放平臺(tái)的公有云接入就像是吃自助餐,基本都需要用戶自行按照平臺(tái)要求和指示自主完成接入;這里以百度AI開放平臺(tái)為例:

Step 1:用戶注冊(cè),注冊(cè)開放平臺(tái)的賬戶,通常手機(jī)號(hào)即可,同時(shí)填寫開發(fā)者認(rèn)證信息;

Step2:創(chuàng)建應(yīng)用并開通服務(wù),在開放平臺(tái)的Console界面新建應(yīng)用,同步勾選需要接入的AI服務(wù);有些特殊服務(wù),后續(xù)還需要實(shí)名認(rèn)證才能使用;比如一些視頻剪輯服務(wù);

注:通用的字段有應(yīng)用名稱、應(yīng)用類型、應(yīng)用描述、服務(wù)選擇、包名綁定(用于生成License做離線SDK鑒權(quán))等;

Step3:鑒權(quán),在上一步獲取到密鑰信息,如果是API接口,需要通過應(yīng)用ID和密鑰生成鑒權(quán)token,如果是http SDK,直接在類中填寫應(yīng)用ID和密鑰信息即可;如果是離線SDK,需要通過企業(yè)認(rèn)證,下載License,在客戶端鑒權(quán);

Step4:應(yīng)用開發(fā),根據(jù)開發(fā)接入文檔說明在業(yè)務(wù)應(yīng)用模塊調(diào)用AI服務(wù);

2. 私有云如何接入

私有云部署偏技術(shù)化,作為產(chǎn)品經(jīng)理,重點(diǎn)是將需求梳理清楚,保證功能可用和數(shù)據(jù)安全;其他可以更多讓研發(fā)支持;在明確需求后,關(guān)注以下幾步;

Step 1:確認(rèn)公司是否具備私有云環(huán)境、私有云的提供商是誰,私有云的運(yùn)行環(huán)境版本;原因在于百度AI能力接口不一定適用阿里云,所以后期需要定制;

Step 2:將私有云環(huán)境和系統(tǒng)參數(shù)等信息提供給AI能力提供商,作為甲方可以要求AI能力提供商按照現(xiàn)有私有云環(huán)境定制API接口;同時(shí)按照AI能力提供商的要求,對(duì)環(huán)境升級(jí),比如采購(gòu)GPU環(huán)境等;

Step 3:產(chǎn)品部署并測(cè)試,將AI能力程序部署到服務(wù)器中,并由研發(fā)在測(cè)試調(diào)用AI能力,保證所有功能可用,且響應(yīng)速度服務(wù)產(chǎn)品要求;

Step 4:確認(rèn)系統(tǒng)端口、防火墻和網(wǎng)絡(luò)權(quán)限等設(shè)置,保證內(nèi)網(wǎng)可訪問的同時(shí)確保數(shù)據(jù)安全;

3. 私有化本地部署

私有化本地部署與以上方式的區(qū)別主要是本地部署更多的將AI能力部署到公司本地服務(wù)器或者直接部署到產(chǎn)品端;如果是部署到本地服務(wù)器,可以參考下私有云部署的要點(diǎn);如果是部署到產(chǎn)品端,就需要AI能力提供商提供符合要求的本地SDK支持部署;

三、總結(jié)

本文給大家梳理了現(xiàn)有AI能力的接入方式、接入形式和不同方式接入時(shí)的步驟,在實(shí)際應(yīng)用時(shí),我們可以根據(jù)業(yè)務(wù)需求選擇最優(yōu)的接入方案,降低成本的同時(shí)提高工作效率。

 

本文由 @Eric_d 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載

題圖來自Unsplash,基于CC0協(xié)議

專欄作家

Eric_d,人人都是產(chǎn)品經(jīng)理專欄作家。關(guān)注AI、大數(shù)據(jù)等領(lǐng)域,擅長(zhǎng)需求分析、產(chǎn)品流程和架構(gòu)設(shè)計(jì)等,日常喜歡徒步。

本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自 Unsplash,基于CC0協(xié)議。

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒評(píng)論,等你發(fā)揮!