「2016年,我主動去敲英特爾大門,飛到美國矽谷總部找當時的AI技術主管,一開始對方狐疑半天,直到第三天,我拿著一台筆電,外接兩個攝影機,用他們的Pentium處理器加上我們的軟體跑人臉辨識,回應時間竟然只要2秒,會議室的每個人都露出不敢相信的眼神,因為原本他們都認為非用輝達(nVidia)的繪圖處理晶片(GPU)加速器才行!」
談起與英特爾在邊緣AI晶片的結緣,大猩猩科技執行長寇世斌博士向本刊描述起這段經典的畫面。
成立於2001年的大猩猩科技,長期投入智慧影像分析、物聯網資訊安全與大數據分析,看到邊緣AI趨勢崛起,晶片更須結合軟體才能完善應用,故希望與英特爾魚水互幫。
寇世斌說,2016年的時空環境,AI晶片仍以雲端伺服器為主力,離資料更近的邊緣運算雖然已在業界討論,但若使用算力強大的CPU處理器,處理圖像不夠快、高耗能等都是挑戰,這讓許多終端應用的解決方案仍朝向CPU結合GPU一起搭載,但成本不但無法降低、彈性也不夠大,更無法省電。
為了解決當時痛點,大猩猩科技運用自己所開發的AI軟體,如同作業系統(OS)可嵌入到處理器幫忙快速精確解析畫面,不需搭載GPU之外,還可降低成本與耗能,讓英特爾大吃一驚。
據了解,經過實測,一樣的處理器若把影像送到雲端,AI辨識回應邊緣時間至少15秒,「我的邊緣AI只要兩秒」,寇世斌表示,這樣的差異,讓英特爾願意把還在內部研發的邊緣運算平台釋出給大猩猩測試。
經過半年的互動,大猩猩獲得英特爾的驗證,2017年對外正式發表第一個邊緣運算AI平台OpenVino,新聞稿上更直接點名大猩猩是第一個電腦視覺(Computer Vision)合作夥伴。
自此,雙方的關係越來越深厚,從Pentium到現在的iCore第十一代,大猩猩科技都可以在英特爾OpenVino上將其AI影像演算發揮最佳效能及準度,幫助終端客戶找到性價比高的解決應用,就連2019年,英特爾透過收購電腦視覺處理技術聞名的半導體新創Movidius,開發出邊緣運算第一顆專用處理器VPU,也都有大猩猩作業系統的身影。
軍人出身的寇世斌,在華盛頓大學自動化科學博士時期,就與教授開發過協助膝蓋開刀的機器人,回台灣在中科院從事飛彈生產自動化設計,退役後創立大猩猩科技,適逢網路興起,一開始帶領公司從事影像辨識與資安防護軟體,待自建數據資料分析能力後,再慢慢延伸到AI影像辨識軟體系統,並利用台灣在工業電腦、伺服器等硬體製造能力,提供企業安防、執法機關、交通監控、智慧城市、智慧建築等各種出海口。
近幾年來,雲端運算延伸到邊緣已成趨勢,邊緣AI晶片要的是省電、功耗低、傳輸快,算力不需像雲端那麼複雜,晶片類型也從通用朝向專用,這也讓谷歌(Google)、微軟(Microsoft)等大廠隨著自家資料中心的建立,也紛紛投入邊緣AI晶片的開發,連蘋果(Apple)、三星(Samsung)、高通(Qualcomm)、華為、聯發科都跨入。
而大猩猩科技因為跟英特爾大廠練兵多年後,預定將陸續宣佈支援高通與Google TPU平台的設備裝置,當年看似幫了英特爾在邊緣AI平台起飛,自己也等於站在巨人的肩膀走出了國際。