NPU是什麼？跟CPU、GPU差別是？圖解AI PC最重要關鍵字

昨天與一家AI應用有關的新創公司線上會議，他們表示有很多影像辨識相關的需求可以與我們合作，但首次會議主要著重在雙方的自我介紹，我知道我們不是非常合乎目前影像辨識業界大家預期的那種標榜AI技術(ML、DL與CNN)的公司，當然有必要先說清楚，以免誤解與誤導。

會議中我第一次聽到了NPU這個概念，當然要請對方說明解惑，會後也上網讀書了解！但是會議當下我還是強調：CPU、GPU與NPU，不管甚麼U？都只是輔助執行完成運算的工具！我認為真正AI研發的核心與前提，還是你到底要怎麼計算來達到目的！也就是針對特定問題而設計發明的演算法！如果演算法不夠好，根本無法達到使用的需要，或是演算法不合理，計算量不合理的大，那用甚麼PU輔助的意義都不大！應該關注的是如何發明出更好的演算法！

我們公司的技術核心，就是針對影像中需要辨識的目標或事件，根據影像本身資訊，與所有跟辨識目的相關的知識，設計出最有效合理的演算法來實現辨識目的！我們的具體產品是數學、是物理與可執行的程式！至於要用CPU？GPU？或NPU？來實作或實現？那不是我們的專長，我們也沒有預設立場。

目前為止，我們公司的既有產品都只會使用到一般電腦中的CPU，沒有用到GPU輔助計算，當然更與NPU毫無關聯！但執行效能都比那些號稱使用GPU的「AI」影像辨識軟體更快也更準！不必用GPU，就省去很多額外軟硬體設備的要求，使用我們的產品，從建置到執行的成本都低很多！昨天開會的公司也認為使用GPU是個高成本的方案，才會提到NPU，也看好NPU的！

所以大家不要太容易被膚淺的流行說法所迷惑甚至欺騙了！你聽到最多的說法常常不是最正確的說法，只是對某些有錢的大廠商，尤其是硬體製造商最有利的廣告而已！所謂GPU新時代的說法就是如此！高估GPU的價值可以給很多廠商帶來短期立即的利益，但並不是對影像辨識的長遠發展有真正好處的方向！

如果你是採用運算量高到不合理，濫用矩陣搜尋運算的CNN，或是濫用巨量資料統計(訓練學習)來取得辨識成功機率的ML或DL，那麼GPU可以大幅減低你的痛！讓原本不太可能實現預期功能的演算法變得「似乎」可行？但問題是：你根本不必使用這些演算法，就可以像我一樣實現幾乎所有的影像辨識目的！那為何要堅持一定必須使用ML、DL與CNN呢？對誰有好處呢？

為什麼事實上在影像辨識領域效率不彰的ML、DL與CNN會受到如此不合理的推崇？市面上現有廣泛使用的影像辨識軟體，幾乎都「不是」使用這些技術做的！你知道嗎？原因就是它們可以帶動運算需求，讓硬體廠商的商機無限！就跟含糖飲料、垃圾食物與香菸都無助於人體健康，甚至有害！但如果不是有人堅持說出事實，甚至要求立法讓民眾知道這些科學事實！商業廣告就一定會把這些其實無用甚至有害健康的東西形容成瓊漿玉液神仙美食的！因為可以賺錢嘛！看看早期的牛仔吸菸的廣告多帥啊？

如我們昨天線上會議中呈現的情景，就是他們已經意識到目前GPU被高估濫用衍生的成本高漲的問題，所以正在思考其他可行的合理方案，包括是否應該使用更多NPU？但我認為他們還沒把影像辨識的問題看得更透徹更基礎！還是誤以為ML、DL與CNN是無法取代的影像辨識主流演算法？

其實這從來就不是事實！不然我們為何可以一路順暢的做影像辨識產品研發十年活到現在？我們其實一直都在關注學習ML、DL與CNN的相關資訊技術，也一直想導入這些技術到我們既有的技術之中以提升產品品質，但一直都找不到機會與理由！我們真的至今都還不需要使用ML、DL與CNN。

如果我們根本不用那些ML、DL與CNN演算法，當然使用GPU與NPU好像也不會增加我們演算法的執行效率？或許哪天我們的演算法終於被公認優於ML、DL與CNN，變成主流演算法時，才會有另一種「X」PU為我們的存在而設計誕生吧？

但是不管甚麼U都是配合演算法需求來提升整體運算效率的！演算法才是狗的軀幹身體，那些U都只是尾巴，我們真的不必為了替GPU(或NPU)找出路，為了讓尾巴搖起來要美美的，而扭曲了整隻狗應有的功能！整隻狗當然不必為了讓尾巴好看而做出奇怪姿勢配合的！認真做隻好狗才是最重要的事情！尾巴不漂亮該整形的是尾巴不是狗！