|
||
|
New Member
加入日期: Jul 2022
文章: 2
|
從Computex 2024看AI筆電新樣貌，NPU應用成新關鍵
從Computex 2024看AI筆電新樣貌，NPU應用成新關鍵
今年臺北國際電腦展Computex的重要看點之一，就是各家筆電大廠正迎向AI新浪潮，展示新世代筆電的不同風貌，我們從現場展示的產品與應用，可以看出兩大不同之處，不只是新產品將具有Copilot實體按鍵，更關鍵是NPU的採用，將讓一些AI應用可以在個人電腦上有更好的發揮，並促進體感操作在個人電腦上變得普及 文/羅正漢 | 2024-07-05發表 圖片來源: 攝影／羅正漢 在今年臺北國際電腦展（Computex 2024）上，未來有望普及的AI PC，無疑是本場展會最重要的焦點之一，各大筆電廠商展示最新款機型，不僅顯露出未來筆電的新樣貌，也展現AI加持下的筆電新能耐。 究竟有哪些重要變化？在Computex大會現場各廠商展示的多款新型筆電產品中，最讓大家印象深刻的是，Windows筆電上新增了專為AI設計的Copilot按鍵，通常設置於鍵盤區右邊Alt鍵的右方，可以快速叫出Windows 11上提供的Windows Copilot功能，讓使用者一鍵就可以啟動AI體驗，使用Copilot網路服務。 可以想見的是，這個按鈕會在AI PC世代佔有重要的地位。比起過往Windows 8的實體Home鍵的變化，有更大的意義存在。 另一重要變化在於，專門為AI應用而設計的NPU（Neural Processing Unit），如今這項應用開始擴及Windows個人電腦領域。 例如，電腦處理器大廠Intel去年底推出Meteor Lake行動處理器，其架構包含CPU、GPU與NPU，就率先獲得多家筆電廠商採用，在2023年底就開始陸續有產品上市。 因此在今年Computex電腦展上，Intel就在攤位上特別陳列了多家廠商的新品，包括：微軟Surface Laptop 6、Dell XPS 14（9440）、HP Elitebook 840G11，以及宏碁Swift Go 16、華碩Vivobook S 14（S5406）、技嘉Aorus 15、微星Prestige 13 AI Evo，還有聯想IdeaPad Slim 5i、LG Gram Pro、三星Galaxy Book4 Pro、Dynabook Portege X40L-M等，特別的是，Intel不只是陳列各廠商產品，更希望讓大家可以透過這些產品先目睹NPU能力的新應用。 新世代筆電可運用NPU幫助AI運算 關於NPU的實際應用場景，是大家都關注的重點，畢竟，過去個人電腦上沒有NPU，AI相關運算只能依靠CPU與GPU，尤其是具有平行運算能力的GPU，但隨著現今生成式AI技術的興起，專為加速AI應用而設計的NPU，也成為了新的解決方案。 在今年6月的Computex電腦展上，我們看到Intel展區中就有多項NPU相關技術與應用的實機展示： （一）寫作助手 自從ChatGPT與Gemini等生成式AI服務的出現，現在大家對於上網使用生成式AI服務，命令AI寫出一段文章，已經並不陌生。不過，之後使用者也可在筆電不連網、內容不上傳雲端服務的情形之下，利用自己筆電上的AI應用程式，來執行生成式AI應用。 例如，在Intel展區另一臺LG Gram Pro筆電上，所展示的應用就是名為WriteUp的寫作助手。電腦畫面上呈現出使用Word編輯文章時，能另外叫出一個具Secure Local機制的寫作助手，現場人員表示，其特色在於不用將文字內容上傳生成式AI服務，就能快速調整一段寫作內容。 從寫作助手的功能選單來看，介面上提供了很多寫作風格的切換，包括正式、輕鬆、簡單，簡單扼要，或是需要擴展，甚至也能調整內容為具說服性、具敘述性，或是具資訊性。又或是調整為幽默、嚴肅、樂觀、悲觀的語氣。此外也有翻譯能力，包括中文、英文、西班牙文、日文、韓文等。 特別的是，關於WriteUp，後續我們找到相關新聞稿指出這是企業AI新創Upstage所打造，他們開發出Solar Mini這個通用的小型LLM，而基於Solar Mini的應用程式WriteUp可執行在搭載Intel Core Ultra處理器的Windows筆電上，並將他們LLM對於Intel處理器的支援進行優化，展現提高生產力並確保隱私的邊緣運算新體現。 （二）手勢控制 另一展示情境為手勢控制（Gesture Control）的應用。由於現在不只手機，運動相機也都首度開始加入手勢控制的能力，在筆電上的應用發展又是如何？ 在一臺技嘉Aorus 15筆電上所展示的應用場景，是以愛奇藝的Windows App的手勢操作功能為例，根據現場人員導覽時的說明，該程式在前幾年已經加入手勢識別AI模型，背後主要利用CPU與GPU來處理分析，可以透過視訊鏡頭來識別手勢，像是掌心張開對著電腦代表停止播放，OK手勢代表繼續播放，而現在能使用NPU來獨立處理，時時分析鏡頭前的手勢操作。因此，與過去運算處理方式相比，將可減輕CPU與GPU的負擔，讓這些資源可去處理其他工作任務。 （三）眼球追蹤 關於眼球追蹤（Eye-Tracking）這樣的技術，多年前我們已經看過這類技術應用的展示，但至今其應用仍遲遲未能普及，今年Computex我們又看到有這樣的展示。 在現場一臺Dynabook Portege X40L-M電腦上，展示了兩個眼球追蹤的場景，首先是一個書架的畫面，現場人員向我們說明，我們只要在電腦前，用眼睛注視著畫面上的任何一本書，筆電鏡頭就能偵測使用者的目光焦點，當我們實際這麼做，盯著中間右邊的樂譜書籍時，該物件真的就會稍微放大，望向其他書時也會有同樣效果，如同用眼睛操控滑鼠游標一樣的效果。 另一個是X光照片的畫面，我們也依據現場導覽人員的指出，當我們頭部朝向筆電靠近，螢幕上的圖片就會跟著放大，看到更清楚的X光斷層掃瞄細節，當我們頭部往後，圖片則會縮小。現場導覽人員也說明，有了NPU可以讓人眼追蹤時的AI運算，更具能耗上的效益。後續我們找到相關資料指出，這是眼球追蹤技術廠商Tobii提供的應用。 （四）Windows AI應用程式 談到AI PC，大家對於微軟提出的Copilot+ PC應該相當印象深刻，而我們在Intel展區也看到一臺微軟Surface Laptop 6筆電，正展示著Windows 11 24H2將提供給AI筆電的微軟AI應用程式，包括即時字幕翻譯Live Captions、Windows Studio Effects。儘管這臺電腦尚不符合微軟對Copilot+ PC的定義，但依然能夠展示這些AI應用程式的效果。 例如，筆電上正播放Computex 2024主題演說的YouTube影片，我們可以看到以Live Captions的效果是，可將演講內容即時產生英文字幕於筆電畫面的上方。現場工作人員向我們表示，在這項技術下，包括偵測到的語音，輔助字母的產生，都是在電腦上完成，並不會與雲端或微軟共用。 同時，這臺電腦另一半畫面也展示了啟用視訊影像下的Camera effect效果，可快速自動對焦與模糊背景，並使視訊的影像更清晰。 （五）資安威脅與防護 另一我們要介紹的應用相當特別，是要保護AI應用程式不被竄改。 在今年Computex的Intel展區上，特別以一臺電腦展示一段影片，內容是本機端AI應用程式被竄改、污染的資安風險。 根據現場導覽人員的說明，影片中主要呈現出，當使用者在AI應用程式中提出問題，詢問「臺灣銀行網銀服務的官方網站網址是什麼？」在一般情況下，AI應用程式可回答出正確的網址。 不過，一旦AI模型、知識庫沒有受到保護，遭到竄改或下毒，這時使用者再次詢問同樣的問題，由於AI應用程式受到操弄，因此我們看到AI應用程式此時的回答，是一個錯誤的可疑網址。 關於上述這項AI PC上的資安應用，其實是由趨勢科技所提供，該公司亦在Computex設置展區並展示這方面的解決方案，因此他們的現場工作人員在導覽時，也向我們提供進一步的說明。 基本上，隨著NPU、開源小型LLM的發展，如今在筆電上這樣的邊緣運算，將讓攻擊面變得更寬廣。因此，趨勢科技已經針對AI PC提供資安解決方案，強調Security for AI，聚焦保護AI應用程式不被竄改。 他們解釋，因為現今大眾普遍使用的生成式AI服務，主要是將資料傳回至雲端才能處理，但雲端上的AI其實都有著企業等級的安全防護，相對而言，當電腦有了NPU之後，各種AI應用程式就能直接在PC上執行，只是本機端的AI模型也就成為新的風險。 另一方面，他們也有提出AI for Security的應用，是發展出由NPU驅動的電子郵件防護。這是因為，趨勢科技過去提供的雲端Email防護解決方案，有些功能需要將郵件內容去識別化後送至雲端處理，像是要識別詐騙郵件等功能，而且這樣的應用需要使用者同意後才能送至雲端分析。若運用電腦本身NPU來處理，不僅同樣可以帶來保護，也具有更高的隱私。 隨著NPU運算效能提升，以及支援NPU的AI應用程式增加，AI筆電會更有看頭 綜合來看，上述採用Intel Meteor Lake處理器的產品，其NPU運算能力才只是11.5 TOPS，但大家要知道的是，各家處理器大廠正持續發力，積極提升NPU運算能力。 這是因為今年5月微軟、Intel已經透露，未來AI PC的門檻至少要達40 TOPS，目前Intel也已經預告下一代Lunar Lake，其NPU將提升超過40 TOPS。 而在高通與AMD方面，這兩家廠商的動作更快，近期已開始推出NPU運算能力更高的處理器，像是高通主打Arm架構的Snapdragon X1系列筆電處理器，其NPU效能達45 TOPS，AMD也已經新發表Ryzen AI系列處理器，其NPU效能達50 TOPS。 再者，繪圖AI晶片大廠Nvidia目前也在積極發力，他們認為NPU在效能與支援性上與GPU相比仍有落差，僅依靠NPU只能算基本的AI PC，因此該公司也持續針對AI筆電提供更強的GPU來執行更多AI功能。 綜觀上述發展，聚焦GPU、NPU的運算效能提升，應該會是接下來新世代筆電持續強調的重點。 我們在這次Computex電腦展上，也首度看到這些新品在臺亮相。例如，在宏碁展區所擺設的一臺Swift 14 AI的筆電，該產品就是搭載擁有45 TOPS的Sanpdragon X Eltie處理器。 另外在Computex上華碩的展區中，我們也看到一臺ProArt PX13，搭載的就是擁有50 TOPS的AMD Ryzen AI 9 HX 370處理器，並還搭載了Nvidia GeFrce3 RTX 4070顯示晶片，可增至320 AI TOPS。 不僅能為筆電、PC提供多元的AI運算潛力，也盼能促進體感操作的普及 在AI發展大勢之下，由於新世代Windows筆電、PC的處理器都將變成整合CPU、GPU與NPU的架構，從上述各式AI應用方式來看，確實讓新世代個人裝置有了相當大的變化。 隨著AI筆電的出現，為何需要「在裝置端執行」這件事，也成探討焦點，因為生成式AI服務越來越多，不論是OpenAI的ChatGPT，Google的Gemini，以及主打AI繪圖的Stable Diffusion等，很多應用其實只要我們連上網路就能使用，而且訂閱這些雲端服務後，可獲得更強的能力。 但從處理器與作業系統廠商主打的特性來看，重點在：可以不用將敏感資料上傳至雲端服務，還有一些輔助性的功能，像是手勢與眼球的追蹤，視訊上的美肌、自動背景去背與更換等，也很適合交由NPU來執行，讓CPU與GPU的資源可以留給其他任務。 值得一提的是，以上述的手勢控制、眼球追蹤而言，這些技術其實發展已久，像是Intel在10年前提出Ultrabook概念後，當時還會強調由攝影鏡頭、軟體、傳感器所構成的RealSense體感操作技術，聚焦於聚焦於人臉、手勢的捕捉，不只要讓辨識、追蹤變得更精準，更希望為下一代電腦的操作體驗帶來革新。然而，後續這類應用，只有Windows Hello登入技術變得普及， 如今隨著NPU的應用領域開始擴及Windows電腦產品，由於各大處理器廠商均強調，新的NPU能讓處理器以更節能的方式，在筆電上執行AI運算任務。 因此，另一大重點特性就是「NPU的AI運算功耗低於GPU」，而我們也期盼，在這樣的節能效果之下，不只可以發揮多元的AI應用，同時還能促進筆電的體感應用變得真正普及。 當然，PC端應用的發展也值得觀察，畢竟PC不像筆電本身就內建視訊鏡頭與麥克風等，或許All in One（AIO）機型也會再次成為市場焦點。此外，由於PC處理器的運算能力比筆電更好，可負荷更高的AI運算，如何推動更多元化的應用，將是各家電腦廠商的機會與挑戰。 無論如何，儘管AI PC可能要等到2025年才會在市場上正式發酵，但初期我們可從上述各式NPU的應用場景，來看出當前AI筆電的新特性，後續可以想見的是，由於筆記各家廠商已經紛紛表態，要提供更好的AI運算能力，要針對AI PC提供更多應用，屆時我們應該能見識到AI PC真正的能耐。 |
|||||||
2025-03-05, 10:11 AM
#1
|
|
