JKF 捷克論壇

搜尋
4810t
威爾斯親王 | 2023-7-31 07:04:48

工業、零售、智慧城市都是邊緣計算中典型的場景。很多數據來不及或者不能夠集中上傳到雲端,就需要在邊緣終端側完成計算和推理。]
  [ 2023年英特爾Q2財報顯示,第二季度營收為129.48億美元,與去年同期的153.21億美元相比下降15%。]
  邊緣,一個相對遠離“中心”的概念。邊緣計算往往是部署在數據中心之外,接近於現場應用端提供的計算,面對的市場更為分散。工業、零售、智慧城市都是邊緣計算中典型的場景。很多數據來不及或者不能夠集中上傳到雲端,就需要在邊緣終端側完成計算和推理。

  在英特爾發布Q2財報的前一天,2023英特爾網絡與邊緣產業高層論壇上探討了未來邊緣計算的機遇。英特爾公司高級副總裁兼網絡與邊緣事業部總經理Sachin Katti提到,2030年全球邊緣市場將達到4450億美元的規模,企業需求的推動將會轉化為經濟發展的動能,因此,他認為邊緣的發展將成為下一個10年的巨大發展機遇,“邊緣已經是現在人工智能最大的部署所在”。

  這半年圍繞人工智能最熱的話題是大模型,在本次會議上也不例外,大家的共識是大模型的落地要和行業結合起來,並且針對性地去解決行業問題。

  大模型的應用有著不同的實施方法:可以在雲端完成訓練,再在雲端完成推理返回結果到前端的邊緣側,但這就意味著可能通信的時間較長;也可以在雲端完成訓練,然後在邊緣側完成微調後再推理並給出結果。

  “我們要檢測貓,現在可以做到什麼程度呢?可以直接對著手機說一聲'如果貓跑到沙發上,你就告訴我'。通過大模型對語音的理解、對畫面的分析,當貓跑到沙發上的時候,系統就可以向手機推送報警信息。”山東中維世紀科技股份有限公司高級副總裁王正彬分享了公司在智能家居產品有趣的案例應用。

  從依靠人工盯著視頻一幀幀分析,再到利用深度學習的發展通過重複檢測、人形檢測進行風險提示,大模型的發展讓視頻檢測和分析更為便捷。“早期人工智能模型是定向的,找到專業數據集定向訓練識別,現在大模型最大的特點是它有點通識的能力,有一些內容好像沒有訓練就可以識別出來了,這是現在大模型和早期模型的區別。”他這樣向第一財經解釋以前的AI模型和現在大模型的區別。

  “現在更多的需求是對關鍵事件進行檢測,比如說一個人摔倒,我只檢測倒地的人形,不檢測正常的人形,通過大模型就可以很方便實現了,只有倒地的人檢測到才進行報警,這樣能大大減少誤報和乾擾。”王正彬說。

  據他介紹,從視頻接入、存儲、解碼、顯示以及智能分析,這些工作就是在邊緣進行處理的。但要想在邊緣側完成這種對大模型的部署和使用,還有一些限制。

  “我們知道邊緣設備的算力、功耗、成本往往都是有限的,不像數據中心可以無限增加設備。那麼如何可以在資源受限的情況下去部署大模型,完成推理工作,這當中有很多問題需要解決。如果你把大模型原封不動地放在邊緣側,對算力要求太高,很多設備是無法承受的,就需要根據特定行業的特定要求去做特定的優化,使得簡化之後的模型既滿足特定行業對準確度、功能的要求,同時它的算力又能夠被一般的或者是專用的邊緣設備所承載。” 英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席AI工程師張宇說。

  現實中仍有不少困難。在現場參與案例展示的工作人員告訴第一財經,數字化轉型進程事實的推進速度不一,會造成新的技術無法落地應用。“有一些工廠的設備、網絡能力都是比較陳舊的,那我們只能先推薦他們更換設備,我們作為軟件方案商還不會直接提供硬件。”

  擁抱新技術有時更像是強者的遊戲,讓跑得更快的人繼續在行業中領跑。這些應用場景有些本就是在原來技術應用上的升級體驗,而不是簡單地實現一個新功能的從無到有。這為比較人工智能發展階段的不同方案如何體現進步帶來了一定難度,因為有時難以用數字量化,體現的是管理流程和性能體驗的優越性。

  “在我們的經驗當中看到人工智能部署超過一半都是失敗的。”Sachin Katti認為這主要有幾個原因,基礎設施的問題過於陳舊,難以把人工智能的大型模型部署到陳舊的設備上;第二個是數據,要去學會如何抓取孤立的數據,利用這些數據進行部署,他直言“這都是非常大的挑戰,很多人都因為這些挑戰而止步不前”。

  “對於客戶來說,僅僅靠自己通過硬件去獲得邊緣價值是非常困難的。所以我們在交付給客戶硬件的時候,相應地也會給客戶交付所需的軟件。我們的目的是希望通過這樣一套基礎設施,可以讓客戶更加容易部署我們的硬件,並管理好硬件。” Sachin Katti說。

  他提到,英特爾為了抓住邊緣計算的機會繼續在三個方向上發力:在硬件上,英特爾在中國剛剛發布了專門面向大模型訓練的加速器Gaudi 2,還有其他的通用CPU處理器以及專用的獨立顯卡加速器;在軟件上,通過OpenVINO可以對在雲端訓練之後的大模型進行優化和壓縮,在最新的OpenVINO的版本中,已經增加了對大模型Stable Diffusion的支持;此外,就是繼續發展生態合作夥伴。

  “把人工智能部署到工廠產線的時間成本和人力成本還是偏高。如果在大模型上有更創新的想法,我們會和技術團隊、產品團隊共同配合,共同琢磨提煉,我們希望更快速地把英特爾的技術方案帶進去。”英特爾市場營銷集團副總裁兼中國區總經理王稚聰認為,業務的合作夥伴要捕捉中國經濟在恢復過程中出現的新動能、新的產業崛起以及把技術帶入到下一個發展階段。

  然而,通向機遇的道路並非坦途。

  2023年英特爾Q2財報顯示,第二季度營收為129.48億美元,與去年同期的153.21億美元相比下降15%;但實現了扭虧為盈,淨利潤為14.73億美元,去年同期的淨虧損為4.54億美元。從細分領域來看,儘管在過去一年裡,網絡和邊緣業務一直穩定保持著同比增長,但這塊業務今年連續兩個季度下滑,本季度收入為14億美元,同比下降了38%,是分列的幾項中同比下降最快的。

  “不光是英特爾,你可以看一下整個半導體行業過去兩年大家的利潤都有20%~30%左右的下調。但是在近一段時間,我們看到經濟正在逐漸復蘇,而且也有大量的需求,無論是雲端還是隨著AI技術進一步的部署和使用,尤其是AI的需求,它不僅是對GPU和網絡的需求,包括對CPU的需求都是在不斷增加的,在邊緣也會有一些需求。對英特爾來說,我們所做的就是要適應市場的情況和變化。”Sachin Katti接受第一財經在內的媒體採訪時說。

評分

已有 1 人評分名聲 金幣 收起 理由
S.O.H + 6 + 6 感謝大大分享

總評分: 名聲 + 6  金幣 + 6   查看全部評分

分享分享 收藏收藏
FB分享
免責聲明:本文所載資料僅供參考,本人對該資料或使用該資料所導致的結果概不承擔任何責任.本人已盡告知讀者之義務!,且並無意違反兒童及少年性剝削防制條例第40條所稱『以宣傳品、出版品、廣播、電視、電信、網際網路或其他方法,散布、傳送、刊登或張貼足以引誘、媒介、暗示或其他使兒童或少年有遭受第二條第一項第一款至第三款之虞之訊息』請讀者自重!本文為網路創作,與現實之人事物無關,內容如與現實雷同,純屬巧合!以上純屬夢境,一切都是假的,假如你以為是真的,建議去檢查視力,你眼睛業障太重
回覆 使用道具
S.O.H
高級版主 | 2023-8-2 11:50:44

感謝您分享有用資訊
引言 使用道具
您需要登入後才可以回覆 登入 | 加入會員

建議立即更新瀏覽器 Chrome 95, Safari 15, Firefox 93, Edge 94。為維護帳號安全,電腦作業系統建議規格使用Windows7(含)以上。
回頂部 下一篇文章 放大 正常倒序 快速回覆 回到列表