時間:2022-07-25 10:42:29
NVIDIA人工智能實驗室解決方案是NVIDIA公司針對中國教育市場推出的基于數(shù)據(jù)中心虛擬化基礎(chǔ)架構(gòu)上的GPU虛擬化,加之NVIDIA深度學(xué)習(xí)學(xué)院培訓(xùn)體系的一體化人工智能實驗室解決方案。該方案采用以用戶為中心的計算模式、按需向用戶提供GPU資源、框架資源、深度學(xué)習(xí)環(huán)境。保障用戶對GPU資源的獨享,保證用戶獲取足夠的自由度和較高的用戶體驗,同時滿足集中管理和數(shù)據(jù)安全的需求,靈活和快速部署人工智能實驗環(huán)境。
數(shù)據(jù)中心虛擬化基礎(chǔ)架構(gòu)平臺是一個成熟的解決方案,主要包括服務(wù)器虛擬化、存儲虛擬化、網(wǎng)絡(luò)虛擬化及管理平臺等。再加上NVIDIA的GPU虛擬化后,用戶能夠簡單、快速、一站式的構(gòu)建校園GPU資源管理平臺,對內(nèi)提供GPU服務(wù),大大簡化GPU資源管理工作,提高數(shù)據(jù)的安全性,提高機器硬件利用率,降低IT擁有總成本(TCO)。
采用了混合云計算模式(集合服務(wù)器虛擬化、GPU虛擬化、PC虛擬化和網(wǎng)盤),既支持服務(wù)器的后端計算資源池彈性分配,又支持客戶機前端計算資源的分布式運算,Grid6.0為GPU虛擬化帶來了新的環(huán)境實現(xiàn),支持在GPU虛擬環(huán)境下的深度學(xué)習(xí)框架的搭建和計算,是教育單位的人工智能實驗室得以實現(xiàn)的重要技術(shù)平臺。
1.1 系統(tǒng)架構(gòu)
1.1.1 系統(tǒng)架構(gòu)
1.1.2 vGPU架構(gòu)
1.2 產(chǎn)品說明
1.2.1 NVIDIA GPU
通過服務(wù)器虛擬化平臺,把GPU計算資源進(jìn)行切割,按需求進(jìn)行分配,依托DOCK技術(shù)快速部署各種深度學(xué)習(xí)實踐環(huán)境,用戶通過云終端、筆記本、PC、智能終端,通過瀏覽器訪問部署在校內(nèi)的云端人工智能實驗室門戶網(wǎng)址,進(jìn)行AI實驗、模型實踐和推演產(chǎn)品的互動體驗。
1.2.2 深度學(xué)習(xí)框架
1.2.3 英偉達(dá)深度學(xué)習(xí)學(xué)院
英偉達(dá)人工智能實驗室解決方案依托英偉達(dá)深度學(xué)習(xí)學(xué)院的課程進(jìn)行打造。在原汁原味還原國際課程的同時加入符合中國教育的內(nèi)容和元素,幫助老師和學(xué)生更好的教授、體驗和學(xué)習(xí)人工智能方面的知識。
NVIDIA 深度學(xué)習(xí)學(xué)院 (DLI) 針對AI 和加速計算提供實踐操作培訓(xùn),旨在解決現(xiàn)實問題。DLI 為開發(fā)人員、數(shù)據(jù)科學(xué)家和研究人員度身打造課程,您可通過以下三種方式學(xué)習(xí):
1.2.3.1 在線主題課程
每個主題課程含八小時課時,學(xué)習(xí)如何實施和部署端到端的項目。您可以隨時隨地使用云端完全配置的 GPU 加速工作站開始在線學(xué)習(xí)。
1.2.3.2 在線選修課程
每個選修課程含兩小時課時,探索如何應(yīng)用特定技術(shù)或開發(fā)技術(shù)。您可以隨時隨地使用云端完全配置的 GPU 加速工作站開始在線學(xué)習(xí)。
1.2.3.3 講師指導(dǎo)的培訓(xùn)班
面對面培訓(xùn)班含八小時主題課程,學(xué)習(xí)如何實施和部署端到端的項目。由 DLI 認(rèn)證講師授課,并使用云端完全配置的 GPU 加速工作站實踐操作。您可以申請在自己的組織機構(gòu)內(nèi)、大學(xué)校園和大型相關(guān)會議上舉辦培訓(xùn)。
1.2.3.4 認(rèn)證證書
參與者可以獲得認(rèn)證證書,以證明在相關(guān)領(lǐng)域的能力,為自身的職業(yè)發(fā)展提供支持。您可以在部分在線課程和講師指導(dǎo)的培訓(xùn)班獲得認(rèn)證證書。
1.2.4 英偉達(dá)人工智能實驗室平臺
1.2.4.1 界面
1.2.4.2 功能
1.2.4.3 使用方式
1.3 課程內(nèi)容
1.3.1 課程列表
1.3.2 人工智能標(biāo)注技術(shù)
1.3.3 人工智能應(yīng)用解析
1.3.4 Python可視化及其應(yīng)用
1.3.5 交互式Python編程
1.3.6 實驗效果
2、 功能亮點
2.1 便捷管理
2.1.1 管理平臺
人工智能實驗室系統(tǒng)的管理平臺采用B/S架構(gòu),簡潔的全圖形化管理界面,用戶在任意聯(lián)網(wǎng)的終端上通過瀏覽器便可訪問平臺,平臺上可以實現(xiàn)服務(wù)器、用戶、桌面、場景、終端、存儲等的全面集中管理。
基于瀏覽器的web控制臺是整個自服務(wù)平臺的唯一管理入口,管理員可以坐在辦公桌面通過瀏覽器維護(hù)整個學(xué)校的GPU資源、云終端和基礎(chǔ)設(shè)施,無論是開機/關(guān)機/重啟,還是備份/還原,或是重置/升級,都不要進(jìn)實驗室或是到現(xiàn)場,輕輕松松完成,工作效率提升十多倍。
2.1.2 軟硬件集中升級
人工智能實驗室系統(tǒng)將硬件的計算性能的需求和本地終端解耦,所有GPU計算資源由云端的服務(wù)器提供,本地終端可以是普通電腦、一體機或瘦客戶機。
服務(wù)器虛擬化軟件除了管理云端資源外還可以提供云還原功能,確保課程結(jié)束后實驗環(huán)境自動恢復(fù)到預(yù)設(shè)狀態(tài)。同時,基于模板和鏈接克隆技術(shù),服務(wù)器端集中部署桌面,只要對單個模板配置、修改、安裝升級軟件/虛擬機硬件,即可實現(xiàn)數(shù)百桌面的同步更新,幾分鐘時間管理員就能完成全部操作,不需要到用戶現(xiàn)場逐臺操作。
PC虛擬化包含電腦管理功能,負(fù)責(zé)虛擬系統(tǒng)模板的管理,電腦終端信息管理,接入控制,外設(shè)的管理,通過管理平臺統(tǒng)一推送及更新虛擬操作系統(tǒng)及應(yīng)用。
2.1.3 實驗課程快速部署
利用管理平臺可以方便制作針對性NVIDIA DOCKER軟件環(huán)境模板,通過模板可以實現(xiàn)實驗環(huán)境的批量創(chuàng)建、更新、分發(fā),數(shù)百臺終端瞬間即可使用相應(yīng)用戶操作環(huán)境,達(dá)到快速部署的目的。終端應(yīng)用軟件的安裝 及配置變化,均可以通過管理控制臺在服務(wù)器端集中操作,大大簡化了用戶操作環(huán)境的配置和部署。
2.2 有效控制
2.2.1 教學(xué)管理端
針對管理權(quán)限,教育桌面為管理員和上課教師提供了不同的管理端,管理員登錄后臺軟件管理平臺,來完成對所有用戶進(jìn)行管理以及系統(tǒng)維護(hù)的工作。教學(xué)管理端是為上課教師提供的管理軟件,可以選擇多種獨立的教學(xué)環(huán)境,并且可以一鍵切換教學(xué)環(huán)境,上課,下課統(tǒng)一開關(guān)機等功能,也可以讓學(xué)生自由選擇,無需登錄管理后臺進(jìn)行操作。
2.2.2 有效控制USB接口使用
基于USB接口重定向和穿透技術(shù),有效支撐教學(xué)實驗中的各種USB設(shè)備,不限于USB存儲、打印機、掃描儀、智能卡、U-key、觸摸屏等。
同時針對USB存儲傳播的各種病毒,以及數(shù)據(jù)的安全保密規(guī)范,可以對各個用戶終端進(jìn)行USB接口限制,即使插上感染了病毒的移動存儲設(shè)備,桌面內(nèi)也無法訪問和存取,極大的保障了用戶桌面和數(shù)據(jù)的安全性。
2.2.3 完整的監(jiān)控功能
提供性能監(jiān)控功能,對服務(wù)器和終端桌面中GPU、CPU、網(wǎng)絡(luò)、磁盤、各個進(jìn)程資源使用率等指標(biāo)的實時數(shù)據(jù)統(tǒng)計,并能反映目前物理機、虛擬機的資源瓶頸,同時管理人員還可以監(jiān)看客戶端接入桌面的操作情況,在必要時進(jìn)行截圖或錄像。
2.3 教師辦公
2.3.1 個性化DOCK環(huán)境快速交付
終端桌面架構(gòu)在后臺統(tǒng)一管理,快速交付各種教學(xué)應(yīng)用桌面,無需現(xiàn)場逐一安裝;系統(tǒng)選擇更“靈活”老師可以根據(jù)個人使用習(xí)慣靈活選擇多種NVIDIA DOCKER環(huán)境。
2.3.2 移動授課辦公模式
移動辦公包括校內(nèi)辦公和家庭辦公;移動教學(xué)包括辦公室備課和教室上課。教師使用的桌面,是將各種教學(xué)軟件、辦公軟件內(nèi)置到云桌面中打包成各種標(biāo)準(zhǔn)桌面,按需配置,按需分發(fā),有網(wǎng)絡(luò)的地方,就能使用自己的個人桌面。但是登錄虛擬桌面對帶寬的依賴較高?,F(xiàn)在網(wǎng)絡(luò)發(fā)展高速,家庭帶寬都能保障二十兆完全可以支持家庭辦公的遠(yuǎn)程連接。同時教師使用其它移動設(shè)備辦公,也要保證寬帶的要求,教師可以在學(xué)校任何地方,遠(yuǎn)程訪問自己的桌面。
教師在辦公室備完課,準(zhǔn)備好PPT后僅僅需要來到教師,使用云終端,登錄自己的桌面,就可以直接完成教學(xué)。同時可以登錄時修改個人用戶密碼,保證了個人桌面的安全性。教師回到家中,也可以家庭辦公,可以遠(yuǎn)程登錄自己的桌面,使用各種軟件利用客戶端訪問校內(nèi)資源。創(chuàng)建一種嶄新的教學(xué)與辦公模式,允許按需隨時學(xué)習(xí)、碎片學(xué)習(xí)、移動辦公。
教師再也不用在辦公室、家庭和教室之間來來回回攜帶筆記本電腦或U盤,輕松便捷,而且使用相同的個人桌面。
3、 方案價值
深度學(xué)習(xí)計算模型:Traing—>INFERENCE
3.1 人工智能應(yīng)用體驗
未來,隨著人臉識別、語音識別、語義理解、深度學(xué)習(xí)等技術(shù)深入發(fā)展,機器人將擁有類人的思考和交互能力,賦能經(jīng)濟生產(chǎn)和社會生活方方面面。學(xué)生在進(jìn)行人工智能相關(guān)的學(xué)習(xí)之前如果可以深刻體驗科技帶來的神奇,對興趣的培養(yǎng)和后期的學(xué)習(xí)都大有幫助。
AI語文老師可以教你如何寫藏頭詩,與AI數(shù)學(xué)老師一起猜數(shù)字,AI英語老師學(xué)英文單詞和發(fā)音,還可以和AI美術(shù)老師一起快速涂鴉,面對面請教AI老師許多有趣的問題,再與AI體育老師來一場圍棋對戰(zhàn)……
未來,隨著智能批改、智能陪練、語音測評、智能圖書館、咨詢管理等應(yīng)用的投入運行,AI將滿足學(xué)生個性化需求,解決教師資源相對有限的問題,同時將教育資源傳遞到更多有需要的地方,緩解教育資源不均衡的現(xiàn)狀。借助AI賦能,世界互通,人類將在共通的新水平線上學(xué)習(xí)發(fā)展。
3.2 多樣性AI學(xué)習(xí)環(huán)境—訓(xùn)練(AI Train)
基于NVDOCK技術(shù)可以打包多種深度學(xué)習(xí)環(huán)境,打包各種框架和驅(qū)動,實現(xiàn)在一個課堂內(nèi)的多種深度學(xué)習(xí)場景和個性化教學(xué)實驗課堂。管理員只需要將不同的環(huán)境提供給學(xué)員即可,對于學(xué)生,桌面中不僅只有教學(xué)相關(guān)的軟件,提升桌面響應(yīng)速度,同時規(guī)范學(xué)生注意力,提高了教學(xué)質(zhì)量,還有不同的框架學(xué)習(xí)機會,體驗各種深度學(xué)習(xí)方法,對于高校AI實驗室非常適合。
3.3 多樣性AI學(xué)習(xí)環(huán)境—推演(Inference)
深度學(xué)習(xí)實驗室可以作為人工智能科普實驗室來規(guī)劃設(shè)計,可以將目前已有的Inference 模型進(jìn)行體驗課堂,例如機器視覺,語音識別等人工智能應(yīng)用場景體驗??梢酝ㄟ^“機器對弈”“視覺識別”等模型來體驗AI課程。對于普教實驗室非常適合。
3.4 AI專業(yè)教師資源培養(yǎng)
通過NVIDIA的深度學(xué)習(xí)學(xué)院,可以為學(xué)校培養(yǎng)AI專業(yè)教師,教師可以疊加人工智能概念及基本知識、深度學(xué)習(xí)的技術(shù)和算法等,架構(gòu)學(xué)校自身教學(xué)和實驗內(nèi)容。學(xué)校建立系統(tǒng)的AI教學(xué)課程也得以實現(xiàn)。
3.5 云教學(xué)環(huán)境得以實現(xiàn)
由于采納了虛擬桌面技術(shù),可以將常用教學(xué)軟件、備課授課資源封裝到虛擬桌面中,通過網(wǎng)絡(luò)遠(yuǎn)程交付給學(xué)生使用,這樣既解決了學(xué)生對專業(yè)軟件安裝維護(hù)的問題,又可以增加軟件、資源的利用率,分?jǐn)偛少彸杀?,同時也方便了師生在家中備課和教學(xué)實驗的完成。
實驗文檔和實驗環(huán)境在同一個頁面,打造即學(xué)即練的實驗體驗
教師可自主制作實驗文檔并部署實驗環(huán)境,打造貼近本校真是需求的課程
3.6 計算資源的復(fù)用
由于Grid6.0的特性,可以使GPU的計算資源得以復(fù)用,既可以進(jìn)行虛擬切割實現(xiàn)深度學(xué)習(xí)實驗課堂,進(jìn)行學(xué)生教學(xué)。同時又可以在閑時進(jìn)行大規(guī)模計算任務(wù)使用,例如晚上整合GPU進(jìn)行模型計算。
又由于基于虛擬桌面技術(shù),平臺可以提供重圖形圖像應(yīng)用環(huán)境,例如3Dmax、CATIA軟件的教學(xué)和實驗云環(huán)境。還能為學(xué)校師生提供更多的云應(yīng)用資源服務(wù),為學(xué)校大大節(jié)省了投入成本。
方案詳細(xì)咨詢請撥打:4008-189-189