|
泰克科技產(chǎn)品技術(shù)應用總監張欣與清華大學(xué)集成電路學(xué)院高濱老師探討憶阻器、類(lèi)腦計算科研進(jìn)展 人工智能內容生成（AIGC）技術(shù)在近一年來(lái)引起了科技界的廣泛關(guān)注，因為它對各個(gè)行業(yè)有著(zhù)顛覆性的影響。但是，要支持AIGC技術(shù)，需要消耗很大的功率和算力，隨著(zhù)摩爾定律接近極限，新的計算架構和信息器件成為了學(xué)術(shù)界和產(chǎn)業(yè)界的研究重點(diǎn)。 高精尖創(chuàng )新中心由北京市教委支持，依托清華建，現為第二期，與北大共建，有眾多設備和工作人員，有一百多人的工程師隊伍，包括芯片設計、測試及其他支撐人員。除研發(fā)高端芯片外，還為北京市提供測試平臺，服務(wù)清華各院系，也滿(mǎn)足周邊中關(guān)村芯片相關(guān)企業(yè)的測試需求。 清華大學(xué)吳華強、團隊在氧化物憶阻器的科研領(lǐng)域有著(zhù)十多年的積累，更重要的是，他們在邊緣端的人工智能訓練和推理方面實(shí)現了領(lǐng)先的突破，為未來(lái)大模型的架構提供了全新的研究范式。在本次采訪(fǎng)中，高濱老師分享了自己團隊最新的研究成果，并深入分析了在大模型中的潛在應用。 此外，他還就器件的刻畫(huà)和驗證提出了發(fā)展性、建設性的意見(jiàn)。這對于從事憶阻器、類(lèi)腦計算等領(lǐng)域的科研工作者來(lái)說(shuō)，是一種不同的思路、一種先進(jìn)的系統和器件協(xié)同的測試、表征方法，可以助力科研、加快科研進(jìn)展。 新型器件創(chuàng )新支持大模型 張欣：您去年參加了 IEDM2023 會(huì )議，能否分享下感受。 高老師：IEDM 是集成電路領(lǐng)域三大緊急會(huì )議之一，因疫情前兩年線(xiàn)上開(kāi)，去年終于現場(chǎng)開(kāi)。感覺(jué)國際學(xué)術(shù)領(lǐng)域有變化，摩爾定律下行難度增大。國際上雖有大公司論文研究更先進(jìn)工藝，如堆疊三維基層晶體管，但門(mén)檻高，只有少數公司如 imac 能做。新器件工藝方面，看到新方向單片三維集層，與較熱的 chiplet 平行，在一個(gè)襯底上盡量將多器件三維堆疊，器件間帶寬更高，是新趨勢，可用新型 TFT 材料、薄膜氧化物、二維材料等嘗試做成后端兼容器件。去年 IEDM 還有專(zhuān)門(mén)討論大模型的 專(zhuān)題環(huán)節，因大模型很火，國際上幾個(gè)大公司都在研究如何用新器件、新工藝去支持大模型，技術(shù)路線(xiàn)各不相同，有傳統的，也有嘗試新器件新工藝的。 張欣：現在科研領(lǐng)域都這么卷了，大模型更多是商業(yè)行為，都卷到器件新型器件創(chuàng )新去支持大模型了。 高老師：沒(méi)錯，大模型不僅在算法和應用上，底層算力支撐也非常重要，這兩年 IEDM 特別關(guān)注提高算力、存儲帶寬和權重密度。我們組 2023 年在 IEDM 上有四篇文章、四個(gè)報告，都與憶阻器方向相關(guān)，也涉及將憶阻器與其他器件進(jìn)行單片集成。 張欣：距上次專(zhuān)訪(fǎng)大概兩年半，這期間您肯定有很多科研成果和進(jìn)步，能否介紹下這期間工作的突破。 高老師：這兩年我們盡量將存算一體技術(shù)往應用推進(jìn)，尋找應用牽引，主要布局三件事。一是與企業(yè)合作，如海迪士，嘗試在實(shí)際邊緣智能場(chǎng)景做芯片設計，除芯片設計，還研究在實(shí)際場(chǎng)景下的可靠性，發(fā)現器件電阻狀態(tài)保持在很多實(shí)際場(chǎng)景中存在隨機漂移的 relaxation 效應，需投入精力抑制隨機漂移，以滿(mǎn)足未來(lái)應用需求。二是我們需要大模型，要設法提高密度，因為之前小卷積網(wǎng)絡(luò )加速不需要高密度，但大模型確實(shí)需要，這是工藝上的研究。三是做更前沿、創(chuàng )新的內腦學(xué)習，去年十月我們在 Science 上發(fā)過(guò)一篇相關(guān)論文，還布局了幾個(gè)難度更大的學(xué)習。 看整體算法效果，要關(guān)注整體而非器件個(gè)體 張欣：希望未來(lái)一兩年能看到高老師的進(jìn)展，一方面往產(chǎn)業(yè)化走要解決可靠性、集升度問(wèn)題，同時(shí)布局新型真正類(lèi)腦計算的前沿方向。 高老師：摩爾經(jīng)濟黃金時(shí)代，不太注重器件與系統協(xié)同，只要把器件做快做小，芯片性能就上去了，但后摩爾時(shí)代要將器件與系統做協(xié)同設計，根據系統需求優(yōu)化器件。典型的是存算一體，最終目的是人工智能加速，而人工智能對器件性能要求復雜，不是單純把器件組織調穩就能達到系統要求。如加速深度神經(jīng)網(wǎng)絡(luò )，其中卷積層、連接層等各種層對器件要求都不同，很難抽象出器件指標來(lái)確保做出的芯片很好，更多是做成陣列或有一定功能的簡(jiǎn)單電路，通過(guò)這個(gè)去測試，最終測的還是器件特性，反饋成電路甚至系統，將算法神經(jīng)網(wǎng)絡(luò )算法直接運行在陣列上�？凑w算法效果，關(guān)注整體而非器件個(gè)體，最后落實(shí)在器件上做優(yōu)化，調節器件中電子離子的輸運。 張欣：這是全新概念，對于產(chǎn)業(yè)界落地有挑戰，產(chǎn)業(yè)界要求器件種類(lèi)越少越好，參數越集中越好，以便大規模降低成本和提高良率，擔心實(shí)際商業(yè)應用的路還很遠。 高老師：也沒(méi)有那么遠，可以先找到較容易的場(chǎng)景，將各種指標和可靠性清晰拆解，在小地方先用起來(lái)，讓商業(yè)之路走起來(lái)，一是可以反饋給學(xué)術(shù)界下一步研究方向，二是在一些地方用起來(lái)后，讓產(chǎn)業(yè)界和學(xué)術(shù)界更有信心，這也是這兩年開(kāi)始考慮與幾個(gè)企業(yè)一起往產(chǎn)業(yè)化推的原因。高精尖中心的定位是把學(xué)校高精尖技術(shù)往產(chǎn)業(yè)化推，學(xué)校與企業(yè)中間有很大差距，希望高精尖中心能在產(chǎn)業(yè)創(chuàng )新方面盡量填平這個(gè)差距。 張欣：您團隊是國內做主機憶阻器或氧化物憶阻器的頂尖團隊，想了解未來(lái)氧化物憶阻器的突破點(diǎn)及器件本身性能指標細節方向有無(wú)可能突破。 高老師：未來(lái)有好幾個(gè)突破點(diǎn)，一是可靠性，希望器件能實(shí)現多比特存儲提高計算效率，但中間組態(tài)穩定性限制其應用，對測試是挑戰；二是密度，需與 M3D 高密存儲器拼密度，嘗試做成 HBM 方式堆多片阻阻器，還需在片內把憶阻器尺寸做小，涉及憶阻器與晶體管的匹配及共同優(yōu)化工藝，需與很多公司合作。大模型對功耗和成本需求高，預計憶阻器用到大模型里能效比有數量級提升，端測中憶阻器高能效有很多優(yōu)勢。 張欣：國內有很多研究者做神經(jīng)形態(tài)計算方面研究，感覺(jué)與憶阻器像，最初認為是卷積神經(jīng)網(wǎng)絡(luò )，仔細研究是脈沖神經(jīng)網(wǎng)絡(luò )，詢(xún)問(wèn)兩種體系關(guān)系及未來(lái)是否融合或演化出不同應用和產(chǎn)品。 高老師：憶阻器有三個(gè)階段，做存儲、存算一體加速人工神經(jīng)網(wǎng)絡(luò )、類(lèi)腦計算，本質(zhì)是利用其動(dòng)力學(xué)特性，可能產(chǎn)生更高階智能和更復雜學(xué)習推理功能，在學(xué)術(shù)界值得探索，但短期落地難，因大規模實(shí)現無(wú)論工藝還是算法都有很多挑戰，學(xué)校做探索是好方向。 張欣：提到憶阻器離子輸運的動(dòng)力學(xué)過(guò)程，想起曾有老師對憶阻器時(shí)間參數特性要求高，其氧控位控制精細，形成和消除導電吸絲快，測試要求高，需皮秒級脈沖激勵和電流讀取，說(shuō)不定未來(lái)可用于高速器件和高速場(chǎng)景。 高老師：還在做更成熟的高速存儲方向，用憶阻器研究憶阻器，其讀寫(xiě)速度更快，可多值存儲，帶寬和速度提高，應用空間充滿(mǎn)期待。 測試測量設備未來(lái)與時(shí)俱進(jìn)，充滿(mǎn)想象力 張欣：談測試方面的挑戰和需求，提到憶阻器測試的幾個(gè)轉變，從單器件到小陣列，測試精度從低到高，涉及頻繁讀寫(xiě)操作，AC 和 DC 頻繁切換，請高老師詳細剖析一下測試需求。 高老師：希望監控電阻狀態(tài)，需高精度測量，以前 memory只關(guān)注兩個(gè)窗口，現在要關(guān)注絕對電阻數值。動(dòng)態(tài)方面要調電阻值，加寫(xiě)脈沖讀取一段時(shí)間狀態(tài)，涉及很多讀寫(xiě)切換，速度越快越好，習慣在幾納秒時(shí)鐘周期內完成切換。用傳統毫秒量級切換，器件測試結果無(wú)法直接轉化到芯片中，所以器件測試時(shí)要模擬芯片實(shí)際工作狀態(tài)。 張欣：作為測試測量?jì)x器公司，我們還有很長(cháng)路要走，您能給我們提些如何更好服務(wù)中國科研行業(yè)和市場(chǎng)的建議嗎？ 高老師：我能想到的就是兩件事吧，一是多與中國高校、研究院所交流，了解更多需求，有助于開(kāi)發(fā)更好產(chǎn)品；二是與時(shí)俱進(jìn)，有沒(méi)有可能將 AI 技術(shù)融入測試設備，使交互更方便，做出更多新功能，這是所有電子設備大趨勢�；蛟S將來(lái)一臺測試設備就是一臺智能設備，測試設備里用到的憶阻器的邊緣訓練和學(xué)習能很快實(shí)現。 上述為本次訪(fǎng)談內容，針對憶阻器領(lǐng)域，后續高濱老師還有關(guān)于大模型時(shí)代的存算一體芯片專(zhuān)題的相關(guān)詳細課程，敬請期待： 背景：大模型與存儲墻 概念：存算一體芯片技術(shù) 進(jìn)展：存算一體器件、工藝與芯片 展望：存算器件的發(fā)展及測試需求 泰克及旗下吉時(shí)利品牌提供各類(lèi)材料電參數測試方案，觀(guān)看完整訪(fǎng)談以及了解泰克科技憶阻器測試系統方案及材料科學(xué)更多技術(shù)產(chǎn)品資料，https://www.tek.com.cn/solutions/application/material-science。 |
