華為昇騰AI芯片軟件棧面試經歷：CANN+算子適配+性能調優全考察

背景介紹

先說下我的情況，2年AI芯片軟件棧開發經驗，之前在一家國產AI芯片公司做算子適配和性能調優的工作，主要用C++寫算子，也涉及過CANN（華為的AI計算架構）和CUDA的開發。後來看到華為昇騰團隊在招AI芯片軟件棧工程師，覺得這是一個能深入參與國產AI芯片生態建設的機會，就投了簡歷。

說實話面試之前我既期待又緊張。期待是因為昇騰是國產AI芯片的旗艦產品，能在這樣的團隊工作對技術成長幫助極大；緊張是因為AI芯片軟件棧的開發門檻很高，需要同時理解硬件架構和軟件優化，面試官的追問肯定非常深入。但好在我在之前的公司積累了一些實戰經驗，對算子適配、性能調優這些核心工作不陌生。下面詳細複盤一下面試過程。

面試流程複盤

一面：C++ + CUDA/CANN基礎

一面是個資深的系統軟件工程師，上來先聊了項目經驗，然後開始技術面試。先問了C++基礎，讓我解釋RAII原則和智能指針的實現。我說了RAII通過對象生命週期管理資源，構造時獲取資源、析構時釋放資源，智能指針就是RAII的典型應用。面試官追問了unique_ptr的實現，讓我手寫一個簡化版，我寫了移動構造和移動賦值，刪除了拷貝構造和拷貝賦值。

然後問了模板元編程，讓我解釋SFINAE和type_traits的使用。我說了SFINAE是在模板參數推導失敗時不報錯而是選擇其他重載，type_traits提供了編譯期類型判斷的工具。面試官讓我用enable_if實現一個只對整數類型生效的函數，我寫了template>> void func(T t)。

接著重點來了，CUDA/CANN基礎。面試官讓我對比CUDA和CANN的編程模型。我說了CUDA是NVIDIA的GPU編程平台，編程模型是SIMT（單指令多線程），有grid/block/thread的層次結構；CANN是華為昇騰的AI計算架構，編程模型是算子開發+圖編譯，有Ascend C編程語言和ACL（Ascend Computing Language）接口。面試官追問了Ascend C和CUDA C的區別，我說Ascend C更偏向量編程，一個核處理一個數據塊，而CUDA C更偏標量編程，一個線程處理一個數據元素。

然後問了昇騰AI處理器的架構，讓我解釋Da Vinci架構的核心組件。我說了AI Core是計算核心，包含Cube Unit（矩陣計算）、Vector Unit（向量計算）、Scalar Unit（標量控制）；AI CPU負責控制流和標量計算；DVPP負責圖像和視頻預處理。面試官追問了Cube Unit的工作原理，我說它類似脈動陣列，可以做高效的矩陣乘法，是深度學習推理的核心計算單元。

還問了內存層次，讓我對比GPU和昇騰的內存架構。我說GPU有global memory、shared memory、register；昇騰有HBM（全局內存）、L1 buffer（類似shared memory）、L0 buffer（類似register）、UB（Unified Buffer，向量計算的數據緩衝區）。一面大概65分鐘，C++和硬件架構問得很全面。

二面：算子適配 + 性能調優

二面是算子開發團隊的負責人，更關注算子適配和性能調優的實戰能力。先問了算子適配的流程，讓我從框架算子到硬件算子的完整適配鏈路講一遍。我說了幾個步驟：分析框架算子的語義和計算邏輯→確定硬件支持的算子類型→編寫適配代碼（可能需要算子拆分或融合）→編寫測試用例驗證正確性→性能調優。

面試官追問了算子拆分的場景，我說了有些框架算子在硬件上沒有直接對應的實現，需要拆分成多個硬件算子。比如FlashAttention在昇騰上可能需要拆分成matmul + softmax + matmul的組合。面試官又問了算子融合的場景，我說了多個連續算子可以融合成一個，減少中間結果的內存讀寫。比如Conv+BN+ReLU可以融合成一個算子。

然後重點問了性能調優的方法論，面試官問：「你怎麼系統地進行性能調優？」我說了我的調優流程：先profiling定位瓶頸（計算瓶頸還是內存瓶頸）→分析瓶頸原因→選擇優化策略→實施優化→驗證結果。面試官讓我詳細講了profiling工具的使用，我說了昇騰的msprof工具，可以採集算子執行時間、內存帶寬利用率、計算單元利用率等指標。

接著問了具體的優化案例，面試官問：「假設一個算子的計算利用率只有30%，你怎麼優化？」我分析了可能的原因：內存帶寬瓶頸（數據餵不飽計算單元）、算子切分不合理（某些核空閒）、數據排布不友好（內存訪問不連續）。對應的優化方案：優化數據排布（NCHW→NC1HWC0）、調整tiling策略、使用雙緩衝隱藏延遲。

面試官對數據排布很感興趣，讓我詳細講了5D格式NC1HWC0。我說昇騰的AI Core是按照C0（通常是16）為粒度做矩陣計算的，所以需要把C維度對齊到C0的倍數，C1 = Ceil(C/C0)。5D格式可以讓Cube Unit高效地讀取數據，避免非連續內存訪問。

還問了一個實際場景題：一個LLM推理任務在昇騰上的性能只有A100的60%，你怎麼分析和優化？我從幾個維度講了：算子適配（是否有未優化的算子）、內存管理（KV Cache的顯存利用）、計算調度（是否充分利用了Cube Unit）、數據排布（是否使用了最優格式）。二面大概70分鐘，這一面是最硬核的。

三面：項目深挖 + 系統設計

三面是技術總監，綜合考察。先讓我詳細講了之前做的算子適配項目，從背景、挑戰、方案、結果幾個維度。面試官問了很多追問，比如「你遇到的最難的算子適配是什麼？」「怎麼驗證適配的正確性？」「性能提升了多少？瓶頸在哪？」

然後問了一個系統設計題：設計一個AI芯片的算子庫，支持多種框架（PyTorch、TensorFlow、飛槳）和多種模型（CV、NLP、推薦）。我從幾個層面設計了方案：

算子層：定義統一的算子接口，每個算子有參考實現（CPU）和優化實現（NPU/GPU）。適配層：為每個框架寫適配插件，將框架算子映射到算子庫的算子。編譯層：支持算子融合和圖優化，生成高效的執行計劃。測試層：自動化的精度驗證和性能回歸測試。

面試官追問了算子接口的設計，讓我定義一個通用的算子基類。我設計了OperatorBase，包含輸入輸出描述（TensorDesc）、屬性（Attrs）、計算方法（Compute）、推理方法（InferShape）。面試官又問了如何處理不同框架的算子語義差異，我說了需要定義一個統一的中間表示（IR），框架算子先轉換成IR，再從IR映射到硬件算子。

還問了分佈式推理的設計，讓我設計一個支持多卡推理的系統。我說了模型並行（將模型切分到多張卡上）和數據並行（多張卡處理不同的請求）兩種模式，以及流水線並行的設計（將模型按層切分，不同層在不同卡上，形成流水線）。

最後聊了職業規劃和對國產AI芯片的看法，三面大概60分鐘。整體感覺面試官都很務實，問題都是從實際工作出發的，不會問那種純理論的問題。

真題彙總

1. RAII原則和智能指針的實現，手寫unique_ptr

2. SFINAE和type_traits，用enable_if實現類型約束

3. 對比CUDA和CANN的編程模型

4. Ascend C和CUDA C的區別

5. 昇騰Da Vinci架構的核心組件

6. Cube Unit的工作原理

7. 對比GPU和昇騰的內存架構

8. 算子適配的完整流程

9. 算子拆分和算子融合的場景

10. 性能調優的方法論和profiling工具

11. 計算利用率低的優化方案

12. 5D數據格式NC1HWC0的原理

13. LLM推理在昇騰上的性能優化

14. 設計一個AI芯片的算子庫

15. 算子接口的設計和中間表示IR

16. 如何處理不同框架的算子語義差異

17. 分佈式推理的系統設計

18. 模型並行、數據並行、流水線並行的設計

心得建議

1. 硬件架構是基礎。做AI芯片軟件棧，必須理解底層硬件的架構和計算模型。面試中會直接問你Da Vinci架構的組件、Cube Unit的原理、內存層次等，如果不懂硬件很難通過。

2. 算子適配要有實戰。光看文檔不夠，一定要自己做過算子適配的工作，理解從框架算子到硬件算子的完整鏈路。面試中會讓你講具體的適配案例，沒有實戰經驗會很被動。

3. 性能調優要有方法論。不是隨便試試就能優化，需要系統的profiling→分析→優化→驗證的流程。面試中會給你一個性能問題場景，讓你分析原因和給出優化方案。

4. 了解競品差異。面試中會對比昇騰和NVIDIA的差異，需要你從硬件架構、編程模型、軟件生態幾個維度有清晰的認識。

5. 關注國產AI芯片的生態建設。面試中會聊到你對國產AI芯片生態的看法，需要有一些獨立的思考和見解。這個領域正在快速發展，有想法的人會更受青睞。

FAQ

Q：沒有昇騰開發經驗能面這個崗位嗎？
A：可以，但需要有CUDA或其他AI芯片的開發經驗。面試官會考察你的學習能力和對硬件編程的理解，昇騰相關的知識可以在入職後學習。

Q：昇騰和NVIDIA的編程體驗差異大嗎？
A：差異還是比較大的。昇騰的編程模型更偏向量化和數據塊處理，NVIDIA更偏線程級編程。不過核心的優化思路是相通的，理解了硬件架構後上手不難。

Q：華為昇騰團隊的工作強度怎麼樣？
A：從面試感受來看，團隊節奏比較快，畢竟國產AI芯片在追趕階段，任務壓力不小。但團隊技術氛圍很好，對技術成長很有幫助。

Q：AI芯片軟件棧開發的職業發展如何？
A：這是一個很有前景的方向。國產AI芯片正在快速發展，對軟件棧工程師的需求很大。而且這個方向的技術壁壘高，薪資競爭力強，後續可以往AI系統、芯片架構等方向發展。

Q：面試中會問算法題嗎？
A：會考一些，但不是重點。更關注系統設計和工程能力。可能會考1-2道中等難度的題目，主要是考察編程基礎。