Spotify MLエンジニア面接体験記：リコール・ランク・リランクのフルチェーン評価
レコメンドアルゴリズム2年の経験、Spotify MLエンジニア3回の技術面接を完全振り返り。機械学習基礎、特徴量エンジニアリング、レコメンドシステムアーキテクチャ、多目的最適化、A/Bテストなどの核心的な評価ポイントを網羅し、実際の問題と対策アドバイス付き。
背景紹介
レコメンドアルゴリズムとして2年の経験があります。以前はコンテンツプラットフォームでレコメンドシステムの開発に携わり、主にリコールとランキングモジュールの反復を担当していました。普段最も接しているのはTwo-Tower、DeepFM、DINなどのクラシックなモデルで、特徴量エンジニアリングやA/Bテストの作業も行ってきました。SpotifyのMLエンジニアポジションはずっと目標でした。Spotifyのレコメンドは業界で高い評価を受けており、「Discover Weekly」や「Daily Mix」のユーザー体験は素晴らしいからです。
リクルーターの紹介でSpotifyのMLエンジニアポジションに応募しました。約1週間後に面接の招待を受けました。全体のプロセスは3回の技術面接で、期間は約2週間半でした。
面接プロセス振り返り
一次面接：機械学習基礎 + 特徴量エンジニアリング（約65分）
一次面接の面接官はレコメンドチームのコアアルゴリズムエンジニアでした。自己紹介の後、機械学習の基礎的な質問が始まりました。
機械学習基礎：面接官からLRとSVMの違いについて聞かれ、モデル形式、損失関数、カーネルトリックの観点から説明しました。その後、過学習のソリューションについて聞かれ、正則化、Dropout、データ拡張、早期停止などを紹介しました。面接官からL1とL2正則化の違いについてフォローアップがあり、ベイズ事前分布（L1はラプラス事前分布、L2はガウス事前分布に対応）と最適化特性（L1はスパース解を生成）の2つの観点から回答しました。その後、より深い質問として、なぜ深層学習ではL2正則化がL1よりよく使われるのかという問題があり、勾配特性と重み減衰の観点から説明しました。
特徴量エンジニアリングセクション：面接官から特徴量エンジニアリングに対する理解と、レコメンドシステムでよく使われる特徴量タイプについて聞かれました。ユーザー特徴量、アイテム特徴量、コンテキスト特徴量、交差特徴量の4つに分類して説明しました。面接官は交差特徴量に特に関心があり、特徴量交差の方法について説明するよう求められました。手動交差、FM/FFMからDeepFMやDCNの自動特徴量交差まで、各手法の長所短所を詳しく比較しました。その後、カテゴリ特徴量の処理方法という実践的な問題があり、One-Hot、Embedding、Target Encoding、Hash Encodingの各方法と適用シナリオを説明しました。
評価指標セクション：レコメンドシステムでよく使われる評価指標について聞かれ、オフライン指標（AUC、NDCG、Hit Rate）とオンライン指標（CTR、CVR、滞在時間）を説明しました。面接官からAUCの物理的意味と、AUC向上とオンラインCTR向上の関係についてフォローアップがあり、AUCは正例が前にランク付けされる確率を測定するが、位置バイアスなどの要因によりAUC向上がオンラインCTR向上に比例して反映されるとは限らないと説明しました。
一次面接の終わりに、面接官から「基礎は良く、特徴量エンジニアリングの実戦経験もありますね」と言われ、励みになりました。
二次面接：レコメンドシステムアーキテクチャ + 多目的最適化（約80分）
二次面接は面接全体で最も核心的なラウンドで、面接官はレコメンドシステムのアーキテクトでした。
レコメンドシステムアーキテクチャセクション：面接官から完全なレコメンドシステムアーキテクチャ図を描くよう求められ、リコール、粗ランキング、精ランキング、リランキングの4つの段階を説明しました。面接官はリコール段階に特に注目し、協調フィルタリングリコール、ベクトルリコール（Two-Towerモデル）、人気アイテムリコール、タグリコールなど、マルチチャネルリコール戦略について詳しく説明するよう求めました。その後、ベクトルリコールの実装詳細について掘り下げられ、ANN検索（HNSW、IVF-PQ）からTwo-Towerモデルの訓練方式（In-batch Negative、Hard Negative）まで詳しく説明しました。面接官からさらに、リコールとランキングの目標の不一致をどう扱うかという重要な質問があり、リコールはカバレッジを重視しランキングは精度を重視すること、サンプルサンプリング戦略でどう整合させるかを説明しました。
多目的最適化セクション：面接官から非常に実践的な質問がありました：レコメンドシステムは通常、クリック、いいね、保存、シェアなど複数の目標を同時に最適化する必要があるが、多目的最適化をどう行うか？Shared-Bottom、MMoE、PLEの3つのアーキテクチャについて、長所短所を詳しく比較しました。面接官はMMoEのExpert選択メカニズムに興味を持ち、ゲートネットワークの役割と訓練方式について説明を求めました。その後、高度な質問として、多目的最適化で異なる目標のLossのスケール差が大きい場合どう扱うかという問題があり、GradNorm、Uncertainty Weighting、Dynamic Weight AverageなどのLoss重み付け方法を説明しました。
コールドスタート問題：面接官から新規ユーザーと新規アイテムのコールドスタートをどう解決するかについて聞かれました。新規ユーザーについては、人口統計学的特徴に基づくレコメンド、人気レコメンド、興味探索戦略を説明しました。新規アイテムについては、コンテンツ特徴に基づくレコメンド、EE戦略（LinUCBなど）、メタ学習などを説明しました。面接官からEE戦略のExplorationとExploitationのバランスについてフォローアップがあり、UCBとThompson Samplingの原理を説明しました。
二次面接は80分続き、情報量が多かったですが、面接官のガイドも良く、完全に答えられないということはありませんでした。
三次面接：プロジェクトディープダイブ + A/Bテスト（約70分）
三次面接の面接官はレコメンド部門の技術責任者と思われ、質問はより実戦と思考の深さに偏っていました。
プロジェクトディープダイブ：面接官から最も影響力のあったレコメンドプロジェクトを一つ説明するよう求められました。以前行ったリコールモデルのアップグレードプロジェクトを選び、元のItemCFからTwo-Towerベクトルリコールへの移行について、モデル設計、訓練戦略、オンラインデプロイ、効果評価の完全なプロセスを説明しました。面接官はオンラインデプロイの詳細に興味を持ち、ベクトルインデックスの構築と更新戦略、A/Bテストのトラフィック分割スキーム、モデル更新のグレースケールデプロイについて聞かれました。その後、遭遇した最大のチャレンジについて聞かれ、ネガティブサンプリング戦略のチューニングプロセスを説明しました——ランダムネガティブサンプリングからHard Negative Miningへの移行で、最終的にオフラインRecall@50が15%向上しました。
A/Bテストセクション：面接官からA/Bテストに対する理解について聞かれ、トラフィック分割戦略、指標選択、有意性検定を含めて説明しました。ユーザーレベル分割の利点、排他実験と直交実験の違い、t検定を使って実験結果の有意性を判断する方法を説明しました。面接官から重要なフォローアップとして、A/Bテストの指標が互いに矛盾する場合はどうするかという質問がありました。例えばCTRは向上したが滞在時間が低下した場合など。コア指標とガードレール指標を定義し、コア指標が向上しガードレール指標が低下しない場合のみリリースすると説明しました。面接官から実践的なシナリオとして、実験群のサンプルサイズが不足している場合はどうするかという質問もあり、トラフィック増幅、実験期間の延長、CUPED分散削減などの方法を説明しました。
総合評価：面接官からレコメンドシステムの発展トレンドについての見解を聞かれ、LLM + レコメンド、オンデバイスレコメンド、プライバシー計算の3つの方向について話しました。その後、キャリアプランとSpotifyを選んだ理由について聞かれました。最後にオープンクエスチョンとして、ゼロから音楽レコメンドシステムを構築するとしたらどうするかと聞かれ、データ収集、特徴量構築、モデル選定、A/Bテスト基盤の4つの次元から回答しました。
実際の問題まとめ
1. LRとSVMの違いは？
2. L1とL2正則化の違いは？なぜ深層学習ではL2がよく使われるのか？
3. レコメンドシステムでよく使われる特徴量タイプは？
4. 特徴量交差の方法は？手動交差から自動交差まで？
5. カテゴリ特徴量をどう処理するか？
6. AUCの物理的意味は？AUCとオンラインCTR向上の関係は？
7. 完全なレコメンドシステムアーキテクチャ図を描く？
8. マルチチャネルリコール戦略は？ベクトルリコールの実装詳細は？
9. リコールとランキングの目標の不一致をどう扱うか？
10. 多目的最適化のアーキテクチャは？Shared-Bottom、MMoE、PLEの比較は？
11. 多目的最適化でLossのスケール差をどう扱うか？
12. 新規ユーザーと新規アイテムのコールドスタートをどう解決するか？
13. EE戦略のExplorationとExploitationのバランスは？
14. A/Bテストのトラフィック分割戦略と有意性検定は？
15. A/Bテストの指標が互いに矛盾する場合どうするか？
16. ゼロから音楽レコメンドシステムを構築する？
アドバイスと気づき
1. 機械学習の基礎は確実に：レコメンドアルゴリズム面接はAPIを呼び出せるだけではありません。面接官は基盤原理を深掘りします。LR、SVM、ツリーモデル、深層学習の基礎を明確に説明できる必要があります。「統計的学習方法」と「Deep Learning」を読むことをお勧めします。
2. レコメンドシステムの全パイプラインを理解する：ランキングモデルだけではなく、リコール、粗ランキング、リランキング、A/Bテストをすべて理解する必要があります。「Recommender Systems: The Textbook」と大手テックチームのレコメンドシステムブログを読むことをお勧めします。
3. 多目的最適化は高頻度トピック：大企業のレコメンドシステムはほぼマルチオブジェクティブです。MMoE、PLEなどのアーキテクチャの原理と適用シナリオを明確に説明できる必要があります。原著論文を読み、実験設計とアブレーションスタディを理解することをお勧めします。
4. A/Bテストには実戦経験が必要：レコメンドシステムの反復にはA/Bテストが不可欠です。トラフィック分割戦略、指標体系、有意性検定は基本スキルです。実際のプロジェクトでA/Bテストの経験を積むことをお勧めします。
5. 最先端技術に注目する：LLM + レコメンド、レコメンドにおける対照学習の応用、プライバシー計算などの新しい方向は面接でよく聞かれます。KDD、RecSys、WWWなどのトップ会議の最新論文をフォローすることをお勧めします。
FAQ
Q：SpotifyのMLエンジニア面接でプログラミングの要求は高いですか？
A：ある程度の要求があります。一次面接ではPythonプログラミング問題が出ることがあり、例えば簡単な協調フィルタリングアルゴリズムの実装などです。ただしLeetCodeスタイルのアルゴリズム問題は出ず、より実用的です。
Q：レコメンドシステムの経験がなくても合格できますか？
A：かなり難しいです。Spotifyのレコメンドポジションはレコメンドシステム開発の経験を明確に求めています。一般的なML経験しかない場合は、MovieLensデータセットを使って完全なレコメンドパイプラインを構築するなど、レコメンドシステムのプロジェクトを先に作ることをお勧めします。
Q：面接で数学的導出は聞かれますか？
A：はい。今回はFMの公式とSoftmaxの勾配の導出を求められました。一般的なモデルの数学的導出を準備することをお勧めします。
Q：Spotifyのレコメンドチームの技術的な雰囲気はどうですか？
A：理解している限り、技術的な雰囲気は良く、頻繁に論文の共有や技術議論が行われています。面接官もチームが論文の発表やトップ会議への参加を奨励していると述べていました。