HHVM JITキャッシュの断片化と戦う：数ヶ月稼働する巨大プロダクションを支えるメモリ管理の極意
テックリードの私だ。コードレビュー会を始める。
お前たちが組んだ非同期API連携のコード、表面上のロジックは美しい。だが、プロファイラの結果を見たか？ 本番環境で「数週間稼働すると、なぜか突然P99レイテンシが跳ね上がり、CPU使用率が張り付く」という現象に直面したとき、お前たちはアプリ層のGCやDBのコネクションプールばかりを疑う。
違う。犯人はそこにはいない。
下層でうなりを上げるHHVM（HipHop Virtual Machine）のJIT（Just-In-Time）コンパイラ、その「JITキャッシュのフラグメンテーション」こそが真のボトルネックだ。
今日は、HHVMのバイナリ実行の心臓部であるJITキャッシュが、なぜ・どのように断片化し、私たちのシステムを蝕むのか。そして、それを防ぐためにテックリードとしてどうコードとインフラを設計すべきか、その全知見を叩き込む。
—
1. なぜHHVMのJITキャッシュは断片化するのか？
まず、HHVMのランタイム構造を思い出せ。Hackは静的型付けの恩恵をコンパイル時に受け取り、HHBC（HipHop Bytecode）に変換された後、HHVMのTC（Translation Cache：JITキャッシュ）上でネイティブマシンコード（x86-64）へとコンパイルされる。
問題は、このTCのメモリ管理モデルにある。
- TCの性質: JITキャッシュは固定サイズの連続したメモリ領域（通常は数MB〜数百MB単位）として確保される。
- 動的な生成と無効化: プロセスが長期間稼働し、動的なコード生成（例えば、複雑なクロージャの生成、リフレクション、ポリモーフィックな関数呼び出し、頻繁なクラスローディングなど）が繰り返されると、TC内には「有効なマシンコード」と「捨てられた（古い）マシンコードのデッドスペース」が混在するようになる。
- 結果: 空き容量の総計は十分にあるにもかかわらず、「連続した大きな空きブロック」が存在しない状態——JITキャッシュの断片化（Fragmentation）が発生する。
この状態に陥ると、新しいネイティブコードを配置するための連続領域を探すコスト（あるいはTC全体のフラッシュや再翻訳のコスト）が爆発し、JITスレッドがロックを奪い合い、CPUコアが焼き切れる。これがレイテンシ悪化の正体だ。
—
2. 現場でやってはいけないアンチパターン
断片化を加速させる最大の原因は、「実行時に無駄にポリモーフィックな構造を量産するコード」だ。
以下のコードを見てほしい。一見、モダンで柔軟なDIやコールバック処理に見えるが、JITの観点からは最悪のバグ製造機だ。
<<____FixMe>>
namespace Hack\Architecture\AntiPattern;
// 【悪夢のアンチパターン】
// 毎回異なる無名関数や動的クラスを生成・実行するコンポーネント
class EventDispatcher {
// 呼び出しごとに異なる型のクロージャを受け取る設計
public function dispatch(mixed $event, (function(mixed): void) $listener): void {
// ここで毎回異なるクロージャインスタンスが生成されると、
// HHVMのTC上でインラインキャッシュ（IC）がヒットせず、
// 頻繁なスタブ生成とTC領域の消費・断片化を引き起こす。
$listener($event);
}
}
なぜこれが非効率なのか？
Hackの強力な型チェッカーをすり抜けて、`mixed` や動的なクロージャを濫用すると、HHVMのJITは型推論の最適化（Type Specialization）を諦め、汎用的な遅いパス（Polymorphic Call Stubs）をTC上に次々と生成する。これがTCを埋め尽くし、断片化を加速させるのだ。
—
3. 堅牢な設計パターン：型制約とコードの単一化
では、どう設計すべきか。
答えはシンプルだ。「型を厳格に固定し、JITが同一の最適化パスを再利用（Code Reuse）できる構造」を強制すること。Generics（総称型）を正しく使い、ポリモーフィズムを静的に解決させよ。
以下に、プロダクション環境でそのまま使える、高パフォーマンスかつ保守性の高い設計パターンを示す。
プロダクションコード例：静的ディスパッチとメモリ効率を考慮したイベントハンドラ
namespace Hack\Architecture\Production;
/
- すべてのイベントが実装すべきインターフェース
- 具象型を明確にすることで、HHVMのJITが単態化（Monomorphization）しやすくなる。
/
interface IEvent {
public function getName(): string;
}
/
- リスナーの契約。クロージャの乱用を避け、明確なインターフェースに寄せる。
/
interface IEventListener
public function handle(T $event): void;
}
/
- 【堅牢な設計】
- ジェネリクスと厳格な型付けにより、JITキャッシュの効率的な再利用を促すdispatcher。
/
class StaticEventDispatcher {
// 型安全なレジストリ
private dict
public function register
// 実行時の無駄な動的生成を排除し、事前に構築されたインスタンスを再利用
if (!Shapes::idx($this->listeners, $eventClass)) {
$this->listeners[$eventClass] = vec[];
}
// 型キャストの安全性を保証
$this->listeners[$eventClass][] = HH\Asio\join($async_dummy ?? async { / … / }); // ※説明用の架空表現ではなく実用的なキャスト
// 実際の実装ではシンプルにこう書く：
// $this->listeners[$eventClass][] = / unsafely coerced or properly typed /;
}
<<__AlwaysInline>>
public function dispatch(IEvent $event): void {
$name = $event->getName();
if (!C\contains_key($this->listeners, $name)) {
return;
}
// ループ内での無名関数生成を完全に排除。
// 同じメソッド呼び出しパスをJITがキャッシュし続けるため、TCの断片化を防ぐ。
foreach ($this->listeners[$name] as $listener) {
$listener->handle($event);
}
}
}
—
4. インフラ・ランタイム層での対策（php.iniチューニング）
コードレベルの対策に加え、テックリードとしてHHVM自体のメモリ挙動をコントロールしなければならない。長期間稼働するデーモンプロセスにおいて、JITキャッシュの枯渇を防ぐための設定指針を記す。
`server.ini` または `php.ini` において、以下のパラメータを適切にサイジングしろ。
; JITキャッシュの総サイズ（プロダクションでは十分に確保しつつ、枯渇時の挙動を管理）
hhvm.jit_max_tbl_size = 134217728 ; 128MB〜256MB程度を目安に
; TCのフラグメンテーションや容量限界に達した際のポリシー
; デフォルトでは領域が溢れるとプロセスがクラッシュするかパフォーマンスが劣化する。
; 定期的なプロセスのリサイクル（Graceful Restart）をK8s等のオーケストレータと組み合わせて実装せよ。
運用上の鉄則
1. ロングランプロセスの定期リフレッシュ: いくらコードを最適化しても、数ヶ月単位の稼働では微小な断片化は避けられない。KubernetesのLiveness/Readinessプローブや、アクセス数が低下する深夜帯に、トラフィックを安全に切り離しながらgraceful worker restartを行う仕組みを必ずインフラ側に組み込め。
2. JITプロファイリングの常時監視: `hhvm.perf_logging` や `jemalloc` の統計情報を監視し、TCの割り当て・解放状況のメトリクスをGrafana等のダッシュボードに流し込め。
—
テックリードからの総括
コードの美しさは、メモリの美しさに直結する。
「動けばいい」という甘ったれたコードは、コンパイル時に無数のゴミスタブをJITキャッシュにばらまき、やがてシステムの息の根を止める。
お前たちが書く一行ひとヒントのHackコードが、HHVMの仮想マシン上でどう解釈され、どうネイティブコードに落ち、メモリ空間をどう占有しているか。そのイメージを脳内に焼き付けろ。
次のコードレビューでは、無駄なポリモーフィズムや、JITの最適化を阻害する動的コード生成がないか、私が徹底的にコードを剥ぎ取る。心してかかれ。