Awaitableの深淵：HHVM JITがスタックの断片化をいかにして回避しているか
Hackの非同期処理を単なる「糖衣構文」と捉えている者は、HHVMの心臓部で何が起きているかを理解していない。我々が構築したHHVMのJITエンジンは、単にコードをネイティブ化するだけの代物ではない。それは、「スタックの動的生存期間を如何に制御するか」という、極めて残酷なメモリ管理の戦場である。
特に `Awaitable` が関与するコンテキストスイッチにおいて、JITがどう振る舞うのか。今回は、一般的な解説書が避けて通る「スタック管理の極限」を解剖する。
—
1. スタックフレームの「ヒープ昇華」という逆説
通常の同期関数であれば、スタックフレームはLIFO（Last-In-First-Out）の規律に従い、関数終了と同時に消滅する。しかし、`async` 関数が `await` に遭遇した瞬間、そのフレームは破壊されるわけにはいかない。
ここでHHVMは、スタック上のローカル変数をヒープ上のメモリ領域（`AsyncFunctionWaitHandle`）に退避させるという戦略をとる。これがコンテキストスイッチの代償だ。
JITによるスタック昇華の最適化
JITコンパイラは、`await` ポイントを境界として、関数を「継続（Continuation）」としてシリアライズする。この際、以下の最適化が働く：
- ライブ変数解析の徹底: `await` を跨いで生存する必要がないローカル変数は、ヒープへ退避させない。これらは引き続きCPUレジスタや仮想マシンスタックに留まり、コンテキストスイッチのコピーコストをゼロに近づける。
- スタック配置の線形化: ヒープに退避させる構造体は、可能な限り連続したメモリブロックとしてアロケートされる。これはキャッシュローカリティを最大化し、後続の実行フローにおけるL1/L2キャッシュヒット率を維持するためのアーキテクチャ上の要請だ。
—
2. JITされたコードにおける「コンテキストスイッチ」のコスト構造
非同期処理におけるオーバーヘッドは、主に以下の3点に集約される。
1. フレームのシリアライズ（スタック→ヒープ）
2. VM状態の退避（プログラムカウンタとレジスタセット）
3. スケジューラの再配置（イベントループへのキューイング）
HHVMのJITは、この「コピー」を最小化するために、「オンスタック・フレームの再利用」を行う。一度 `Awaitable` が解決されると、VMはヒープ上のデータをスタックに再配置するのではなく、ヒープ上の領域をそのまま新たなスタックフレームとして扱う特殊なモードに遷移する。
これにより、メモリコピーのコストを物理的にゼロにまで引き下げている。これは、ランタイムの深い階層で「ポインタの付け替え」のみでスタックを再構築しているからこそ可能な芸当だ。
—
3. 実践的知見：JITフレンドリーな非同期設計とは
我々がコードを書く際、以下の原則を意識するだけで、JITのスタック管理効率は劇的に向上する。
// 悪い例: awaitをまたいで巨大なイテレータを保持する
async function process_data(): Awaitable
$data = get_massive_array(); // 巨大なメモリ消費
await network_call(); // ここで$dataはヒープに退避される
// …
}
// 良い例: スコープを絞り込み、生存期間を縮小させる
async function process_data(): Awaitable
$result = await (async () => {
$data = get_massive_array();
$res = await network_call($data);
return $res;
})(); // $dataはここでスコープ外となり、ヒープ退避の対象から外れる
}
なぜこれが効くのか？
JITのライブ変数解析は、スコープ（ブロック）単位で非常に厳密に動作する。不要な変数が `await` を跨いで存在しないことが静的に証明できれば、コンパイラはヒープに確保するメモリサイズを劇的に削減できる。これはアロケータの負荷を減らすだけでなく、将来的にその関数が再開される際の「メモリ復帰コスト」を削ぎ落とすことに直結する。
—
4. 結び：エンジニアへの問い
HHVMのアーキテクチャを掌握するということは、VMが「どこで諦め、どこで計算を放棄しているか」を理解することだ。`Awaitable` は魔法ではない。それは、メモリとCPU時間を緻密にトレードオフする、極めて論理的な「状態保存の仕組み」である。
君たちが書く一行の `await` は、仮想マシンのスタックを切り裂き、ヒープへと逃がし、そして再びスタックへと引き戻す。そのプロセスが、我々が設計したJITの最適化ルールと噛み合ったとき、システムはかつてない高密度なパフォーマンスを叩き出す。
型システムが安全を担保し、JITが速度を担保する。Hackという言語の本質は、その隙間に宿る。
この深淵を理解した上で、次はどのレイヤーを最適化する？
—
追伸：もし君が、さらに深くHHVMのプロファイリングデータを見てみたいのであれば、`hhvm.jit.log_level` を上げて自身のコードが吐き出すアセンブラのスタック操作を追うといい。そこには、嘘のない「真実の実行順序」が記されているはずだ。