ArcGIS のネットワーク解析レイヤを追加・削除し続けるとメモリ消費量が増加し続ける現象があり、メモリリークの疑いを検証するためにパフォーマンス モニターを使用しました。 本題の結論はメモリ リークではなく、レイヤ操作がスタックされるための仕様だそうです。
スタックを管理している IMxDocument::OperationStack から該当する Operation を削除することでメモリ増加量を開放させることができます。.NET だとガベージ コレクションが実行された際に消費メモリが解放されます。