大对象堆碎片

我正在研究的C#/ .NET应用程序正在遭受缓慢的内存泄漏.我已经使用CDB和SOS来尝试确定发生了什么,但数据似乎没有任何意义,所以我希望你们中的一个人之前可能已经经历过这种情况.

该应用程序在64位框架上运行.它不断地计算并将数据序列化到远程主机,并且正在大量地击中大对象堆(LOH).但是,我希望大多数LOH对象都是瞬态的:一旦计算完成并且已经发送到远程主机,就应该释放内存.然而,我所看到的是大量(实时)对象数组与空闲的内存块交织,例如,从LOH中获取一个随机段:

0:000> !DumpHeap 000000005b5b1000  000000006351da10
         Address               MT     Size
...
000000005d4f92e0 0000064280c7c970 16147872
000000005e45f880 00000000001661d0  1901752 Free
000000005e62fd38 00000642788d8ba8     1056       <--
000000005e630158 00000000001661d0  5988848 Free
000000005ebe6348 00000642788d8ba8     1056
000000005ebe6768 00000000001661d0  6481336 Free
000000005f214d20 00000642788d8ba8     1056
000000005f215140 00000000001661d0  7346016 Free
000000005f9168a0 00000642788d8ba8     1056
000000005f916cc0 00000000001661d0  7611648 Free
00000000600591c0 00000642788d8ba8     1056
00000000600595e0 00000000001661d0   264808 Free
...

显然,如果我的应用程序在每次计算期间创建长寿命的大对象,我会期望这种情况.(它确实这样做,我接受会有一定程度的LOH碎片,但这不是问题.)问题是你可以在上面的转储中看到的非常小的(1056字节)对象数组,我在代码中看不到正在创建,并以某种方式保持根深蒂固.

另请注意,转储堆段时CDB不报告类型:我不确定这是否相关.如果我转储标记的(< - )对象,CDB/SOS报告正常:

0:015> !DumpObj 000000005e62fd38
Name: System.Object[]
MethodTable: 00000642788d8ba8
EEClass: 00000642789d7660
Size: 1056(0x420) bytes
Array: Rank 1, Number of elements 128, Type CLASS
Element Type: System.Object
Fields:
None

对象数组的元素都是字符串,字符串可以从我们的应用程序代码中识别.

此外,我无法找到他们的GC根源,因为!GCRoot命令挂起并且永远不会回来(我甚至尝试过夜).

所以,如果有人能够解释为什么这些小的(<85k)对象数组最终会出现在LOH上,我会非常感激:.NET会在哪些情况下放置一个小的对象数组？此外,是否有人碰巧知道确定这些物体根源的另一种方法？

---

更新1

我昨天晚些时候提出的另一个理论是,这些对象数组开始变大但已经缩小,留下了内存转储中明显的空闲内存块.让我怀疑的是,对象数组总是看起来长1056字节(128个元素),128*8用于引用,32个字节的开销.

这个想法是,库或CLR中的一些不安全的代码可能会破坏数组头中的元素数量字段.我知道一点远射...

---

更新2

感谢Brian Rasmussen(见接受的答案),问题已被确定为由字符串实习生表引起的LOH碎片!我写了一个快速测试应用程序来证实这一点:

static void Main()
{
    const int ITERATIONS = 100000;

    for (int index = 0; index < ITERATIONS; ++index)
    {
        string str = "NonInterned" + index;
        Console.Out.WriteLine(str);
    }

    Console.Out.WriteLine("Continue.");
    Console.In.ReadLine();

    for (int index = 0; index < ITERATIONS; ++index)
    {
        string str = string.Intern("Interned" + index);
        Console.Out.WriteLine(str);
    }

    Console.Out.WriteLine("Continue?");
    Console.In.ReadLine();
}

应用程序首先在循环中创建和取消引用唯一字符串.这只是为了证明在这种情况下内存不会泄漏.显然它不应该,也不应该.

在第二个循环中,创建并实现唯一字符串.这个动作将它们植根于实习生表中.我没有意识到的是如何表示实习生表.它似乎由一组页面组成 - 一组128个字符串元素 - 在LOH中创建.这在CDB/SOS中更为明显:

0:000> .loadby sos mscorwks
0:000> !EEHeap -gc
Number of GC Heaps: 1
generation 0 starts at 0x00f7a9b0
generation 1 starts at 0x00e79c3c
generation 2 starts at 0x00b21000
ephemeral segment allocation context: none
 segment    begin allocated     size
00b20000 00b21000  010029bc 0x004e19bc(5118396)
Large object heap starts at 0x01b21000
 segment    begin allocated     size
01b20000 01b21000  01b8ade0 0x00069de0(433632)
Total Size  0x54b79c(5552028)
------------------------------
GC Heap Size  0x54b79c(5552028)

对LOH段进行转储揭示了我在泄漏应用中看到的模式:

0:000> !DumpHeap 01b21000 01b8ade0
...
01b8a120 793040bc      528
01b8a330 00175e88       16 Free
01b8a340 793040bc      528
01b8a550 00175e88       16 Free
01b8a560 793040bc      528
01b8a770 00175e88       16 Free
01b8a780 793040bc      528
01b8a990 00175e88       16 Free
01b8a9a0 793040bc      528
01b8abb0 00175e88       16 Free
01b8abc0 793040bc      528
01b8add0 00175e88       16 Free    total 1568 objects
Statistics:
      MT    Count    TotalSize Class Name
00175e88      784        12544      Free
793040bc      784       421088 System.Object[]
Total 1568 objects

请注意,对象数组大小为528(而不是1056),因为我的工作站是32位,应用程序服务器是64位.对象数组仍然是128个元素.

所以这个故事的寓意是要非常小心地实习.如果您不知道您实习的字符串是有限集的成员,那么您的应用程序将由于LOH的碎片而泄漏,至少在CLR的版本2中.

在我们的应用程序的情况下,反序列化代码路径中有一些通用代码在解组期间实现实体标识符:我现在强烈怀疑这是罪魁祸首.但是,开发人员的意图显然是好的,因为他们想确保如果同一实体多次反序列化,那么只有一个标识符字符串实例将保留在内存中.

1> Brian Rasmus..：

---

CLR使用LOH预分配一些对象(例如用于实习字符串的数组).其中一些小于85000字节,因此通常不会在LOH上分配.

这是一个实现细节,但我认为这样做的原因是为了避免不必要的垃圾收集实例,只要它自己进程就应该存活.

同样由于某种深奥的优化,double[]在LOH上也分配了1000个或更多元素中的任何一个.

---

85000字节.您可以通过创建85000-12(长度大小,MT,同步块)的字节数组并在实例上调用"GC.GetGeneration"来验证这一点.这将返回Gen2 - API不区分Gen2和LOH.使数组小一个字节,API将返回Gen0.

2> 小智..：

---

.NET Framework 4.5.1能够在垃圾回收期间显式压缩大对象堆(LOH).

GCSettings.LargeObjectHeapCompactionMode = GCLargeObjectHeapCompactionMode.CompactOnce;
GC.Collect();

请在GCSettings.LargeObjectHeapCompactionMode中查看更多信息