Es problema del Heap.
Tienes demasiados Elf o aplicaciones activas y el Heap no resiste mas, cuando se cortan las imagenes es problema de Heap. Puedes probar subiendo el parche HeapShift y darle un poco mas de Heap, pero en ultimas debes quitar un Par de elf o aplicaciones.