У анрил энджина 4 хитрый алгоритм сглаживания статичных теней, который при низком разрешении лайтмапа дает достаточно глючной результат.
Вот к примеру, схематически три пикселя тени в первозданном виде слева. Обычно такая тень фильтруется и размазывается, чтобы не было видно квадратов. Справа показано, как в анриле - три пикселя скругляются по неизвестному мне алгоритму. Кстати, кто знает, как он называется, напишите.