Там через материал это делается.. То есть через вертексный шейдер. В материале есть свойство World Offset, которое позволяет манипулировать вертексами модели, на котором наложен материал.
Соответственно у вас есть развертка модели и цвета RGB, которые в данном случае являются координатами. Если подать на свойство World Offset черный цвет, то вертексы никуда не сдвинутся. Если же подать RGB 1,0,0, то вертексы сдвинутся на 1 юнит по оси Х. Таким образом вы можете сделать маску по развертке дерева, где будет ствол дерева и манипулировать таким способом вертексы модели.
Так же советую взглянуть на этот плагин для макса. Он позволит автоматом сделать такие вещи.
https://docs.unrealengine.com/latest/IN ... index.html
_________________
Просьба, не писать вопросы по движку в ЛС. Я не единственный, кто знает UE4, и поэтому пишите на форум или в группу.