Если Вы пытаетесь сделать бугорки маленькими используя малый размер кисти- но у Вас выходять все-равно холмы, значит у Вас стоит малое разрешение террайна (крупная сетка)
В плагине редактирования высот, в строке heit Map (внизу) нужно поменять разрешение на более высокое.
Но выше 1025 я бы не рекомендовал (глючит) а 4096 зависает напрочь
(видать создатели движка чегото недоработали)
Менять разрешение после редактирования, то-же не рекомендуется (будут потери в рельефе)