Как я могу применить модульное тестирование к моему простому алгоритму?

На высоком уровне: целью этого кода является печать дерева или треугольника из звездочек. Тест прост, запустите код и убедитесь, что он генерирует желаемый результат.

Поскольку код печатается в System.out, вам нужно будет перенаправить System.out в файл или строку (см. это), а затем сравнить сгенерированный вывод с желаемым выводом, чтобы убедиться, что код работает правильно.

Предполагая, что ваш класс, который рисует рождественскую елку, выглядит примерно так:

class ChristmasTreeDrafter {

    void draw() {
        for (int i = 0; i < 4; i++) {
            for (int j = 0; j < 10 - i; j++)
                System.out.print(" ");
            for (int k = 0; k < (2 * i + 1); k++)
                System.out.print("*");
            System.out.println();
        }
    }
}

Вы можете проверить это таким образом:

public class ChristmasTreeDrafterTest {

    private final ByteArrayOutputStream out = new ByteArrayOutputStream();

    @Before
    public void setup() {
        System.setOut(new PrintStream(out));
    }

    @Test
    public void shouldDrawChristmasTree() {
        // given
        ChristmasTreeDrafter christmasTreeDrafter = new ChristmasTreeDrafter();

        // when
        christmasTreeDrafter.draw();

        // then
        Assert.assertEquals("          *\r\n" +
                "         ***\r\n" +
                "        *****\r\n" +
                "       *******\r\n", out.toString());
    }
}

В методе setup стандартный поток вывода перенаправляется на объект out и благодаря этому вы можете проверить его содержимое в блоке then. К сожалению, в Java нет многострочных строк, поэтому этот код выглядит некрасиво. Чтобы улучшить читаемость, вы можете извлечь этот контент в файл под test/resources (при условии структуры проекта maven по умолчанию).