Значение следующего make snippet INSTALLSOURCE=$(subst /,\,$(DEST))

Это замена / на \ в $(DEST). То есть в содержание переменной DEST. Потом все это присваивается INSTALLSOURCE.

Для дальнейшего чтения, пожалуйста, обратитесь к документ на субст.

Заимствуя пример из документа GNU:

$(subst ee,EE,feet on the street)

Изменения:

FROM: "feet on the street"
TO:   "fEEt on the strEEt"

Но в вашем случае, если DEST было:

/path/to/file.txt

Это становится:

\path\to\file.txt