Какое лицо дальше в параллельных проекциях?

Сортировать по расстоянию от камеры.

function distanceBetweenTwoPoints (p1, p2) {
  return Math.hypot(p1.x - p2.x, p1.y - p2.y, p1.z - p2.z)
}

function sortFunction (p1, p2) {
  return distanceBetweenTwoPoints(camera, p1) > distanceBetweenTwoPoints(camera,p2) ? -1 : 1
}

Измените знак > в зависимости от того, какой порядок вы хотите.

I don't care about intersecting faces

Это означает, что мы можем уменьшить равнины до точек, взяв точку посередине:

const vecOp = op => (a, b) => a.map((c, i) => op(c,  b[i] || b));

const add = vecOp((a, b) => a + b);
const sub = vecOp((a, b) => a - b);
const mul = vecOp((a, b) => a * b);
const div = vecOp((a, b) => a / b);
 const sum = v => v.reduce((a, b) => a + b, 0);

const middle = (a, b) =>  div(add(a, b), 2);

 const planeToPoint = ([a, b, c, d]) => middle(
   middle(a, b),
   middle(c, d)
 );

Теперь, чтобы отсортировать по «ближе к камере», можно провести линию между центрами двух плоскостей, в результате получится направление:

 const aToB = (a, b) => 
   sub(
    planeToPoint(b),
    planeToPoint(a)
  );

Теперь мы могли превратить поворот камеры в вид камеры:

 const rotToVec = (yaw, pitch) => ([
   Math.cos(yaw) * Math.cos(pitch),
   Math.sin(yaw) * Math.cos(pitch),
   Math.sin(pitch)
 ]);

и это направление можно сравнить с направлением камер, что дает угол между ними:

 const angle = (a, b) => sum(mul(a, b)) / sum(a) * sum(b)

Теперь давайте перевернем это все вместе:

 const camVec = rotToVec(cam.yaw, cam.pitch);

 planes.sort((a, b) =>
  Math.abs(angle(aToB(a, b), camVec)) < Math.PI / 4 /*90°*/ ? 1 : -1
 );

Отказ от ответственности: я не пробовал приведенный выше код, не работал с параллельными проекциями и плохо разбираюсь в математике, поэтому примите мои слова осторожно, я понятия не имею, о чем говорю.

Для приблизительного решения используйте преобразование из 3D в 3D и учитывайте координату Z. Для каждого лица сохраните ближайшую Z и отсортируйте лица по этой Z.

Для более точного решения рассмотрим https://en.wikipedia.org/wiki/Newell%27s_algorithm.

То, что вы пытаетесь сделать, называется "отбраковкой обратной стороны". Один из распространенных методов - определить, находится ли список точек в представлении многоугольника по часовой стрелке или против часовой стрелки с точки зрения камеры. Для этого необходимо, чтобы вы очень внимательно относитесь к тому, как вы создаете список вершин. Подробнее читайте в статье в Википедии: https://en.wikipedia.org/wiki/Back-face_culling. В разделе «Реализация» описываются задействованные математические аспекты, которые вам придется перевести в JavaScript. Обратите внимание, что этот метод быстрее, чем сортировка список лиц, потому что он требует проверки каждого лица только один раз, а не сравнения каждого лица с другими лицами.