Память вне кучи и память стека - это одно и то же?

Они не одинаковы.

Различия:

• память стека организована как стек, который отслеживает время жизни вызовов методов, но память вне кучи не
• память стека выделяется и освобождается неявно ¹, когда методы вызываются и когда они возвращают ², но память вне кучи выделяется и освобождается (обычно) вызовами машинного кода.

Это все, что нужно знать типичному Java-разработчику. Если вы хотите копнуть глубже, взгляните на исходный код OpenJDK.

^{1 - The stacks themselves are allocated implicitly by Thread.start() and freed when a thread terminates. They are a form of off-heap memory, but they need to be requested from the OS in order to implement the "red zone" that is typically used to detect stack overflow ...}

^{2 - This ignores the fact that when "escape analysis" is enabled, the JIT may generate code that allocates local objects onto the stack. If that happens, then the notional allocation and releasing of stack memory may happen within a method call.}