Отладка приложений с использованием Byebug удобна, но этот драгоценный камень не обеспечивает того опыта, который я мог бы получить, например, с помощью VSCode.
Как подключить отладчик с помощью Ruby 2.5.0, Docker и VSCode? Я использую Расширение Ruby для кода Visual Studio, который поддерживает отладку, но я не могу найти руководства по его использованию с Docker.

В репозитории github этого расширения есть проблема об этом. Предлагаю вам это проверить. В основном вот предложение оттуда:
put it to Dockerfile in CMD:
rdebug-ide --host 0.0.0.0 --port 1234 -- bin/rails s -b 0.0.0.0