Проблема перекрытия коммуникации и вычислений

Я студент, чья исследовательская работа включает использование MPI и OpenACC для ускорения нашего внутреннего исследовательского кода CFD на нескольких графических процессорах. Я использую компилятор openmpi 2.0.0 и PGI 17.5. Теперь у меня возникла большая проблема, связанная с «развитием операций в MPI». При использовании нескольких графических процессоров накладные расходы на связь в моем коде очень велики, поэтому я хочу перекрыть связь между хостами (процессорами) и вычислениями на устройствах (графических процессорах). Однако в моем случае фактическое общение часто начинается после завершения вычислений. Поэтому, хотя я написал свой код с перекрытием, перекрытия нет, потому что openmpi не поддерживает асинхронную прогрессию. Кроме того, я уже провел много тестов и добавил функцию MPI_Test в свой код для проверки, я обнаружил, что MPI часто прогрессирует (т.е. фактически отправляет или получает данные) только в том случае, если я блокирую вызов MPI_Wait (тогда нет перекрытия происходит у всех). Моя цель - использовать перекрытие, чтобы скрыть задержку связи и, таким образом, улучшить производительность моего кода. Может ли кто-нибудь дать несколько предложений по этому вопросу? Буду очень признателен за вашу помощь!

Лучший,

Ченг