Мой ключ - это формат RSA, а алгоритм подписи сертификата - sha256WithRSAEncryption, с включенным bouncycastle fips, я видел только 4 шифра TLS_ECDHE_RSA_xxx, поддерживаемых для tls1.2:
TLS_ECDHE_RSA_WITH_3DES_EDE_CBC_SHA TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA256 TLS_ECDHE_RSA_WITH_AES_256_CBC_SHA
Но согласно https://downloads.bouncycastle.org/fips-java/BC-FJA-(D)TLSUserGuide-1.0.0.pdf, те TLS_RSA_WITH_xxx в списке поддерживаемых приложений B также должны быть доступны для моего случая, например TLS_RSA_WITH_AES_256_CBC_SHA256. Есть идеи, почему я этого не видел? Все равно включить? Я использую реализацию Java.
Как / где вы это «увидели»? Вы тестировали этот сервер с помощью ssllabs или nmap + ssl-enum-ciphers? (К вашему сведению: тип ключа в вашем сертификате действительно влияет на шифровальные наборы, но алгоритм подписи - нет, хотя он может повлиять на то, доверяют ли клиенты вашему серверу полностью независимо и отдельно от шифровальных наборов.)
Возможно, использование ключа не позволяет шифрование. Наборы шифров TLS_ ECDHE_ требуют аутентификации (генерации подписи), а TLS_RSA_ требуют шифрования с использованием открытого ключа.


проверить это?