Как заставить объект вращаться вокруг цели со случайной высотой и с возможностью изменения радиуса вращения?

Есть пара проблем с вашим кодом. Во-первых, установка позиции с помощью:

transform.position = new Vector3(0,Random.Range(0,5f),0);

Полностью перезапишет любое изменение X/Z, вызванное предыдущим RotateAround. Вот почему ваша ротация остановилась, как только вы ввели этот код. Чтобы установить положение без потери значений X/Z, вы можете использовать:

transform.position = new Vector3(
    transform.position.x,
    Random.Range(0,5f),
    transform.position.z);

Итак, теперь ротация снова работает. Но изменения высоты все еще неустойчивы, потому что ваш код устанавливает новую случайную высоту в каждом кадре. Что мы можем сделать вместо этого?

Давайте попробуем ограничить максимальное изменение высоты определенной скоростью и установить новую цель высоты только тогда, когда предыдущая достигнута. Таким образом, ваш код может выглядеть так:

public class RotateAroundTarget : MonoBehaviour
{
    public Transform target;
    public float verticalSpeed = 20;
    public float radius = 10;

    private float targetHeight;

    // Start is called before the first frame update
    void Start()
    {
        // Initialize with a height to start moving toward
        targetHeight = GetNewTargetHeight();

        // If we start at a given distance away from the target, then this
        // will become our radius when we RotateAround it
        transform.position = new Vector3(0, 0, radius);
    }

    // Update is called once per frame
    void Update()
    {
        transform.RotateAround(target.transform.position,
            new Vector3(0,1,0), 20 * Time.deltaTime);

        // Just like your rotation rate, we scale this based on game time
        float maxHeightChange = verticalSpeed * Time.deltaTime;
        float targetHeightDelta = targetHeight - transform.position.y;

        if (maxHeightChange >= Mathf.Abs(targetHeightDelta)){
            // If the current height is close enough to the target, we can move it
            // there and then generate a new height to go towards
            transform.position = new Vector3(
                transform.position.x,
                targetHeight,
                transform.position.z);
            targetHeight = GetNewTargetHeight();
        }
        else{
            // Otherwise, limit the magnitude of the height change by the speed and
            // apply it to the current height
            float allowedHeightChange = Mathf.Clamp(
                targetHeightDelta,
                -maxHeightChange,
                maxHeightChange);
            transform.position = new Vector3(
                transform.position.x,
                transform.position.y + allowedHeightChange,
                transform.position.z);
        }
    }

    private float GetNewTargetHeight()
    {
        return Random.Range(0,5f);
    }
}