Высота кнопки WPF такая же, как высота ListItem

Вот решение с некоторым кодом позади. Обработайте событие SizeChanged для RadioButton и назначьте заданную высоту свойству Height модели представления. Привяжите свойство Height отдельной кнопки к свойству Height в модели представления. Вот XAML:

<ListBox ItemsSource = "{Binding Items}">
    <ListBox.ItemTemplate>
        <DataTemplate>
            <RadioButton
                Content = "{Binding Name}"
                SizeChanged = "OnRadioButtonSizeChanged" />
        </DataTemplate>
    </ListBox.ItemTemplate>
</ListBox>
<Button
    Content = "Button"
    Height = "{Binding Height}"
    />

И вот код позади:

private void OnRadioButtonSizeChanged(object sender, SizeChangedEventArgs e)
{
    ViewModel.Height = e.NewSize.Height;
}

Конечно, свойство Height модели представления должно вызывать событие PropertyChanged.