Как упростить функцию с помощью нескольких операторов if и нескольких условий?

Прежде всего, вы всегда должны размещать «условия проверки данных» в начале методов. Под «условиями проверки данных» я подразумеваю условия, которые вы проверяете, чтобы иметь возможность правильно выполнить все, что необходимо для запуска метода.

Например:

# in an imaginary case where 9 is not a number you want to compute
def add_but_not_nine(a, b):
    result = a + b
    if a == 9 or b == 9:
        return "can't compute nines"
    return result

Не очень читабельно, тогда как:

# in an imaginary case where 9 is not a number you want to compute
def add_but_not_nine(a, b):
    if a == 9 or b == 9:
        return "can't compute nines"
    return a + b

Это лучше. Это не очень хороший пример, но я надеюсь, что он донесет суть.

Итак, в вашем случае вам следует изменить свой код на это:

def my_function (A_test_score, B_test_score, C_test_score, D_test_score, A_B_state, A_C_state, A_D_state, B_C_state, B_D_state, C_D_state):
 
    A_test_score = int(a.get())
    B_test_score = int(b.get())
    C_test_score = int(c.get())
    D_test_score = int(d.get())
 
    # Retrieving state of the checkboxes (1 = checked)
    A_B_state = A_B_var.get()
    A_C_state = A_C_var.get()
    A_D_state = A_D_var.get()
    B_C_state = B_C_var.get()
    B_D_state = B_D_var.get()
    C_D_state = C_D_var.get()
    if A_B_state == 1 and (A_test_score - B_test_score) > 0 and A_C_state == 1 and (A_test_score - C_test_score) > 0 and A_D_state == 1 and (A_test_score - D_test_score) > 0:
        return "A is significantly larger than B, C and D"
 
    if A_B_state == 1 and (A_test_score - B_test_score) > 0 and A_C_state == 1 and (A_test_score - C_test_score) > 0:
        return "A is significantly larger than B and C"
    final_text = ""
 
    if A_B_state == 1:
        if (A_test_score - B_test_score) > 0:
            final_text += "A is significantly larger than B"
        elif (A_test_score - B_test_score) < 0:
            final_text += "B is significantly larger than A"
 
    if A_C_state == 1:
        if (A_test_score - C_test_score) > 0:
            final_text += "\nA is significantly larger than C"
        elif (A_test_score - C_test_score) < 0:
            final_text += "\nC is significantly larger than A"
 
… # and so on…
 
    
 
    return final_text

Я считаю, что вы можете внести и другие улучшения, но это то, что меня особенно выделяет.

Вы можете использовать список result_a для хранения элементов, размер которых меньше A. То же самое для B, C и D. Затем вы можете использовать эти списки для создания окончательного текста:

def my_function():
    A_test_score = int(a.get())
    B_test_score = int(b.get())
    C_test_score = int(c.get())
    D_test_score = int(d.get())
 
    # Retrieving state of the checkboxes (1 = checked)
    A_B_state = A_B_var.get()
    A_C_state = A_C_var.get()
    A_D_state = A_D_var.get()
    B_C_state = B_C_var.get()
    B_D_state = B_D_var.get()
    C_D_state = C_D_var.get()

    # lists to store checking result
    result_a = []
    result_b = []
    result_c = []
    result_d = []

    if A_B_state:
        if A_test_score > B_test_score:
            result_a.append("B")
        elif B_test_score > A_test_score:
            result_b.append("A")

    if A_C_state:
        if A_test_score > C_test_score:
            result_a.append("C")
        elif C_test_score > A_test_score:
            result_c.append("A")

    if A_D_state:
        if A_test_score > D_test_score:
            result_a.append("D")
        elif D_test_score > A_test_score:
            result_d.append("A")

    if B_C_state:
        if B_test_score > C_test_score:
            result_b.append("C")
        elif C_test_score > B_test_score:
            result_c.append("B")

    if B_D_state:
        if B_test_score > D_test_score:
            result_b.append("D")
        elif D_test_score > B_test_score:
            result_d.append("B")

    if C_D_state:
        if C_test_score > D_test_score:
            result_c.append("D")
        elif D_test_score > C_test_score:
            result_d.append("C")

    # list to construct the final text
    final_result = []

    if result_a:
        final_result.append(f"A is significantly larger than {' and '.join(result_a)}")

    if result_b:
        final_result.append(f"B is significantly larger than {' and '.join(result_b)}")

    if result_c:
        final_result.append(f"C is significantly larger than {' and '.join(result_c)}")

    if result_d:
        final_result.append(f"D is significantly larger than {' and '.join(result_d)}")

    # return the final text
    return "\n".join(final_result)