Преобразование метода быстрой сортировки в target-c

Тип возвращаемого значения блока sortUsingComparator — NSComparisonResult. Но ваша реализация возвращает тип BOOL.

Одним из решений было бы использование:

[visibleViews sortUsingComparator:^NSComparisonResult(UIView *obj1, UIView *obj2) {
    return [@(obj1.frame.origin.x) compare:@(obj2.frame.origin.x)];
}];

Обратите внимание, что полный перевод будет:

NSArry *visibleViews = [[self.scrollView visibleViews] sortedArrayUsingComparator:^NSComparisonResult(UIView *obj1, UIView *obj2) {
    return [@(obj1.frame.origin.x) compare:@(obj2.frame.origin.x)];
}];