Регулярное выражение для соответствия разрывам строк и табуляциям между скобками

Вы можете использовать это рекурсивное регулярное выражение в preg_replace_callback:

$s = 'settings:a [
    a:[
        a:a
        b:b
    ]
    b:[
        a:a
        b:b
    ]
]';

echo preg_replace_callback('/\[(?:([^][]*)|(?R))*\]/', function ($m) {
      return preg_replace('/\s+/', ' ', $m[0]); }, $s) . "\n";

Выход:

settings:a [ a:[ a:a b:b ] b:[ a:a b:b ] ]

Демонстрация регулярных выражений

Вы можете использовать следующее регулярное выражение с preg_replace (так что подойдет один проход регулярного выражения):

[\t\n]+(?=[^][]*(?:(\[(?:[^][]++|(?1))*])[^][]*)*])

Посмотрите демонстрацию регулярного выражения . Подробности:

• [\t\n]+ — один или несколько символов табуляции или новой строки (используйте \s, если вам нужно сопоставить любой пробел, а также добавьте флаг модификатора u, если вам нужно обрабатывать тексты Unicode)
• (?=[^][]*(?:(\[(?:[^][]++|(?1))*])[^][]*)*]) — положительный прогноз, который требует, чтобы его шаблоны совпадали сразу справа от текущего местоположения:
  • [^][]* - ноль или более символов, кроме [ и ]
  • (?:(\[(?:[^][]++|(?1))*])[^][]*)* - ноль или более вхождений
    • (\[(?:[^][]++|(?1))*]) - Группа 1 (техническая, необходимая для работы рекурсии): [, затем любая подстрока между парными вложенными [ и ] и затем ]
    • [^][]* - ноль или более символов, кроме [ и ]
  • ] - символ ].

См. демоверсию PHP:

$re = '/[\t\n]+(?=[^][]*(?:(\[(?:[^][]++|(?1))*])[^][]*)*])/';
$str = "settings:a [\n  a:[\n       a:a\n       b:b\n   ]\n b:[\n       a:a\n       b:b\n   ]\n]\n\nsettings:b [\n  a:[\n   \n\na:a\n       b:b\n   ]\n]";
echo preg_replace($re, ' ', $str);
// => settings:a [ a:[ a:a b:b ] b:[ a:a b:b ] ]
//    settings:b [ a:[ a:a b:b ] ]