Regex получает несколько частей строки, а затем заменяет все новой строкой

Вы можете использовать preg_replace_callback с регулярным выражением с двумя захваченными группами:

$string1 = "asdfgsdfgsdf[quote=user9 postID=345]sdfgsdfgsdfgdsfg";

$string1 = preg_replace_callback (
   '/\[quote=(\S*)\s+postID=([^]\s]*)[^]]*]/',
   function($m) use(&$chars1, &$chars2) {
      $chars1 = $m[1];
      $chars2 = $m[2];
      return "_test_";
   },
   $string1
);

var_dump($string1, $chars1, $chars2);

Выход:

string(34) "asdfgsdfgsdf_test_sdfgsdfgsdfgdsfg"
string(5) "user9"
string(3) "345"