Декодирование base64 без учета скобок

Вам нужен цикл, который читает каждую строку и проверяет, является ли она base64 или не-base64, и обрабатывает ее соответствующим образом.

while read -r line
do
    case "$line" in
        \[*\]) echo "$line" ;;
        *) base64 -d <<< "$line" ;;
    esac
done << example.txt

Я уверен, что у кого-то есть более умное решение, чем это. Но попробуйте это

#! /bin/bash

MYTMP1 = ""
function printInlineB64()
{
    local lines=($(echo $1 | sed -e 's/\[/\n[/g' -e 's/\]/]\n/g'))
    OUTPUT = ""
    for line in "${lines[@]}"; do
        MYTMP1=$(base64 -d <<< "$line" 2>/dev/null)
        if [ "$?" != "0" ]; then
            OUTPUT = "${OUTPUT}${line}"
        else
            OUTPUT = "${OUTPUT}${MYTMP1}"
        fi;
    done
    echo "$OUTPUT"
}

MYTMP2 = ""
function printB64Line()
{
    local line=$1

    # not fully base64 line
    if [[ ! "$line" =~ ^[A-Za-z0-9+/=]+$ ]]; then 
        printInlineB64 "$line"
        return
    fi;

    # likely base64 line
    MYTMP2=$(base64 -d <<< "$line" 2>/dev/null)
    if [ "$?" != "0" ]; then
        echo $line
    else
        echo $MYTMP2
    fi;
}


FILE=$1
if [ -z "$FILE" ]; then
    echo "Please give a file name in argument" 
    exit 1;
fi;

while read line; do
    printB64Line "$line"
done < ${FILE}

и вот вывод

$ cat example.txt && echo "========================= = " && ./base64.sh example.txt
wq9cXyjjg4QpXy/Crwo=
[_NOTBASE64ED_]
aGkgdGhlcmUK
[_CONSTANT_]
SGVsbG8gV29ybGQhCg==
==========================
¯\_(ツ)_/¯
[_NOTBASE64ED_]
hi there
[_CONSTANT_]
Hello World!

$ cat example2.txt && echo "========================= = " && ./base64.sh example2.txt
aGkgdGhlcmUK[_CONSTANT_]SGVsbG8gV29ybGQhCg==
==========================
hi there[_CONSTANT_]Hello World!

Я бы предложил использовать другие языки, кроме sh, но вот решение, использующее cut. Это подойдет для случая, когда в строке находится более одного [_constant_].

#!/bin/bash

function decode() {
    local data = ""
    local line=$1
    while [[ -n $line ]]; do
          data=$data$(echo $line | cut -d[ -f1 | base64 -d)
          const=$(echo $line | cut -d[ -sf2- | cut -d] -sf1)
          [[ -n $const ]] && data=$data[$const]
          line=$(echo $line | cut -d] -sf2-)
    done
    echo "$data"
}

while read -r line; do
    decode $line
done < example.txt

Если Perl - вариант, вы можете сказать что-то вроде:

perl -MMIME::Base64 -lpe '$_ = join("", grep {/^\[/ || chomp($_ = decode_base64($_)), 1} split(/(?=\[)|(?<=\])/))' example.txt

Приведенный ниже код эквивалентен приведенному выше, но для объяснения разбит на шаги:

#!/bin/bash

perl -MMIME::Base64 -lpe '
    @ary = split(/(?=\[)|(?<=\])/, $_);
    foreach (@ary) {
        if (! /^\[/) {
            chomp($_ = decode_base64($_));
        }
    }
    $_ = join("", @ary);
' example.txt

• Опция -MMIME::Base64 загружает модуль кодека base64.
• Опция -lpe заставляет Perl bahave, как AWK, перебирать строки ввода и неявно обрабатывать новые строки.
• Регулярное выражение (?=\[)|(?<=\]) соответствует границе между блоком base64 и поддерживающим блоком, окруженным [...].
• Функция split делит строку на блоки на границе и сохраняет их в массиве.
• Затем переберите массив и декодируйте запись в кодировке base64, если она найдена.
• Наконец, объедините блоки подстроки в строку для печати.