UpdateResource повреждает исполняемый файл

Фактический исполняемый файл PyInstaller имеет размер менее 300 КБ. Он присутствует в репозитории Git и находится в подкаталоге PyInstaller/bootloader/[операционная система].

Что делает PyInstaller при создании установщика, так это то, что он выполняет всевозможные сложные действия, чтобы выяснить, что нужно упаковать, создает архив этих файлов и добавляет архив к самому исполняемому файлу.

При вызове исполняемого файла он распаковывает архив, который является частью собственного исполняемого файла, во временный каталог, а затем запускает фактическую реализацию PyInstaller (которая сама написана на Python) из этого временного каталога. Сам исполняемый файл называется загрузчиком людьми PyInstaller. Что именно делает загрузчик, объясняется в соответствующей документации PyInstaller.

Если теперь вы возьмете сгенерированный таким образом исполняемый файл и воспользуетесь стандартными функциями Windows API для его редактирования, эти функции будут видеть только начальную загрузочную часть исполняемого файла, а не архив, который был добавлен. И по этой причине, когда они перезаписывают исполняемый файл обратно на диск, они перезаписывают только исполняемую часть, а не архив.

Поскольку архив содержит как код PyInstaller, так и код, который должен был быть упакован, а загрузчик — это просто очень простая программа (преднамеренно), загрузчик выйдет из строя, потому что он не может найти ничего общего с самим собой.

Чтобы изменить ресурсы в файле PyInstaller, вам нужно будет добавить эти ресурсы в процессе сборки PyInstaller, прежде чем сборщик добавит архив в загрузчик.

К счастью для вас, люди из PyInstaller уже подумали об этом и добавили параметр командной строки -r в установщик, чтобы вы могли легко использовать

pyinstaller -r file_with_resources.res your_script.py

вместо того, чтобы просто

pyinstaller your_script.py

Это автоматически добавит ресурсы из указанного файла ресурсов в сгенерированный установщик и должно достичь того, что вы хотите.

Перечитывая ваш вопрос, я теперь понимаю, что вы хотите сделать: у вас уже есть файл PyInstaller (вы не создаете его самостоятельно), и вы хотите изменить его постфактум.

Это должно быть возможно, если сначала отделить чистую PE-часть исполняемого файла от остальной части (то есть архива, который был добавлен к нему), затем изменить чистую PE-часть, а затем повторно добавить остальные.

Я написал небольшую функцию Python, которая сделает именно это:

import os, time
import pefile
import win32api, win32con
from PyInstaller.utils.win32 import winutils

def modify_pyinstaller(exe_file):
    if exe_file.endswith('.exe'):
        modified_name = exe_file[:-4] + '_modified.exe'
    else:
        modified_name = exe_file + '_modified.exe'

    size = 0
    with pefile.PE(exe_file, fast_load=True) as pe:
        size = pe.OPTIONAL_HEADER.SizeOfHeaders
        for section in pe.sections:
            size += section.SizeOfRawData

    # Copy just the initial .exe part
    with open(exe_file, 'rb') as fin, open(modified_name, 'wb') as fout:
        fout.write(fin.read(size))

    # This part of the code is from what you wanted to do with
    # the executable...
    handle = win32api.BeginUpdateResource(modified_name, False)
    try:
        win32api.UpdateResource(handle, win32con.RT_RCDATA, 110, "modified text".encode())
        win32api.EndUpdateResource(handle, False)
    except:
        win32api.EndUpdateResource(handle, True)
        raise
    # End of the part that should be modified...

    # Now that we've modified the exe, copy the archive back (the rest of the original file)
    # (note the 'ab' mode to append data)
    with open(exe_file, 'rb') as fin, open(modified_name, 'ab') as fout:
        fin.seek(size, os.SEEK_SET)
        fout.write(fin.read())

    # Now that we're done also keep virus scanners happy and update
    # the timestamps and PE checksums. Re-use PyInstaller's
    # implementation, because they already figured this out.
    # (Note that since we're now using PyInstaller's functionality
    # here, this will technically make this code GPL-2+, because
    # that's the license of PyInstaller!)
    winutils.set_exe_build_timestamp(modified_name, int(time.time()))
    winutils.update_exe_pe_checksum(modified_name)

Общая логика следующая:

• Он использует пакет pefile для извлечения размера исполняемой части файла без встроенного архива (сохраняет его в size)
• Затем он создает копию исходного файла, но только первые size байт (чтобы скопировать только исполняемый файл)
• Затем он выполняет изменения, которые вы хотите сделать (пожалуйста, замените эту часть кода)
• Затем он добавляет остальную часть содержимого исходного файла (начиная со смещения size байтов в исходном файле) в измененный файл.
• Поскольку PyInstaller также делает это, он обновляет временную метку и контрольную сумму PE вновь созданного файла (чтобы сканеры вирусов были довольны). (технически вы можете пропустить эту часть, если вам нужен только работающий .exe)
• Вам вообще не обязательно разбираться в каком формате архив, достаточно просто скопировать данные

По крайней мере, с тривиальным скриптом hello world Python это работает для меня, и оно должно работать в общем случае (на самом деле с любым самораспаковывающимся исполняемым файлом PE, а не только с теми, которые сгенерированы PyInstaller), но ваш пробег может отличаться.

Вероятно, вы можете оптимизировать это немного больше (в настоящее время я читаю все данные в память, прежде чем записывать их снова), но код должен иллюстрировать принцип.

Отказ от ответственности: делайте это только в том случае, если вы не можете самостоятельно воссоздать файл PyInstaller. Если вы все равно создаете файл установщика, разработчики PyInstaller уже добавили необходимые функции для добавления ресурсов в процессе сборки. (Подробности см. в моем другом ответе на этот вопрос.)