Попытка подключить MessageBox в C++ DLL и использовать их в приложении C#

После включения собственного кода отладки я вижу ошибку:

Исключение, возникающее по адресу 0x00007FFD2766F7FA (ucrtbased.dll) в Education.exe: 0xC0000005: местоположение чтения нарушения прав доступа 0x0000000000008002.

в строке:

if (lpcs->lpszClass && wcscmp(lpcs->lpszClass, L"#32770") == 0)

Согласно документации CREATESTRUCT:

лпсзкласс

Тип: ЛПКТСТР

Указатель на строку с нулевым завершением или атом, определяющий имя класса нового окна.

В вашем коде предполагается, что lpszClass всегда является указателем на строку, завершающуюся нулем, а не атомом, который действительно используется в системных диалогах.

Вы можете использовать макрос IS_INTRESOURCE(), чтобы различать их, например:

if (lpcs->lpszClass)
{
    if (IS_INTRESOURCE(lpcs->lpszClass))
    {
        if (reinterpret_cast<int>(lpcs->lpszClass) == 32770) {
            ...
        }

        /* alternatively:
        if (lpcs->lpszClass == MAKEINTATOM(32770)) {
            ...
        }
        */
    }
    else if (wcscmp(lpcs->lpszClass, L"#32770") == 0) {
        ...
    }
}

После 3 дней отладки (включая опробование всех методов, которые я придумал: проверка границ, проверка нулевого указателя, проверка ссылок...), но все еще застрял на нарушении прав доступа, я нашел решение, которое кажется более совершенным, чем один хук. Однако, чтобы заставить его работать, потребуется немало манипуляций, но я думаю, оно того стоит, особенно когда оно работает идеально.

Шаги будут довольно длинными, но я постараюсь быть максимально подробным. Короче говоря, я использовал XMessageBox, реверс-инжиниринг API Windows MessageBox, который восходит к эпохе Windows XP и Windows Vista и работает до сих пор. К счастью, Microsoft, вероятно, сохранила API MessageBox нетронутым и по сей день.

Я надеюсь, что это поможет людям, у которых такая же проблема, как и у меня. Если вы все еще просите решение, подключите MessageBox API: Извините, вы больше не можете этого сделать.

Вот подробности:

1. Во-первых, нам нужен XMessageBox. Быстрый поиск в Google выдаст результаты. Затем перейдите на официальную страницу проекта на CodeProject и загрузите его. После скачивания разархивируйте файл. После распаковки мы получим:

2. Перейдите в папку vs6\Release и запустите XMsgBoxTest.exe. Это будет то, с чего мы начнем

3. Здесь вы можете попробовать разные типы MessageBox. По моему требованию мне нужно изменить цвет фона и цвет текста. Нажимаем Gallery...

Нажмите на Custom Icon + Custom Colors, это то, что нам нужно.

Это то, что нам нужно. Теперь надо придумать, как это применить.... Давайте посмотрим на это поле. Это код, который нам нужен для отображения MessageBox, как показано в примере выше.

Теперь нам нужно СОХРАНИТЬ этот код для использования в будущем. Теперь вернитесь в Visual Studio и создайте новый проект C++ DLL MFC:

Дайте ему любое имя, но убедитесь, что оно находится в том же решении. После создания получим вот это:

Теперь вернитесь с папкой XMessageBox и перейдите в каталог src. Вы должны увидеть это:

Теперь нам нужно получить необходимые файлы. Вот эти файлы необходимы:

ЗАГОЛОВОЧНЫЕ ФАЙЛЫ

• XHyperLink.h
• XMessageBox.h
• XTrace.h

ИСХОДНЫЕ ФАЙЛЫ

• XHyperLink.cpp
• XMessageBox.cpp

Вот файлы, которые нам нужны:

Скопируйте их в каталог исходного кода нашего проекта C++ MFC DLL Project, после этого мы получим следующее:

Вернитесь в Visual Studio, щелкните правой кнопкой мыши Header Files в проекте C++ MFC DLL, затем выберите Add > Existing Item....

затем выберите все наши ЗАГОЛОВОЧНЫЕ ФАЙЛЫ

После этого сделайте то же самое с исходными файлами. После этого вы получите такую ​​структуру проекта:

Теперь, что не важно: перейдите к Win32MFC.cpp (обратите внимание, что имя файла будет меняться в зависимости от имени вашего проекта), затем прокомментируйте весь код внутри них, затем добавьте #include "pch.h" в этот файл. Это очень важно:

Сделайте то же самое с файлом заголовка:

Теперь вернитесь в каталог src XMessageBox, откройте файл StdAfx.h в вашем любимом редакторе, я буду использовать блокнот:

Скопируйте все коды, чтобы заменить текущее содержимое вашего framework.h:

Теперь откройте свои pch.h файлы. Затем добавьте этот код после #include "framework.h":

#include "XHyperLink.h"
#include "XMessageBox.h"
#include "XTrace.h"

Ваш файл должен выглядеть так:

Теперь откройте файлы XMessageBox.h и найдите это:

int XMessageBox(HWND hwnd,
    LPCTSTR lpszMessage,
    LPCTSTR lpszCaption = NULL,
    UINT nStyle = MB_OK | MB_ICONEXCLAMATION,
    XMSGBOXPARAMS* pXMB = NULL);

Это основная функция, которую нам нужно вызвать для отображения нашего пользовательского MessageBox. Их нам тоже нужно экспортировать. Просто замените функцию на:

extern "C" __declspec(dllexport) int __cdecl XMessageBox(HWND hwnd,
    LPCTSTR lpszMessage,
    LPCTSTR lpszCaption = NULL,
    UINT nStyle = MB_OK | MB_ICONEXCLAMATION,
    XMSGBOXPARAMS* pXMB = NULL);

Теперь перейдите к XMessageBox.cpp, найдите XMessageBox(). Вот что вы должны увидеть:

///////////////////////////////////////////////////////////////////////////////
//
// XMessageBox()
//
// The XMessageBox function creates, displays, and operates a message box.
// The message box contains an application-defined message and title, plus
// any combination of predefined icons, push buttons, and checkboxes.
//
// For more information see
//     http://www.codeproject.com/KB/dialog/xmessagebox.aspx
//
// int XMessageBox(HWND hwnd,                 // handle of owner window
//                 LPCTSTR lpszMessage,       // address of text in message box
//                 LPCTSTR lpszCaption,       // address of title of message box
//                 UINT nStyle,               // style of message box
//                 XMSGBOXPARAMS * pXMB)      // optional parameters
//
// PARAMETERS
//
//     hwnd              - Identifies the owner window of the message box to be
//                         created. If this parameter is NULL, the message box
//                         has no owner window.
//
//     lpszMessage       - Pointer to a null-terminated string containing the
//                         message to be displayed.
//
//     lpszCaption       - Pointer to a null-terminated string used for the
//                         dialog box title. If this parameter is NULL, the
//                         default title Error is used.
//
//     nStyle            - Specifies a set of bit flags that determine the
//                         contents and  behavior of the dialog box. This
//                         parameter can be a combination of flags from the
//                         following groups of flags.
//
//     pXMB              - Pointer to optional parameters.  The parameters
//                         struct XMSGBOXPARAMS is defined in XMessageBox.h.
//
///////////////////////////////////////////////////////////////////////////////

int XMessageBox(HWND hwnd,
    LPCTSTR lpszMessage,
    LPCTSTR lpszCaption /*= NULL*/,
    UINT nStyle /*= MB_OK | MB_ICONEXCLAMATION*/,
    XMSGBOXPARAMS* pXMB /*= NULL*/)
{
...
}

Замените эту функцию на:

extern "C" __declspec(dllexport) int __cdecl XMessageBox(HWND hwnd,
    LPCTSTR lpszMessage,
    LPCTSTR lpszCaption /*= NULL*/,
    UINT nStyle /*= MB_OK | MB_ICONEXCLAMATION*/,
    XMSGBOXPARAMS* pXMB /*= NULL*/)
{
...
}

Затем замените XHyperLink.cpp, XMessageBox.cpp строку #include "StdAfx.h" или #include "stdafx.h" на #include "pch.h":

Теперь нажмите Ctrl + Shift + B, чтобы построить проект. После этого вы получите это <Your Solution Directory>\x64\Release (обратите внимание, что x64 и Release будут зависеть от конфигурации вашей сборки):

Вы получите свою DLL следующим образом:

Теперь давайте проверим DLL, чтобы убедиться, что функция экспортирована. Я буду использовать PE Viewer в комплекте с System Informer, вы можете использовать другой инструмент, например CFF Explorer. Откройте свою DLL внутри инспектора, и вы получите это:

Нажмите на вкладку Exports:

и вы увидите что-то вроде:

Если нет, проверьте, есть ли у вас __declspec(dllexport) и extern "C". Обратите внимание, что extern "C" требуется, чтобы сообщить компьютеру, что эту функцию не следует украшать. Если нет, вы увидите, что Undecorated name имеет значение. В этом случае убедитесь, что вы уже поставили extern "C" перед __declspec(dllexport). Перестройте проект заново после внесения изменений.

Убедившись, что ваша функция DLL была экспортирована правильно, вернитесь в Visual Studio, а затем в том же решении создайте новую C++/CLI DLL Project.

Если вы не знаете, что такое C++/CLI DLL Project:

википедия

C++/CLI — это вариант языка программирования C++, модифицированный для Общеязыковая инфраструктура. Он был частью Visual Studio 2005. и более поздних версий, а также обеспечивает совместимость с другими языками .NET. например, С#. Microsoft создала C++/CLI для замены управляемых расширений для С++. В декабре 2005 года Ecma International опубликовала C++/CLI. спецификации соответствуют стандарту ECMA-372.

Теперь в Visual Studio создайте C++/CLI DLL Project, дайте им любое имя и нажмите Create:

В зависимости от того, написан ли ваш проект на .NET или .NET Framework, вы должны выбрать его правильно. Мое приложение написано на .NET, поэтому я выберу .NET.

Теперь вернемся к декларации XMessageBox():

extern "C" __declspec(dllexport) int __cdecl XMessageBox(HWND hwnd,
    LPCTSTR lpszMessage,
    LPCTSTR lpszCaption = NULL,
    UINT nStyle = MB_OK | MB_ICONEXCLAMATION,
    XMSGBOXPARAMS* pXMB = NULL);

Мы видим необходимые параметры XMSGBOXPARAMS. Так где XMSGBOXPARAMS? Они определены в одном файле XMessageBox.h:

struct XMSGBOXPARAMS
{
    XMSGBOXPARAMS()
    {
        nTimeoutSeconds = 0;
        nDisabledSeconds = 0;
        hInstanceIcon = NULL;
        hInstanceStrings = NULL;
        lpReportFunc = NULL;
        dwReportUserData = 0;
        nIdHelp = 0;
        nIdIcon = 0;
        nIdCustomButtons = 0;
        nIdReportButtonCaption = 0;
        x = 0;
        y = 0;
        dwOptions = 0;
        lpszModule = NULL;
        nLine = 0;
        bUseUserDefinedButtonCaptions = FALSE;          //+++1.5
        crText = CLR_INVALID;   //+++1.8
        crBackground = CLR_INVALID; //+++1.8

        memset(szIcon, 0, sizeof(szIcon));
        memset(szCustomButtons, 0, sizeof(szCustomButtons));
        memset(szReportButtonCaption, 0, sizeof(szReportButtonCaption));
        memset(szCompanyName, 0, sizeof(szCompanyName));
        memset(&UserDefinedButtonCaptions, 0, sizeof(UserDefinedButtonCaptions));   //+++1.5
    }

    UINT        nIdHelp;                        // help context ID for message;
    // 0 indicates the application’s 
    // default Help context will 
    // be used
    int         nTimeoutSeconds;                // number of seconds before the
    // default button will be selected
    int         nDisabledSeconds;               // number of seconds that all the 
    // buttons will be disabled - after
    // nDisabledSeconds, all buttons
    // will be enabled
    int         x, y;                           // initial x,y screen coordinates
    enum                                        // these are bit flags for dwOptions
    {
        None = 0x0000,
        RightJustifyButtons = 0x0001,           // causes buttons to be right-justified
        VistaStyle = 0x0002,            // setting this option bit will cause the 
        // message background to be painted with 
        // the current window color (typically 
        // white), and the buttons to be 
        // right-justified.    +++1.8
        Narrow = 0x0004         // uses a narrow width for message box -
        // SM_CXSCREEN / 3

    };
    DWORD       dwOptions;                      // options flags
    HINSTANCE   hInstanceStrings;               // if specified, will be used to
    // load strings
    HINSTANCE   hInstanceIcon;                  // if specified, will be used to
    // load custom icon
    UINT        nIdIcon;                        // custom icon resource id
    TCHAR       szIcon[MAX_PATH];               // custom icon name
    UINT        nIdCustomButtons;               // custom buttons resource id
    TCHAR       szCustomButtons[MAX_PATH];      // custom buttons string
    UINT        nIdReportButtonCaption;         // report button resource id
    TCHAR       szReportButtonCaption[MAX_PATH];// report button string
    TCHAR       szCompanyName[MAX_PATH];        // used when saving checkbox state in registry
    LPCTSTR     lpszModule;                     // module name (for saving DoNotAsk state)
    int         nLine;                          // line number (for saving DoNotAsk state)
    DWORD       dwReportUserData;               // data sent to report callback function
    XMESSAGEBOX_REPORT_FUNCTION lpReportFunc;   // report function
    COLORREF    crText;                         // message text color       +++1.8
    COLORREF    crBackground;                   // message background color +++1.8

    //-[UK
    // For not loading from resource but passing directly,
    // Use the following code.
    struct CUserDefinedButtonCaptions
    {
        TCHAR   szAbort[MAX_PATH];
        TCHAR   szCancel[MAX_PATH];
        TCHAR   szContinue[MAX_PATH];
        TCHAR   szDoNotAskAgain[MAX_PATH];
        TCHAR   szDoNotTellAgain[MAX_PATH];
        TCHAR   szDoNotShowAgain[MAX_PATH];
        TCHAR   szHelp[MAX_PATH];
        TCHAR   szIgnore[MAX_PATH];
        TCHAR   szIgnoreAll[MAX_PATH];
        TCHAR   szNo[MAX_PATH];
        TCHAR   szNoToAll[MAX_PATH];
        TCHAR   szOK[MAX_PATH];
        TCHAR   szReport[MAX_PATH];
        TCHAR   szRetry[MAX_PATH];
        TCHAR   szSkip[MAX_PATH];
        TCHAR   szSkipAll[MAX_PATH];
        TCHAR   szTryAgain[MAX_PATH];
        TCHAR   szYes[MAX_PATH];
        TCHAR   szYesToAll[MAX_PATH];
    };
    BOOL                        bUseUserDefinedButtonCaptions;  //+++1.5
    CUserDefinedButtonCaptions  UserDefinedButtonCaptions;      //+++1.5
    //-]UK
};

Итак, нам нужна структура XMSGBOXPARAMS, чтобы наша DLL-обертка работала. Самый простой способ — просто скопировать XMessageBox.h в каталог нашего проекта, добавить в раздел «Файлы заголовков» и закомментировать функцию, которую нам не нужно использовать в нашей оболочке, а также предотвратить ошибки.

Сделайте то же самое, чтобы скопировать XMessageBox.h в проект и добавить в файлы заголовков, вот конечный результат:

Теперь перейдите к XMessageBox.h в своем проекте-оболочке и прокомментируйте этот раздел:

int XMessageBox(HWND hwnd,
    LPCTSTR lpszMessage,
    LPCTSTR lpszCaption = NULL,
    UINT nStyle = MB_OK | MB_ICONEXCLAMATION,
    XMSGBOXPARAMS* pXMB = NULL);


DWORD XMessageBoxGetCheckBox(LPCTSTR lpszCompanyName, LPCTSTR lpszModule, int nLine);

DWORD XMessageBoxGetCheckBox(XMSGBOXPARAMS& xmb);

Ваш файл теперь должен выглядеть так:

Теперь создайте новый файл C++ в разделе «Исходные файлы». Дайте ему любое имя, которое вам нравится. Затем используйте этот код:

#pragma once

#include "XMessageBox.h"
#using <System.dll>
#using <System.Drawing.dll>

using namespace System;
using namespace System::Runtime::InteropServices;
using namespace System::Drawing;

namespace XMessageBoxWrapper {
    public ref class XMessageBoxParams {
    private:
        XMSGBOXPARAMS* m_pNativeParams;
    public:
        XMessageBoxParams() {
            m_pNativeParams = new XMSGBOXPARAMS();
        }

        ~XMessageBoxParams() {
            this->!XMessageBoxParams();
        }

        !XMessageBoxParams() {
            if (m_pNativeParams != nullptr) {
                delete m_pNativeParams;
                m_pNativeParams = NULL;
            }
        }

        // Properties
        property UInt32 IdHelp {
            UInt32 get() {
                return m_pNativeParams->nIdHelp;
            }
            void set(UInt32 value) {
                m_pNativeParams->nIdHelp = value;
            }
        }

        property Int32 TimeoutSeconds {
            Int32 get() {
                return m_pNativeParams->nTimeoutSeconds;
            }
            void set(Int32 value) {
                m_pNativeParams->nTimeoutSeconds = value;
            }
        }

        property Int32 DisableSeconds {
            Int32 get() {
                return m_pNativeParams->nDisabledSeconds;
            }
            void set(Int32 value) {
                m_pNativeParams->nDisabledSeconds = value;
            }
        }

        property System::Drawing::Color TextColor {
            System::Drawing::Color get() {
                return System::Drawing::Color::FromArgb(
                    GetRValue(m_pNativeParams->crText),
                    GetGValue(m_pNativeParams->crText),
                    GetBValue(m_pNativeParams->crText)
                );
            }
            void set(System::Drawing::Color value) {
                m_pNativeParams->crText = RGB(value.R, value.G, value.B);
            }
        }

        property System::Drawing::Color BackgroundColor {
            System::Drawing::Color get() {
                return System::Drawing::Color::FromArgb(
                    GetRValue(m_pNativeParams->crBackground),
                    GetGValue(m_pNativeParams->crBackground),
                    GetBValue(m_pNativeParams->crBackground)
                );
            }
            void set(System::Drawing::Color value) {
                m_pNativeParams->crBackground = RGB(value.R, value.G, value.B);
            }
        }

        XMSGBOXPARAMS* GetNativePointer() {
            return m_pNativeParams;
        }
    };
    
    public ref class XMessageBoxWrapper {
    public:
        [DllImport("Win32MFC.dll", CharSet = CharSet::Unicode, CallingConvention = CallingConvention::Cdecl, ExactSpelling = true)]
        static int XMessageBox(IntPtr hWnd, 
            [MarshalAs(UnmanagedType::LPWStr)] String^ lpszMessage, 
            [MarshalAs(UnmanagedType::LPWStr)] String^ lpszCaption, 
            unsigned int nStyle, 
            IntPtr pXMB);

        // Overloads
        static int XMessageBox(IntPtr hWnd, String^ lpszMessage) {
            return XMessageBox(hWnd, lpszMessage, nullptr, 0x00000030, IntPtr::Zero);
        }

        static int XMessageBox(IntPtr hWnd, String^ lpszMessage, String^ lpszCaption) {
            return XMessageBox(hWnd, lpszMessage, lpszCaption, 0x00000030, IntPtr::Zero);
        }

        static int XMessageBox(IntPtr hWnd, String^ lpszMessage, String^ lpszCaption, unsigned int nStyle) {
            return XMessageBox(hWnd, lpszMessage, lpszCaption, nStyle, IntPtr::Zero);
        }

        static int XMessageBox(IntPtr hWnd, String^ lpszMessage, String^ lpszCaption, unsigned int nStyle, XMessageBoxParams^ params) {
            if (params == nullptr) {
                return XMessageBox(hWnd, lpszMessage, lpszCaption, nStyle, IntPtr::Zero);
            }
            else {
                return XMessageBox(hWnd, lpszMessage, lpszCaption, nStyle, IntPtr(params->GetNativePointer()));
            }
        }
    };
}

Теперь создайте свой проект. Теперь вы должны увидеть две библиотеки DLL, например:

Если вам интересно, что такое ijwhost.dll:

проблема с github

Для поддержки библиотек C++/CLI в .NET Core был создан ijwhost как shim для поиска и загрузки среды выполнения. Все библиотеки C++/CLI связан с этой прокладкой, так что ijwhost.dll находится/загружается, когда Библиотека C++/CLI загружена.

Теперь мы почти закончили! Вернитесь к своему проекту C#, щелкните правой кнопкой мыши свой проект (у него есть логотип C#), затем выберите Add > Project reference...

и вы увидите свою C++/CLI DLL обертку:

Проверьте это, затем выберите «ОК», чтобы добавить ссылку.

Теперь мы можем протестировать нашу программу:

Программа.cs

using OSVersionExtension;
using System;
using System.Collections.Generic;
using System.Linq;
using System.Runtime.InteropServices;
using System.Threading.Tasks;
using System.Windows.Forms;
using XMessageBoxWrapper;

namespace Education
{
    internal static class Program
    {
        /// <summary>
        ///  The main entry point for the application.
        /// </summary>
        [STAThread]
        [System.Runtime.InteropServices.DllImport("user32.dll")]
        private static extern bool SetProcessDPIAware();
        static void Main()
        {
            // With custom parameters
            XMessageBoxParams xParams = new XMessageBoxParams();
            xParams.IdHelp = 12345;
            xParams.TimeoutSeconds = 10;
            xParams.DisableSeconds = 5;
            xParams.TextColor = Color.Red;
            xParams.BackgroundColor = Color.Blue;

            XMessageBoxWrapper.XMessageBoxWrapper.XMessageBox(IntPtr.Zero, "Hello, world!", "Custom Caption", 0x00000030, xParams);

            ApplicationConfiguration.Initialize();
            //HookMessageBoxW();
            //SetProcessDPIAware();

            // Check Operating System section
            // 
            // We only have rounded corners (actually is uDWM hack) on Windows 11
            // On earlier OS version, we need to apply our custom rounded corner
            // that defined in EllipseControl.cs
            //
            // To check Windows version, we use OSCheckExt from NuGet package
            // manager
            // 
            // So, we have these cases:
            //
            // Case 1: If users have Windows 11: Let's use native uDWM hack (inside
            //         dwmapi.dll) and opt in system rounded corners
            // 
            // Case 2: If users doesn't have Windows 11: We need to create 
            //         custom interface to enable rounded corners that defined
            //         in EllipseControl.cs then enable them in Form1.cs
            // 
            // Note that on Windows Server 2022, we still doesn't have uDWM hack,
            // actually uDWM hack exists only on Windows 11. So if we detected
            // Windows Server Edition, we have to use our custom rounded corners
            // defined in EllipseControl.cs to enable rounded corners effect
            //
            // 9/3/2024

            OSVersionExtension.OperatingSystem osFetchData = OSVersion.GetOperatingSystem();

            // Windows 11 detected
            if (osFetchData == OSVersionExtension.OperatingSystem.Windows11)
            {
                Application.Run(new Education_MainForm(true));
            }
            else
            {
                Application.Run(new Education_MainForm(false));
            }
        }
    }
}

Создайте свой проект, но не запускайте приложение

Скопируйте Win32MFC.dll в свой каталог, содержащий ваше приложение C# в EXE-файле. После этого ваш каталог будет выглядеть так:

Вот результат, который вы должны увидеть:

Удачи!