开发者

C#调用C++ DLL bool返回值始终为true的问题

开发者 https://www.devze.com 2022-12-02 12:07 出处:网络 作者: cchangcs
目录C#调用C++ DLL bool返回值始终为true问题描述问题原因解决方案C#调用C++的DLL返回值为bool时,值混乱解决方案C#调用C++ DLL bool返回值始终为true
目录
  • C#调用C++ DLL bool返回值始终为true
    • 问题描述
    • 问题原因
    • 解决方案
  • C#调用C++的DLL返回值为bool时,值混乱
    • 解决方案

C#调用C++ DLL bool返回值始终为true

问题描述

在C#项目中,调用C++ DLL中方法时,bool 返回值始终返回true。

问题原因

C将布尔定义为4字节int,C++将其定义为1字节。C#团队决定在PInvoke期间使用4字节bool作为默认值,因为大多数系统API函数使用4字节值作为bool。如果要更改此行为,必须通过封送处理来完成,并指定要使用1字节值。

解决方案

方案一

pzgBzNVQ

采用int 返回值替代bool返回值,如返回1代表true,返回0代表false。

方案二

通过[return:MarshalAs(UnmanagedType.I1)]&编程客栈nbsp; 指定返回值为1字节值。

[DllImport("Whisper.dll", EntryPoint="Exis编程客栈t", C开发者_Js入门allingConvention=CallingConvention.Cdecl)]  
[return:MarshalAs(UnmanagedType.I1)]  
public static extern bool Exist([MarshalAs(UnmanagedTyp编程e.LPStr)] string name);

C#调用C++的DLL返回值为bool时,值混乱

现象:C++ 导出函数的返回值为 false,C# 调用该函数获取的返回值却为 true 。

原因:C++ 导出函数返回 false 时,采取的方式是:

将 C# 定义的用来接收返回值的 bool 所指的地址开始 4 个字节设为 0x01000000(见图1)。

http://www.devze.com

注:用 C++ 代码调用该导出函数时,采取的方式是:将 C++ 定义的用来接收返回值的 bool 所指的地址开始 1 个 字节设为 0x00;

为什么用 C# 代码调用该导出函数时,采取的方式不是:将 C# 定义的用来接收返回值的 bool 所指的地址开始 1个 字节 设为 0x00 ? —— 编译器问题(BUG?)。

图 1

C#调用C++ DLL bool返回值始终为true的问题

解决方案

在 C++ 导出函数中使用 BOOL 代替 bool 。

注:由于C++ 中的 BOOL 占4个字节,

C++ 导出函数返回 false 时,采取的方式是:

将 C# 定义的用来接收返回值的 bool 所指的地址开始 4 个字节设为0x00000000(见图2),因此不存在上述问题。

图 2

C#调用C++ DLL bool返回值始终为true的问题

图3

C#调用C++ DLL bool返回值始终为true的问题

以上为个人经验,希望能给大家一个参考,也希望大家多多支持我们。

0

精彩评论

暂无评论...
验证码 换一张
取 消

关注公众号