Маршалинг SafeHandles от неуправляемого к управляемому

Сообщение об ошибке вводит в заблуждение. 100% возможно маршалировать безопасные дескрипторы из неуправляемых в управляемые, потому что именно так SafeHandles должны создаваться. Например, посмотрите, как определяется CreateFile:

[DllImport("kernel32.dll", CharSet=CharSet.Auto, SetLastError=true)]
private static extern SafeFileHandle CreateFile(string lpFileName, int dwDesiredAccess, 
    FileShare dwShareMode, SECURITY_ATTRIBUTES securityAttrs,
    FileMode dwCreationDisposition, int dwFlagsAndAttributes, IntPtr hTemplateFile);

Причина, по которой компилятор генерирует сообщения об ошибках, заключается в том, как вы объявляете делегата. Я сделал ту же ошибку, что и вы, и попытался использовать тип MySafeHandle в качестве параметра делегата, когда я объявил свой делегат обратного вызова (здесь неуправляемый код будет вызывать ваш управляемый код):

delegate void TimerCallback(IntPtr pCallbackInstance, IntPtr context, MySafeHandle ptpTimer);

Для чего я получил точно такое же сообщение об ошибке, как и у вас. Однако, как только я изменил свою подпись делегата на IntPtr, ошибка исчезла, поэтому мы видим, что наша наивная интуиция неверна...

delegate void TimerCallback(IntPtr pCallbackInstance, IntPtr context, IntPtr ptpTimer);

Видите, вуаля, ошибка исчезла! Теперь нам просто нужно решить, как использовать IntPtr, который входит в делегат, для поиска правильного объекта MySafeHandle...!

Как только я выясню, какое изменение устранило ошибку, я также смогу придумать теорию относительно того, почему оно устраняет ошибку.

Теория: (непроверенная)

Причина, по которой вы должны использовать IntPtr в подписи делегата, заключается в том, что SafeHandles являются особыми. Всякий раз, когда вы маршалируете как SafeHandle, маршаллер CLR автоматически преобразует непрозрачный дескриптор IntPtr в новый объект CLR SafeHandle, которому владеет рассматриваемый HANDLE. (Обратите внимание, что SafeHandles — это объекты, а не структуры!)

Если бы вы создавали новый объект-владелец для OS HANDLE каждый раз, когда вызывается делегат, у вас скоро были бы очень большие проблемы, потому что ваш объект будет собирать мусор, как только вы вернетесь из делегата!

Так что я предполагаю, что, возможно, компилятор просто пытается спасти нас от этой ошибки - в своей запутанной формулировке?

Хм ... просто мысли вслух, но я думаю, вам придется применить какую-то промежуточную обертку; SafeHandle работает с реализацией P/invoke во время базовой сортировки, но не с "ручной сортировкой", как вы здесь... попробуйте что-нибудь подобное, может быть?

internal delegate void InnerCallbackType(IntPtr instance, int argument);
public delegate void MyCallBackType(MySafeHandle instance, int argument);

public void SetCallback(Action<MySafeHandle, int> someFunc) 
{
    InnerCallbackType innerFunc = (rawHandle, rawArg) => 
    {
        someFunc(new MySafeHandle(rawHandle, true), rawArg);
    };
    var funcPtr = Marshal.GetFunctionPointerForDelegate(innerFunc);
    NativeFunction.setCallback(funcPtr);
}

Таким образом, вы все равно сохраните свою «безопасность типов» по ​​отношению к использованию SafeHandle, позволяя вам обрабатывать сортировку так, как вы хотите...

Возможно с некоторыми дополнительными шагами превратить IntPtr в MySafeHandle без прокси-передачи делегата в другого с помощью ICustomMarshaler.

делегат недействителен CallBackType (экземпляр MySafeHandle, аргумент int);

так что давайте сделаем с ним какую-нибудь причудливую штуку:

представьте, что мы передаем такой делегат в неуправляемую среду с соглашением о вызовах __cdecl (просто для примера):

[DllImport("some.dll", ExactSpelling = true, CallingConvention = CallingConvention.Cdecl)]
public static extern void setCallback([MarshalAs(UnmanagedType.FunctionPtr)] CallBackType callBackType);

а затем мы хотим украсить нашего делегата:

[UnmanagedFunctionPointer(CallingConvention.Cdecl)] // depends on unmanaged implementation, but for the example sake
delegate void CallBackType([MarshalAs(UnmanagedType.CustomMarshaler, MarshalTypeRef = typeof(MyCustomMarshaler))] MySafeHandle instance, int argument);

и, наконец, реализация ICustomMarshaler:

public sealed class MyCustomMarshaler : ICustomMarshaler
{
    private static MyCustomMarshaler _instance = new MyCustomMarshaler();

    public void CleanUpManagedData(object o)
    {
    }

    public void CleanUpNativeData(IntPtr ptr)
    {
    }

    public int GetNativeDataSize()
    {
        return IntPtr.Size;
    }

    public IntPtr MarshalManagedToNative(object o)
    {
        return IntPtr.Zero;
    }

    public object MarshalNativeToManaged(IntPtr ptr)
    {
        return new MySafeHandle()
        {
            handle = ptr
        };
    }

    public static ICustomMarshaler GetInstance(string s)
    {
        return _instance;
    }
}

Я опубликовал ответ, потому что ничего не нашел об этом в Интернете (вне зависимости от того, безопасно это или нет, или почему маршалинг не автоматически превращает IntPtr в SafeHandle).