C# вызывает функцию C, которая возвращает структуру с массивом символов фиксированного размера

Проблема в том, что нативная функция возвращает непреобразуемый тип в качестве возвращаемого значения.

http://msdn.microsoft.com/en-us/library/ef4c3t39.aspx

P/Invoke не может иметь непреобразуемые типы в качестве возвращаемого значения.

Вы не можете p/Invoke этого метода. [EDIT Это действительно возможно, см. ответ JaredPar]

Возвращать 132 байта по значению — плохая идея. Если бы этот нативный код был вашим, я бы его поправил. Вы можете исправить это, выделив 132 байта и вернув указатель. Затем добавьте метод FreeFrame, чтобы освободить эту память. Теперь его можно p/Invoked.

В качестве альтернативы вы можете изменить его, чтобы он принимал указатель на память фрейма, которую он будет заполнять.

Есть две проблемы с выбранной вами подписью PInvoke.

Первое легко исправить. У вас неправильный перевод unsigned long. В C unsigned long обычно составляет всего 4 байта. Вы выбрали тип С# long размером 8 байт. Изменение кода C# для использования uint исправит это.

Второй немного сложнее. Как указал Тергивер, CLR Marshaller поддерживает структуру в позиции возврата только в том случае, если она является преобразовываемой. Blittable — это причудливый способ сказать, что он имеет точно такое же представление памяти в нативном и управляемом коде. Выбранное вами определение структуры не является преобразовываемым, поскольку оно имеет вложенный массив.

Это можно обойти, если вы помните, что PInvoke — очень простой процесс. CLR Marshaller действительно нужно, чтобы вы ответили на 2 вопроса с подписью ваших типов и методов pinvoke.

• Сколько байт я копирую?
• В каком направлении им нужно идти?

В этом случае количество байтов равно sizeof(unsigned long) + 128 == 132. Итак, все, что нам нужно сделать, это создать управляемый тип, способный к преобразованию и имеющий размер 132 байта. Самый простой способ сделать это — определить большой двоичный объект для обработки части массива.

[StructLayout(LayoutKind.Sequential, Size = 128)]
struct Blob
{
   // Intentionally left empty. It's just a blob
}

Это структура без членов, которая будет отображаться для маршаллера как имеющая размер 128 байт (и в качестве бонуса она может быть преобразована!). Теперь мы можем легко определить структуру Frame как комбинацию uint и этого типа.

struct Frame
{
    public int Identifier;
    public Blob NameBlob;
    ...
}

Теперь у нас есть преобразуемый тип с размером, который маршаллер увидит как 132 байта. Это означает, что он будет отлично работать с определенной вами подписью GetFrame.

Единственная оставшаяся часть — дать вам доступ к фактическому char[] для имени. Это немного сложно, но может быть решено с помощью магии маршала.

public string GetName()
{
    IntPtr ptr = IntPtr.Zero;
    try
    {
        ptr = Marshal.AllocHGlobal(128);
        Marshal.StructureToPtr(NameBlob, ptr, false);
        return Marshal.PtrToStringAnsi(ptr, 128);
    }
    finally
    {
        if (ptr != IntPtr.Zero) 
        {
            Marshal.FreeHGlobal(ptr);
        }
    }
}

Примечание. Я не могу комментировать часть соглашения о вызовах, потому что я не знаком с GetFrame API, но это то, что я обязательно проверю.

Другой вариант для JaredPar — использовать функцию буфера фиксированного размера C#. Однако это требует, чтобы вы включили настройку, чтобы разрешить небезопасный код, но это позволяет избежать двух структур.

class Program
{
    private const int SIZE = 128;

    unsafe public struct Frame
    {
        public uint Identifier;
        public fixed byte Name[SIZE];
    }

    [DllImport("PinvokeTest2.DLL", CallingConvention = CallingConvention.Cdecl, CharSet = CharSet.Ansi)]
    private static extern Frame GetFrame(int index);

    static unsafe string GetNameFromFrame(Frame frame)
    {
        //Option 1: Use if the string in the buffer is always null terminated
        //return Marshal.PtrToStringAnsi(new IntPtr(frame.Name));

        //Option 2: Use if the string might not be null terminated for any reason,
        //like if were 128 non-null characters, or the buffer has corrupt data.

        return Marshal.PtrToStringAnsi(new IntPtr(frame.Name), SIZE).Split('\0')[0];
    }

    static void Main()
    {
        Frame a = GetFrame(0);
        Console.WriteLine(GetNameFromFrame(a));
    }
}