Чего-то дальше пока дела медленно двигаются: теперь момент подключения клиента известен, всё работает в асинхронном режиме, но записать содержимое в канал не получалось: по логике msdn я должен это делать вызовом, например, WriteFile и вызов должен бы возвращаться с ошибкой у меня бы должна происходить ошибкой ERROR_IO_PENDING (997, Overlapped I/O operation is in progress), что должно сигнализировать о протекающем процессе передачи.
Но вместо этой ошибки - команда возвращалась с ошибкой ERROR_NO_DATA (232 The pipe is being closed / Идет закрытие канала).
Оказалось, что надо на стороне клиента просто какой-то Sleep хотя бы использовать или подождать иным образом, т.к. WriteFile на сервере начинает отрабатывать уже после того, как клиент завершил CreateFile.

Потом я немного запнулся: клиент после CreateFile должен вызывать ReadFile (или подобную команду).
Заметил, что у вас вызов CreateFile предполагается со флагом FILE_FLAG_OVERLAPPED, но из-за ошибки в коде этого не происходит. В вашем коде для клиентской стороны в вызове CreateFile - лишняя строка:

            , "uint", 0

Ошибку исправил.
Но вот я не уверен, что следующий шаг я делаю правильно: я на клиентской стороне петлёй циклично вызываю ReadFile до тех пор, пока GetLastError не начнёт что-то выдавать, а на серверной стороне или закрываю хэндл (CloseHandle), либо после некоторого Sleep (чтобы клиент успел всё прочитать, но это ненадёжный вариант: я тут Sleep на глазок могу только выставить) инициирую разъединение канала (DisconnectNamedPipe).
Выполнение одного из этих двух действий на стороне сервера оборачивается тем, что на стороне клиента ReadFile генерирует ошибку ERROR_PIPE_NOT_CONNECTED (233 No process is on the other end of the pipe.) в случае, если сервер выполнил DisconnectNamedPipe, или ошибку ERROR_BROKEN_PIPE (109 The pipe has been ended.), в случае, если сервер выполнил CloseHandle.
Пока я остановился на CloseHandle, т.к. он не требует Sleep, но мне кажется, что что-то я делаю не правильно, хоть в итоге всё и работает кое-как.

    Ret := DllCall("GetOverlappedResult", "ptr", hPipe, "ptr", &OVERLAPPED
                                        , "ptr", 0, "int", False)
    If (Ret != False) {
        Break
    }

И чего-то я не понимаю какого чёрта он ведёт себя иначе, чем такой кусок, который использовался у меня:

    Ret := DllCall("GetOverlappedResult", "ptr", hPipe, "ptr", &OVERLAPPED
                                        , "ptr", 0, "int", False)
    If (Ret) {
        Break
    }

Другими словами: разве if (var) не то же самое, что и If (var != false)?

1. Не знаю зачем вы используете FuncSuffix := A_IsUnicode? "W":"A", ведь в справке по DllCall() сказано:

Это я то ли пропустил, то ли забыл.

Будет равно нулю, но это иногда означает ошибку в работе функции, а иногда нет. Для этого я и проверяю ещё A_LastError. Всё в соответствии с документацией.

Верно подмечено, я уж и забыл, что и FILE_FLAG_WRITE_THROUGH добавил. Вероятно, стоило тестировать и без него (над проблемой я уже неделю бьюсь).

Я пока пытаюсь его разобрать и это лишь часть комментариев/вопросов по вашему коду:
1. Не знаю зачем вы используете FuncSuffix := A_IsUnicode? "W":"A", ведь в справке по DllCall() сказано:

2. У меня реальный код тоже изобилует всяческими проверками, но некоторые из них не нужны. Например, при использовании флага FILE_FLAG_OVERLAPPED на этапе создания канала - нет смысла проверять возвращаемое ConnectNamedPipe значение, оно всегда будет равно нулю. Я не с целью придраться это пишу, а просто я уже документацию раз 20, наверно, прочитал и потому и делюсь мелкими нюансами. Я-то сначала вообще всё через try dllcall(…) throw exception(…) сделал, а потом понял, что я это сииильно погорячился так делать для каждой команды и что не всегда ошибка означает что-то плохое.
3. Благодаря вам заметил у себя в коде ошибку в вызове ConnectNamedPipe:
DllCall("ConnectNamedPipe", "ptr", hPipe, "ptr", &OVERLAPPED)
из-за того, что я отправлял саму структуру, а не её адрес (я запутался и зря полагался на "Ptr") - я как раз и наблюдал то поведение, которое я описал в первом посте и которое противоречит документации msdn:

4. Эту же ошибку я и в вызову GetOverlappedResult совершил, поэтому-то она всегда и выдавала мне false, а ещё я заметил, что вместо GetOverlappedResult я ошибочно вызывал HasOverlappedIoCompleted.
5. Сейчас я сам попытаюсь на основе вашего примера сделать передачу данных, но пока у меня какие-то странные ошибки: конкретно ваш скрипт - работает, а аналогично выстроенный но мой (который базируется на внешней библиотеке с функциями-обёртками вокруг DllCall вызовов) - отказывается. Причём всё идентично и я пока не понимаю в чём дело, плюс началась чертовщина, вроде того, что GetOverlappedResult возвращает пустоту (т.е. false), но при этом и проверка != false срабатывает. :-/ Смотрю длину строки - 0. Но не false. У меня уже шарики за ролики сейчас заезжают, я попозже ещё попытаюсь.

FILE_FLAG_OVERLAPPED := 0xc0000000

Вообще-то значение должно быть 0x40000000. У вас тут ещё добавлено FILE_FLAG_WRITE_THROUGH. Оно точно не мешает?

; server
OnExit, Exit
PIPE_ACCESS_DUPLEX := 3, FILE_FLAG_OVERLAPPED := 0x40000000, FILE_FLAG_WRITE_THROUGH := 0x80000000, PIPE_NOWAIT := 1

pipe_name := "test", open_mode := PIPE_ACCESS_DUPLEX | FILE_FLAG_OVERLAPPED | FILE_FLAG_WRITE_THROUGH, pipe_mode := PIPE_NOWAIT, content := (A_IsUnicode ? Chr(0xFEFF) : Chr(239) Chr(187) Chr(191)) "MsgBox, Hello world!"	; With BOM prepended.

testHWND := DllCall("CreateNamedPipe", "Str","\\.\pipe\" pipe_name , "UInt",open_mode, "UInt",pipe_mode, "UInt",255, "UInt",0, "UInt",0, "UInt",0, "Ptr",0, "Ptr")	; использоваться не будет, но особенность работы каналов в ahk требует этого.
pipeHWND := DllCall("CreateNamedPipe", "Str","\\.\pipe\" pipe_name , "UInt",open_mode, "UInt",pipe_mode, "UInt",255, "UInt",0, "UInt",0, "UInt",0, "Ptr",0, "Ptr")

overlapped := ""
VarSetCapacity(overlapped, 8 + 3 * A_PtrSize, 0)
eventHwnd := DllCall("CreateEvent", "Ptr",0, "Int",true, "Int",0, "Ptr",0, "Ptr")
NumPut(eventHwnd, overlapped, 8 + 2 * A_PtrSize, "Ptr")

DllCall("ConnectNamedPipe", "Ptr",pipeHWND, "Ptr",overlapped, "Int")

If (A_LastError == 536)
	MsgBox, Connecting to a pipe resulted into error 536`nWaiting for a process to open the other end of the pipe.
ExitApp

CallThisWhenClientConnects:
	DllCall("WriteFile", "Ptr",pipeHWND, "Str",content, "UInt",(StrLen(content) + 1) * (A_IsUnicode ? 2 : 1), "UIntP",0, "Ptr",overlapped, "Int")
	DllCall("CloseHandle", "Ptr",pipeHWND, "Int")	; это неправильно, но без этого, почему-то, не работает.
Return

Exit:
	DllCall("CloseHandle", "Ptr",testHWND, "Int")
	DllCall("CloseHandle", "Ptr",pipeHWND, "Int")
	ExitApp

; client
pipe_name := "test"
Run, %A_AhkPath% "\\.\pipe\%pipe_name%"

После WriteFile почему-то не отдаётся сигнал о завершении передачи на данных по каналу клиенту до тех пор, пока я не вызову CloseHandle на сервере - это ещё одна проблема, но оказывается, что она известна и по ссылке приводится решение, которое я не уверен, что подойдёт для ahk: как вызов метода read должен спасти в ситуации, где, насколько я понимаю, требуется решение на серверной стороне?

использования этого флага должно бы быть достаточно, но практика показывает, что, например, операция соединения сразу же не возвращается, а продолжает висеть до первого успешного соединения (т.е. когда клиент обратится к этому именованному каналу).
Поэтому, требуется использовать и флаг PIPE_NOWAIT, невзирая на

2. При соединении именованного канала (ConnectNamedPipe) требуется указать на валидную OVERLAPPED структуру.
И из-за того, что используется PIPE_NOWAIT - команда вернёт 0 с ошибкой

т.к. клиент ещё не обратился к каналу.

3. После этого следует как-то отловить момент обращения клиента к каналу

4. При обращении клиента к каналу - сервер должен записать в канал данные (WriteFile/WriteFileEx)

Отсюда возникают сложности и вопросы.
Насколько я понимаю, следуя логике msdn - отслеживать момент подключения клиента каналу надо через состояние события, созданного через CreateEvent. Указатель на это событие должен быть использован при создании OVERLAPPED структуры.
Это вроде не сложно сделать (вроде), но вот как потом проверять состояние этого события?
Msdn говорит, что макросом HasOverlappedIoCompleted указывая ему на OVERLAPPED структуру, но msdn в то же время говорит, что проверять его стоит только если последняя ошибка равняется 997 (ERROR_IO_PENDING).
Это что же, надо вызывать ConnectNamedPipe заново? Пробовал, всегда одна и та же ошибка №536.

Как правильно-то делать?