Прочитал в справке https://ahk-wiki.ru/winset
о такой вещи как WinSet Region

И получил код, который умеет обрезать часть окна. Окно как бы существует, но просто отображается - неполностью.

WinSet, Region, 50-0 W200 H250, Безымянный — Блокнот

На блокноте я его протестировал.

И сейчас у меня вопрос - а как сделать эту обрезку окна - наоборот ?
Чтобы в центре блокнота - было прозрачное круглое отверстие.

Внешняя обрезка по элипсу - вот так делается:

WinSet, Region, 50-0 W200 H250 E, Безымянный — Блокнот; Эллипс вместо прямоугольника.

А прямоугольное отверстие -

WinSet, Region, 0-0 300-0 300-300 0-300 0-0   100-100 200-100 200-200 100-200 100-100, WinTitle

Но для круглого или элиптического отверстия - пример не приведен.