Пробовал подставлять 0x000000

А чем это от Black отличается?
Я не уверен, что этот параметр вообще здесь играет роль. Я так понял из описания, что он применяется, когда в картинке, по которой мы ищем, есть прозрачные области, в вашем случае в картинке, которая в файле up.png. Именно в самой картинке, а не на экране.

CoordMode, Pixel, Screen
!2::
 imgFound := false
 while(imgFound = false)
 {
  imageSearch, x, y , 0, 0, 1920,1080, *TransBlack up.png
  if(x <> "")
  {
   MouseMove, %x%, %y%
   imgFound := true
  }
Else
{
Msgbox, Неудачно
Exit
}
}
return

Прилагаю картинки, с которыми необходимо провести манипуляции:

Imgur