Может я иду не по правильному пути и можно это все организовать проще? все может быть. Я тока изучаю autohotkey и естественно будут грубые ошибки и дурные вопросы.

При чём здесь AutoHotkey? Сюжет романа не зависит от того, на каком языке вы его напишете. Если сюжет скучный, то пишите хоть на каком языке, никто роман покупать не будет. В этом отличие алгоритма от его реализации.

#include gdip.ahk

SetBatchLines, -1
CoordMode, Pixel, screen
pixelArray :=[]
pToken := Gdip_Startup()
pBitmap := Gdip_BitmapFromScreen("100|0|50|150")
width := Gdip_GetImageWidth(pBitmap)
height := Gdip_GetImageHeight(pBitmap)
Gdip_LockBits(pBitmap, 0, 0, width, height, Stride, Scan0, BitmapData)
loop % width
{
   A_Index_X := A_Index-1
   loop % height
   {
      pixelArray[A_Index_X, A_Index-1] := Gdip_GetLockBitPixel(Scan0, A_Index_X, A_Index-1, Stride)
      var := Gdip_GetLockBitPixel(Scan0, A_Index_X, A_Index-1, Stride)
      PrevFormat := A_FormatInteger
      SetFormat, IntegerFast, H
      FileAppend, %var%`n, potok-kod_2.ini
      SetFormat, IntegerFast, % PrevFormat
   }
}
Gdip_UnlockBits(pBitmap, BitmapData)
Gdip_DisposeImage(pBitmap)
Gdip_Shutdown(pToken)

Чтобы выполнить вашу задачу в файл записывать не надо.
Можно просто сделать 16 циклов, по количеству картинок и подсчитывать совпадения.
Но попробуйте с файлом, если вам так удобно  - всё равно вы придете к тому, что обойти гугловскую капчу можно только с помощью ручного труда китайцев, и бросите эту затею.