Если речь идёт о простом сравнении, то это корелляция (сумма произведений), хотя мне больше нравится применять не максимум подобия (большие числа), а минимум сумм модулей или квадратов разностей (т.к. это маленькие числа).
Для сложных алгоритмов я бы не стал использовать Си или Delphi, а взял, напр., Матлаб:
вебинар "Компьютерное зрение"
Хотя для скорости вывода и обработки видео я использую DirectShow (на Delphi).