В свое время мучался с подобной проблемой с POS-терминалом.
Решилось подбором нужной комбинации параметров/флагов у CreateProcess.
Еще можно попробовать запустить это дело через cmd.exe
Если правильно помню, то
Код:
cmd.exe /c [command] [args]
В таком виде хоть можно будет смотреть что там выводится, если перенаправить вывод в файл.