Если Вас интерисует алгоритм игры "Крестики-нолики 5 в ряд" то вот взгляните на исходник, может все станет ясно:
http://brevis.nm.ru/go-moku.zip
А если нужен алгоритм обычных "Крестиков-ноликов 3х3", то тут не надо ломать голову а реализовать алгоритм методом обычного перебора.
Удачи!