[lmikle]

Упс. Ну да, наверное.
проверь формулы - забыл уже давно все это...
А так, да, замени

Код:

MessageDlg('Нет решений.',mtInfo,[mbOK],0)

на

Код:

MessageDlg('Все пространство решений.',mtInfo,[mbOK],0)

Действительно, квадрат не может быть меньше 0...