Вы можете проверить работу функции mail() следующим образом:

Создайте файл test.php в удобной директории. Содержание его должно быть примерно следующим (нужно подставить свои данные):

$message = "Мой текст здесь";
$to = "<myemail@gmail.com>";
$topic = "Hi world";
$headers .= "Content-type: text/html; charset=utf-8\r\n";
$headers .= "From: My VPS <test@domain.com>\r\n";
$mail = mail("$to", "$topic", "$message", $headers);
if ($mail == 1) echo «Почта отправлена»);
else echo «Почта не отправлена»;

Далее нужно выполнить команду php -q /full/path/to_file/test.php на вашем сервере. В результате на ваш ящик придет письмо, отосланное при помощи функции mail в php.