HTML код:

...
<script>
function check() {
if (document.getElementById('nya').value == "")
{
alert("Имя надо указать");
return false;
}
else return true;
}
</script>
...
<body>
<form action="script.php">
<input type="text" name="nya" id="nya" />
<input type="submit" value="Кнопка" onclick="check()" />
</form>
</body>
...
Это проверка на стороне клиента. Потом ещё добавляется проверка на стороне сервера.
AJAX тут совершенно ни к чему.