да, нельзя блочные элементы вставлять в инлайн. Сделай наоборот
Код:

<html>
<head>
<style type="text/css">
div a{
display:block;
border:1px solid #000;
width:30px;
height:30px;
text-decoration:none;
}
div {
border:1px solid #030;
width:30px;
height:30px;
}
</style>
</head>
<body>
<div id="out" class="out">
<a href="" id="in">hallo</a>
</div>
</body>
</html>