Mac OS X serverのDNSサーバーはIPv6でつながりません。DNSサーバーのアドレスがIPv6になっていると、Windows 8はIPv6でDNSサーバーに通信しようとするようです。しかしMac OS XのDNSサーバーはIPv6をlistenしていないため、time outでエラーします。するとWindows 8はDNSサーバーがない、と諦めてしまいます(ここでIPv4でトライするということがない)。
DNS サーバーのアドレスをIPv4だけにしてしまえばいいのですが、例えばTime CapsuleのDHCPサーバーを使っていると、自動的にIPv4とIPv6のサーバーアドレス(Time CapsuleのIPアドレス)が広告されてしまいます。これはすでにTCがIPv6対応しているからです。