Solaris Expressにしろ、Solaris Express, Community Releaseにしろ、VMware あるいはVirtual PCにインストールすることについては、難儀している人がいるようですね。僕の経験では、Windows XP with SP2にVirtual PC 2004で仮想マシンを作り、メモリを256MB割り当てたら、Solaris 10では、ちゃんとX Windowでインストーラが起動してきました。
本番機にインストールするんだったら、Solaris 10 U3 (11/06)の方がいいと思うけど。