国内or海外？

国内と海外のホスティングサービスどっちが良いのでしょうか？

速度

立地条件は国内のほうが有利です。国内のサーバの方がユーザと近い距離にあり、経由するサーバも少ないです。そのため同じ条件のサーバを国内と海外に置いた場合、国内の方がレスポンスは良いです。

ただ、速度を決定するのは距離だけではありません。サーバの状態が大きく影響します。サーバが重いとレスポンスも悪くなってしまいます。
サーバが重くなる原因としては、ひとつのサーバにユーザを詰め込み過ぎたり、サーバ側の回線速度が遅い場合などです。
サーバの処理を速くする方法としては、ハードウエアに高性能なものを使うことや、CGIやPHPに関してはソフトウエアで早くする方法もあります。
例えば、FastCGIやZend optimeizer、PHPのapache module版、mod_perl,mod_rubyを使うなどです。これらは国内のサーバでは初期状態では入っていない事が多いですが、海外では最初から使えることが多いです。

DreamHostでは、高性能なCPUのOpeteronを2個載せたサーバを採用しています。また、FastCGIやZend optimeizerが使用可能です。

安心感

日本語でサポートが受けられるという点で、国内の有名ホスティングサービスのほうがが良いでしょう。また、日本語の情報が多いのは国内のサービスです。
ただ、多くのホスティングサーバでは設定が似通っていますので、一般的な設定方法は国内であれ海外であれ変わりません。

初心者には何が良いの？

プロバイダのサービスをまず使ってみるのが良いと思います。
blogならblog専用のサービス（アメーバblogや、livedoor blog、hatenaなど）を使ってみるのがいいでしょう。
また、有料でホスティングサービスを利用するなら最初は国内のサービスをお勧めします。安く済ませたいのなら、ロリポップやさくらインターネットなどがお勧めです。
安心感を得たいのなら、高いですがWebAreanaなどがお勧めです。

ある程度スキルのある人は？

大きな容量、転送量、自由な設定などを求めるなら海外も良い選択だと思います。マルチドメインや、メーリングリスト、コンテンツ制限、データベース、アカウント数などではやっぱり海外のほうがいいです。

レスポンスについては、国内でも安いサーバだと重い事もありますし、一概に言えません。
自分で困ったことを調べられる人や、ある程度サーバのことがわかっている人には海外のサービスを試してみては？

私自身もホスティングに関しては、そんなに知識ありませんが、特に困ることなく使えています。海外サーバだからといって特殊なソフトが使われているわけでもないですから、日本のレンタルサーバでやり方がそのまま使える事も多いです。それでも無理なときは、英語日本語翻訳サービスの助けを借りながら、マニュアル(dreamhostのwiki)を読めばなんとかなります。

　国内海外
メリット日本語情報が豊富コストパフォーマンスが良い
　なんとなく安心自由度が高い
デメリット値段がやや高め日本語環境が悪いことがある
　　物理的に遠距離