アプリケーション自身を再起動させるには Application.Restart(); を実行します。 多言語対応などで言語変更された場合や バージョンアップ対応、設定変更反映などに使えると思います。
private void button1_Click(object sender, EventArgs e) { Application.Restart(); }