アプリケーションのバージョン情報を取得する方法を２つ紹介します。
アプリケーションの更新通知などの仕組みに利用できると思います。

using System;
using System.Collections.Generic;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.Text;
using System.Windows.Forms;
using System.IO;
using System.Reflection;    // これを追加します Assembly
using System.Diagnostics;   // これを追加します FileVersionInfo

namespace WindowsFormsApplication1
{
    public partial class Form1 : Form
    {
        public Form1()
        {
            InitializeComponent();
        }

        private void button1_Click(object sender, EventArgs e)
        {
            // 現在実行中のアセンブリ参照を取得してバージョンを取得する方法
            Assembly asmbl = Assembly.GetExecutingAssembly();
            AssemblyName name = asmbl.GetName();
            MessageBox.Show(name.Version.ToString());

            // ファイル名を指定して、そのファイルのバージョンを取得する方法
            string filename = @"C:\src\FileMany\FileMany\bin\Release\FileMany.exe";
            if (File.Exists(filename))
            {
                FileVersionInfo filever = FileVersionInfo.GetVersionInfo(filename);
                MessageBox.Show(filever.FileVersion);
            }
        }
    }
}


					

Mutexを使って二重起動を防止します。
具体的には、FormLoad時などにMutexを作成してみて
既に作成されていれば二重起動されたと見なします。

private System.Threading.Mutex mutex;

private void Form1_Load(object sender, System.EventArgs e)
{
    // Mutexを作成（Mutex名はユニークな名前を付けてください）
    mutex = new System.Threading.Mutex( false, "unko" );
    if ( !mutex.WaitOne( 0, false ) )
    {
        MessageBox.Show( "二重起動です！", "INFO" );
        this.Close();
    }
}

private void Form1_Closed(object sender, System.EventArgs e)
{
    // 作成したMutexをクローズ
    mutex.Close();
}

					

前準備として
ツールボックス → コンポーネント → Process を
フォームにDrag&Dropします。

次にProcessコンポーネントの
EnableRaisingEventsプロパティーをtrueにし、
アプリ終了時のイベントを取得可能にします。

最後にProcessコンポーネントの
Exitedイベントハンドラを作成します。
（イベント一覧よりExitedをダブルクリック）

アプリ終了時にExitedハンドラが呼び出されるので
ここへ必要な処理を記述してください。

private void button1_Click(object sender, System.EventArgs e)
{
    try
    {
        process1.StartInfo.FileName = "notepad.exe";
        process1.Start();
    }
    catch( Win32Exception )
    {
        MessageBox.Show( "実行失敗", "ERROR" );
    }
}

private void process1_Exited(object sender, System.EventArgs e)
{
    MessageBox.Show( "終了したみたい", "INFO" );
}


					

System.Diagnostics.Processクラスを利用します。

try
{
    System.Diagnostics.Process proc = new System.Diagnostics.Process();

    proc.StartInfo.FileName = "notepad.exe";
    proc.Start();
}
catch( Win32Exception )
{
    MessageBox.Show( "実行失敗", "ERROR" );
}

					

メインFormのiconプロパティーに.icoファイルを指定すると
システムメニューボックスのアイコンを変更することができますが
さらにアプリケーションのアイコンを変更したい場合は

メニューより

【プロジェクト】→【プロパティー】

でプロジェクトのプロパティーを開き

【アプリケーション】タブの【リソース】グループ内の
【アイコンとマニフェスト】のところにアイコンを指定します。

アプリケーション自身を再起動させるには
Application.Restart();
を実行します。

多言語対応などで言語変更された場合や
バージョンアップ対応、設定変更反映などに使えると思います。


private void button1_Click(object sender, EventArgs e)
{
    Application.Restart();
}


					

Application.Exit()関数をコールします。


Application.Exit();