System.Diagnostics.Processクラスを利用します。

try
{
    System.Diagnostics.Process proc = new System.Diagnostics.Process();

    proc.StartInfo.FileName = "notepad.exe";
    proc.Start();
}
catch( Win32Exception )
{
    MessageBox.Show( "実行失敗", "ERROR" );
}