指定フォルダを削除します。
System.IO.Directory.Delete()関数を使います。

// 削除するフォルダが存在しない場合は
//      System.IO.DirectoryNotFoundException 例外が発生します。
// フォルダが空でない場合は
//      System.IO.IOException 例外が発生します。
System.IO.Directory.Delete(@"c:\unko");

// フォルダ内にファイルやフォルダが存在しても
// 問答無用で削除したい場合は
// 第二パラメータにtrueを指定
System.IO.Directory.Delete(@"c:\unko",true);