フォームを表示すると
タスクバーにフォームのアイコンと名称が表示されますが
これを表示したくない場合は
ShowInTaskbarプロパティにfalseを設定します。

【補足】
フォーム表示後に同プロパティにfalseを設定すると
そのタイミングで非表示となります。

最初から非表示にしたい場合はデザイン時に設定しておくか
或いはFormのLoadイベントの中で同プロパティにfalseを設定するか
newした後、Show()或いはShowDialog()する前に
同プロパティにfalseを設定してください。

this.ShowInTaskbar = false;