色を選択するダイアログは
ColorDialogコントロールとして既に用意されていますのでこれを利用します。

例としてFormにColorDialogコントロールを配置し
Buttonが押されたらButtonの背景色を選択するためのダイアログを表示します。

using System;
using System.Collections.Generic;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.Text;
using System.Windows.Forms;

namespace WindowsFormsApplication1
{
    public partial class Form1 : Form
    {
        public Form1()
        {
            InitializeComponent();
        }

        private void button1_Click(object sender, EventArgs e)
        {
            // 初期カラー設定
            colorDialog1.Color = button1.BackColor;

            // カスタムカラーを設定できるようにするか否か
            colorDialog1.AllowFullOpen = true;

            // ダイアログを表示
            DialogResult ret = colorDialog1.ShowDialog();

            // OKボタンが押されたらボタンの背景色を選択された色に変更
            if (ret == DialogResult.OK)
                button1.BackColor = colorDialog1.Color;
        }
    }
}