Написал свой пример, как раз для VS2012. Смотри аттач.
Твоя ошибка была в том, что текст ты в RTB добавлял так: Dialogbox.Text += say + Environment.NewLine;
Надо было через AppendText.
var additionalText = "Новый абзац\n";
var start = MyTextBox.Text.Length;
var length = additionalText.Length;
MyTextBox.AppendText(additionalText);
MyTextBox.Select(start, length);
MyTextBox.SelectionColor = Color.FromArgb(random.Next(256), random.Next(256), random.Next(256));