Клавиша Delete в TextBox имеет особое назначение, поэтому событие KeyDown для нее не вызывается. Попробуйте использовать событие PreviewKeyDown.