для генерирования мелодий изучайте формат Wav и способ кодирования PCM. Генерируйте напрямую бинарные данные звука и воспроизводите через System.Media.SoundPlayer. Начните со звука одной частоты, затем пробуйте получать сумму звуков разных частот, имитируя музыкальные инструменты. 

другой подход - формировать файлы формата MIDI и использовать Windows Media Player для его воспроизведения. формат сложнее, но проще добиться звучания, похожего на реальные музыкальные инструменты

не знаю насчет библиотек для WPF и VSTi инструментов. единственный аудио-редактор, которым я пользовался, был Nero Wave Editor, который работает со звуком как с простой последовательностью байтов.

в формате MIDI звук именно представляется как набор нот определенных стандартных инструментов. в Windows есть интерфейсы для работы с ним, есть наверное и библиотеки для NET