Причин может быть много. Например, в начале файла находится UTF8 Byte Order Mark, а парсер ожидает текст без нее. Возмите текстовый редактор с функцией выбора кодировки (типа Notepad++) и сохраните в "UTF8 без Byte Order Mark".

Скиньте файл на файлообменник, посмотрю. Не знаю, из-за чего еще может быть такая ошибка.

Нужен XPS файл, а не проект. У меня нормально работает, если ваш XPS с первого сообщения скопировать в файл. У вас видимо с файлом что-то не так.

XPS файл - сам по себе не XML. Он как документы Office 2007+, ZIP-архив, состоящий из XML-файлов. Вам нужно его распаковать и взять файл 1.fpage (переименуйте XPS в ZIP, сами все поймете).

Смотря под какую версию NET Framework вы планируете компилировать. Если 4.5 или более новые, то используйте класс System.IO.Compression.ZipArchive. Через GetEntry получаете файл, потом Open и работаете с потоком. 

Если под более старые версии, то либо сторонние библиотеки, либо COM-объект Shell (переименовать в расширение *.zip и работать с архивом как с папкой).

См. спецификацию формата: https://www.ecma-international.org/activities/XML%20Paper%20Specification/XPS%20Standard.pdf

Параметр RenderTransform задает матрицу преобразования, в котором последние два параметра это координаты для операции переноса OffsetX, OffsetY.