Мало информации. Напишите на какую ОС какую редакцию SQL сервера ставите, и приведите содержимое журнала установки (текстовый файл где-то в Program Files\Microsoft SQL Server\...\Setup bootstrap\Log\...)

Какая редакция ОС (Home/Pro/Enterprice)?

Какая редакция SQL Server (Express/Standart/Enterprice)?

Если не получается вставить журнал в сообщение, выложите файл на файлообменник и киньте ссылку. 

Не тот журнал. Нужен либо Summary_engine-base(...).txt либо detail.txt. См. https://msdn.microsoft.com/ru-ru/library/ms143702%28v=sql.120%29.aspx

Я понял какие версии, важны редакции. Насколько я знаю, Enterprice не ставится на Home-редакции ОС. Хотя не могу сейчас найти документ, где расписаны требования по редакциям.

Пока единственная идея - что-то не так с учетной записью, на которую настроен запуск служб. Попробуйте во время установки, на экране где выбирается учетная запись для служб, поменять ее на другую (NETWORK SERVICE или LOCAL SERVICE должны сработать)

Попробуйте воспользоваться рекомендациями статьи: SQL Server Troubleshooting: Could Not Find Database Engine Startup Handle Error During installation

Вкратце

1. Полностью удалить SQL Server 2016

2. Создать точку восстановления (на всякий случай)

3. Запустить установку с правами администратора

4. В окне выбора службы для Database engine выбрать NT AUTHORITY\SYSTEM

Если установка удалась, в конфигурации переключить службу на более безопасные учетки (NETWORK SERVICE или LOCAL SERVICE)

Если не помогло, дальше изучать логи (в том числе detail.txt). Откатываться к точке восстановления и пробовать что-то еще.