Здравствуйте.
В версии 2.6.х (как минимум) сообщения экспортируются в .xlsx неправильно (файл пустой)
Если Вы используете версию Simple-Scada ниже 2.7.6.0, то так и должно быть, в них работает только экспорт/импорт обычных сообщений, как описано в руководстве.
Начиная с обновления 2.7.6.0 поддерживается экспорт не только обычных сообщений, то и сообщений на основе шаблонов (т.е. вручную создавать нужно только сами шаблоны).
Можно получить описание формата Messages.smg?
Файл не просто так двоичный, он не предназначен для изменения пользователем. Файл имеет сложную структуру, которая меняется от версии к версии, в разных версиях скады она разная. Учитывайте, что редактирование двоичных файлов проекта может с большой вероятностью привести к необратимым для проекта последствиям, для исправления которых придётся создавать проект с нуля.