La salida digital coaxial de mi HMR-600w esta conectado al home cinema en la entrada coaxial y va perfectamente, me reconoce el tipo de sonido si es dolby, dts, estereo, etc.
Como tienes configurado el sonido? puede que si no lo tienes es SPDIF RAW tu equipo al no recibir la señal digital pura te este dando ese mensaje. Ahora con la version 739 (por lo menos en el MR5000) tienes opcion para configurar por separado el SPDIF y el HDMI.