É basicamente isso que o rene falou, mapa de reflexo define a cor e a intensidade do reflexo, quanto mais claro mais reflexivo.
Depois tem os controles de glossiness, entenda que existe dois controles que a principio vem travados para funcionar como um só: o glossiness do specular e o glossiness do reflexo. Specular é um reflexo falso, que serve para simular um reflexo das luzes, como materiais mais antigos faziam sem utilizar reflexo ou raytrace.
Por padrão o vray faz um balanço entre quanto vai usar de reflexo e quanto vai usar de especular e manter o material fisicamente correto, porém existe a opção de destravar o especular e controlar ele independente do reflexo. Ja vi fazerem isso quando o tempo de render é um problema e o glossiness abaixo de 1.0 no reflexo pesa muito, então destrava pra poder só baixar o glossiness do specular mantendo o reflexo inalterado. Fica falso, prefiro deixar sempre os dois trabalhando juntos, mas é bom saber que existem opções.
No final o mapa serve pra controlar esse valor do glossiness, branco é igual a 1.0 e preto igual a 0.0, assim vc pode marcar áreas com valores diferentes usando um mapa.