Oi Daniel, Material é aplicado aos objetos. é composto de shaders, texturas e mapas procedurais (noise, smoke, etc.
Os materiais standard, têm diversas opções de shader... blin, anisotropic, etc..
Já no mental ray este conceito é mais abrangente, como disse o Alberto, podem ser aplicados dentro do material, pra diversas funções além de serem tb utilizados em materiais... Há shader pra controlar tudo, volume, efeitos, luz, texturas, etc...
Básicamente o material é aquele que vc carrega num slot e aplica na geometria da cena, mas sendo que vc tb pode arrastar um mapa pra um slot vazio... Os mapas aparecem como retangulos planos no visualizador de materiais, enquanto os shaders e materiais aparecem como esferas.
Ficou mais claro?
Sugiro que vc dê uma olhada mo help do max e no help do mental ray, shaders pra entender melhor.
Abs