Oi NosrewY, tudo bem?
A letra R antes do número da versão do programa se refere a palavra Release.
Não existe 3D Studio Max 8, não existe 3D Studio Max R8 e nem nada disso, só existe 3ds max 8.
Até a versão 4 o programa se chamava 3D Studio Max, a partir dessa versão passou a se chamar apenas 3ds max.
A letra S depois do 3D é a abreviação da palavra Studio.
O R de Release só era usado nas versões antigas do programa, quando rodava no sistema operacional DOS.
Sobre o Mental Ray, o ToGgY já te explicou detalhadamente, apenas para completar, o Mental Ray vem integrado com o 3ds max desde a versão 6.
Sobre plug-ins, se está iniciando no programa, a melhor dica que posso te dar é: "Esqueça todos os plug-ins".
O Max já é muito complexo para estudar só com os recursos nativos dele, vai levar de 4 a 7 anos para aprender bem o programa, se colocar um monte de plug-ins agora, vai complicar demais a sua vida sem necessidade.
Muitos plug-ins você nem vai conseguir encontrar pelo programa e quando estiver estudando, não saberá se o recurso é do Max ou foi adicionado por plug-ins.
E tem muitas outras desvantagens, quanto mais plug-ins tiver instalado, mais instável o Max fica e terá maior chance de encontrar problemas.
É raro precisar de algum plug-in para fazer algo, pois o Max oferece recursos suficientes para fazer quase tudo.
Só vale a pena usar um plug-in quando tem certeza que precisa dele em alguma situação, neste caso, vai instalar, usar e desinstalar em seguida.
Estude o Max, esqueça plug-ins e Scripts por pelo menos 2 anos.
De qualquer forma, para instalar basta copiar o arquivo do plug-in para a pasta plug-in do seu 3ds max.
Abraços