Oi Hylian, tudo bem?
O Reactor existe desde o Max 3, era chamado de Havok, no Max 4 a Discreet comprou ele e passou a se chamar Reactor, vendido como plugin a parte.
No Max 6 o Reactor foi integrado ao 3ds max, fazendo parte do programa direto.
Quase a mesma coisa aconteceu com o Mental Ray.
A primeira versão do Max a aceitar o Mental Ray foi o 3ds max 3, mas nessa versão ele não estava integrado ao programa, precisa do Mental Ray Stand Alone, ou seja, o programa de render Mental Ray.
Com o Mental Ray Stand Alone instalado na máquina, se usava um plugin de conexão escrito pela própria Discreet, para interligar os dois.
Nessa versão só eram aceitos os efeitos de GI, Motion Blur, DOF, e Caustics, porque não havia integração com os Shaders do Mental Ray.
Isso durou até o Max 5, a partir do Max 6 o Mental Ray foi integrado ao programa, com seus Shaders e tudo mais, só não aceita o Net Render, obviamente, para renderizar em RenderFarm, precisa comprar as licenças.
Mas se é iniciante como disse, não vá por esse caminho que é mais longo, tem muita coisa para aprender antes de chegar num Reactor e num Mental Ray.
Abraços