Oi Maycon, tudo bem?
Na viewport do 3D você tem um preview em tempo real da cena, onde pode trabalhar facilmente, mas não vê todos os efeitos que deixam a cena realista, como sombras, materiais, reflexos e tudo mais.
O programa de render é que faz este cálculo e cria a imagem realista, ele calcula a interação das luzes com os materiais da cena e gera a imagem da cena 3D, como bater uma foto de uma cena real.
O 3ds max vem com 3 opções de render, o render padrão chamado de Scanline, o Radiosity, que é o antigo Render LightScape do AutoCAD transformado em plug-in do Scanline para gerar GI, que é o efeito mais importante de iluminação para deixar a cena realista, mas o Radiosity só faz isso.
Já o Mental Ray, é o melhor render do mundo, como o Múcio disse, ele vem nos 3 grandes programas de 3D, o Max, o Maya e o XSI, é usado largamente em cinema e permite criar todos os efeitos que existem em 3D.
Ele está disponível no Max desde a versão 6 e você pode habilitar na janela Render Scene, teclando F10. Nesta janela tem o menu Assign Render, clicando no botão com 3 pontinhos em frente ao item Production aparece a janela para escolher o Mental Ray.
Depois disso aparecem as fichas de configuração dele na janela de render e os Shaders no Material/Map Browser dentro do Material Editor.
Mas realmente é um assunto bem mais avançado e precisa de um conhecimento prévio das bases do 3ds max.
Abraços