Oi Rafa, tudo bem?
O plug-in para ler HDRI no Max 5 é do Cuneyt Ozdas, você pode baixar neste link http://www.cuneytozdas.com/software/3dsmax/
É o mesmo plug-in que foi incorporado no Max 6 e faz parte do programa até hoje.
Seria muito bom se você pudesse migrar pelo menos para a versão 6, assim, já teria o Mental Ray integrado com todos os recursos de render possíveis.
Mas você pode criar imagens com GI e com iluminação HDR no Max 5 igual o Tiago disse, é só baixar esse plug-in para ler HDRI e aplicar a imagem HDR numa SkyLight, depois, usa o LightTracer do Max para gerar GI e iluminar com a HDRI.
O LightTracer fica dentro da ficha Advanced Lighting na janela Render Scene, teclando F10.
Abraços