Ai cara, eu não tinha percebido que a cena era externa e tinha GI, é como o Marco disse, não pode usar GI em cenas externas, só usa FG.
Pra usar GI tem que conhecer bem o MR, porque os photons vão se perder no espaço, ai tem esse lance da esfera.
Mas se não quiser ver a esfera vai ter que tratar ela com shaders tipo o transmat no surface.
É melhor fazer só com FG, é mais fácil pelo menos.
Dá pra usar só FG em cenas internas também, mas fica melhor com GI.
O Large BSP é um método de cálculo de raytrace que ele usa em cenas grandes, fica na aba renderer.
O render passes fica na aba processing, tem que renderizar pedaços tipo por Region e depois salvar num formato do MR, ai vc abre um arquivo zerado, carrega estes passes que gravou, coloca a resolução que precisa na imagem e manda renderizar, ai ele junta todas as partes com o tamanho que vc fez.
Se vc está mesmo afim de ficar manjando de mental ray, pode comprar o CD do site que vc não vai se arrepender