Ai Nandão, esse efeito é criado com um shader da Lume tools que vem escondido no Max, ele se chama Distortion.
Você pode destravar e usar, ele fica na livraria lume.mi dentro da pasta mentalray/shaders_standard/includes, dentro da pasta do 3ds max.
Abre o bloco de notas e procura pelo GUI do shader distortion, teclando CTRL+F é fácil de encontrar.
Ai vc deleta a tag HIDDEN no código dele.
Quando abrir o Max vai ter esse shader novo.
Pra acessar ele vc clica no slot Lens do Camera Shaders na aba Renderer dentro da janela Render Scene.
Pra configurar vc abre o Material Editor do lado e arrasta o shader pra uma esfera de material, ai aparece as configs dele.