Oi Serpa, tudo bem?
O sistema OSL no 3ds max funciona como um tipo de mapa que você pode aplicar em qualquer canal do material (Shader) de qualquer Render e vai aparecer igual em todos.
Você pode criar qualquer tipo de coisa neste mapa, desde somente uma cor até mapas procedurais complexos, tem duas formas de fazer, ligando Nodes para programar visualmente o que deseja ou escrevendo em código OSL, os Nodes estão no menu OSL do Material/Map Browser.
Portanto, é bom conhecer bem a composição comum com mapas no 3ds max e ter uma noção inicial de programação para poder fazer mapas legais em OSL.
Na internet tem muita coisa pronta feita por pessoas que entendem bem de programação de Shaders, é só buscar por Download OSL Shaders que vai achar um monte, dai você pode carregar o código no Max e usar.
Para carregar o código OSL você pega o OSL Map no menu General do Material/Map Browser, seleciona ele e clica no ícone da caneta para abrir o editor de OSL, como mostra a primeira imagem em anexo.
Ele vem com um código básico de exemplo, é só deletar tudo, colar o código que copiou da internet e clicar no botão Compile Shader, se der tudo certo ou mais ou menos certo, vai aparecer a mensagem que está OK na parte de baixo, como mostra a segunda imagem em anexo.
Veja que ele não entendeu uns recursos no meu exemplo e ignorou, como aparece na mensagem, mas o mapa funcionou e você pode ligar no canal que quiser do material, além de configurar os parâmetros ou aplicar outros mapas nos Inputs dele, como aparece na segunda imagem.
O Shader que usei de exemplo é para gerar Cavity, está neste link:
https://dl.dropboxusercontent.com/s/qwds1er58osjknj/cavity_normals.oslSe quiser você pode colocar os Shaders que gostar para carregar no Material/Map Browser do Max, dai eles serão listados como os demais Nodes para usar quando quiser sem ter que copiar o código e colar no Editor.
Porém, como disse no início, o Max só suporta mapas OSL e não materiais completos, então, não dá para carregar um código OSL de material de vidro, por exemplo, quando carregar um material vai dar uma mensagem de erro como mostra a terceira imagem em anexo, você pode carregar materiais OSL se estiver renderizando com o V-Ray.
Uma boa forma de iniciar a configuração dos seus próprios mapas OSL é através dos tutoriais da própria Autodesk, estão listados abaixo em ordem didática e você pode colocar legenda no Youtube se quiser.
https://www.youtube.com/watch?v=SJZWAqlzqS8https://www.youtube.com/watch?v=tUdDAoiiM48https://www.youtube.com/watch?v=bqS9ynW-TdUhttps://www.youtube.com/watch?v=1e13oLqwy6Uhttps://www.youtube.com/watch?v=UMy0aOQBzdkhttps://www.youtube.com/watch?v=9xcIv357JcYAbração e tudo de bom.
André Vieira