Oi gente, tudo bem?
O 3ds max não tem uma ferramenta como essa porque não precisa.
O Max não deixa Layers na cena e nem é para trabalhar com Layers nele, os recursos de Layer são apenas para deixar mais compatível e amigável para quem vem do AutoCAD, mas o Max oferece recursos muito superiores para gerenciar o projeto e Layers só engessam o trabalho.
Não fica lixo no desenho como fica no AutoCAD, na cena só estão os objetos criados e os materiais, não tem nada a mais que fica escondido como no AutoCAD.
Para gerenciar o projeto, basta abrir o Select By Name, o Unhide by Name e o Material/Map Browser, nestas 3 janelas tem tudo que há na cena e nada fica escondido.
Pensar no Max como pensa no AutoCAD dificulta muito, porque são programas completamente diferentes, um é artístico e o outro é técnico, então, nem fazem parte da mesma categoria de programas.
Eu só concordo com a questão de limpar automaticamente todos os materiais que não estão na cena e no Material Editor, como disse o Murcegão, isso seria um recurso útil, não para jogar fora o que não quer, porque não precisa disso, mas para agilizar o trabalho quando está texturizando, depois que já usou os materiais, não precisa mais deles no Material Editor e seria legal poder apagar tudo de uma vez só.
Para tirar os materiais dos objetos da cena existe recurso, mas para limpar o Material Editor por completo não tem, só Scripts de terceiros, o Populate Material é o mais famoso, ele faz isso, limpa o Material Editor.
Abraços