Oi Malucow, tudo bem?
Então é o oposto, o problema acontece no DirectX, mas tenho quase certeza que é no OpenGL.
Isso é antigo, é desde a primeira versão, não sei no Max 9, mas nos outros, todos tem esse problema do modo de vídeo com o Reactor, tanto que o Reactor vem com essa opção no menu Display para inverter o modo de vídeo na hora de mostrar o preview.
Não sei exatamente se é um problema, já ouvi falar que é por o Max já estar aberto em openGL e ter que abrir o Reactor assim também na mesma seção, coisa do tipo, mas não importa. O importante é como resolver, normalmente habilitando essa opção da janela Display ele abre na boa.
Não sei se tem essa opção no Max 9, se não tiver, é porque resolveram.
Abraços