Dudamel,
Acho que eu posso te ajudar nessa dúvida, pois eu também possuo um Nehalem (meu caso, LGA 1366).
No seu caso, ao adicionar mais memória você pode enfrentar dois problemas:
1) O primeiro problema é que se você adicionar um único módulo de memória, você vai desabilitar o triple channel. Para usar o triple channel da melhor forma, o ideal é ter 3 módulos ou 6 módulos de memória no total. Por isso mesmo é que os fabricantes de memória criaram os \"kits\" de memória. No entanto, já vi alguns casos em que a configuração de memória era diferente do recomendado, como a seguir:
Total 12GB
4GB (2 x 2GB) no Canal 1
4GB (1 x 4GB) no Canal 2
4GB (1 x 4GB) no Canal 3
O triple channel continuou habilitado, mas o desempenho caiu um pouco pois a memória do Canal 1 estava dividida em dois slots e isso altera o acesso à memória.
2) O segundo problema é que se você adicionar um módulo de memória com características diferentes, você vai ter perda de desempenho. Por exemplo, se você colocar um módulo de 1600MHz, todos os seus módulos de 2000MHz vão rodar a uma frequência de 1600MHz. Módulos de 2000MHz são capazes de rodar a 1600MHz, mas módulos de 1600MHz nunca serão capazes de rodar a 2000MHz. Então a equalização é sempre para baixo.
Respondendo sua pergunta... para que você não tenha nenhum problema (mensagem de erro no boot, travamentos, queda de desempenho, etc...), o ideal seria colocar mais um kit triple channel. Não importa a marca/modelo dos novos módulos, o que importa é que eles tenham as as mesmas características técnicas (Frequency, CAS Latency, Timing, Voltage) do kit que você já tem. Mas essa é uma tarefa árdua, pois os kits triple channels já não são tão fáceis de se encontrar. Sendo assim, a alternativa mais viável seria você abrir mão do triple channel da sua placa-mãe e comprar um kit dual channel. E sim, sua placa-mãe aceita memória dual channel.