Densidade de pixels é a proporção da quantidade de pixels pelo tamanho do sensor. Exemplo, imaginando sensores quadrados pra facilitar a matemática:
Um sensor de compacta com 10 megapixels e densidade de pixels de 50mp/cm² possui 0,2cm² (algo como 4mm x 4mm) de área.
Um sensor de DSLR com 10 megapixels e densidade de pixels de 5Mp/cm² possui 2cm² (1,4cm x 1,4cm aproximadamente).
O que significa dizer que o pixel da DSLR tem a área de (1,4/0,4)² pixels da compacta, aproximadamente 12 vezes maior.
Ou seja, esse pixel precisa de 12 vezes menos luz para conseguir a mesma resposta, ou 3 pontos e meio a menos(cada ponto equivale a metade/dobro da luz). Resultado: A ISO 1600 na DSLR, você possui o mesmo ruído que ISO 125 na compacta.
Claro que esses valores são exemplos, e você precisa adaptar seu cálculo para as câmeras em questão, e além disso entram os algoritmos de redução de ruído e a tecnologia do sensor. Mas isso explica perfeitamente o motivo de câmeras compactas produzirem fotos com aquele aspecto artificial, plástico, que só algoritmos de redução de ruído fazem por você.
Espero que tenha ficado claro.