灰质和白质的功能不一样，灰质是神经中枢，起支配作用（包括脊髓灰质，它也可以控制一些低级的非条件反射。）；而白质则主要起传导作用，如脊髓白质主要传导脑部和脊髓灰质的兴奋。
在脊髓和延脑，外围主要是白质，内部是灰质；在大脑和小脑以及脑干，情况相反，外围是灰质，内部是白质。
脊髓的内部结构由灰质和白质组成，灰质位于中央，从横断面看呈左右对称的蝴蝶形，由各种神经细胞组成，脊髓灰质分为脊髓前角、侧角和后角，前角内有大量的运动神经细胞，侧角内含有交感神经细胞，而后角内含有感觉神经细胞；白质位于灰质的四周，由纵行的传导神经纤维组成，其主要的成分是由从大脑传达到脊髓的运动神经传导纤维组成的皮质脊髓束，以及从脊髓传达到大脑的感觉神经纤维组成的脊髓丘脑束组成。