每个肾单位由肾小体及与之相连接的肾小管构成，具体结构如下：

肾小体

肾小体由肾小球和肾小囊组成。肾小球是位于入球小动脉和出球小动脉之间的一团毛细血管簇，肾小球外侧被肾小囊所包裹，肾小囊的脏层和壁层之间的间隙称为肾小囊腔。从肾小球滤过的液体流入肾小囊中。肾小囊延续即为肾小管。

肾小管

肾小管包括近曲小管、髓袢和远曲小管。小管的初始段高度屈曲，称为近曲小管。肾小管走行在髓质的一段呈“U”形，称为髓袢。髓袢接着连接远曲小管。近曲小管和髓袢降支粗段，称为近端小管；髓袢升支粗段和远曲小管，称为远端小管，远曲小管与集合管相连接。

每个肾单位都有单独生成尿液的功能，是肾脏的基本功能单位，它与集合管共同完成尿的生成过程。

肾脏不能再生新的肾单位，肾脏损伤、疾病或正常衰老情况下，肾单位的数量将逐渐减少。40岁后，功能性肾单位的数量每10年大约减少10%。但在正常情况下剩余的肾单位足以完成正常的泌尿功能。