水中杂质包括挟带的粗大物质、悬浮物、胶体和溶解物。粗大的物质如河中漂浮的水草、垃圾、大型水生物、废水中的砂砾以及大块污物等。给水工程中，粗大杂质由取水构筑物的设施去除，不列入水处理的范围。
废水处理中，去除粗大的杂质一般属于水的预处理部分。悬浮物和胶体包括泥沙、藻类、细菌、病毒以及水中原有的和在水处理过程中所产生的不溶解物质等。溶解物有无机盐类、有机化合物和气体。去除水中杂质的处理方法很多，主要方法的适用范围可以大致按杂质的粒度来划分（图1）。由于原水所含的杂质和成品水可允许的杂质在种类和浓度上差别很大，水处理过程差别也很大。
就生活用水（或城镇公共给水）而论，取自高质量水源（井水或防护良好的给水专用水库）的原水，只需消毒即为成品水；取自一般河流或湖泊的原水，先要去除泥沙等致浊杂质，然后消毒；污染较严重的原水，还需去除有机物等污染物；含有铁、锰的原水（例如某些井水），需要去除铁、锰。生活用水可以满足一般工业用水的水质要求，但工业用水有时需要进一步的加工，如进行软化、除盐等。
当废水的排放或再用的水质要求较低时，只需用筛除和沉淀等方法去除粗大杂质和悬浮物（常称一级处理）；当要求去除有机物时，一般在一级处理后采用生物处理法（常称二级处理）和消毒；对经过生物处理后的废水，所进行的处理过程统称三级处理或深度处理，如当废水排入的水体需要防止富营养化所进行的去除氮、磷过程即属于三级处理（见水的物理化学处理法）。当废水作为水源时，成品水水质要求以及相应的加工流程随其用途而定。理论上，现代的水处理技术，可以从任何劣质水制取任何高质量的成品水。