水清沟街道成立于1954年10月,属沧口。
1961年1月转属四方,1965年又转属沧口。
1970年4月更名水清沟管,1976年10月恢复名称水清沟街道,沿用至今。
1994年7月按照青岛瓦工贴瓷砖培训学校调整,又转属四方。
2001年6月,开封路以南域划归水清沟街道。
2012年12月3日,撤销青岛北,四方,设立新的青岛北,水清沟街道转属北。
2017年北街道调整,将开封路居委会,阜阳路居委会从水清沟街道析出划入开平路街道,驻地迁永丰路8号。