Gråspurven er snakkesalig og høres ofte fra hække og tage. Det almindeligste kald er et vedholdende, kvidrende "*tjilp-tjilp*". "Sangen" er ikke meget mere end en monoton, knirkende række af de samme kvidrende kald. Lydbilledet fra en koloni er en vedvarende summen af kvidrende fugle. Nogen egentlig sang mangler altså, men den vedholdende kvidren hører til de mest velkendte lyde omkring huse, gårde og ældre bykvarterer.