Gråspurven er en hulruger, der bygger en omfangsrig, lidt rodet rede af strå og fjer i hulrum i bygninger, under tagsten, i facaderevner eller i kasser. Hunnen lægger oftest 3–6 æg, og parret når ofte to til tre kuld på en sæson. Begge forældre fodrer ungerne. Den aftagende adgang til egnede redehulrum i moderne bygninger anses for at være en af årsagerne til tilbagegangen.