De sperwer heeft een havikachtig profiel, echter een maat kleiner. Het vrouwtje is ongeveer even groot als mannetje havik, het mannetje sperwer is veel kleiner. Bovenzijde grijs-bruin. Vrouwtje is aan de onderzijde licht met fijne en dichte grijze strepen. Mannetje is aan de onderzijde rossig gestreept. Brede afgeronde vleugels. In de vlucht is de sperwer te onderscheiden van een havik door de rechts afgesneden staart. De sperwer heeft ook een relatief langere staart dan havik en een smallere staartbasis en lijf.