Mein Tipp in dem Bereich - bleib bei 24mm.
Wenn es denn wirklich "Altglas" sein muss, nimm das Nikkor 2.8/24 (K, Ai oder AiS) oder das Sigma 2.8/24 (dann aber nicht mit Canon EF-Anschluss, das funktioniert sonst nur bei Offenblende). Letzteres ist optisch richtig gut, hat eine genial niedrige Naheinstellgrenze und ist billig - 50-60€ für die manuelle Nikonversion - zu bekommen, aber recht anfällig für Lensflares.
Bei 20mm sieht es bei manuellen Festbrennweiten ziemlich dünn aus, die sind nicht ohne Grund entweder billig oder sauteuer. Das alte Nikkor 3.5/20 ist ganz ok, ab f8 schließlich auch an den Rändern scharf. Falls man die Ee-S-Mattscheibe in der 5D drin hat, macht das Fokussieren mit solchen "dunklen" Objektiven aber auch nur noch begrenzt Spaß.
28mm: Nikkor 2.0/28 Ai/AiS, Nikkor 2.8/28 AiS
Ansonsten machst Du mit einem gebrauchten Canon EF 2.8/24 nichts falsch, für 150-200€ bekommt man nichts kompakteres, komfortableres & optisch besseres; falls Dir die 28mm mehr liegen, das noch preiswertere EF 2.8/28, oder falls es gar ein Zoom sein soll, das Tamron 2.8-4/17-35.