Es ist erwiesen, dass die Römer für das Militärlager und für die Zivilstadt Vindobona Steine aus dem Sieveringer Steinbruch verwendeten. Mit Sicherheit bestand dort auch eine größere Arbeitersiedlung. Die Römerstraße soll auch bei Überschwemmungen als Verbindungstraße donauaufwärts benützt worden sein.

Man vermutet, dass der Kirchtum der Pfarrkirche ein Überrest eines römischen Wachturmes war. 1896 fand man in der Sieveringer Straße 132 auch einen Mithrasaltar, der von einem Soldaten der 10. Legion gestiftet worden war. Der Altar befindet sich heute im Historischen Museum der Stadt Wien.

Im Mittelalter waren die Bewohner Bauern, die vorwiegend für den Eigenbedarf produzierten. Für den Verkauf baute man Wein an. Der Weinbau war im 13. und 14. Jahrhundert ausgedehnter und ertragreicher als heute.

Im 14. Jahrhundert erfolgte die Trennung des Ortes nach dem Verlauf des Arbesbaches in Ober- und Untersievering. Sie wurde 1330 erstmals urkundlich festgehalten. Die beiden alten Ortskerne von Unter- und Obersievering sind noch heute gut erkennbar.

Sievering war wie die umliegenden Orte besonders stark von den Einfällen der Ungarn und den Türkenkriegen betroffen. Noch heute erinnern vor dem Hause Sieveringerstraße 99 („Dreikugelschachinger“) drei steinerne, auf einem Sockel ruhende Kugeln von mehr als 40 cm Durchmesser an diese Belagerung Wien von 1683. 1713 wurde Sievering von der Pest heimgesucht. In Ober-Sievering waren 30 von 33 Häusern verseucht, in Unter-Sievering 32 von 34. Insgesamt fielen in Sievering 267 Menschen der Seuche zum Opfer.