Přibližně od 7. století před našim letopočtem bylo Rakousko pod vlivem tzv. Halštatské kultury – její jméno vzniklo právě na základě jména středorakouského města Hallstatt. Ale v tomtéž období pod Alby dorazil iránský kmen Skythů. Keltové je definitivně vytlačili kolem 4. století před naším letopočtem. V tomto období zde vznikly také různá keltská království jako Noricum či Rhaetia. Kolem druhého století na tato území se začaly tlačit germánské kmeny, ale území se na konec stalo součástí Římské říše (15 p.n.l Rhaetie a 8 p.n.l. Noricum).
Ve druhém století tato římská území začaly najíždět germánské kmeny Markomanů a Kvádů. Od konce čtvrtého století území Rakouska bylo na cestě velkého stěhování národů (tehdy hlavně germánské kmeny, ale i například Hunové). V šestém až osmém století se zde potkávaly jak kmeny Bavorů tak Slované. Ve století začlenil zdejší krajinu do své nové říše Římské Karel řečený Veliký, stalo Dunajskou Markou o století později Východní Markou. V desátém století se zdejší území stalo na čas do područí expansivních maďarských kmenů. Ty byly vytlačeny a Východní Marka byla svěřena do péče rodu Babenberků. Ve dvanáctém století byla Východní Marka povýšena na vévodství a stala se po pohlcení Štýrska také jedním ze silnějších německých států. To začalo způsobovat různé konflikty s mocnými sousedy z Bavor a Čech. Po vymření Babenberků po meči Rakousko na chvíli ovládal Přemysl Otakar II., ale na konec skončilo v roce 1278 rukou habsburského rodu, se kterým na více než půl tisíciletí spojilo svojí další historii.
Habsburkové začali postupně zvětšovat své državy (přidali například Korutany či Tyroly), na krátko se sice území rozdělilo mezi potomky Rudolfa IV. ale později Maxmilián v roce 1491 území znovu sjednotil. Jeho vnuk Ferdinand navíc získal českou a uherskou korunu a Rakousko bylo od té doby jedním z nejmocnějších států Evropy (Habsburkové od smrti Zikmunda Lucemburského také získali titul Římského císaře (a až na malinkou pauzu v 18. století ho drželi až do roku 1806). V šestnáctém století se Habsburkům také podařilo získat državy v Holandsku a také korunu Španělska i když v obou zemích vládly různé větve tohoto rodu. Spolu s maďarskými zeměmi pro Rakousko vyvstal problém hranic s Tureckem a následné staletí trvající konflikty, kdy se Turkům dokonce několikrát podařilo obléhat Vídeň. Hlavní války s Tureckem skončily až podepsáním míru v roce 1699, předcházela tomu velká výhra spojeneckých křesťanských vojsk pod vedením polského krále Jana Sobieského u Vídně v roce 1683. Rakousko se velmi silně postavilo proti reformaci, v době třicetileté války bylo jedním z vůdčích států Katolické ligy. Po Vestfálském míru Rakousko přestalo být vládcem v Německu (de facto, de iure mu císařská koruna zůstala), ale jeho vláda nad zeměmi rakouskými, českými a maďarskými se stala nezpochybnitelná. Ve válkách o španělské dědictví Rakousko získalo ještě další území, ale od té doby spíše začal postupný mocenský úpadek Rakouska (i když se mu několikrát podařilo získat další územi – například v Polsku). Prvním náznakem byly války s Pruskem, které postupně převzalo roli vedoucího německého státu, dalším byly série porážek s Napoleonem (i když na konec Rakousko bylo na straně vítězů).
V polovině 19. století Rakouskem podobně jako jinými zeměmi zmítalo národní obrození. Prvním takovým významnějším signálem byla Krakovská revoluce, po ní následovaly bouře v Itálii, Praze a hlavně v Uhrech. Porážky ve válkách v Itálii a s Pruskem vedly k rakousko-uherskému vyrovnání a vytvoření konstituční monarchie Rakousko-Uhersko. Problém s částí populace byl vyřešen, ale jiné národy v tom hlavně velmi silná česká strana, spokojena nebyla. To také vedlo k tomu, že po porážce Rakouska-Uherska v první světové válce se monarchie rozpadla na samostatné státy a samotné Rakousko se stalo v roce 1918 republikou.
Rakousko jako poražená země přišla o území a navíc bylo nuceno platit reparace. Zhoršující se hospodářská situace sice vedla k odkladu reparací, ale ekonomiku to nevylepšilo. Z těchto důvodů začaly v Rakousku vzrůstat německé nacionalistické snahy a také přání o přičlenění se k Německu. V roce 1932 se kancléřem stal Dolfuss, který začal razit cestu rakouského fašismu. Pro nacisty to bylo ale stále příliš málo a v roce 1934 se pokusili o puč, který sice skončil na první pohled neúspěchem, ale kancléře se jim podařilo zabít. Jeho nástupce byl donucen k zaakceptování nacistů jako vládní strany a to v důsledku dovedlo k tzv. Anschlussu neboli začlenění Rakouska do Hitlerovy Třetí Říše. Po válce Rakousko bylo obnoveno jako samostatná demokratická republika, ale zároveň bylo rozděleno na čtyři okupační zóny. Plnou suverenitu získalo Rakousko v roce 1955 po podepsání rakousko-sovětské smlouvy a v tomtéž roce se přihlásilo i do OSN. V roce 1960 se stalo členem EFTA a v roce 1995 vstoupilo do Evropské Unie.