澳大利亚国立大学的创立是依据澳大利亚国会通过的专案法。该法案由当时的澳大利亚总理班·奇夫利以及二次世界大战战后重建委员会主任John Dedman所共同提出，并得到了反对党领袖罗伯特·孟席斯的全力支持，顺利于1946年8月1日获得通过。创校宗旨，在于建立一所顶尖的研究型国立大学，以提升澳大利亚的整体学术研究实力。ANU也成了澳大利亚唯一由联邦国会立法设立的国立大学，不同于其它澳大利亚公立大学皆是由各地州议会立法设立。

ANU成立后，大批杰出的澳大利亚学者们开始陆续加入ANU的创建行列，其中包括了在雷达开发与核物理领域中赫赫有名的马克·奥利芬特爵士、青霉素的发现者霍华德·弗洛里，弗洛里男爵、历史学界的大师Keith Hancock爵士和著名的经济学者Herbert Cole Coombs爵士等等。

创校初期，ANU致力于尖端科技的研发，并且只招收研究生。直到1960年将当时隶属于墨尔本大学的Canberra University College并入，才开始招收大学部学生。1979年创立ANU Enterprise （页面存档备份，存于互联网档案馆），负责事业单位的营运，例如：科研专案承接、精密科学仪器生产等等。