胡大年先后畢業于北京清華附中（1980）和北方交通大學（1984）。此后，他任職于國家計劃委員會，工作三年后，考入中國科學院自然科學史研究所，師從許良英先生和董光璧先生攻讀近現代物理學史。1989年秋，他赴美留學，先后就讀于Case Western Reserve University (M.A., 1991)和Yale University（M.Phil., 1997; Ph.D., 2001），師從Alan J. Rocke，Carroll Pursell, Martin J. Klein, Frederic L. Holmes, Beatrice S. Bartlett, 和Jonathan D. Spence (史景遷)等美國教授繼續學習科學、技術與醫學史以及近現代中國史。
自2001年起，胡大年開始在美國從事科技史和中國史的教學與研究工作，先后任教于University of Massachusetts-Amherst, Morgan State University, 以及The City College of The City University of New York。在紐約市立大學(The City University of New York)，胡大年獲得終身教職并榮升正教授。2022年春，胡大年從紐約市立大學提前退休，全職回國，任教于南方科技大學社科中心。
胡大年教授的研究工作專注于20世紀中國科技史，重點是中國現代物理學史。他的第一部英文專著China and Albert Einstein 于2005年由哈佛大學出版社出版，2017年被美國物理學會會刊Physics Today的編輯遴選為五部基本的物理史著作之一。該書的中文增訂版《愛因斯坦在中國》出版于2006年，被《中華讀書報》評選為當年的全國十佳圖書之一。迄2021年，他已經在海內外的專業雜志上發表了30余篇研究論文，并主編了兩種英文期刊關于中國現代科技史的?？?/p>
