中國人發明火藥之後， 起初以沒有炮身的火箭方式來運用， 彈道不穩定， 只能起到騷擾和傳達信號的效果， 直到宋代才出現了青銅鑄造的真正意義火炮。
火藥的配方與鑄炮術隨著蒙古西征而傳播到歐洲， 馬穆魯克人也學習操作火炮來對抗蒙古侵略者， 13世紀末期就已經出現了以操作火炮為專業的職業傭兵集團了。
14世紀百年戰爭期間， 英法兩國首度將青銅火炮投入了戰場上， 即使它們準確度太差而只能在野戰中起到嚇人的效果， 攻城時因為無法曲射， 發揮的威力也不若傳統的秤車投石機。 可以確定的是， 加農炮這個名稱應該就是在百年戰爭期間定下來的， 意思是「空心圓筒」， 很確切地描述了這種早期前裝滑膛炮的特徵。
不過火炮的鑄造與運用在15世紀趨於成熟， 拜占庭軍將加農炮縮小而製造了長管炮， 用來配備給士兵發射散彈， 或是配備在戰艦甲板上殺傷敵兵；匈牙利炮術師烏爾班為鄂圖曼土耳其帝國建造了各式巨型攻城炮， 在君士坦丁堡戰役中發揮了舉足輕重的力量。
攻陷君士坦丁堡的800mm烏爾班巨炮：
自此之後， 加農炮就被廣泛運用在陸戰與海戰的範疇中， 16世紀時由於鑄鐵技術的精進和大炮需求量的激增， 因此開始出現了鐵制的加農炮。
依尺寸不同， 從12磅的小型加農炮， 到64磅的大口徑加農炮， 重量可以從2噸到10噸， 包括了各式各樣的種類；但總體而言， 加農炮是非常沉重、複雜、高威力的武器。
加農炮普遍說來都是設計為了直線地發射炮彈（雖然隨著炮術的進步， 科學家們很快就發現到不可能使炮彈呈物理的一直線前進）， 因此擁有用來穩定彈道的空心炮筒， 同時為了方便裝填而採用了滑膛前裝式的設計。
南北戰爭時代的鋼制加農炮：
現代的加農炮則與線式戰術時代的加農炮定義有些許差別，不論是滑膛或是線膛炮，擁有40以上倍徑比（炮管長度之於炮口徑的倍數），彈道低伸平直的長管火炮，就稱得上是加農炮了。反之，低於40倍徑以下丶以曲射為主要設計目標的火炮則歸類於榴彈炮。
對刀劍有興趣可加刀匠沈師傅LQ435543
現代的加農炮則與線式戰術時代的加農炮定義有些許差別，不論是滑膛或是線膛炮，擁有40以上倍徑比（炮管長度之於炮口徑的倍數），彈道低伸平直的長管火炮，就稱得上是加農炮了。反之，低於40倍徑以下丶以曲射為主要設計目標的火炮則歸類於榴彈炮。
對刀劍有興趣可加刀匠沈師傅LQ435543