勇于当先的秦琼在张须陀麾下屡立奇功，官升建节尉。后来，张须陀在与李密对战时战死，秦琼就带领士兵投靠了裴仁基，后又跟随裴仁基投降了瓦岗寨李密。李密知道秦琼英勇，对其十分敬重，任以骠骑将军。

李密与宇文化及大战，被箭所伤而跌落下马昏迷不醒，左右将士都逃走了，只有秦琼留了下来。他召集士兵奋战到最后，直到宇文化及退兵。后来李密失败，秦琼被隋军王世充收编，任命为龙骧大将军。但是秦琼鄙视王世充为人奸诈，并不为高官而屈身侍奉。于是他趁王世充外出，联合程咬金等人投奔了李唐。

离开了王世充，秦琼加入了李世民的手下任马军总管，那时的李世民还只是秦王。秦琼跟随秦王出征美良川，打败了尉迟敬德，高祖李渊赏赐秦琼金瓶以作褒奖。不久后，秦琼又被升为秦王的右三统军；接着秦琼跟随秦王大战宋金刚，胜后封上柱国。

讨伐王世充时，秦琼担任前锋。灭王世充后，被封为冀国公。秦琼为开创唐朝立下了赫赫战功，也在“玄武门之变”中支持李世民，帮助李世民诛杀了太子李建成和齐王李元吉。玄武门之变后，秦琼被封为左武卫大将军。