1891年，瑞士人Karl Elsener是最早制作瑞士军刀的人。当时的瑞士军刀有木制的手柄（今日多为塑胶和金属制），并仅有两种工具，分别是螺丝起子，和开罐器。在1897年时，Karl Elsener发明了新的弹簧，瑞士军刀才开始能够装进比较多的工具。1890年代是瑞士军方开始使用瑞士自制刀子的年代，过去他们都采用德国制的刀子。
1909年，Karl Elsener开始在瑞士军刀的红色握把上刻白色十字盾牌来做商标，并以母亲之名Victoria来命名这个产品，创立了Victorinox（维氏）。1940年代，驻欧洲的美军相当喜爱这种多用途的小刀，但因不会发德语Offiziermesser的音（德文原意为“军官刀”），便称此刀为Swiss Army Knife（瑞士军刀）。目前Victorinox依然在供应瑞士军方这种小刀。
另一家向瑞士军方供应瑞士军刀的公司是Wenger（威戈）。除了这两家公司以外，还有众多的厂商生产类似的多用途工具刀。但是一般只有Victorinox和Wenger的产品才被认为是正宗的瑞士军刀。2005年维氏兼并了威戈。
上面装有六个刀体的新模型被卡尔称为"军官刀"。现在的瑞士军刀可以有一百种以上的组合功能。在各种各样的军刀中"旗舰"是有31种功能的"瑞士冠军"这种刀的所有工具连同工具箱总重量不超过计划95克(6.5盎司)因而它便于携带。
实用是瑞士军刀的基本使用价值，以往在军队里，它主要用于野战露营及其兵器的保养和维修。在日常生活中由于其多用途而应用到各个方面，如旅行、登山、垂钓、汽车及自行车修理、潜水及航模运动等。
