终结票号辉煌的，是银行。1859年，太平天国干王洪仁玕，成为第一个提出开办银行的中国人。其后，容闳、郑观应、汪康年、盛京将军依克唐阿、唐廷枢、李鸿章、马建忠等洋务派人物，都曾建议或做过开办银行的努力。1896年，盛宣怀上“请设银行片”，认为“非急设中国银行，无以通华商之气脉，杜洋商之挟持”，翌年，中国通商银行成立。到1911年，已经出现了三十家银行，其中，作为清廷的官办银行，户部银行乃至大清银行成立以后，当仁不让地垄断了几乎全部官款汇兑业务，这对于主要靠官款汇兑赚取手续费、靠官款汇兑的现金放贷赢利的山西票号来说，无疑是致命的打击。而票号毫无动作，坐以待毙。
其间，1903年，直隶总督兼北洋大臣袁世凯成立天津官银号（亦即后来的直隶银行）时，曾邀请山西票号入股，票号没有理睬，首次丧失了组建银行的机会。
1904年，户部尚书鹿传霖奉谕创办大清户部银行时，曾召集山西票号各北京分号经理会商，一方面邀请各票号入股参与；一方面请票号派人主持将要成立的这家国家银行。不料各票号全部拒绝参与——尽管分号经理多数赞同，但总号掌柜出于对清廷的疑惧，担心受到强大的官方资本或者外商资本钳制，不仅不入股，而且不允许属下各分号经理、职员出任银行之职。票号第二次丧失了组建银行的机会。
1908年，在盛宣怀中国通商银行、朝廷户部银行（大清银行）、外资银行以及交通银行、四明商业银行等银行激烈竞争的形势下，各商埠票号分号的经理们都深切感到要生存发展，必须顺应潮流，改革内部，合组银行。蔚丰厚北京分号经理李宏龄指出：
票号自甲午、庚子以后，不唯倒欠累累，即官商各界生意日渐萧疏，推原其故，固由于市面空虚，亦实以户部及各省银行次第成立，夺我利权。而各国银行复接踵而至，出全力以与我竞争。即如户部银行所到之处，官款全归其汇兑。我行存款至多四厘行息，而银行之存款可得五六厘，放款者以彼利多，遂提我庄之款移于彼处。至于外国银行，渐将及于内地，所有商家贸易，官绅存款，必将尽力所夺，外人之素习商战，则非我所能敌，试问届时，我行尚有何事可做乎？
在李宏龄倡导下，票号各地分号经理集体向山西总部请命，疾呼：
现在风气大开，银行林立，各处设立甚多……我帮等隐受其害，洵有不堪枚举者矣。若不改弦易辙，将有不堪立足之势。处此时局，非设立银行不可……时不可失，机会难再，宜早不宜缓也，宜速不宜迟也。
他们拟定了晋省汇业银行的名号，推举渠本翘为晋省汇业银行总经理，提出各票号集股五百万两，每月收4‰股息。
李宏龄等人的上述设想，以当时票号的实力，实行起来并不困难。如果得以实现，票号东家们即能免于几年之后的破产。山西票号一直实行无限责任制。票号如果亏损、倒闭，东家要用自己的全部身家来赔偿。某报纸就以此动员票号办银行：
|
