希夫准备进军铁路行业。他先担任了多家铁路公司的董事，深入了解铁路运作中间的每一个细节，比如铁轨铺设的所有过程，铁路仓储，铁轨生产流程，运输状况等。他在考察时，还喜欢向工作人员讨教，从技工到工程师，从普通蒸汽机添煤工到高级管理人员，甚至包括管刹车的工人，都一一进入他的雷达。希夫仔细询问各种问题并认真记录，试图了解整个铁路运输的所有细节。很快希夫就成为铁路方面的权威专家。
正是由于希夫严谨务实的态度和对铁路运作细节的深刻把握，使他对铁路公司在什么情况下，需要什么样的金融工具和怎样的金融服务具备了专业化的判断能力。希夫对于铁路公司内部运作了如指掌，可以把铁路管理运作方面对金融的需求，准确而有效地转化成华尔街的投资产品，同时结合对各种融资工具的渠道、节奏、时间和火候的把握，希夫在铁路金融领域的优势无人能出其右。
从1873年到1900年，在近30年的时间里，铁路完全主宰了美国的金融业。希夫跟随这个行业跳跃性发展，逐步把库恩雷波公司从一个小规模投资银行，转变成主宰美国铁路金融的巨头。连摩根这样的重量级银行家，都不得不叹服希夫的能力，尤其是他对金融和铁路专业知识结合的细节把握。
希夫成功的另外一个原因是，他能够跟欧洲的国际银行家直接和有效地进行沟通。正是来源于欧洲的庞大资金和欧洲国际银行家的鼎力支持，希夫的工作才能畅通无阻。
就金融影响力而言，此时希夫已大大超越了他的前辈赛利格曼。赛利格曼虽也投资铁路，但始终不懂铁路的商业模式。华尔街的金融家认为铁路的商业模式背后其实是地产商机，大家与其说是关心铁路，不如说是关心铁路背后的土地投机。根据美国相应的法案，沿着铁路线周围一定范围之内的土地归铁路公司所有，用土地来进行融资，融资完毕即进行铁路建设。因此华尔街爆炒铁路股票和铁路债券，很大成分是看中了沿铁路线周边的土地开发和土地投资。从某种意义上来说，铁路热背后是土地开发热。包括赛利格曼在内的金融家其实并不关心铁路本身，他们只是把铁路当作一个炒作题材。
而希夫的看法更深一层，他认为铁路线实际上是在一片土地上打开一个通道，这些土地向各行各业的开发者出售，从而将各种各样的生产、加工、贸易活动集中到铁路沿线。正是这种商业活动创造了铁路运输的需求，而这种需求支付了铁路的建设成本和运作成本，并为铁路创造效益。这才是铁路金融的精华。
希夫在介入太平洋联合铁路项目时，前前后后做了4年的调查。希夫对这条铁路线产生浓厚的兴趣并开始仔细琢磨的时候，太平洋联合铁路陷入了巨额债务危机，仅欠美国政府的债务就高达4500万美元，并且还要加上6%的利息。这些未付的利息积累了近30年，铁路线总的长度从8000多英里减到了4400英里，各种压力包括其债务情况已经使这条铁路看起来毫无生机，完全没有生存的可能了。华尔街人人看死这个项目。希夫找到当时已经成为赛利格曼之后的华尔街主宰——摩根。摩根明确表示他对这条铁路不抱任何希望，可以让希夫放手一试。
日后的事实证明，摩根犯下了一个重大战略性错误。得到摩根的默许后，希夫开始了庞大的动员工作，并悄悄买进太平洋联合铁路的股票和债券。不久，他就发现似乎总有一只无形的手在阻挡他的计划。国会总有一些莫名其妙的事件在推延这个项目的进展，媒体突然变得对此项目颇有敌意，在欧洲的债券持有者也迟迟不对这个项目开绿灯。希夫反复琢磨，认为只有一个人有足够的力量来为此事设置障碍。起先他怀疑是摩根从中作梗，于是找到摩根问他是不是改变了主意。摩根说：“我既然同意了，肯定放手让你去做，我可以帮你找到是什么人在阻挡此事。”几天之后，摩根挖出了幕后潜伏者：哈里曼。哈里曼是一个铁路运营方面的天才，希夫在与哈里曼进行了一番交手之后，双方同意合作。但是太平洋铁路项目规模超大，希夫很快就意识到，必须要借助欧洲的资本，才能够使这个项目起死回生。
希夫找到一个儿时的朋友，此人就是当时在伦敦同罗斯柴尔德家族关系密切的重量级人物，恩内斯特·凯瑟尔爵士（sir er cassel），恩内斯特本人也是具有传奇色彩的重量级金融家。恩内斯特爵士主要负责跟伦敦的罗斯柴尔德家族和其他国际银行家进行资金的联络和调度。
约瑟夫·赛利格曼在美国白手起家，奠定了犹太银行家在华尔街的地位，而希夫进一步打造出一个主导美国金融界的庞大势力集团。希夫和恩内斯特爵士联手，希夫能够及时准确地得到伦敦和欧洲金融市场一举一动的信息，特别是各大家族资金调运往来的情报。正是在伦敦的恩内斯特爵士的帮助之下，3天之内希夫和哈里曼就收到了4000万美元出自欧洲的担保和认购。已经沉寂多年，看似最后必然走向破产的太平洋联合铁路项目起死回生了。
到1897年11月2日，希夫和哈里曼集团正式收购太平洋联合公司股份。太平洋联合铁路在希夫和哈里曼的运作下，取得了到那个时代为止，历史上最大的一次工业项目的巨大成功。它不仅还清了所有债务和利息，还创造了史无前例的2.1亿美元的利润。除此之外，更创造出至少不低于20亿美元的资产。这个时候摩根才后悔不迭，觉得放弃此项目就是错过一只下金蛋的鸡，确实是个战略错误。
1895年，应希夫之邀，保罗和菲利克斯两位沃伯格家族的悍将也来到纽约加盟库恩雷波公司，使德国的沃伯格家族和美国的希夫家族结成了紧密而强大的联合体。希夫的女儿嫁给了菲利克斯，雷波的女儿嫁给了保罗。库恩雷波公司的另一个合伙人沃尔夫的女儿嫁给了奥突·凯恩，这个凯恩是斯佩尔家族的骨干，后来加入库恩雷波公司成为希夫的接班人。库恩家的儿子娶了雷波家的另一个女儿。经过四重联姻，库恩雷波公司将沃伯格、希夫、雷波、库恩、凯恩、沃尔夫家族紧紧地联系在一起，成为欧美犹太银行家族中，人脉最密集、人才最鼎盛、声势最浩大的犹太银行家族集团军。
从这个集团军出来的人物非同寻常，几乎个个都是能够影响国际金融市场的超级大鳄。沃伯格家族的老大麦克斯，乃是德国威廉二世的金融顾问，代表德国参加凡尔赛和谈，“一战”后主导着德国财政金融大权，是德国帝国银行董事，希特勒的“财政沙皇”沙赫特的幕后大佬，从19世纪末到20世纪30年代末的近40年中，对德国的政治、经济、金融都发挥了巨大的影响力。老二保罗，美联储的总设计师，美国金融的决策者之一，属于美国最重量级的银行家之列。老三菲利克斯，20世纪初华尔街最具影响力的库恩雷波公司的高级合伙人，华尔街大佬之一。老四弗里兹，德国汉堡金属交易所主席，“一战”后期曾代表德国与沙俄秘密媾和。奥突·凯恩，希夫之后华尔街犹太银行家的领军人物，1919年他在长岛修建的豪宅占地1.8平方公里，居住面积达1万多平方米，127个房间，是当时美国第二大豪宅。雅科布·希夫领导下的库恩雷波公司进入了全盛时期。
希夫与日俄战争
1904年日俄战争爆发，日本当时雄心勃勃准备打垮俄国，但是很快发现俄**队的战斗力强悍，日本的战争经费渐渐捉襟见肘，难以应付。为了筹集战争费用，日本正金银行的副总裁高乔是清爵士来到伦敦拜见国际银行家们。
来到伦敦，高乔是清的初衷是向罗斯柴尔德家族请求帮助承销日本战争债券。日本开口提出区区500万英镑的融资规模，罗家连眼皮都懒得翻一下。要知道，早在30年前的普法战争赔款债券承销中，罗家仅用两年就筹集了50亿法郎（约合2亿英镑）的庞大资金。尽管英国当时是日本最大的政治和商业伙伴，但是伦敦方面的银行家并不认为日本有取得战争胜利的可能性，因此日本的融资计划在伦敦受到了冷遇。
郁闷之中的高乔是清在宴会上遇见了正在伦敦办事的希夫，高乔是清向希夫大吐苦水，希夫一边听一边打着自己的算盘。随着美国经济实力的壮大，美国的金融力量正在崛起，虽然希夫在华尔街也是一号响当当的人物，但在伦敦连摩根这等角色都得小心翼翼，看着伦敦金融城大佬们的脸色说话，希夫明白自己的分量与伦敦城国际银行家大佬们还相去甚远。但是，日本确实是一个新的市场，既然大佬们瞧不上，华尔街新贵们或许还是有兴趣的。而与认为日本必败的伦敦金融家们不同，希夫认为，日俄战争的战场远离俄国的经济重心，却在日本的眼皮底下，再加上沙皇宫廷的**和沙皇制度的腐朽，正处在上升期的日本有极大的可能性击败俄国，于是希夫答应高乔是清在华尔街帮助日本筹集日俄战争费用。希夫愿意出手帮助日本还有一个原因：沙俄对犹太人的迫害，使得希夫认为沙俄是人类公敌，他甚至主张和鼓吹要用武装革命推翻沙皇。凡是能打击俄国的事情，他都愿意帮忙。
此时，希夫基本上是单枪匹马在为日本打仗融资，在这样的情况和形势之下，希夫不得不团结以前的竞争对手摩根家族和乔治·贝克共同组成一个银团。在大家商议之后，又将洛克菲勒财团也拉了进来，这是日本历史上第一次能够从伦敦以外的金融市场获得融资。
日本在日俄战争中，一共获得了3笔大规模的贷款，这3笔贷款背后都是希夫的杰作。正是这3笔贷款的资金注入，使得日本的战争能力得到大幅度提高，成为日本最后能够取得日俄战争胜利的关键因素之一。