1839年7月8日，约翰·洛克菲勒出生于纽约州哈得孙河河畔的杨佳小镇。他的母亲是个虔诚的基督教徒，勤快、节俭、朴实、家教严格；而父亲威廉是个四处闯荡的木材商、马贩子，也是个走江湖的巫医，几乎是无所不通。洛克菲勒秉承了父亲经商的精明，继承了母亲勤俭的美德。14岁那年，洛克菲勒在克利夫兰中心中学上学。1855年中学毕业后，洛克菲勒决定放弃上大学，到商界谋生。
1858年，19岁的洛克菲勒向父亲借款1200美元，加上自己的积蓄800美元，与克拉克创办了一家经营谷物和肉类的公司。由于经营不错，第一年就做了4．5万美元的生意，净赚4000美元，自己分得2000美元，赚回了成本。第二年净赚1.2万美元，洛克菲勒分得6000美元。他在做生意时信心十足、雄心勃勃，且言而有信，想方设法使自己取信于人。
当时，宾夕法尼亚州已经发现了石油。一时间，人们纷纷涌向这一地区，宾夕法尼亚土地上也井架林立，原油产量飞速上升。克利夫兰的商人们怦然心动，他们推选洛克菲勒去宾夕法尼亚原油产地调查，以便获得可靠的信息。洛克菲勒来到产油地，这里的状况令他触目惊心。洛克菲勒透过表面的“繁荣”景象，看到了盲目开采背后的危机。他没有急于回去，而是在产油地住了下来，进一步考察。经过一段时间认真全面的考察，洛克菲勒回到了克利夫兰，建议商人们不要在原油生产上投资，因为那里日产石油1135桶，而需求有限，油市的行情必定下跌。不出洛克菲勒所料，由于疯狂钻井，导致油价一跌再跌。
3年后，原油一再暴跌，洛克菲勒认为投资石油的时候到了。他与克拉克共同投资4000美元，与英国人安德鲁斯合伙开了一家炼油厂。安德鲁斯研究出一种新技术提炼煤油，使安德鲁斯—克拉克公司迅速发展。
尽管洛克菲勒才20出头，做生意却十分老练。他经常耐心等待，冷静观察，确认有十足把握之后才放手大干。可合作者克拉克却举棋不定，不敢冒风险。两个人在石油事业的决策上发生了分歧。1865年，在洛克菲勒以72500美元买下安德鲁斯一克拉克公司的股权之后，两人分道扬镳。
26岁的洛克菲勒取得胜利后，迅速扩充了炼油设备，日炼油量增至500桶，年销售额超过百万美元。洛克菲勒的公司成了克利夫兰最大的炼油公司。当时的石油业秩序十分混乱，生产过剩、质量较差、价格混乱……激烈的角逐已初现端倪。洛克菲勒意识到必须把企业扩大，才能抵御激烈竞争的冲击。他说服自己的弟弟威廉参加进来，建立了第二家炼油公司。
