Lawrence J. Ellison se narodil v Bronxu v New Yorku. Díky mladistvému věku jeho matky nakonec vyrůstal u svého strýce a tety. Do svých dvanácti let nevěděl, že byl adoptován. Jeho otec zavřel svou firmu zabývající se nemovitostmi a začal se živit jako auditor pro veřejnou správu. Jako chlapec byl Larry velmi vyspělý svými názory, avšak mnohdy díky své osobnosti byl se svým adoptivním otcem ve sporu. Jeho silné nadání pro matematiku a vědu bylo v útlém věku stvrzeno i tím, že byl jmenován studentem roku na Univerzitě v Illinois.
Během závěrečných zkoušek v druhém ročníku vysoké školy Larry přišel o adoptivní matku. Tento životní zvrat měl za následek, že závěrečnými zkouškami neprošel a univerzitu nedokončil. V dalším roce se přihlásil na Univerzitu v Chicagu, ze které byl opět po prvním semestru vyhozen. Jeho adoptivní otec byl přesvědčen, že z Larryho se stal lehkovážný mladík, který ničeho nedokáže, ale opak byl pravdou, neboť na Chicagské univerzitě získal základy programování, které pro jeho karieru nakonec byly stěžejní. Po druhém neúspěšném pokusu o vystudování vysoké školy se nakonec přestěhoval do Berkeley v Kalifornii, kde si jako mladík s pár dolary v kapse našel práci pomocníka ve fastfoodu. Následujících osm let začal pracovat pro mnohé firmy jako programátor. Mimo jiné se podílel na vývoji programů v IBM.

V roce 1977 Ellison spolu se dvěma kolegy Robertem Minerem a Edem Oatesem založili vlastní společnost Software Development Labs. Od začátku byl Ellison ve funkci generální ředitele. Nedlouho po prvopočátcích podnikání se jim do ruky dostala zpráva programátorů IBM k vytvoření softwaru, který by umožňoval sdílení v rámci velký databank. Vedení v IBM v tomto projektu žádný komerční potenciál neviděla, za to Ellison ano a do projektu se nakonec pustil sám.

K velkému úspěchu se jim podařilo získat dvouletou smlouvu na výstavbu databázový systém pro CIA. Projekt získal pracovní název Oracle. Vývoj celého projektu zabral pouze jeden rok, a proto byl dostatek času na doladění a rozvoj jednotlivých aplikací softwaru. V roce 1980 měla Ellisonova firma měla pouze osm zaměstnanců a výnosy byly nižší než 1 milión dolarů. Jakmile však uzavřel Ellison s IBM smlouvu o prodeji Oracle systému, tržby se okamžitě ztrojnásobili a za dalších sedm let již společnost z milionových obratů dělala miliardu. V roce 1986 Ellison společnost přejmenovává po svém úspěšném prvním projektu na ORACLE.

Od roku 1990 hodnota firmy geometrickou řadou začala stoupat, neboť přední americké banky, letecké, automobilové společnosti či maloobchodní obří řetězce začali využívat programy a databáze Oracle. Pod vedením Ellisona se Oracle stal průkopníkem v oblasti poskytování podnikových aplikací přes internet. Oracle těží z velkého nárůstu a významu výpočetní techniky a internetu stejně jako internetových prodejů. Čistý zisk firmy se zvýšil o 76 procent v jediném čtvrtletí roku 2000, ačkoliv akcie ostatních konkurenčních společností kolísali. Jako prezident firmy vystupoval do roku 2004. Dnes je již Ellison v čele společnosti nefiguruje a ačkoliv stále vyvíjí podnikatelské aktivity stáhl se z veřejného života a usídlil se ve Woodside v Kalifornii.