Báró Eötvös Ignác és báró Lilien Anna palotahölgy fia volt. Alsóbb iskoláit Budán végezte, egyetemi tanulmányait pedig a pesti egyetemen bölcselet és történelem szakokon, 1826-tól 1831-ig. Szellemi fejlődésére nagy hatást gyakorolt nevelője, Pruzsinszky József, aki a francia felvilágosodás híveként felkeltette a fiatal Eötvös érdeklődését a politika és a filozófia iránt. Szoros barátságba került Szalay Lászlóval, aki megerősítette irodalmi hajlamait.

Jelen volt az 1832. évi országgyűlésen Pozsonyban, azalatt ügyvédi vizsgát tett. Már 1831-ben aljegyző lehetett Fejér megyében, 1835-ben pedig a magyar udvari kancelláriához került, ahol 1836-ban fogalmazói állást kapott. 1837-ben az eperjesi kerületi tábla közbírája lett. Közhivatalnoki pályája innen egészen kultusz- és közoktatási miniszterségéig megszakadt.

1836–1837-ben beutazta Németországot, Svájcot, Hollandiát, Franciaországot és Angliát. Már utazásának megkezdése előtt levelező tagjává választotta az Akadémia (1835. szeptember 14-én). Az Akadémia rendes tagjává 1839. november 23-án választotta. A későbbiekben 1855-ben másodelnökké, 1866. március 18-án pedig elnökké nevezi ki.

1840-ig a Borsod megyei Sályon élt, apja birtokán, és szinte teljes egészében az irodalomnak szentelte magát. Az 1840-es országgyűlés előtt előbb Budára, később Pestre tette át lakását.

Irodalmi munkásságának kezdete, kiváltképp a „Karthausi” című regénye nagy elismerést szerzett neki úgy az irodalomban, mint a közéletben. 1838. november 25-én a Kisfaludy Társaság is tagjának választotta, amelyet 1847-ben megújított, végül 1860. május 24-én elnökké választották.

Véleménynyilvánítása a számára fontos fogházjavítás kérdésében egész irodalmat teremtett; pártolóinak élén Szemere Bertalan állt. Jobbára az ő írása nyomán az 1840-es országgyűlés már az egyik legfontosabb feladatul tűzte ki a börtönviszonyok megjavításának ügyét, ezért országos bizottmányt nevezett ki, amelynek Eötvös is tagja volt. 1840-ben az országgyűlésen mint felsőházi tag szerepelt, az ellenzék soraiban. Többnyire pártolta és szónoklataival támogatta az alsóház előterjesztéseit. Csak néha tért el pártja nézeteitől, az utókor azonban a legtöbb esetben őt igazolta. Ennek egyik legkiemelkedőbb példája a vallásügy volt, amely végül is az ő önálló – korábban különcnek és gyanúsnak tartott – véleménye alapján került rendezésre.

1841-ben, amikor gróf Széchenyi István a frissen induló Pesti Hírlap ellen heves támadásba lendült, Kossuth Lajos védelmére kelt, s megírta a „Kelet népe és Pesti Hírlap” című röpiratát. Az 1843-as országgyűlésen ismét megjelent. Ekkor a magyar ellenzéknek már országos tekintélye volt, Batthyány Lajos és Teleki László grófok mellett ő volt a főrendi ellenzék egyik vezéralakja. Amikor a Pesti Hírlap 1844 közepén a központosítás egyik fő közlönyévé vált, Szalay Lászlónak egyik legfőbb, legtekintélyesebb munkatársa lett. Itt fejtette ki, hogy Magyarország fellendítésére az egyetlen biztos rendszer a parlamentáris kormányzat. Cikkei külön is megjelentek „Reform” című könyvében (Lipcse,1846 és Pest,1868. A kötetet részletes kifejtések egészítették ki „Teendőink” címmel (Pesti Hírlap,1847).

Eötvös József szobra a budapesti Eötvös téren

A kormány a reformtörekvésekre válaszul az adminisztrátori rendszerrel lépett fel, ez szorosabb összefogásra intette az ellenzéket. Eötvös egyike volt azoknak, akik az összetartásért mindent megtettek, feledve minden korábbi sérelmét. Később a parlamenti kormány gondolatát az országos ellenzék programjába is sikerült beiktatnia.

Az 1847-es pozsonyi országgyűlésre is mint képviselő akart elmenni, azonban Békés megyében, ahol birtokai voltak, nem volt esélye arra, hogy megválasszák, tehát visszalépett a jelöltségtől. Otthon maradt, és csak az 1848. március 3-i kerületi ülés után ment el Pozsonyba, amikor a dolgok kedvező alakulását már előre láthatta. Az első magyar felelős minisztérium megalakult, neki a vallás- és közoktatási tárca jutott. Augusztus elején előterjesztette törvényjavaslatát, amelyet az ellenzék megtámadott, csak nagy nehézségek árán tudta javaslatát keresztülvinni.

Ezután már nem tudott maradandót alkotni: ő mindig a birodalmi kormánnyal való kiegyezést pártolta, az események azonban egyre inkább forradalmi színt kezdtek ölteni. A szeptember 28-i véres események (Lamberg grófnak a Lánchídon történt meglincselése) után Bécsbe utazott családjához, majd továbbment Münchenbe, ahol folytatta történelmi és bölcseleti tanulmányait, és kizárólag az irodalomnak élt.

1853-ban tért haza, s budai villájába vonult vissza. Még ez évben kiadta német nyelven azt a munkáját, amely Ausztria nagyhatalmi szerepének valódi biztosítékait tárgyalja. E könyvét sokan félreértették: azzal vádolták, hogy az ország ősi jogait akarja feláldozni, hogy Ausztriának engedményeket tegyen. 1855-től szinte csak az Akadémiának és a Kisfaludy Társaságnak élt, amelyet a forradalom után ő szervezett újjá.

1861-től ismét komolyan részt vett a politikai életben. Pest városa országgyűlési képviselővé választotta, május 17-én mondta el híres beszédét a válaszfelirati vitában, amelyben európai álláspontról határozta meg teendőinket. Az országgyűlés azonban sikertelen volt, feloszlott, Eötvös pedig újra visszatért az irodalomhoz.

Mint Pest város országgyűlési képviselő-testületének tagja megjelent a közgyűléseken. A provizórium évei alatt már az Akadémia elnöki székéből intézte szózatait a nemzethez.

Még egyszer megszólalt nemzetiségi kérdésekben, s mikor kihirdették az 1865-ös országgyűlést, lapot alapított (Politikai Hetilap címmel) a felmerülendő, főképp a kiegyezést érintő kérdések megvitatására. A kiegyezésben közvetlenül közreműködött. Az új minisztériumban ismét a vallás- és közoktatási tárcát vállalta el. Most már kedvezőbb körülmények közt dolgozhatott, meghozta a népiskolai közoktatásról szóló törvényt. Megindította a közép- és felsőiskolák reformját is.

Az 1840-es években már írt a zsidók emancipációjáról, s amikor a törvényhozás 1867-ben ismét lehetővé vált, az egyik legelső törvény a zsidók egyenjogúsítása volt. Létrehozta az izraelita kongresszust, hogy a zsidók saját kezükbe vehessék egyházi és iskolai ügyeik vezetését. Az ortodox egyházat is teljes önkormányzathoz juttatta a szerb és a román kongresszussal. Végül a legnagyobb horderejű kérdést, a katolikus autonómia ügyét is ő mozdította el a holtpontról.

Az 1870. évi költségvetés tárgyalásakor az ellenzék heves támadásokat intézett ellene, melynek hatása alatt összeroppant. Karlsbadba ment felépülni, ám decemberben ismét súlyosan megbetegedett, és Pesten meghalt.

Ercsiben temették el, a családi sírboltban.