A kollégiumot Eötvös Lóránd alapította 1895-ben a párizsi École normale supérieure mintájára, és édesapjáról, az 1848-as forradalmi kormány kultuszminiszteréről nevezte el. Az első igazgatónak Bartoniek Gézát, pedagógust, fizikust jelölte ki. Az intézménynek az első 15 évben még egy másik, Csillag utcai (ma Gönczy Pál utca) épület adott otthont, majd 1910 karácsonyán költözhettek be a diákok a Gellért-hegy déli lejtőjén akkor még magányosan álló épületbe.

A kollégisták napirendje szigorú volt, a tudományos ismeretek mellett a társadalmi érintkezési normákat is el kellett sajátítaniuk, de a hatalmas könyvtár mindig nyitva állt számukra. A szakmai munka ma is hasonlóképp folyik, mint akkor, a diákok úgynevezett műhelyekbe szerveződnek, mely egy adott szak hallgatóit tömöríti, de más szakokhoz tartozó tanulók is megfordulnak a körükben, sőt egy hallgató akár több műhely tagja is lehet. Különleges az oktatás módja is, műhelyórák keretében történik, melyeket vagy a Collegium saját tanárai, vagy külső, meghívott előadók, gyakran egykori Eötvös-kollégisták tartanak.

A kollégium első éveiben különösen fontos volt, hogy megfordultak az intézményben külföldi, főként francia és német vendégprofesszorok, és így, lektorok révén a diákok első kézből juthattak nyelv-, kultúra- és országismerethez. Akkoriban a hallgatóknak az egyetemre csak vizsgázni kellett bejárniuk, óráikat a Collegiumban hallgatták.

Eötvös 1919-ben bekövetkezett halála után Teleki Pál lett a kurátor, az igazgatói székbe pedig Gombocz Zoltán nyelvész került. Ő vezette be a "fejkopogtatásnak" nevezett felvételit, ami a tanári karral való személyes elbeszélgetést jelentette.

1935-től 1945-ig Szabó Miklós klasszika-filológia professzor volt az igazgató, az ő újítása volt a "fogadalom", amelyben arról kellett a kollégistáknak nyilatkozni, hogy az igazgatóság beleegyezése nélkül semmilyen társadalmi szervezetnek nem lesznek tagjai.

A II. világháború után az író-irodalomtörténész Keresztury Dezső vette át intézmény irányítását, az ő idejében még érvényesülhetett a "szabadon szolgál a szellem", a kollégium máig változatlan jelmondata, vagyis az elfogulatlan vizsgálat, a kritikus megközelítés és a szabad, önálló véleményalkotás elve.

1948-ban Kereszturyt lemondatták, és a hatalomra kerülő kommunista vezetés elit-ellenessége odáig gyűrűzött, hogy a kollégiumot 1950-ben megszüntették, az épületet pedig a Tanfolyamellátó Nemzeti Vállalat vette át. A híres Mednyánszky Dénes Könyvtár és Levéltár csak úgy menekült meg, hogy az Akadémia vállalta megőrzését. A kollégium csak 1956 után szerezte vissza lassan a régi fényét többek között Tóth Gábor egyetemi docens munkája folytán, ám újraalapító okiratot csak a rendszerváltás éveiben kapott Göncz Árpád köztársasági elnöktől.

A kollégium falai között számos későbbi neves tudós és művész tanult, például Balázs Béla, Bay Zoltán, Kodály Zoltán, Kosáry Domokos, Országh László, Szász Imre és Vendl Aladár.