1926-cı ildə Azərbaycanın öyrənilməsi və tədqiqi cəmiyyəti yaradılmışdır (Geologiya və coğrafiya sahəsində tədqiqatlar).1932-ci ildə bu cəmiyyətin bazasına əsaslanaraq SSRİ-nin Elmlər Akademiyasının Qafqazyanı filialının Azərbaycan bölməsi (AzOZFAN) (Azərbaycanın təbii sərvətlərinin öyrənilməsi). 1935-ci ildə AzOZFAN bir sıra institutlar ilə və o cümlədən Geologiya sektoru ilə birlikdə SSRİ-in Azərbaycan filialına çevrildi. 1938-ci ildə Azərbaycanın görkəmli alimləri: Ş.A.Əzizbəyov, M.A.Qaşqay, Ə.A.Yaqubovun təklifi ilə (SSRİ EA-nın Prezidiumumun dəstəyi ilə) geologiya sektoru əvəzinə müstəqil elmi-tədqiqat idarəsi Geologiya İnstitutuna çevrilib. İnstitutun yaranması və inkşafı Azərbaycanda neft və qaz sənayesinin sürətli inkşafı ilə eyni vaxta düşdü.
Nəsildən nəsilə ötürülən elmi müvəffəqiyyətlərinin estafedi nəticəsində Geologiya İnstitutu AMEA-da görkəmli yer tutur və Yer elmləri sahəsində bütünlüklə fundamental və tədbiqi işlər ilə məşğul olur. Geologiya İnstitutunun yarandığı müddətdən indiyə qədər bir sıra rəhbərləri olub: professor M.T.Ağabəyov (1938-1943), akademik K.A.Əlizadə (1943-1945), akademik A.D.Süleymanov (1945-1949), müxbir üzvü A.Q.Əliyev (1949-1951), g.m.-e.n. A.S.Bayramov(1951-1954), akademik Ş.F.Mehdiyev (1954-1958), akademik A.D.Sultanov (1958-1970), prof.E.N.Əlixanov (1970-1976). 1976-cı ildən bu günə kimi AMEA-ın akademiki Ak.A.Əlizadə AMEA Geologiya İnstitutunun direktoru vəzifəsində çalışır.
2003-cü ildə Geologiya İnstitutunun və Dərin Neft-qaz yataqlarının problemləri institutlarının bazası üstündə AMEA Geologiya İnstitutu yarandı. İnstitutun strukturasına 24 elmi-tədqiqat şöbəsi, Ümumdünya nüvə sınaqlarının aparılmasının ləğvi haqqında Preparativ Komitə Təşkilatının təşəbbüsü ilə 2003-cü ildə yaranan Azərbaycan Milli Məlumatlar Mərkəzi, Elmi cihaz və avadanlıqlardan kollektiv istifadə mərkəzi, H. Zərdabi adına Təbiət-Tarix Muzeyi daxildir. İnstitutda 230 elmi işçi işləyir ki, onlardan 4 nəfər AMEA-ın akademiki (1 nəfər PEA-ın müxbir üzvü), 9 nəfər AMEA-ın müxbir üzvü, 31 nəfər elmlər doktoru, 97 nəfər elmlər namizədidir.