Die Kunstgeschichtliche Gesellschaft zu Berlin wurde im Jahr 1887 durch Wilhelm von Bode, damals Assistent der Gemäldegalerie, ab 1890 deren Direktor, gegründet. Ihm zur Seite standen dabei Friedrich Lippmann, Direktor des Kupferstichkabinetts, und Robert Dohme, Hausbibliothekar Kaiser Wilhelms I., gleichzeitig Direktor der Kunstsammlungen des preußischen Königshauses.

Das Ziel war die Schaffung einer wissenschaftlichen Gesellschaft in enger Verbindung mit den Königlichen Museen, die damals nicht zuletzt aufgrund der Tätigkeit von Bodes Weltgeltung erlangten. „Kunsthistoriker, Kunstfreunde und Sammler Berlins“ sollten sich in der Gesellschaft in regelmäßig stattfindenden Sitzungen zu „kunstgeschichtlichen Vorträgen, Mitteilungen über Kunstversteigerungen und allerlei aktuelle Fragen“ versammeln. Die Kunstgeschichtliche Gesellschaft zu Berlin, der schon bald alle Kunsthistoriker von Rang in Berlin sowie zahlreiche Sammler und kunstinteressierte Laien angehörten, informierte neben Vorträgen über die Kunstgeschichte der Nachantike einschließlich der islamischen Reiche auch über Neuerwerbungen der Museen und Neuerscheinungen auf dem Publikationssektor. Des Weiteren veranstaltete sie um 1900 bedeutende Ausstellungen. 

Ihre besondere Prägung erfuhr sie in der Zeit bis 1933 durch Gelehrte wie Heinrich Wölfflin, Wilhelm Vöge, Max J. Friedländer und Adolph Goldschmidt. Ein Höhepunkt in der Geschichte der Gesellschaft war die am 17. Januar 1933 veranstaltete Festsitzung anlässlich des 70. Geburtstags von Adolph Goldschmidt. Es gereicht der Kunstgeschichtlichen Gesellschaft zu Berlin zur Ehre, dass es ihr in der Folgezeit bis in die Kriegsjahre hinein gelang, ihre wissenschaftliches Programm in Distanz zur herrschenden Ideologie fortzuführen.

Anfang 1952 wurde die Kunstgeschichtliche Gesellschaft in West-Berlin durch Ernst Kühnel, Direktor der Islamischen Sammlung, Friedrich Winkler, Direktor des Kupferstichkabinetts, und Edwin Redslob, Reichskunstwart in der Weimarer Republik und Mitbegründer der Freien Universität, erneut ins Leben gerufen. Auch in der Nachkriegszeit wurde sie bis heute in ihrer wissenschaftlichen Ausrichtung von hervorragenden Persönlichkeiten der Berliner Kunstgeschichte geprägt – zu nennen wären hier insbesondere, neben den erwähnten Neugründern, Paul Ortwin Rave, Hans Kauffmann, Cornelius Müller Hofstede, Peter Bloch, Fedja Anzelewsky, Helmut Börsch-Supan, Reiner Haussherr und Hartmut Krohm.