Компания была основана 15 января 1889 года и была образована из American Graphophone Company, преемника Volta Graphophone Company. Columbia является старейшей сохранившейся торговой маркой в зарегистрированном звуковом бизнесе, и второй крупной компанией, выпускающей записи. С 1961 по 1991 год его записи были выпущены за пределами Северной Америки под названием CBS Records, чтобы избежать путаницы с Columbia Graphophone Company. Columbia является одним из четырёх флагманских лейблов Sony Music: Epic Records, и бывших давних конкурентов, RCA Records и Arista Records, поскольку последние два изначально принадлежали BMG до перезапуска в 2008 году после приобретения Sony вместе с другими лейблами BMG.