Основанная в 1929 году как American Record Corporation, она была приобретена Columbia Broadcasting System в 1938 году и переименована в Columbia Recording Corporation. В 1966 году компания была реорганизована и стала CBS Records. Sony купила компанию в 1991 году и переименовала ее в SME. В 2004 году Sony и Bertelsmann создали совместное предприятие 50 на 50, известное как Sony BMG, чтобы управлять деятельностью Sony Music и Bertelsmann Music Group (BMG), но Sony выкупила долю Bertelsmann 4 года спустя и вернулась к использованию названия компании 1991 года. В результате этого выкупа в 2011 году лейблы, ранее принадлежавшие BMG, включая Arista, Jive, LaFace и J Records, перешли в бывшую BMG, а ныне со-флагманский лейбл Sony, RCA Records, что привело к переименованию BMG в BMG Rights Management. Позднее, в 2018 году, была возрождена компания Arista Records.
17 июля 2019 года Sony объявила о слиянии Sony Music Entertainment и музыкально-издательского подразделения Sony/ATV для создания Sony Music Group. Слияние было завершено 1 августа 2019 года.
По состоянию на 2023 год Sony Music Entertainment является второй по величине из "большой тройки" звукозаписывающих компаний, уступая Universal Music Group и следуя за Warner Music Group. Ее музыкально-издательское подразделение Sony Music Publishing (ранее Sony/ATV) является крупнейшим музыкальным издателем в мире.