La canción, incluida en el álbum “Brother Love’s Travelling Salvation Show” (1969), está dedicada a su mujer Marcia Murphey.
Durante años, se ha dicho que la canción era una oda a la entonces joven hija del difunto presidente John F. Kennedy y su esposa, Jacqueline, Caroline Kennedy.
Diamond ha dado diversas explicaciones a lo largo de los años. Inicialmente, confesó haberse inspirado en una foto de infancia de Caroline Kennedy que vio en una revista. Sin embargo, en 2014 reveló que estaba escribiendo sobre su esposa, Marcia Murphey, pero necesitaba un nombre de tres sílabas que rimara y «Caroline» encajó perfectamente.
“Escribía una canción en Memphis, Tennessee, para una sesión. Necesitaba un nombre de tres sílabas. La canción trataba sobre mi esposa en ese momento; su nombre era Masha, y no podía lograr una rima con Masha” dijo Diamond.
Marcia Murphey fue la segunda esposa del cantante Neil Diamond, casándose el 5 de diciembre de 1969 y permaneciendo juntos durante 25 años hasta su divorcio en 1994-1995. La unión duró un cuarto de siglo, abarcando los años más prolíficos de la carrera del cantante. Marcia fue su asistente de producción y juntos tuvieron dos hijos, Jesse y Micah. Su divorcio es conocido por ser uno de los más costosos del ambiente, con informes de un acuerdo cercano a los $150 millones de dólares, aunque Diamond aclaró posteriormente que la cifra exacta no fue esa, pero sí una suma muy elevada que ella merecía.
“Sweet Caroline” se convirtió en un himno icónico en eventos deportivos, especialmente adoptada por los Red Sox de Boston en sus partidos como local desde hace más de una década.

