Le chanteur et guitariste Slash a composé la musique de «Sweet Child O’ Mine» en une seule session, alors que le reste du groupe était en train de prendre une pause. Il avait initialement écrit la mélodie pour une balade mais, après avoir entendu la batterie de Steven Adler, il a décidé de la transformer en un morceau plus rapide. Le bassiste Duff McKagan a ensuite ajouté une ligne de basse et le pianiste Dizzy Reed a joué des notes de claviers au refrain.
La chanson a été écrite en collaboration par le guitariste Slash et le chanteur Axl Rose. Slash a composé la musique de la chanson, tandis que Rose a écrit les paroles. Les paroles de Rose ont été inspirées par sa petite amie d’alors, Erin Everly, fille du chanteur Don Everly des Everly Brothers.
La chanson a été enregistrée en mars 1987 et a été publiée en single en juin de la même année. Le single est devenu le premier et le plus grand succès commercial du groupe, atteignant la première place du Billboard Hot 100. La chanson est restée au sommet du classement pendant trois semaines.