Seu início é tomado por uma atmosfera macia, mas densamente psicodélica graças ao efeito alucinógeno fornecido pelo sonar ácido e tremulante do hammond. Estruturalmente delicada, com uma bateria capaz de soar fresca e simultaneamente aveludada, a canção tem, no baixo, o elemento a inserir toques de um romantismo, no mínimo, ímpar a partir de seu groove encorpado.
Assim que o primeiro verso se inicia, a atmosfera é tomada por uma voz masculina de timbre agudo que é capaz, por meio de sua interpretação lírica, despejar um aroma floral no ambiente. Com Gee Gee Writer à frente do microfone, Used To Be My Lover se transforma em uma canção que, com o auxílio dos instrumentos de sopro dando vivacidade e calor ao escopo harmônico-melódico, transpira paixão e romantismo por aquele alguém que conquistou seu coração.