Współtworzony z Lewisem Capaldim, Savanem (The Weeknd, Ariana Grande), Oscarem Holterem (DNCE, The Weeknd) i Maksem Gsusem (Kim Petras, Tove Lo), „Heart By Heart” bazuje na brzmieniu akustycznej gitary i połyskujących klawiszy osadzonych na pulsującym rytmie. Na tym tle Joe popisuje się swoją imponującą skalą głosu, wydobywając najgłębiej skrywane emocje i wyśpiewując z nostalgią pełen tęsknoty tekst.