Tytuł nawiązuje do pradawnej szczebrzeszyńskiej przypowieści o kozach wypasanych przez żydowskiego pasterza, które są zaczarowanymi przewodnikami pomiędzy dwoma światami, posiadają wiedzę na temat tajnego przejścia łączącego Szczebrzeszyn z Jerozolimą. Bajka została przetłumaczona przez badacza historii szczebrzeszyńskich Żydów, dyrektora festiwalu Stolica Języka Polskiego, Tomasza Pańczyka.

Mikołaj Trzaska często odwiedza Roztocze i Zamojszczyznę, prawie co roku pojawia się jako uczestnik albo gość festiwalu SJP w Szczebrzeszynie. Od samego początku marzył o zagraniu kliku dźwięków w renesansowym budynku szczebrzeszyńskiej synagogi. Pierwszy, solowy koncert udało mu się potajemnie wykonać pewnego gorącego, sierpniowego wieczoru, z udziałem kameralnej publiczności i natychmiast poczuł magię i akustyczne możliwości tego miejsca: „Tej nocy dźwięk rozchodził się miękko i srebrzyście. Grając, czułem się jak we śnie”- wspomina muzyk.

Po kilku miesiącach postanowił powrócić do tego miejsca i na przełomie października i listopada 2021 roku spędził w Synagodze kilka dni wyposażony w rejestrator cyfrowy, nagrywając klarnety i saksofony, nakładając na siebie kolejne ślady. Jeszcze przed przyjazdem przygotował kompozycje chcąc odtworzyć sekretny, letni nastrój pierwszego koncertu. Ale jak to zwykle bywa, nie udało się odtworzyć tej samej atmosfery. Postanowił wiec się poddać miejscu i chwili, poczekać, aż muzyka, niczym zjawa, sama pojawi się w jego głowie.

"Goats’ Ghost" to zbiór osiemnastu krótkich kompozycji poświęconych pamięci zapomnianych mieszkańców Szczebrzeszyna. Na swojej solowej płycie Mikołaj Trzaska nawiązuje do tradycyjnej, rytualnej muzyki żydowskiej, jednak próbuje oderwać się od klezmerskiego kanonu i nadaje je współczesne ramy. Opowiada też swoją własną, intymną historię.