Народився 20 (за іншими джерелами 17, 29) жовтня 1814 року в с. Чепелях (нині село Бродівського району Львівської області) у сім’ї священика. Навчався у Львівській початковій школі, потім у гімназії.

В 1831 р. Яків закінчив гімназію і вступив на філософський факультет Львівського університету. У 1832 р. залишив навчання і, наслідуючи улюбленого філософа Григорія Сковороду, протягом двох років пішки мандрував Галичиною та Закарпаттям.  Яків Головацький значну частину свого творчого життя пов’язав із Тернопільським краєм. Уперше він відвідав його в 1834 році, коли побував у Чорткові, Бучачі, Монастириськах, Підгайцях та в багатьох селах, розташованих біля цих міст, його зацікавив цей мальовничий куток Східної Галичини.

1835 р. вступив до академії в Кошице, згодом – до Будапештського університету. Невдовзі, щоправда, повернувся до Львівського університету, в якому продовжив навчання.

Разом з Маркіяном Шашкевичем та Іваном Вагилевичем утворив у 1831 р. національно-патріотичний гурток галицької молодої інтелігенції т.з. «Руську трійцю», а в 1837 р. ними було підготовано і видано перший галицький альманах «Русалка Дністрова», що відіграв велику роль в галицькому літературному відродженні.

У 1838 році на Чортківщині виникли великі заворушення селян. Вони охопили близько сорока громад і тривали два з половиною місяці. Щоб навести лад у тих селах, громади яких виступили проти надмірного гноблення, уряд змушений був ввести війська та придушити селянські виступи за допомогою сили. Тактика селянської боротьби зацікавила Я. Головацького, і він вирішив знову повернутись у південні райони Тернопільщини. У 1839 році здійснив чергову подорож Чортківщиною, про яку опублікував розповіді під назвою «Мандрівка по Галицькій і Угорській Русі».

В 1841 році Яків Головацький закінчив навчання у Львівському університеті, а в 1842 - Львівську духовну семінарію, після чого був висвячений на священика. У 1842—1846 роках служив греко-католицьким парохом в с. Микитинці (нині село Косівського району ІваноФранківської області).

Згодом у Тернопільській гімназії почав працювати його брат Петро. Це наштовхнуло Якова переїхати з Косівщини на Тернопільщину, і він у 1846 році оселився в с. Хмелевій теперішнього Залішицького району, де став греко-католицьким парохом (1846-1848 р.).

1846 р. Я. Головацький під псевдонімом «Гаврило Русий» надрукував німецькою мовою у журналі «Річники слов'янської літератури, мистецтва і науки», (Лейпціг) статтю «Становище русинів у Галичині», в якій різко виступив проти переслідувань української інтелігенції владою. 

До 1848 р. Яків Головацький зібрав та обробив багатющі українські мовознавчі матеріали.  

1848 рік — активний учасник з’їзду українських учених у м. Львові, на якому виступив із доповіддю «Розправи о язиці южноруськім і його нарічіях».

У 1859 р. очолив боротьбу проти прихильників заміни кирилиці латинкою.

У 1848—1867 роках — професор української мови й літератури у Львівському університеті, а в 1863— 1864 роках — ректор університету. У 1850-ті pоки під впливом М. Погодіна й Д. Зубрицького перейшов на москвофільські позиції. У 1867 році за участь у Московській етнографічній виставці звільнений з університету, тоді ж виїхав до Російської імперії.

У Росії, зложив з себе духовний сан і перейшов у православ'я. У 1867—1888 роках — голова Віленської археографічної комісії та бібліотекар. Перебував під особистою протекцією імператора Олександра II. 

Автор праць з історії, археології, етнографії та філології, перекладів із хорватської й сербської мов. Серед численних праць на літературні й етнографічні теми: «Три вступительные преподавания о русской словесности» (1849), «Очерк литологии» (1860), «О литературно-умственном движении русинов» (1863), «Карпатская Русь» (1875), а особливо збірник «Народные песни Галицкой и Угорской Руси» (т. 1—4, 1878), яка й сьогодні має наукову цінність.

Велика наукова спадщина Я. Головацького, на превеликий жаль, ще й досі повністю не зібрана й не досліджена. Помер у м. Вільно (нині м. Вільнюс) 13 травня 1888 pоку.