當海頓18歲時,曾十分潦倒過,幸好遇到麥克.施潘勒 (Michael Spangler),一位窮困的歌手兼音樂教師,後來海頓與他住在一起。逐漸的,海頓成了一個以演奏、作曲和教學為生的自由音樂家。海頓透過施潘勒的學生,結識了義大利作家兼詩人梅塔斯塔修 (Metastasio);同時,他還結識了義大利籍的作曲家尼科洛.波波拉 (Nicolo Antonio Porpora)。海頓後來成為波波拉的助手,並從他那裡學習了有關作曲的知識。也因為波波拉的關係,海頓才能出入貴族社交圈。
有一次波波拉介紹海頓參加音樂方面的社交活動時,他遇到奧地利貴族卡爾.約瑟夫.馮.芬伯格 (Karl Joseph von Fürnberg)。1757年,芬伯格邀請海頓到自己的鄉村別墅參加室內樂演奏,在這次拜訪中,海頓寫了最早的幾首弦樂四重奏,而且廣受歡迎。後來芬伯格將海頓推薦給波希米亞的莫爾辛 (Morzin)伯爵。1758年,這位伯爵聘請海頓為自己宮廷的樂長,而這是海頓最早的固定職業,也從這時期開始,海頓早期的四重奏和交響曲的樂譜,就在奧地利帝國流傳開來。在這之後,海頓曾有過婚姻,但是並不美滿,期間,海頓還曾為了他的妻子寫了一首E大調的《吾王拯救我》(Salve Regina),這是海頓早期較重要的作品之一。
1785年,海頓成為維也納的共濟會成員,也許正是透過這種關係,他和莫札特建立了良好的友誼。1790年9月,海頓的雇主尼古拉斯去逝,尼古拉斯的兒子繼承父業,因為對音樂不感興趣,所以他解散了樂團和合唱團。之後,海頓決定回維也納,此時,倫敦音樂會的一位組織者德國小提琴家約翰.彼得.所羅門 (Johann Peter Salomon),卻給他另一種選擇,邀請他到倫敦演出。於是海頓告別了朋友莫札特,在當時他們倆人都哭了,莫札特有一種預感,他們似乎再也見不了面,遺憾的是,這種預感果真應驗了。