法融讀了許多儒家的經典和佛經後說：
“儒家的義理和許多世俗的文章，象糠粃一般，而佛家般若止觀等道法，可以渡人到幸福的彼岸。”
法融從此出家爲僧。
法融投奔炅法師學道。炅法師道法出衆，享譽當時。法融一邊幹活，一邊聞道。法融認爲，求道的根本在于心神歸一，否則虛妄的念頭就永遠難以除掉。法融于是凝心靜坐，精修二十年，各種佛法一時全都通曉。
想獨自修煉，離開炅法師，法融在牛頭山幽棲寺北面的山岩下建草房做禅室。法融在房中日夜苦修，以求至道。幾年之內，前來向他求道者達上百人。
起初建造的禅室，四面牆壁不全。弟子道系、道憑正在禅室修煉，半夜裏有一只象羊的怪獸竄進禅堂，踢騰怪叫，用腳踏兩人。兩人一動不動，凝神修持。那只怪獸見他們不受幹擾，就走出禅室不見了。
法融在山中的一個石房內坐禅，房子有十步深。夜晚，法融正在修煉，一只神蛇爬到石室門口示威。神蛇長有一丈，眼睛象燈籠。神蛇在門口呆了一夜，見法融絲毫不動，就爬走了。
法融修煉的山中，虎狼成群，打獵的人也不敢入山。法融卻在山中往來自如。法融在禅室給衆僧講法，群鹿前來伏地聽講，一點兒也不怕。有兩只大鹿就幹脆住在法融的禅室中，聽法叁年才離去。法融和禽獸的關系融洽，許多野獸常常從他的手上取食。
法融和衆僧在山崖上做飯，山崖上有瀑布，只是水流很小，使用不便。一天法融漫步徐走，他用手指著東邊的山嶺說：
“過去遠公用手中錫杖拄地，地下就流出泉水來，耿將整了整衣冠，于是破甕中的水就自然溢滿。這全是誠心所感。如果這個地方可以久居，一定會清泉日溢。”
過了一夜，東邊的山嶺果然清泉飛流，清澈甘美，冬暖夏涼。泉水可以飛濺到山崖上，法融等山頂上用飯鍋接水，煮出飯來，香氣撲鼻。
又有一次，法融在山岩下講法華經，當時大雪紛飛。一會兒，就看見兩枝仙花從空中飄然而下，象芙蓉一般燦爛無比，經過七天之後，花卻突然消失，衆人無不稱奇。
牛頭山的附近有佛窟寺，其中有七藏經書，即佛經、道書、佛經史、俗經史、醫藥偏方等43種。這寺是劉宋初年，一個姓劉的司空所造，他家巨富，于是尋找七經，並抄寫出來，用來鎮寺。
法融經常到佛窟寺中，與炅法師探討佛經，炅法師掌管七藏，法融每天前去請教，過了很久，炅法師對法融的人品才學有所了解，才讓他看七經。法融夜以繼日地閱讀經書，經過八年，已將七經了然于心。
這之後，法融再次回到山中，閉門守靜，他的禅房之內，此時已是空空蕩，只有一個坐墊，其它的地方長滿了青草。他坐的床已有二寸厚的塵土。法融對此並不在意，只是凝思修煉，遺形忘骸。
武德(唐高祖李淵年號)七年，王師前去討伐長江一帶的叛亂。那個地方有僧人近五千人。爲穩定秩序，左仆射房玄齡上奏：
“賊衆所居各州，僧尼很多，可以依照關東舊製，每州只設一寺，每寺只留叁十人，其他的人全部遺歸鄉裏，編入戶籍。”
法融不能容忍這樣苛刻的法律，前往京城辯明事理，禦史韋挺仔細看過法融的表奏，發現其論理充足，文詞華美。過了叁個月，韋挺把法融領到房玄齡那裏，房玄齡很佩服大師的高風亮節，但卻固執于以前的看法：
“並不是說您的意見沒有道理，但我曾經上書奏明此事，怎麼能更改呢？當然，我也不會讓象您這樣的高僧從俗，您那裏留一些德行較高的，其他的人就不用您照顧了。”
法融雖然堅持自己的意見，但知道目前的局勢一時難以改變，而且也不會延續很久。他回到寺中，仍堅持度僧，講法不辍。
永徽(唐高宗年號)叁年，有地方官請法融到建初寺講大乘之道，聽講的有上千人。當法融講到滅谛品時，他雄辯滔滔，張揚義理。大地被他的宣講所震動，聽者頓時騷動不安，鍾二罄、香爐、坐床都先後搖動起來。這些，寺外沒有聽講的人沒有感覺到。
永徽年中，右仆射季靜之的長子，江甯縣令季修，生來就心向佛道，推崇大乘。季修非常欽佩法融的美德，和許多名士俗衆一起請法融前往州中講法。法融沒有答應，季修領衆人叁次前來，法融才同意。
州中宿儒，許多人不信佛法，對請法融講法多次阻撓。等到法融登上講席，弘講妙法，回答提問，闡明佛理時，衆人無不折服，法融講道，似雲雨淋漓，又好象大河滔滔。聽講的僧俗達叁千人，擁滿了講法的院子。
其中有一些修持很久的僧人，他們傲氣十足，目空一切。可當他聽到法融的高論時，個個惶恐不安。無法挽回面子，只是硬著頭皮責備法融，法融總是承認自己學識寡薄，難以和至道之人相比，並不和他們計較。對他們所提出的問題，則一一解答，並無阻礙。
法融告誡聽講的衆人：
“先前如來說法，現在佛理猶存。人雖有凡聖叁分，但佛理至道只有一個。可是你們不可能一次聽講就能悟徹大道，還要聞道見行，心不要被外物所累。只要我們克服貪、瞋、癡等煩惱之根，我們就可以解脫了。”
講聽者扪心自問，若有所得。
此時，睦州妖女陳碩真，用邪術蠱惑人心，遺誤良善。四方的僧人許多到建業聚會，州縣的官府認爲他們是妖徒，派人搜捕他們。衆僧四處逃難，卻沒有寺院敢收留他們。
法融正在山中幽舍修持。寺中僧衆早已因缺糧而饑寒交迫。可是，每天又有逃難的僧人前來投奔，總數已超過了叁百人。連原來的僧人都想散去，現在又有這麼多新來的。何況縣令還下告示，不許僧衆聚集在一起。但法融卻對衆人說：
“各位道友，山寺雖然蕭條，但已足以庇身。有無都不能長久，這是佛法之理。不要因官府的管製而心想逃離，要遇寺而歸。你們如果要逃，能逃到何處呢？大家還是各自安心修業，有福有禍共同擔當。各種欲望是人生之苦的根本，一直追逐人，來生還有地獄之苦。我們如果心離不開世俗迷悟，老想著世俗之苦，不是修正法來超脫，卻是想逃離，這便是爲塵世所障礙。這是我們修道的大忌啊！現在我們應當立即鏟除它，把心思放到修法中來。”
衆人聽後，非常慚愧，不再想逃離了。
山中有如此衆多的僧人，自然就要許多的糧食，法融親自前往丹陽廣告世俗。衆人聽說山中缺糧，紛紛節省食糧，給山上送去。法融親自和衆人擔糧，一次擔一石八鬥，送去再擔。每天來往多次，毫無倦意。經過一百天的運送，寺中糧食充足，僧人都安心學法。那些不聽勸告的，跑下山去，被官府抓住，受到了嚴刑拷打。
顯慶(唐高宗年號)元年，司空蕭元善再次邀請法融前往建初寺弘法。法融對諸僧說：
“從今一去，再無會期，有離有合，本是自然。”
法融向衆僧道別後，走出山門。這時，禽獸哀號，一天不停。山間的泉水，沙子湧上來，將泉眼堵死。房前的大梧桐樹，在繁茂時突然凋零了。
在建初寺不遠，有一座寺院，寺裏有一個亘法師，他陳時就是有名的高僧，現在已經年過八十，是金陵的衆僧之首，許多法事都由他主持。法融在幽棲寺時，就曾前去拜訪。法融對亘法師講出自己的疑：
“經中的明佛說法，聞法者能于言中悟道，不必在經論之中分析文句，猜測內容。想您這樣的大德，得到佛的真傳。我卻沒有聽過真傳至道。我自己的腦袋又不開竅，堵塞壅蔽得厲害，所以不能悟道。處在愚昧不化之中，我自己也感到很惶恐，渴望得到指教。我希望您能指點迷津，使我不再糊塗，我願聽您的教誨。”
亘法師沈吟很久，才說：
“我以前在陳朝時，也遇過一個禅師，是諸位王侯重臣都歸依相敬的，他登上講席講法，宣揚致道，和你一樣。我這個人才能平庸，怎麼能得到高師的遺教呢？”
二人言不投機而散。亘法師那時是對法融道法不信任，所以才推辭不講。
法融第二次來到建初寺時，仍然勤修不止。此時法融的名聲已傳遍天下。亘法師改變了原來的看法，對法融的德行非常敬重，于是拄著拐杖去找法融。到了建初寺，有個叫德善的禅師見亘師遠道而來，很高興。兩人談了一會兒。亘法師說：
“我因爲法融才來這裏。”
德善禅師和法融同住一寺，最初並不看重他的道行。經亘法師這樣一說，他很想見識一下法融的道法，于是他們把法融請來，讓他談論佛家至理。法融正襟危坐，即興弘講。法融一開口就是叁百對工整的韻文，沒有一點浮飾不實的地方。二位大德交口稱贊，親自爲法融在寺中主持法席。
法融心懷慈悲，與人爲善，胸懷寬廣。他從不與人爲敵，也不記別人的過錯。
有一個僧人，聽到有人誹謗法融，罵法融不是人。他向法融說了此事。法融卻責備他說：
“過去的咒罵就象風一樣，一吹過去就沒有了，出口也就不見了。你怎麼能把這種虛談對我講呢？一切無住無著才是我們的本願。這樣才能安然忍受刀劍。”
曾有人登上寶座厲聲辱罵，有人當衆對他誹謗，他都當做耳旁風，絲毫不起瞋怨之心，反而面露笑容，和顔悅色，那些前來辱罵者則醜態百出。
法融于顯慶二年，死于建初寺。道俗之衆爲之悲哀。後葬于雞籠山中，幢蓋飄動，笳哀蕭悲，驚動天雲。前往送葬者達一萬多人。