この寺は、南北朝時代の建武年間（1334年 - 1338年）に、赤松則村（円心）を開基とし雪村友梅を開山に招請して創建されたと伝えられる。以後、赤松氏の菩提寺であった。康暦2年（1380年）に汝霖良佐を住持として迎える。また、1454年には室町幕府に反乱を起こして山名宗全に敗死した赤松則尚の首実検が法雲寺で執り行われた。
また『扶桑五山記二 日本諸寺次位』の応永17年（1410年 ）2月28日の「十刹位次」の項に、全国の諸寺院とともに「法雲寺 播州 金華山 開山雪村和上宝覚禅師」の記載があり、
五山に次ぐ十刹に列せられていた。（ただし、この時期の十刹の実数は十ヶ寺ではなく、それ以上である。）
