昭和22年（1947年）秋、終戦後も日本に残留していた留学生たち（旧満州・蒙彊地区からの来日）の困窮を聞き、元蒙古軍軍医顧問の松崎陽は、東京飯田橋の留学生会館に彼らを訪ねてその相談相手となった。やがて翌23年3月、モンゴル人民共和国での抑留から帰国した蒙古軍軍医の春日行雄の現地報告を聞き、元蒙古軍自治邦政府の参事官であった山本信親と3名で、「モンゴル民族の向上に努める」という初心に帰り、同志を糾合して民間親善団体を作ることを協議した。
他方、昭和26年（1951）に元駐蒙軍参謀部調査班長矢野光二を中心とする「ゴビの友の会」をはじめ、昭和30年（1955）に元満州国興安総省参事官の郡司彦を事務局長とする「興安会」が、また中嶋万蔵元蒙古自治邦政府総務課長ら蒙彊在職者の「らくだ会」、柳下良二元蒙古軍関係者による「蒙古会」など、モンゴル各地の職域別の諸団体が結成された。
さらに、後藤冨男、江上波夫、岩村忍、音尾秀夫、坂本是忠、田山茂、服部四郎、松田寿男らによる内陸アジア協会」が昭和32年（1957）4月に、そして昭和36年（1961）2月には、松崎陽、山本信親、矢野光二、内藤智秀らによる「東光会」が発足し、それぞれ積極的な集いとし、次第にモンゴルに関心を持つ有志が結集する方向に向かった。
昭和39年（1964）東京オリンピックに当時まだ日本と国交のなかったモンゴル人民共和国の選手団を迎えるに当たり、それらの接遇などの必要もあり、既存のモンゴル関係諸団体の主要メンバー21名が発起人となり「日本モンゴル協会」を設立。活動を開始と同時に、外務省に法人許可を申請した。翌40年5月25日には椎名悦三郎外務大臣より許可され登記を完了した。
昭和46年（1971）7月、モンゴル人民共和国の人民革命50周年祝典に招待された松崎理事長と春日事務局長は、愛知揆一外務大臣の内意を受けてウランバートルを訪問し、彼我の重要なパイプ役を果たして帰国した後、柳下常任理事による奔走とも相まって翌47年2月、日本・モンゴル両国は国交樹立の覚書を交換した。
以上の経緯のごとく、本協会はモンゴルに対する深い経験と活動実績を有し、外務省および在京モンゴル大使館とは常に密接な関係を保ち、モンゴルについての知識の普及、親睦交流活動に邁進している。また、当協会は国家地域を問わず世界各地に居住しているモンゴル民族との交流も図っている。
昭和53年5月、初代会長に松崎陽、昭和56年10月には第2代会長に柳下良二が、理事長に春日行雄が就任。平成9年4月には春日行雄が第3代会長に、神澤有三が理事長に、平成10年には中原義行常任理事が事務局長に、それぞれ交代・就任した。
平成10年6月にはウランバートル市にモンゴル支部が新たに開設され、平成9年8月同市に開かれた「テムジンの友塾」（塾長・春日行雄）と連動・提携して、その活動を活発に展開している。
平成12年度には付設の「モンゴル研究兼・会員の憩泊・小会議施設」（「日本とモンゴル」第101号130頁参照）を設け、「鳩山分室」を皮切りに積極的に研究活動を開始している。
平成14年度には春日行雄会長が勇退し、神澤有三が会長に、中原義行が理事長に就任した。
平成15年7月には「鳩山分室」設立後に開設された「箕郷分室」にモンゴルのゲル（直径6メートル）を設け地域住民へのモンゴル紹介のために供している。
平成16年度には中原義行理事長が退任、後任として吉田順一常任理事が理事長に、窪田新一理事が事務局長に就任し、本部も横浜片倉町から東京と新宿区戸山1-24-1（早稲田大学文学学術院）吉田順一研究室に移転登記し現在に至っている。
平成17年度には、神沢有三会長が退任し、吉田順一理事長が会長に就任し、窪田新一事務局長が理事長に就任した。神沢有三氏は、新設された日本モンゴル協会総合研究所の初代所長に就任した。また木村理子理事が事務局長となった。
