元の問題対する答えは以下のようになります。
X=N!(N−M)!X=\frac{N!}{(N-M)!}X=(N−M)!N! Y=N!(N−M)!M!Y=\frac{N!}{(N-M)!M!}Y=(N−M)!M!N!
これにX,YX,YX,Y が一致するような N,MN,MN,M を全探索すれば良いです。
また、XY=M!\frac{X}{Y}=M!YX=M! となることから、MMM の値が一意に定まり、それより NNN の値も定まることが示ます。