证明:(1)∵SD=CD.∴△SDC为等腰三角形.
又∵M为SC的中点,∴DM⊥SC.
又∵平面SCD⊥平面SBC,平面SCD∩平面SBC=SC且DM⊂平面SCD,
由平面与平面垂直的性质定理可知,DM⊥平面SBC.
又∵BC⊂平面SBC,由直线与平面垂直的性质可知DM⊥BC,
又∵BC⊥CD,DM∩DC=D,DM⊂平面SCD,CD⊂平面SCD.
∴CD⊥平面CDS,
∵BC⊂平面SCD,
又∵BC⊂平面ABCD,
∴平面SCD⊥平面ABCD.
(2)(方法一)由(1)可知,BC⊥平面SDC,∴BC⊥SC.
在Rt△SCB中,=.
在△SDC中,由余弦定理可知,,
∵∠SDC∈(0°,180°),∴∠SDC=120°.
过点N作NG⊥CD于点G,G为垂足,则NG∥BC,
∵BC⊥平面SCD,∴NG⊥平面SCD,
∵DM⊂平面SCD,∴DM⊥NG.过点G作GK⊥DM于点K,K为垂足,连接NK.
∵DM⊥GK,DM⊥NG,NG∩GK=G,∴DM⊥平面NGK.
又∵NK⊂平面NGK,∴DM⊥NK,
∴∠GKN即为二面角C-DM-N的平面角,
在Rt△NGK中∠NKG=60°,∴,∴=,
在,
∴,
∴GC=CD-DG=6-4=2,
∴NB=GC=2,AN=AB-NB=9-2=7,
∴.
(方法二)由(1)可知,BC⊥平面SDC,∴BC⊥SC.
在Rt△SCB中,=,
在△SDC中,由余弦定理可知=,
∵∠SDC∈(00,180°),∴∠SDC=120°,
过S点作线段CD的延长线的垂线,垂足为O,
∵∠SDC=120°∴∠SDO=60°,∴,∴OC=9,
∴四边形ABCO为矩形.
由平面SCD⊥平面ABCD可知,SO⊥平面ABCD
以OA所在直线为x轴,OC所在直线为y轴,OS所在直线为z轴建立空间直角坐标系.
则,
设AN=a(a>3),则,
设平面DMN的法向量,
由,令,得,
∴,
又∵平面CDM的法向量,
∴,
∴,
∴∴,∴,
∵a>3,∴,∴a=7,
即AN=7,∴NB=AB-AN=9-7=2,
∴.