Attenta che showmodaldialog non è supportato da Crome e Opera.
Poi, per effettuare il postback alla chiusura della modal, devi fare in modo che essa torni "true", e che il click sulla griglia scateni un postback
Ecco un estratto di come ho fatto una volta:
[size=1]
https://connect.microsoft.com/VisualStudio/feedback/details/558626/visual-studio-2010-offline-help-experience-is-inferior-to-the-visual-studio-2008-offline-help-experience
[/size]