Ciao
Devi racchiudere anche il percorso dove esportare fra virgolette, perché se contiene spazi non viene riconosciuto correttamente.
Quindi fai così:
Dim percorsoArchiviazione As String = "C:\Program Files\prova\abc.reg"
Dim chiave As String = "HKEY_LOCAL_MACHINE\SOFTWARE\ecc"
Shell(String.Format("regedit /e ""{0}"" ""{1}""", percorsoArchiviazione, chiave))
Luca