Ciao
SelectionMode serve a determinare in che modo possono essere selezionati gli elementi, non in che modo possono essere "checkati". Quindi con SelectionMode.One è possibile dare focus a un solo elemento per volta, mentre con None non puoi darlo a nessuno, e coi Multi puoi selezionare più di un elemento per volta (anche se non sono supportati dalla CheckedListBox).
Per fare ciò che vuoi fare te, devi intercettare l'evento ItemCheck, e quando vedi che un elemento sta per essere checkato, togli il check a tutti gli altri:
Private Sub tuaCheckListBox_ItemCheck _
(ByVal sender As System.Object, ByVal e As ItemCheckEventArgs) _
Handles tuaCheckListBox.ItemCheck
If (e.NewValue = CheckState.Checked) Then
For i As Integer = 0 To CheckedListBox1.Items.Count - 1
CheckedListBox1.SetItemChecked(i, False)
Next
End If
End Sub
Luca