Ciao
forse non mi sono spiegato bene 
provo a chiarirmi con un esempio: ho una RichTextBox contenente questo testo:
((?#...)
\((?#...)
\\((?#...)
\\\((?#...)
Ogni linea costituisce il pattern di una regex. Quindi nella prima linea la parentesi aperta è da intendersi come un gruppo di raccoglimento. Nella seconda, invece, poichè davanti alla prima tonda c'è una \, questa regex è da intendere come un "fai il match di una ("; nella terza riga davanti alla tonda c'è una barra, ma piochè davanti a questa barra ce n'è un'altra, la regex significa "fai il match di una \ e quindi crea un gruppo di raccoglimento", mentre nella quarta riga la regex significa "fai il match di una \ seguita da una ("
Adesso, per eseguire la colorazione della sintassi ho bisogno di colorare in un modo il gruppo di raccoglimento, e lasciare normale il testo letterale. Per farlo avevo pensato ad una regex contenente un lookbehind, che desse il match soltanto se il carattere (in questo caso "(") è preceduto da un numero pari di "\" (primo e terzo caso), e che lo ignorasse quando preceduto da un numero dispari, poichè le "\" si "annullano" a due a due, e la rimanente trasforma il carattere in un match letterale.
Purtroppo fin'ora usando solo le regex non sono riuscito a concludere niente 
...
Luca