théoriquement, si les surfaces sont bien dégraissées et propres (alcool à 90°), y a pas de raison. mais attention, la cyano (type superglue) est à peu près la seule colle qui tienne sur le pvc.
ceci dit, c'est mon coté prudent : je préfèrerais qu'un gros coup de vent décolle le tout plutôt qu'arracher une vis plantée dans une fenêtre. .
après, il y a l'arme fatale : vissage et collage.

mais j'avoue ne jamais m'être penché sur la question. j'ai des fenetres en pvc aussi, mais la poignée a une sorte de picot qui s'enclenche dans l'autre battant pour laisser entrouvert.