Il faut changer les joints (en forme de losange) des puys de bougies, au niveau des couvre-culasses. Les 4 pièces ne coutent pas cher mais il y a un peu de travail. On en profite alors pour vérifier le jeu aux soupapes.
L'huile que tu indiques coule en effet autour des bougies, par ce joint en losange qui fuit.
Cela dit, selon la quantité, ce n'est ni grave ni urgent.
Sur le lien donné par Biwolf, tu verra des photo du joint...
En général sur la RSV4, il est recommandé de ne pas mettre plus d'huile que 2-3mm au-dessus du trait situé sur le carter au niveau du hublot (niveau moteur chaud, arrêté depuis quelques minutes, moto droite, sol bien horizontal). Cela réduit le risque de fuite par sur-pression.