地面が固かったり、ラフなどで安定しないのでボールマーカーをプレー球以外の予備球で押し付けてマークしたが、ペナルティになるか？予備球ではなく、拾い上げたボールでボールマーカーを押し付けた場合ペナルティになるか？

ボールマーカーを動かなくするためにボールでマーカーを押し付けるのですからペナルティにはならない。
ボールマーカーが芝に浮いている状態や安定していない場合でも,ボールを拾い上げてもペナルティになりません。