Añadir el siguiente comando junto a uno de los siguientes valores en el apartado Extra Options de la pestaña Video.

, --rotate=3

• 1 : x flip
• 2 : y flip
• 3 : 180 degrees rotate (also the DEFAULT)
• 4 : 90 degrees rotate (clockwise)
• 5 : 90 degrees rotate + y flip
• 6 : 270 degrees rotate + y flip
• 7 : 270 degrees rotate

Fuente: http://superuser.com/questions/418985/can-handbrake-flip-rotate-a-video