Пикселей на метр надо установить в соответствии с тем, какое разрешение хочется получить на выходе. Например, для 1:100000 при разрешении 150dpi (мельче уже будет плохо) надо ставить 1000(м в см)*2.54(см в дюйме)/150 (пикселей в дюйме)=16.933м/пиксель.

Чтобы не было рамок, надо в привязках исходных карт выставить границы карты по углам активной области. Это такие красные уголки в углах карты, которые видны и перемещаемы в режиме "check calibration of map".