Иностранцы уже тогда писали на бумаге.

Верно, в подавляющем большинстве берестяные грамоты написаны по-древнерусски, и лишь небольшое число - по-церковнославянски. Но! ... Обнаружены две берестяные грамоты, написанные жившими в Новгороде иностранцами на латинском и нижненемецком языках. Известны также греческая и прибалтийско-финская грамоты. Последняя представляет собой заклинание, языческую молитву середины XIII века. Она на триста лет старше всех известных ныне текстов, написанных по-фински или по-карельски.
http://rusolimp.kopeisk.ru/history/?file=122

Почему одну бересту находят? Новгород разве был настолько беден, что не мог приобрести бумагу или пергамен, папирус, глиняные таблички для письма и т.д. и т.п.? Тем более, что торговал со всей Европой.