Cuando Inglaterra y Escocia se fusionaron en 1707 para formar el Reino de Gran Bretaña, ¿cómo armonizaron sus tratados internacionales?

Ellos no lo hicieron.

Inglaterra siempre ha tenido un sistema legal diferente al de Escocia. La última vez que esto causó controversia fue en 2009 con el lanzamiento de Abdelbaset Al-Megrahi, el bombardero Lockerbie por motivos compasivos.
El parlamento inglés (con el respaldo de Estados Unidos) afirmaba que estaba fingiendo cáncer terminal y que no estaba enfermo. Los escoceses se mantuvieron firmes, apegándose a más principios nórdicos.

A partir de 1603, Inglaterra y Escocia tuvieron los mismos gobernantes, con un breve descanso durante la guerra civil (1645-1649) cuando Escocia declaró que la guerra terminaba en la gran derrota en Preston (1648)

Había muy poco derecho internacional en ese momento. Los edictos papales fueron ignorados por ambos.
La mayoría de los tratados y alianzas se basaron en matrimonios entre la realeza.

La política exterior británica fue más impulsada por la tradición que la letra de cualquier ley. Antes de 1485, Inglaterra tenía un gobierno central muy débil, los señores de la guerra locales podían desafiar a la corona con bastante facilidad.
En general, ambos países simplemente tenían un acuerdo no escrito de que los tratados firmados previamente por cualquiera de las partes se aplicarían al nuevo país.
La mayoría de las leyes internacionales que involucran a Inglaterra y Escocia fueron tratados de paz entre los dos que acordaron no luchar.

En ese momento, la idea del derecho internacional vinculante era nueva. La mayoría de los acuerdos internacionales todavía se basaban en relaciones personales entre soberanos o entre individuos poderosos. Los únicos acuerdos internacionales reales fueron los tratados que pusieron fin a las guerras. 50 años antes, con la Paz de Westfalia, las potencias europeas reconocen la idea de que otros estados eran algo más que inconvenientemente controlado temporalmente por otro gobernante. La Paz de Utrecht 10 años después llevó la idea más allá y estableció que los estados podían entregar territorios y derechos comerciales en lugar de simplemente reconocer que ya se habían perdido por la fuerza.

En el momento del Acta de la Unión, Escocia e Inglaterra habían estado del mismo lado de todos los conflictos desde el final de las Guerras de los Tres Reinos (la Guerra Civil Inglesa era una de ellas), aunque Escocia había sido en gran medida un aliado inactivo siendo relativamente pequeño y sin dinero. Una motivación para la Unión de Parlamentos fue formalizar este estado diplomático y evitar futuros desacuerdos. El principal evento que condujo a la unión fue el Plan Escocés Darién para colonizar el Istmo de Panamá. Esto falló y llevó a la bancarrota a gran parte de la nobleza escocesa y, por lo tanto, al estado escocés, como bien se documenta. Sin embargo, lo que es menos comentado es el hecho de que los escoceses pensaron que podrían salirse con la suya colonizando un trozo de territorio generalmente reconocido como controlado por España, sin ninguna Marina de guerra, porque los ingleses vendrían a ayudarlos. Desafortunadamente para los escoceses, los ingleses no querían provocar a los españoles en ese momento, y esa es la razón principal por la que el plan falló.

No conozco todos los detalles, pero ofreceré algunas conjeturas.

Escocia necesitaba unión porque estaba esencialmente en bancarrota luego de la fallida colonización escocesa de las Américas. Los escoceses estaban en bancarrota y necesitaban un rescate.

Como Escocia no cumplió con sus obligaciones financieras, Inglaterra se hizo cargo y la nueva Unión renegoció las obligaciones anteriores de Escocia.