Есть ли какие-нибудь виртуальные машины, которые бы давали гостевой системе больше памяти, чем имеется на хосте (с использованием своп-файла, разумеется)?

(0) А смысл?

(1) Ну в тестово-отладочных целях, чтобы запустить программу, которая требует минимальный объем ОЗУ.

(2) Виртуальные боксы, которые от Оракла, настраивал?
Там же заданы предопределенные максимальные значения, зависящие и от хоста и от выбранной ОС, которая будет запускаться внутри бокса. Как бы проблема не только с виртуальной машиной самой по себе, но и выбираемой ОС. А для полной настройки еще и образ гостевого диска имеется в комплекте к виртуальному боксу, который также зависим от ОС в боксе.

это я к тому, что какие-нибудь ответы тебя не устроят, т.к. они могут не совпасть с нужной для тебя ОС.

(2) Вероятно программа не просто так требует именно ОЗУ?
Сравнил пропускную способность SSD и DDR3. Первые попавшиеся... Разница скорости в 28 раз. Т.е. если программа требует ОЗУ для обработки данных за час, то при использовании диска обработка этого же объема данных займет сутки. Может из-за этого и смысл теряется?