Сцена статическая, скорость не важна, пусть хоть 10 минут рассчитывает. Может исходя из теории светотехники кто-нибудь подкинет идею? Задача сводится к тому, чтобы просто наращивать RGB каждой из точек. На этот прирост влияет: расстояние, углы, коэффициент отражения поверхности (от 0 до 1). 0 - абсолютно матовая поверхность, 1 - абсолютное зеркало. С расстоянием и углами вроде всё понятно описано в этой статье
https://xakep.ru/2001/12/27/14208/. Остается вопрос с коэффициентом отражения поверхностей (каждой из её точек) - по какой зависимости меняется прирост RGB с изменением коэффициента отражения?