Die Orangerie auf Gut Raudondvaris wurde in den Jahren 1837 bis 1839 erbaut. Der Graf reiste viel und pflegte den Gärtnern aus fernen Ländern verschiedenste Setzlinge mitzubringen. Die Orangerie rühmte sich ihrer Zitrusbäume. In Holzkübeln wurden niedrige Apfelbäume gepflanzt. Sobald die Temperaturen anstiegen, wurden die Pflanzen nach draußen gestellt. Inmitten der Pflanzen konnte man das Geplapper bunter Papageien hören und Äffchen springen sehen. Selbst die scharfen Zähne eines Krokodils konnte man in der Orangerie auf Gut Raudondvaris bewundern. Hier gab es drei Aligatoren. Heute wirkt in der Orangerie ein Restaurant.