gimpをテストしてみた。
600dpiでスキャンしたデータをグレースケールまでなら
何とかつかえたが、
RGBに変換したら、カリカリいってだめそう。
メモリが少ないかもしれない。
gimp使用時

-bash-3.2$ free -m
             total       used       free     shared    buffers     cached
Mem:           438        431          7          0          4        138
-/+ buffers/cache:        288        150
Swap:          895        147        748

gimp未使用

-bash-3.2$ free -m
             total       used       free     shared    buffers     cached
Mem:           438        268        169          0         18         57
-/+ buffers/cache:        192        246
Swap:          895        146        749