[8.174][INFO][NONE] HTTP Proxy Memory Usage

Since the release date is coming up soon, I just wanted to give the developers a heads up on http proxy memory usage. The proxy is using about 1gb ram (RES) after a couple of days under light usage. I am using local content database which is adding about 250MB to the memory usage. But even then, 2GB ram is not enough in my opinion to run astaro for 3 users. 

I understand that with the addition of L7 filtration, the proxy memory usage has increased but this will cause problems on smaller appliances under heavy loads in the future and the minimum requirement probably should be bumped up to 4GB.

Screenshots:
1. Initial memory usage after 8.173 clean install.
2. 8.174 Memory usage after 2 days.
3. 8.174 memory usage after proxy restart.

Regards
Bill.

P.S. Had to restart the proxy because it had become very slow. I will monitor that more closely. It would have been nice to see the access time to troubleshoot but its gone [;)]
  • Astaro Beta Report
    --------------------------------
    Version: 8.174
    Type: INFO
    State: NONE
    Reporter: Billybob
    Contributor: 
    MantisID: 
    Target version: 
    Fixed in version: 
    --------------------------------

  • One thing to keep in mind is that memory and CPU usage are higher now than they will be for GA release, due to debug logging being on by default in beta/RC builds.
    __________________
    ACE v8/SCA v9.3

    ...still have a v5 install disk in a box somewhere.

    http://xkcd.com
    http://www.tedgoff.com/mb
    http://www.projectcartoon.com/cartoon/1
  • Hi Scott,
    my memory usage has increase significantly with the 8.174 release. I am talking about at least a 5% increase over 8.172 with the same config other than some fine tuning of the web access.While the graphs didn't show much in CPU load increase, the ASG seemed to be struggling. I think a reasonably optioned (feature use) ASG with the Atom 330 CPU will struggle to keep up after v8.2 release.

    So, I have upgraded the CPU from a AMD 5050e (45w) to AMD 240e (45w) and the memory from 667 to 800. Power use has increased to 45w. Also there might have been conflicts at motherboard level with the 505e that don't appear to be there with the 240e.

    Also, reading the notes you posted in another thread, 8.174 is the first GA or did I misunderstand you?

    Ian
  • Keep in mind that at least 800MB res is pretty normal for a proxy which has the local contentfilter DB enabled. The DB itself takes around ~300-400MB RES, and during reload of the database the proxy needs twice as much RAM. If you have AV scanning + Application control enabled, this could easily sum up to 1GB.

    It would be interesting how much memory the proxy uses with the local DB disabled.
  • Mine is creeping up slowly as well.... this is after three days running.  I have local content filter DB enabled.  See image and file for details.

    I'll disable the local DB and reboot then check the numbers after three days.

    Paul

    Sorry, I have the DB in memory.  Will disable now and test.
  • Keep in mind that at least 800MB res is pretty normal for a proxy which has the local contentfilter DB enabled. The DB itself takes around ~300-400MB RES, and during reload of the database the proxy needs twice as much RAM. If you have AV scanning + Application control enabled, this could easily sum up to 1GB.

    It would be interesting how much memory the proxy uses with the local DB disabled.

    So I ran some tests with the content db off and what a difference. I never really had a problem with slow browsing but liked the idea of local content database but I think now I like it better without the database in memory. The proxy is very light weight and we are back to no swapping.

    I understand the high ram usage on reload but don't understand why that memory is not released afterwards. The virtual size for httpproxy was around 2Gb with local content database in memory. 

    In any case I am going back to no content database[;)] Screenshots of no database httpproxy initial load and after 1 day.

    Regards
    Bill.
  • As a good middle ground, you may want to try running the local content db from disk instead of memory.  It's speedier than not using it at all, but doesn't use as much memory.
    __________________
    ACE v8/SCA v9.3

    ...still have a v5 install disk in a box somewhere.

    http://xkcd.com
    http://www.tedgoff.com/mb
    http://www.projectcartoon.com/cartoon/1
  • if you start swapping then yes your performance craters.  I agree try the disk option.

    Owner:  Emmanuel Technology Consulting

    http://etc-md.com

    Former Sophos SG(Astaro) advocate/researcher/Silver Partner

    PfSense w/Suricata, ntopng, 

    Other addons to follow

  • Thanks for the input guys, I am running astaro on esxi so will allocate probably 4gb memory to it. I had used the disk option before the beta when my old PC had only 1gb ram and it ran without problems.

    Like I said previously, I don't really have the slow browsing problem that some people like william had experienced in their setups but the local db definitely makes the browsing a tad more snappier even for me. 

    The difference in memory usage with local db in memory has increased drastically with 8.2 compared to the previous versions which is probably one of the reasons it was not included as a user configurable option via webadmin in this release.

    Regards
    Bill.
  • I'll keep this in mind when i start testing my company's new standard platform.

    Owner:  Emmanuel Technology Consulting

    http://etc-md.com

    Former Sophos SG(Astaro) advocate/researcher/Silver Partner

    PfSense w/Suricata, ntopng, 

    Other addons to follow