openjdk-6 6b24-1.11.3-1ubuntu0.10.04.1 allocates native memory up to the limit, 6b18-1.8-0ubuntu1 works fine

[Dominik Stadler]

my java-application on a server was running fine until I upgraded to the latest openjdk-6 packages. Suddenly the application is allocating huge amounts of native memory, up until memory is exhausted and the machine dies. -Xmx settings do not affect this, jmap only reports 30MB of memory being used. Reverting back to 6b18-1.8-0ubuntu1 made it work again.

The application is downloading some HTML pages using the HtmlUnit Java library, no native or JNI code is in place.

In the meantime I tested the following Java verisions from Oracle, all work fine:
* jdk1.6.0_24
* jdk1.6.0_31
* jdk1.7.0_06

What else do you need to investigate?

Upgrade log:
...
Vorbereitung zum Ersetzen von icedtea-6-jre-cacao 6b20-1.9.13-0ubuntu1~10.04.1 (durch .../icedtea-6-jre-cacao_6b24-1.11.3-1ubuntu0.10.04.1_amd64.deb) ...
Ersatz für icedtea-6-jre-cacao wird entpackt ...
Vorbereitung zum Ersetzen von openjdk-6-jre-headless 6b20-1.9.13-0ubuntu1~10.04.1 (durch .../openjdk-6-jre-headless_6b24-1.11.3-1ubuntu0.10.04.1_amd64.deb) ...
Ersatz für openjdk-6-jre-headless wird entpackt ...
Ersetzen der Dateien im alten Paket openjdk-6-jre-lib ...
Vorbereitung zum Ersetzen von openjdk-6-jre-lib 6b20-1.9.13-0ubuntu1~10.04.1 (durch .../openjdk-6-jre-lib_6b24-1.11.3-1ubuntu0.10.04.1_all.deb) ...
Ersatz für openjdk-6-jre-lib wird entpackt ...
Vorbereitung zum Ersetzen von openjdk-6-jre 6b20-1.9.13-0ubuntu1~10.04.1 (durch .../openjdk-6-jre_6b24-1.11.3-1ubuntu0.10.04.1_amd64.deb) ...
Ersatz für openjdk-6-jre wird entpackt ...
Vorbereitung zum Ersetzen von openjdk-6-jdk 6b20-1.9.13-0ubuntu1~10.04.1 (durch .../openjdk-6-jdk_6b24-1.11.3-1ubuntu0.10.04.1_amd64.deb) ...
Ersatz für openjdk-6-jdk wird entpackt ...
Vormals abgewähltes Paket icedtea-netx wird gewählt.
Entpacken von icedtea-netx (aus .../icedtea-netx_1.2-2ubuntu0.10.04.2_amd64.deb) ...
openjdk-6-jre-headless (6b24-1.11.3-1ubuntu0.10.04.1) wird eingerichtet ...
Neue Version der Konfigurationsdatei /etc/java-6-openjdk/fontconfig.properties wird installiert ...
Neue Version der Konfigurationsdatei /etc/java-6-openjdk/security/java.policy wird installiert ...
Neue Version der Konfigurationsdatei /etc/java-6-openjdk/security/nss.cfg wird installiert ...
Neue Version der Konfigurationsdatei /etc/java-6-openjdk/security/java.security wird installiert ...
Neue Version der Konfigurationsdatei /etc/java-6-openjdk/jvm.cfg wird installiert ...
icedtea-6-jre-cacao (6b24-1.11.3-1ubuntu0.10.04.1) wird eingerichtet ...
openjdk-6-jre (6b24-1.11.3-1ubuntu0.10.04.1) wird eingerichtet ...
openjdk-6-jdk (6b24-1.11.3-1ubuntu0.10.04.1) wird eingerichtet ...
/usr/lib/jvm/java-6-openjdk/bin/apt
icedtea-netx (1.2-2ubuntu0.10.04.2) wird eingerichtet ...
update-alternatives: /usr/lib/jvm/java-6-openjdk/jre/bin/itweb-settings wird verwendet, um /usr/bin/itweb-settings (itweb-settings) im Auto-Modus bereitzustellen.
openjdk-6-jre-lib (6b24-1.11.3-1ubuntu0.10.04.1) wird eingerichtet ...
Trigger für libc-bin werden verarbeitet ...
ldconfig deferred processing now taking place
Log ended: 2012-08-26 22:54:05