Hello !<div><br></div><div>So I did the comparison between Netty and HttpCore/NIO Netty, and I can confirm the behaviour I saw before:</div><div><br></div><div>- <b>Netty produces more errors than HttpCore/NIO</b>, dropping connections when concurency is between 3000 and 5000</div>

<div>- HttpCore/NIO is slighly less performant, but significantly less errors overall</div><div><br></div><div>I used the stock Netty HTTP snoop example (see previous message in this thread) and a modified version of the NHttpServer example of HttpCore (attached). To compiled it and run it, do the following in HttpCore&#39;s repository:</div>

<div><br></div><div><div><font class="Apple-style-span" face="&#39;courier new&#39;, monospace"> javac -cp httpcore/target/httpcore-4.1-alpha2-SNAPSHOT.jar:./httpcore-nio/target/httpcore-nio-4.1-alpha2-SNAPSHOT.jar NHttpServer.java</font></div>

</div><div><div><font class="Apple-style-span" face="&#39;courier new&#39;, monospace"> java -cp .:httpcore/target/httpcore-4.1-alpha2-SNAPSHOT.jar:./httpcore-nio/target/httpcore-nio-4.1-alpha2-SNAPSHOT.jar NHttpServer</font></div>

<div><br></div><div>The test I run is the httperf-based benchmark. as presented earlier. I also started by doing multiple &#39;ab&#39; benchmarks to see if connections errors may appear, but I didn&#39;t get any. I still don&#39;t know if the errors are related to improper system configuration, but  among the various tests I&#39;ve run, I&#39;ve seen Netty drop connections and become non-reactive more often than HttpCore/NIO.</div>

<div><br></div><div>I also attached the HttpCore/NIO test case as well sa graphs illustrating the test results or running httperf on both.</div><div><br></div><div>Cheers,</div><div><br></div><div> -- Sébastien</div><div>

<br></div><div><br></div></div><div><div class="gmail_quote">Le 7 janvier 2010 13:16, Sébastien Pierre <span dir="ltr">&lt;<a href="mailto:sebastien.pierre@gmail.com">sebastien.pierre@gmail.com</a>&gt;</span> a écrit :<br>

<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;">Hi Trustin,<div><br></div><div>So I checked the number of sockets in *_WAIT state on both client and server machines, using the following commands</div>

<div><br></div><div><font face="&#39;courier new&#39;, monospace">server&gt; watch -n1 &#39;lsof -nl | egrep &quot;TCP|UDP&quot; | grep &quot;java&quot; | wc -l &#39;<br>
client&gt; watch -n1 &#39;lsof -nl | grep WAIT | wc -l&#39;</font></div><div><br></div><div>the number of opened sockets on the server oscillates between 0 and 500, while the number of *WAIT sockets on the client is always 0, so I doubt it&#39;s related to an overflow of TIME_WAIT or CLOSE_WAIT.</div>


<div><br></div><div>I&#39;ll prepare more detailed tests with the HttpCore/NIO version.</div><div><br></div><div> -- Sébastien</div><div><br><div class="gmail_quote"><div class="im">2010/1/6 &quot;Trustin Lee (이희승)&quot; <span dir="ltr">&lt;<a href="mailto:trustin@gmail.com" target="_blank">trustin@gmail.com</a>&gt;</span><br>


</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi Sébastien,<div><div></div><div class="h5"><br>
<br>
You might be running out of available ports due to many TIME_WAIT either<br>
on the client or server side.  Could you confirm it?  If so, you need to<br>
wait until the TIME_WAIT state is cleared between each run.<br>
<br>
If HttpCore/NIO version works fine when Netty fails, I&#39;d like to compare<br>
the two to see what the differences are.  Please paste or attach the<br>
source code.<br>
<br>
Thanks,<br>
Trustin<br>
<div><div></div><div><br>
Sébastien Pierre wrote:<br>
&gt; Hi there !<br>
&gt;<br>
&gt; I just moved a test HTTP service from HttpCore/NIO to Netty based on the<br>
&gt; HTTP snoop example. I experienced (despite good performance at first) that<br>
&gt; the server is dropping connections when the load is heavy. To reproduce<br>
&gt; this, simply start the snoop example:<br>
&gt;<br>
&gt; java -cp ./src/main/java/:./jar/netty-3.2.0.ALPHA2.jar<br>
&gt; org.jboss.netty.example.http.snoop.HttpServer<br>
&gt;<br>
&gt; and then do<br>
&gt;<br>
&gt; python -c&#39;for r in range(500,10500,500): import os ; os.system(&quot;httperf<br>
&gt; --hog --timeout=60 --client=0/1 --server=127.0.0.1 --port=8080 --uri=/<br>
&gt; --rate=%s --send-buffer=4096 --recv-buffer=16384 --num-conns=10000<br>
&gt; --num-calls=1&quot; % (r))&#39;<br>
&gt;<br>
&gt; which is the same as running this command with --rate growing from 500 to<br>
&gt; 10000 with 500 increases.<br>
&gt;<br>
&gt; httperf --hog --timeout=60 --client=0/1 --server=127.0.0.1 --port=8080<br>
&gt; --uri=/ --rate=500 --send-buffer=4096 --recv-buffer=16384 --num-conns=10000<br>
&gt; --num-calls=1<br>
&gt;<br>
&gt; so in this example, Netty often drops connections between rates of 3000 and<br>
&gt; 5000, which you&#39;ll see in httpperf&#39;s log with the following lines:<br>
&gt;<br>
&gt; httperf: connection failed with unexpected error 98<br>
&gt; ...<br>
&gt; Errors: total 2236 client-timo 0 socket-timo 0 connrefused 0 connreset 0<br>
&gt; Errors: fd-unavail 0 addrunavail 0 ftab-full 0 other 2236<br>
&gt;<br>
&gt; I attached a graph where you&#39;ll see that for the rate=4000 and rate=45000<br>
&gt; the server just dropped all the connections (from httperf&#39;s perspective at<br>
&gt; least). So do you know any way to prevent or at least detect that ?<br>
&gt;<br>
&gt; Thanks !<br>
&gt;<br>
&gt;  -- Sébastien<br>
&gt;<br>
&gt; PS: I should add that I&#39;ve run the test a couple of times, and quite often<br>
&gt; have trouble in the rate=3000-5000 range<br>
&gt;<br>
&gt;<br>
&gt;<br>
</div></div>&gt; ------------------------------------------------------------------------<br>
&gt;<br>
&gt; _______________________________________________<br>
&gt; netty-users mailing list<br>
&gt; <a href="mailto:netty-users@lists.jboss.org" target="_blank">netty-users@lists.jboss.org</a><br>
&gt; <a href="https://lists.jboss.org/mailman/listinfo/netty-users" target="_blank">https://lists.jboss.org/mailman/listinfo/netty-users</a><br>
<font color="#888888"><br>
--<br>
what we call human nature in actuality is human habit<br>
<a href="http://gleamynode.net/" target="_blank">http://gleamynode.net/</a><br>
<br>
<br>
</font><br>_______________________________________________<br>
netty-users mailing list<br>
<a href="mailto:netty-users@lists.jboss.org" target="_blank">netty-users@lists.jboss.org</a><br>
<a href="https://lists.jboss.org/mailman/listinfo/netty-users" target="_blank">https://lists.jboss.org/mailman/listinfo/netty-users</a><br>
<br></div></div></blockquote></div><br></div>
</blockquote></div><br></div>