[FUG-BR] RES: RES: NICs Intel -- ERA: nfe0 x FreeBSD 8.2

Eduardo Schoedler eschoedler em viavale.com.br
Quinta Janeiro 27 18:34:23 BRST 2011


Outra coisa que me deixa intriagado: NICs Intel, em 2 servidores diferentes,
geram quantidades de interrupções muito diferentes.

IBM System X3550:  Load 11.50 11.24  9.23
85.6%Sys  12.5%Intr  0.7%User  0.0%Nice  1.3%Idle

Interrupts
16607 total
      ata0 irq14
      aac0 irq17
      uhci1 22
      uhci0 uhci
 1991 cpu0: time
      igb0:que 0
  180 igb0:que 1
   87 igb0:que 2
  161 igb0:que 3
      igb0:que 4
      igb0:que 5
      igb0:que 6
   64 igb0:que 7
      igb0:link
      igb1:que 0
      igb1:que 1
   32 igb1:que 2
      igb1:que 4
   88 igb1:que 5
      igb1:que 6
   64 igb1:que 7
      igb1:link
    7 bce0 274
      bce1 275
 1991 cpu1: time
 1991 cpu3: time
 1991 cpu6: time
 1989 cpu5: time
 1990 cpu7: time
 1991 cpu2: time
 1990 cpu4: time



Dell R210:  Load  4.27  3.50  2.49
30.6%Sys  24.0%Intr 11.2%User  0.0%Nice 34.1%Idle

Interrupts
57649 total
      ehci0 ehci
 2004 cpu0: time
 4056 igb0:que 0
 6553 igb0:que 1
 7109 igb0:que 2
      igb0:que 3
      igb0:que 4
      igb0:que 5
      igb0:que 6
      igb0:que 7
      igb0:link
      igb1:que 0
 4006 igb1:que 1
      igb1:que 3
      igb1:que 4
10390 igb1:que 6
 9501 igb1:que 7
      igb1:link
      igb2:link
      igb3:link
    2 bce0 292
      ahci0 294
 2004 cpu1: time
 2004 cpu4: time
 2004 cpu3: time
 2004 cpu6: time
 2004 cpu5: time
 2004 cpu2: time
 2004 cpu7: time


Apesar de o R210 ter 3,5x mais interrupções que o IBM, o load é bem menor e
ainda tem ~30% idle de CPU.

Há algum 'knob' no Freebsd que eu possa mexer para melhorar a performance ?


Sds,

--
Eduardo Schoedler



> -----Mensagem original-----
> De: freebsd-bounces em fug.com.br [mailto:freebsd-bounces em fug.com.br] Em
> nome de Eduardo Schoedler
> Enviada em: quinta-feira, 27 de janeiro de 2011 14:08
> Para: 'Lista Brasileira de Discussão sobre FreeBSD (FUG-BR)'
> Assunto: [FUG-BR] RES: NICs Intel -- ERA: nfe0 x FreeBSD 8.2
> 
> Aproveitando a thread...
> 
> Estou fazendo testes exaustivos entre as 2 NICs Intel e o throughput
> está
> meio estranho.
> Utilizo o iperf, não sei se é a melhor cenário.
> 
> Com uma única conexão ele não alcança os 1Gbit/s, estou usando "-P 2".
> 
> 
> Quando faço o teste 'single' (sem "-d"), o tráfego é bem constante:
> 
> Interface      Traffic             Peak
> igb0  in      4.923 MB/s        117.050 MB/s
>       out   112.173 MB/s        137.698 MB/s
> 
> 
> Quando faço o teste 'dual' (com "-d"), o tráfego cai bastante e fica
> variando muito:
> 
> Interface      Traffic             Peak
> igb0  in     44.308 MB/s         74.287 MB/s
>       out    80.716 MB/s         91.919 MB/s
> 
> 
> Quando subo o teste simultâneo com a 2a NIC, piora mais ainda (teste "-
> d -P
> 2")...
> 
> Interface      Traffic             Peak
> igb1  in     47.301 MB/s         52.244 MB/s
>       out    54.382 MB/s         63.921 MB/s
> 
> igb0  in     41.847 MB/s         51.610 MB/s
>       out    57.740 MB/s         62.692 MB/s
> 
> 
> PS: Em nenhum momento o consumo dos 4 cores chegou a 100% nos 2
> servidores.
> 
> Há algum tuning que eu possa fazer ?
> 
> 
> Abraços,
> 
> --
> Eduardo Schoedler
> 
> 
> > -----Mensagem original-----
> > De: freebsd-bounces em fug.com.br [mailto:freebsd-bounces em fug.com.br] Em
> > nome de Luiz Otavio O Souza
> > Enviada em: quinta-feira, 27 de janeiro de 2011 08:45
> > Para: Lista Brasileira de Discussão sobre FreeBSD (FUG-BR)
> > Assunto: [FUG-BR] NICs Intel -- ERA: nfe0 x FreeBSD 8.2
> >
> > On Jan 26, 2011, at 5:09 PM, Eduardo Schoedler wrote:
> > > Se for comprar, cuidado com as igb !!!! Tomei um sufoco delas essa
> > semana...
> > > rsrsrs.
> > > Mas com o 8.2-PRERELEASE ficou bom, apesar dos tunings de Mbufs (9k
> > jumbo
> > > clusters e mbuf clusters) necessários.
> >
> >
> >
> > Pessoal,
> >
> > A Intel mantém um de seus engenheiros (Jack Vogel) dedicado a
> > acompanhar, identificar e solucionar qualquer problema no drivers das
> > suas placas no FreeBSD.
> >
> > E isso faz da intel, IMHO, uma das melhores soluções para placas de
> > rede no FreeBSD, pois tenho certeza que qualquer problema
> identificado
> > nessas placas será corrigido.
> >
> >
> > []'s
> > Luiz



Mais detalhes sobre a lista de discussão freebsd