Как-то раз мой друг Боб пришел ко мне с вопросом. Он написал программу
на Java, которая копировала 100 МБ файлы с его компьютера под
управлением Windows XP в его офисе на Linux-сервер в региональный
офис компании. В обоих офисах используются 100Мбит сети Ethernet,
соединенные через 155Mbps VPN канал. Однако он был очень неприятно
удивлен тем, что измеренная скорость передачи была ниже 4Мбит, и
попросил меня объяснить причину такого поведения.
В результате я написал эту статью, чтобы объяснить причину такого
поведения и что должен сделать Боб, чтобы максимально использовать
пропускную способность своей сети. Слишком часто разработчики винят
недостаточную производительность сети, хотя на самом деле зачастую
причина в неправильно настроенном программном обеспечении. В этой
статье описаны некоторые утилиты для анализа и настройки сети, которые
позволяют разработчикам оптимизировать свои приложения для оптимизации
сетевых возможностей.
Как Работает TCP
Самый распространенный сетевой протокол, используемый в Интернет это
Transmission Control Protocol, или TCP. TCP использует <<окно
перегрузки>> - число пакетов, которое должен послать или принять стек,
прежде чем перейти в режим ожидания сигнала подтверждения. Чем больше
размер этого окна, тем выше пропускная способность. Алгоритмы
<<медленного запуска>> и <<предотвращения перегрузки>> определяют
размер окна перегрузки. Максимальный размер окна перегрузки зависит от
размера буфера, который ядро отводит для каждого сокета. Для каждого
сокета существует значение буфера, установленное по умолчанию, которое
программы могут изменять, используя системный вызов библиотек перед
открытием сокета. Для некоторых операционных систем существует
определенный максимум размера буфера на уровне ядра. Вы можете
установить собственное значение буфера как для отправляющего, так и
для принимающего конца сокета.
Чтобы достичь максимальной скорости, важно использовать оптимальный
размер буфера для TCP сокета для используемого подключения. Если
буферы слишком маленькие, окно перегрузки TCP некогда не откроется
полностью, таким образом отправитель не сможет работать по полной.
Если буферы слишком большие, отправитель попросту завалит получателя,
что приведет к тому, что получатель просто будет резать пакеты и окно
перегрузки выключится. Наиболее вероятна такая ситуация когда
отправляющий хост по производительности лучше, чем получающий. Слишком
большое окно на отправляющей стороне это не проблема, пока существует
некоторый избыток памяти.
Рассчитываем Размер Буфера TCP
Предположим, что сеть не перегружена и пакеты в ней не теряются, тогда
пропускная способность сети зависит прямо пропорционально от размера
TCP буфера и сетевой задержки. Сетевая задержка есть не что иное, как
количество времени, необходимое пакету для прохода через сеть. Чтобы
сосчитать максимальную пропускную способность, нужно:
Пропускная способность = размер буфера / задержка
В обычной сети задержка между двумя офисами составит около 40ms, а в
Windows XP размер буфера по умолчанию равен 17,520 байт. Значит,
максимальная пропускная способность будет равна:
Размер буфера по умолчанию для Mac OS X установлен в 64K, таким
образом, при использовании Mac OS X у Боба получилось бы лучше,
однако были бы достигнуты далеко не 100Mbps, которые по идее должны
быть.
65936 Байт / .04 сек = 1.6 МБ/сек = 13 Мб/сек
(Люди, которые постоянно используют сеть, думают о битах в секунду,
тогда как все оставшиеся думают о байтах, что часто приводит к
путанице.)
Большинство экспертов по сетям соглашаются, что оптимальный размер
буфера для определенной сети равен удвоенному произведению задержки и
полосы пропускания:
Размер буфера = 2 * задержка * полоса пропускания
Программа ping даст вам округленное время (round trip time - RTT) для
сетевого соединения, что в два раза больше задержки. Формула принимает
следующий вид:
Размер буфера = RTT * полоса пропускания
Для сети Боба ping вернул RTT в 80ms. Это значит, что размер буфера
TCP должен быть:
.08 секунд * 100 Мбс / 8 = 1 МБ
Боб знал скорость VPN канала компании, но часто вы не знаете о
пропускной способности сетевого маршрута. Определить пропускную
способность сети иногда очень сложно. На сегодняшний день самой
большой пропускной способностью является 1Gbps (в США, Европе и
Японии), получается, что узкое место это местные сети на обоих концах.
В моей практике я встречал в основном офисы, где компьютеры объединены
100Mbps сетью Ethernet. Тогда имеем следующую картину: 100Mbps=12MBps,
что, согласитесь, совсем неплохо.
Перенастройка размера буфера никак не повлияет на производительность в
сетях, где регламентированная скорость составляет 10Mbps или ниже;
например, с хостами, соединенными через DSL, кабельный модем, ISDN,
или линию T1. Существует программа pathrate, которая выполняет
хорошую работу: оценивает пропускную способность. Но она не позволяет
проводить глубокий анализ полученных временных рядов. Например, не
ставилась задача получать различные функции распределения, а так же
недостаточен набор параметров, которые можно варьировать при
проведении измерений. Программа работает только на платформе Linux и
требует возможности логина на оба компьютера.
Устанавливаем размер буфера TCP
Итак, имеем две настройки, которые нужно оптимизировать: размер буфера
TCP по умолчанию и максимальный размер буфера. С правами пользователя
можно изменить размер буфера по умолчанию, но для изменения его
максимального размера требуются права администратора. Заметьте, что
большинство сегодняшних Unix-Like систем по умолчанию имеют значение
максимального размера буфера TCP всего лишь 256K. В Windows нет
максимального размера буфера по умолчанию, но администратор может его
установить. Очень важно изменить размеры буферов у посылающей и
принимающей машин. Изменение только отправляющего буфера не даст
ничего, т.к. TCP согласовывает размер буфера с меньшим из двух. Это
означает, что не обязательно устанавливать оптимальный размер буфера
на отправляющей и принимающей машинах. Обычно делают следующее:
устанавливают размер буфера на серверной стороне довольно большим
(например 1,024K) и затем позволяют клиенту определить и установить
<<оптимальное>> значение для данного сетевого маршрута. Чтобы
установить размер буфера TCP, используйте метода setSendBufferSize
и setReceiveBufferSize в Java, или вызов setsockopt в С. Ниже
представлен пример установки размеров буфера ТСР в пределах приложения
на Java:
java.net.Socket skt;
int sndsize;
int sockbufsize;
/* установка буфера отправки */
skt.setSendBufferSize(sndsize);
/* проверим получили ли мы то, что просили */
sockbufsize = skt.getSendBufferSize();
/* установим буфер получения */
skt.setReceiveBufferSize(sndsize);
/* еще разок проверим получили ли мы то, что хотели */
sockbufsize = skt.getReceiveBufferSize();
Хорошей идеей будет вызвать getSendBufferSize (или
getReceiveBufferSize) после установки размера буфера. Таким образом,
мы удостоверимся, что наша ОС поддерживает буферы таких размеров.
Вызов setsockopt не вернет ошибку, если вы используете значение,
большее чем максимальный размер буфера, но попросту будет использовать
максимальный размер вместо значения, которое установили вы. Linux
загадочным образом удваивает значение, которое вы передаете для
размера буфера, так что когда вы делаете getSendBufferSize /
getReceiveBufferSize и видите в два раза больше, чем указали, не
волнуйтесь - для Linux это <<нормально>>.
Для большинства соединений невозможно увеличить предопределенный
системой максимальный размер ТСР буфера. Например, возьмем соединение
в 100Mbps между Калифорнией и Великобританией, время задержки RTT
которого 150 мсек. Оптимальный размер буфера для такого соединения
будет равен 1,9 МБ, что в 30 раз больше чем размер буфера по умолчанию
и в 7,5 раз больше, чем максимальный размер буфера ТСР в Linux.
Чтобы поменять параметры ТСР в Linux, добавьте следующие строки в файл
/etc/sysctl.conf, и затем запустите sysctl -p. Теперь наши настройки
будут применяться во время загрузки.
# увеличиваем ограничения автоподчтройки буфера ТСР Linux
# мин, по умолчанию, и максимальное число байт, которое можно использовать
net.ipv4.tcp_rmem = 4096 87380 16777216
net.ipv4.tcp_wmem = 4096 65536 16777216
Устанавливайте максимальные размеры буферов таким образом, чтобы
полностью использовать ресурсы соединения. В Windows не требуется
вносить каких-либо изменений, как например максимальный размер буфера
ТСР по умолчанию (GlobalMaxTcpWindowSize) не определяется. На моем
сайте TCP Tuning Guide web site можно найти информацию о том, как
установить максимальный размер буфера в других операционных системах.
От Теории к Практике
Наверняка сейчас у вас возник вопрос <<А как же я могу осуществить все
эти прелести в реальных условиях? Доверить ли пользователям установку
размера буфера? Стоит ли подсчитать оптимальный размер буфера для
пользователя? Или может вообще стоит установить больший буфер и больше
не вспоминать об этом?>>
Обычно, я предлагаю следующее для большинства приложений,
ориентированных на высокоскоростную (более 40Mbps), с большой
задержкой (RTT > 10ms) сеть. Ваш клиент должен запустить ping, чтобы
определить RTT и затем просто принять пропускную способность, равную
100Mbps. Ping трафик блокируется некоторыми сайтами. В этом случае
можно воспользоваться утилитой synack, которая использует ТСР
вместо ICMP для определения RTT. Если ваши пользователи разбираются в
сетях, то можно предоставить им самим самостоятельно выбирать размер
TCP буфера. Не правильно тупо устанавливать большие размеры буферов
для всех сетевых маршрутов, особенно если приложение могут запустить
через медленные линии, такие как DSL или модемы.
Linux на Помощь
Начиная с версии 2.4, в Linux добавлена возможность автоподстройки ТСР
буфера отправителя. Это означает, что отправителю больше не нужно
задумываться о вызове setsockopt(). Однако все еще следует выполнять
setsockopt() на стороне получателя, и вам придется подкорректировать
максимальный размер буфера при автоподстройке, что по умолчанию
составляет лишь 128 кБ. Начиная с Linux 2.6.7, была добавлена функция
автоподстройки для серверной стороны, таким образом вам не нужно
больше думать о получателе. Свершилось! К несчастью, максимальный
размер буфера ТСР все еще маленький - но хотя бы теперь это проблема
системного администрирования, а не программиста.
Мои начальные результаты довольно-таки внушительные. После увеличения
максимальных буферов ТСР, при соединении в 1Gbps через США (RTT =
67ms), производительность с 10Mbps при использовании Linux 2.4
поднялась до 700Mbps при использовании Linux 2.6.12, ускорение в 70
раз! На соединении из Калифорнии в Великобританию (RTT = 150 мсек),
скорость с 4Mbps on Linux 2.4 выросла в 560Mbps - ускорение в 140 раз.
Поставлю ударение: этого удалось достичь всего лишь увеличением
максимального размера буфера ТСР.
В Linux 2.6 кроме того включены некоторые улучшения ТСР, что означает,
что скорость можно увеличить еще в несколько раз. Особенно то, что в
Linux 2.6 теперь используется алгоритм контроля перегрузки BIC
(BIC - bus interface controller, контроллер магистрального
интерфейса), который задумывался для увеличения производительности ТСР
при использовании высокоскоростных линий и большими задержками. Ручная
подстройка Linux 2.4 при использовании тех же соединений дает
пропускную способность в 300Mbps через США и 70Mbps до Великобритании.
Надеюсь, в скором времени все эти прелести появятся в Windows.
Наладка Сети
Если все попытки повысить пропускную способность закончились неудачей,
то, скорее всего причина в самой сети. Итак, сначала попробуйте
netstat -s, чтобы посмотреть количество повторных передач. Если их
много, то это говорит о том, что сеть перегружена, построена на плохом
<<железе>> или вовсе с нарушением топологии. Также повторные передачи
происходят в случае, когда отправляющая машина намного быстрее
принимающей. Также обратите внимание на число ошибок, возвращаемых
netstat- большое число ошибок также говорит о проблеме в самой сети.
Мне самому с трудом верится, но очень часто причина неполадок LAN с
сетями 100BT заключается в том, что хост настроен на работу в полном
дуплексе, а свитч Ethernet работает в режиме полудуплекса, или
наоборот. Новое оборудование автоматически согласует дуплексы, тогда
как со старым могут возникнуть проблемы, результатом будет работающая,
но ужасно медленная сеть. Лучше всего работать в режиме полного
дуплекса, но некоторое старое оборудование 100ВТ поддерживает только
полудуплекс. Смотрите TCP Tuning Guide, чтобы узнать, как
проверить настройки дуплекса для вашего компьютера.
Internet2's Network Diagnostic Tool (NDT) - отличная утилита,
предназначенная для определения проблем с перегрузкой и дуплексом. NDT
это Java аплет, который можно запустить с одного из NDT серверов.
Обратите Внимание на Программу scp
Для копирования файлов через Интернет обычно пользуются программой
scp. К сожалению, тонкая настройка ТСР не поможет пропускной
способности >scp, потому что в scp используетсяOpenSSL, в котором
используются статически определенные потоки буферов. Эти буферы
действуют на пропускную способность сети как узкое место, особенно в
сетях с длинной задержкой и высокими скоростями. Питсбургская страница
Сверхвысокопроизводительного Центра High Performance SSH/SCP
объясняет это более подробно и, кроме того, там имеется патч для
OpenSSL, устраняющий эту проблему.
Vova
