Передовица №7, ноябрь 2017

Смерть транзита?

Фото аватара
Джефф Хьюстон
Джефф Хьюстон

На недавнем совещании NANOG я был поражен, как мало презентаций было посвящено интернет-сервис-провайдерам (ISP) и проблемам, связанным с их работой, и одновременно – как много было презентаций, рассматривающих различные аспекты дата-центров. Если судить по темам разговоров в кулуарах, сегодня в этой области доминируют вопросы проектирования дата-центров и эксплуатации сетей дистрибуции контента (Content Distribution Network, CDN). А функция ISP, в особенности транзитных ISP, как будто сокращается. Сейчас мы уже не предоставляем пользователю доступ к контенту, а доставляем контент пользователю. Значит ли это, что роль транзита для пользователей Интернета отмерла? Посмотрим на этот вопрос повнимательнее.

Интернет состоит из многих десятков тысяч отдельных сетей, каждая из которых выполняет определенную роль. Если за основу брать систему маршрутизации Интернета, то в ней примерно 55400 дискретных сетей (или «автономных систем», как называют их в маршрутизации). Большинство этих сетей находится на периферии и практически не осуществляет услугу транзитной передачи пакетов в другие сети, таких сетей сейчас около 47700.
Оставшиеся 7700 сетей функционируют немного в другом качестве. Они не только анонсируют набор собственных адресов в Интернет, но и транслируют анонсы других сетей – иными словами, выполняют роль «транзитного» провайдера.

Почему это различие было так важно в прошлом? Что такого особенного в «транзите»?

В значительной мере этот вопрос был связан с финансовыми расчетами между провайдерами. Во многих областях деятельности, если предоставление той или иной услуги потребителю требует усилий нескольких поставщиков, часто встречается следующая система: тот поставщик, который получает от заказчика деньги, оплачивает остальным их вклад в предоставление услуги. Вроде бы звучит логично и правильно, но Интернет не очень приспособлен для таких соглашений. Нет четкой модели того, какими могут быть «компоненты услуг», нет и общепринятого соглашения о том, как вести учет услуг согласованно с любыми финансовыми расчетами между провайдерами.
В общем и целом, Интернет отверг такие соглашения и принял более простую модель, основанную всего на двух типах соединений. В модели соединений один поставщик становится поставщиком другого, который становится потребителем, и потребитель оплачивает услугу поставщику.
Во второй модели оба поставщика оказываются примерно в эквивалентном положении, и в этом случае они могут найти взаимоприемлемый выход в том, чтобы обмениваться трафиком бесплатно (т.н. пиринг, см. рис. 1).

Рис. 1. Модель «поставщик-потребитель» и пиринговая модель в мире ISP

В этой среде выяснить, кто чей поставщик и кто чей потребитель, иногда бывает затруднительно. Не менее сложно бывает установить, выгодны ли вам пиринговые отношения с другим поставщиком или нет. Но существует один критерий, который, казалось бы, самоочевиден: провайдеры доступа платят транзитным провайдерам за трафик.
Результатом повсеместного применения такого подхода стал целый набор «уровней», где игроки, занимающие один уровень, как правило, взаимодействовали по пиринговой системе, в то время как при взаимодействии разных уровней нижележащая сеть становилась потребителем, а верхняя – поставщиком. Уровни эти не были формально определены, и «включение» в состав уровня тоже не было однозначным. Можно сказать, что, по сути, эта многоуровневая модель отражала результат процесса переговоров, согласно которому место каждого ISP определялось, главным образом, тем, с кем он находился в равных отношениях, для кого был поставщиком, а для кого потребителем.

Рис. 2. Уровни в среде ISP.

Понятно к чему это привело: наверху этой иерархии оказались доминирующие поставщики услуг транзита. Занимающие верхний уровень так называемые интернет-провайдеры первого уровня (Tier One) образовали неформальную олигархию Интернета. Чтобы понять, почему транзит так важен, достаточно взглянуть на отдаленные уголки земного шара, где стоимость доступа в Интернет – это по большей части стоимость транзита. Примерно десятилетие назад в Австралии около 75% всех данных, передававшихся конечным пользователям, пересекали Тихий океан, и оплачивали это удовольствие австралийские ISP. В результате стоимость доступа в Интернет для конечных пользователей была очень высока, практиковались ограничения трафика и всевозможные ухищрения по локальному кэшированию данных.
Даже на тех рынках, где стоимость транзита не настолько доминировала, существовало четкое различие между уровнями, а позиция каждого конкретного ISP на одном и том же рынке определялась совокупностью инфраструктурных активов, общего числа прямых и косвенных абонентов (т.е. совокупной доли рынка) и способностей переговорщиков. Но даже на таких рынках транзит имел большое значение в плане инфраструктурных активов, включая размер и охват. Например, региональному или местному ISP стоило бы гигантских усилий договориться о пиринге с провайдером национального уровня.
Но это было в давние времена, а сейчас в этой модели Интернета многое изменилось. Первоначальная модель Интернета была построена на функции передачи (carriage function), и ее ролью была передача трафика от клиента к серверу и обратно, где бы этот сервер ни находился. Тут можно даже согласиться с сенатором Тедом Стивенсом (Ted Stevens, престарелый американский сенатор, «прославившийся» в 2006 г. сказанными с трибуны Сената фразами типа «мне тут прислали Интернет» и «Интернет – это не большой грузовик, это серия труб, и они могут засориться». Множество фраз из той эпохальной речи стало мемами – перев.): такая модель Интернета действительно «серия труб». Сервисы населяли край сети, а сеть была единообразно способна соединять пользователя с сервисами, где бы они ни находились.
Но не стоит путать способность с быстродействием. Хотя эта модель позволяла любому пользователю подключиться к любому сервису, маршруты передачи в Интернете для разных пользователей при обращении к одному и тому же сервису могли радикально отличаться. Часто это приводило к аномалиям быстродействия: чем дальше пользователь находился от контента, тем медленнее была услуга. Возьмем, например, следующий слайд, взятый из презентации на Facebook для NANOG 68 (рис. 3).

Рис. 3. Быстродействие сервисов в Интернете, ок. 2011 г.

Участки, обслуживаемые геостационарными спутниками, и особо удаленные регионы (в плане километража проводки) демонстрируют огромные значения круговой задержки (RTT) при обмене данными между пользователем и точкой предоставления услуги. Разумеется, эта RTT – еще не все. Добавим сюда еще и длительную транзакцию DNS, потом установку сеанса TCP, а потом, возможно, и рукопожатие TLS, потом запрос транзакции, потом доставку запрошенного контента по TCP с медленным стартом – и получится, что для пользователя задержка составит не менее трех RTT, а зачастую и еще вдвое больше. То, что для пользователя, находящегося в одном городе с сервером, отняло бы десятую долю секунды, в отдаленном районе превращается в 6 секунд.
Такие задержки не всегда вызваны плохим выбором маршрута в системе маршрутизации Интернета или плохой связностью физической сети, хотя то и другое вносит в них ощутимый вклад. В значительной мере проблема обусловлена такими физическими банальностями, как скорость света и размеры Земли. Отправка пакета на геостационарный спутник и возврат его на Землю занимает треть секунды. Задержка при обмене данными со спутником определяется скоростью света и высотой геостационарной орбиты. Подводный кабель быстрее, но ненамного. В оптоволоконном кабеле сигнал распространяется со скоростью, равной 2/3 скорости света, поэтому сигнал идет через Тихий океан и обратно за 160 миллисекунд.
Поэтому в определенном плане есть границы того, чего можно достичь, пытаясь организовать оптимальную топологию для Интернета, а потом варианты будут исчерпаны – конечно, если не ждать, пока континентальный дрейф не подгонит материки друг к другу! Если вам действительно нужно повысить быстродействие своего сервиса, то, очевидно, следующим шагом будет полный отказ от транзита – разместите копию контента ближе к пользователю. Именно это сегодня и происходит.
Сегодня мы видим проекты по прокладке подводных кабелей для того, чтобы связать между собой дата-центры крупнейших провайдеров, вместо того, чтобы гонять пользовательский трафик в удаленные дата-центры.
Компания Google всерьез занялась приобретением доли в подводных кабелях в 2008 году и сейчас участвует в шести таких кабелях (в качестве иллюстрации приведем вырезку из недавнего объявления о прокладке нового кабеля: рис. 4).

Рис. 4. Объявление о прокладке кабеля CDN-провайдером

Как пишет Wired, Тим Стронг (Tim Stronge), вице-президент TeleGeography, заявляет, что прокладка нового кабеля – продолжение нынешнего тренда. «У крупных поставщиков контента гигантские и часто непредсказуемые требования к трафику, особенно в собственных дата-центрах, – говорит он. – Их потребности столь велики, что на самых крупных маршрутах им выгоднее строить свое, чем платить за чужое. Владение подводными оптоволоконными кабелями также дает им достаточную гибкость для того, чтобы наращивать мощности по потребностям, а не зависеть от эксплуатантов подводного кабеля» (www.wired.co.uk).
Смена парадигмы в способе доступа к контенту также влечет за собой смену ролей в различных точках обмена интернет-трафиком. Первоначальным мотивом для организации точек обмена было то, что группа местных провайдеров доступа заключала соглашение о прямом пиринге. Благодаря этому можно было не платить провайдерам транзита, а до тех пор, пока имелась значительная пропорция обмена местным трафиком, точки обмена закрывали реальную потребность, заменяя часть роли транзитного провайдера местной коммутацией. Однако операторы обмена быстро поняли, что если добавить к точке обмена еще и услуги дата-центра, то участники ощутят рост пользовательского трафика на точке обмена, а следовательно, повысится ее относительная значимость.
Существует еще один фактор, который выдавливает контент и сервисы в специализированные системы доставки контента, – это угроза злонамеренной атаки. Индивидуальные участники рынка, особенно те, для кого предоставление онлайн-сервисов не является основным бизнесом, с трудом могут инвестировать в инфраструктуру и квалифицированный персонал для того, чтобы противостоять атакам отказа в обслуживании (Denial of Service, DoS). Такое желание повысить устойчивость сервисов перед лицом атаки, вместе с потребностью пользователей в быстром доступе, приводит к потребности в своего рода аникаст-услуге, которая бы распределяла сервисы по многочисленным точкам доступа, близким к различным группам пользователей.
Неудивительно, что дистрибуторы контента, такие как Akamai, Cloudflare и многие другие, столкнулись с таким высоким спросом на свои услуги. Так если контент перемещается в дата-центры, а мы размещаем эти центры как можно ближе к пользователям, что это означает для транзитных ISP?
Ничего хорошего, и, хотя я, возможно, рано бью тревогу, мне кажется, что новых проектов по прокладке магистральных кабелей, финансируемых транзитными ISP, не будет, по крайней мере, сейчас. На многих развитых потребительских рынках Интернета просто нет потребности в столь массовом доступе конечных пользователей к удаленным сервисам. Вместо этого поставщики контента перемещают свой основной контент как можно ближе к потребителю, и ведущую роль в финансировании дальнейшего развития магистральной инфраструктуры Интернета берут на себя системы дистрибуции контента. Для пользователя это означает повышение быстродействия и, возможно, снижение цен, особенно если учесть исчезновение ценового компонента транзитной передачи. Потребность в дальней транзитной инфраструктуре никуда не делась, но сейчас основная масса этой потребности приходится на поставщиков контента, а пользовательский компонент становится эзотерической нишевой активностью, которая выходит за пределы мэйнстримовой передачи данных. В результате изменяется и общая архитектура Интернета. Из плоской полносвязной сети начала 90-х годов, где каждый мог подключиться к каждому и все были равноправны, мы в значительной степени превратили Интернет в клиент-серверную систему, в которой большая часть данных передается между клиентами и серверами, а трафик «клиент-клиент» практически исчез. Этому во многом содействовали устройства NAT (Network Address Translation), фактически скрывая клиентов до тех пор, пока те не инициировали соединение с сервером. Возможно, именно из-за NAT опустошение пула адресов IPv4 не стало катастрофой, как мы тогда ожидали. К тому моменту, когда новых адресов практически не осталось, мы во многом отошли от пиринговой модели сетевых соединений, а основанная на NAT модель сетей доступа была полностью совместима с клиент-серверной. Когда мы начали крупномасштабно развертывать NAT, клиент-серверная модель доступа уже закрепилась, и два подхода прекрасно дополнили друг друга.
Возможно, что сейчас мы дробим клиент-серверную модель на более мелкие кусочки, фактически загоняя каждого клиента в сервисные «конусы», определяемые группой местных дата-центров (рис. 5).

Рис. 5. «Сервисные конусы» CDN

Если мир интернет-сервисов действительно определяется небольшой группой CDN-провайдеров, таких как Google, Facebook, Amazon, Akamai, Microsoft, Apple, Netflix, Cloudflare и еще парочка других, а все остальные поставщики услуг, по сути, просто помещают свои услуги в эти большие облака контента, то зачем нам вообще нужно выталкивать клиентский трафик в далекие дата-центры?
Какова оставшаяся потребность в транзите на дальние расстояния? Есть ли вообще будущее у провайдеров транзита?
Возможно, я бью тревогу преждевременно – перефразируя Марка Твена, можно сказать, что слухи о смерти транзитных ISP сильно преувеличены. Но не следует забывать, что на свете не существует никаких правовых норм, которые гарантировали бы полную связность Интернета, и никаких правовых требований, которые бы навязывали Интернету какую-то одну определенную сервисную модель. В мире частных инвестиций и частнопредпринимательской деятельности нередко бывает, что провайдеры решают те проблемы, которые считают нужным решать, и делают это так, как им нравится, игнорируя то, что кажется им обузой – а поскольку их время и силы конечны, они игнорируют то, что не приносит им прибыли.
Поэтому, хотя «всемирный охват» и «полная связность соединений» и имели большой смысл в старом, регулируемом госструктурами мире телефонной связи (и в явном социальном договоре, который лег в основу этой системы), для Интернета такие концепции социальных обязательств неважны. Если пользователи не ценят что-то настолько, что готовы за это платить, то у провайдеров нет стимула предоставлять это «что-то»!
Если транзит становится малопопулярной и редко используемой услугой, то можно ли представить себе архитектуру Интернета вообще без транзита? Вполне можно представить себе эволюцию Интернета в набор пользовательских «конусов», отходящих от местных точек дистрибуции данных, а для передачи или синхронизации данных между центрами можно выбрать и совершенно другие механизмы. Единый Интернет превратится в распределенную структуру, очень похожую на сегодняшние клиент-серверные среды, но с неким уровнем неявной сегментации между различными «облаками» сервисов. Да, я сейчас весьма утрирую, но все равно такая картина не выходит за пределы возможного. Если же такая структура станет реальностью, то будет ли вообще какой-то смысл сохранять единое адресное пространство во всемирном масштабе? Если все потоки трафика ограничены каждый своим сервисным конусом, то оставшаяся потребность в адресации в лучшем случае выродится в потребность уникальных идентификаторов для конечных точек конусов, а уникальностью в масштабе всей сети (что бы выражение «вся сеть» ни значило в подобной системе) можно и пожертвовать. Если кто-то еще помнит работу IETF над региональными IP (RSIP – Realm-Specifc IP, RFC 3102), они поймут, что я имею в виду.
Но такое будущее, если оно вообще наступит, наступит как минимум через несколько лет.
Сегодня все, что мы наблюдаем, – это дальнейшие изменения в непрекращающихся трениях между передачей и контентом. Мы видим постепенный отход от модели, в которой инвестиции делаются, главным образом, в передачу (в которой пользователя «перемещают» к двери «бункера» с контентом).
Ее заменяет модель, которая перемещает копию контента поближе к пользователю, обходя значительную часть старой функции передачи. Иными словами, сейчас похоже, что контент на подъеме, а передача и те, кто ею занимается – особенно в части дальнего транзита, – столкнулись с падением ценности своих услуг для клиентов.
Но эта новая модель поднимает также ряд интересных вопросов об однородности Интернета. Не все сервисы одинаковы, и не весь контент доставляется одинаково. CDN вполне может по своему усмотрению выбирать язык для пользователей или соблюдать региональные лицензии на контент. Например, у Netflix разные каталоги для разных стран. Сервис в разных частях света получается неодинаковым. На более общем уровне мы видим определенный уровень сегментации, или фрагментации, архитектуры Интернета в результате специализации доставки сервисов.
В такой среде, сегментированной на практически самозамкнутые сервисные конусы, какая рыночная движущая сила заставит реализовать все мыслимые сервисы в каждой точке их дистрибуции? И кто заплатит за такие излишества? А если никто не готов поддерживать эту модель «универсального» контента, то насколько разным будет «Интернет» в зависимости от того, где вы находитесь? Будут ли везде доступны все доменные имена, будут ли они правильно преобразовываться в такой сегментированной среде? Очевидно, мысли о кастомизации локальных сервисов в каждом регионе быстро скатываются на путь к страшилкам о «распаде Интернета на несвязанные кусочки», поэтому, пожалуй, здесь стоит остановиться и оставить открытыми вопросы, которые могут возникнуть вследствие возможного упадка транзита и бума контент-сетей.
Сколько продержится эта модель, никому не ведомо. Вполне возможно, это лишь переходная фаза, а сегодняшний упор на дата-центры – только отражение нынешней ситуации, а не тенденции. Так что, быть может, еще не пора совсем отказываться от традиционных принципов универсальной связности и транзитных сервисов, хотя сейчас похоже, что Интернет делает очень большой шаг в этом направлении!

 

Источник: The Death of Transit?

Оговорка
Изложенные выше воззрения могут не совпадать с позицией Asia Pacifc Network Information Centre.