The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"Раздел полезных советов: Использование zsync для минимизации..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Раздел полезных советов: Использование zsync для минимизации..."  +/
Сообщение от auto_tips (??) on 10-Янв-13, 22:46 
Для пользователей, желающих минимизировать сетевой трафик и ускорить загрузку ежедневных тестовых снапшотов Ubuntu, предоставлена возможность загрузки только изменившихся с момента прошлой загрузки частей iso-образа. Для загрузки только изменений вместо полной копии следует использовать утилиту [[http://zsync.moria.org.uk/ zsync]].

По сути zsync является вариантом rsync, нацеленным на эффективную синхронизацию единичных больших файлов и реализующим логику синхронизации на стороне клиента. Для работы zsync не требуется установка особого сервернего ПО, достаточно создать небольшой индексный файл в котором будут сохранены контрольные суммы блоков данных и использовать обычный http-сервер, допускающий загрузку отдельных частей файла.

Устанавливаем zsync:

   sudo apt-get -y install zsync

Загружаем iso-образ:

   zsync http://cdimage.ubuntu.com/daily-live/current/raring-desktop-...

Если загрузка осуществляется первый раз, то zsync автоматически загрузит весь файл. Если файл загружается повторно, zsync загрузит индекс (для iso-образа ubuntu примерно полтора мегабайта), оценит изменений между локальным и удалённым файлом и загрузит только изменившиеся блоки данных.

Для создания zsync-индекса, при желании организовать распространение своих файлов через zsync, следует использовать утилиту zsyncmake:

   zsyncmake file.iso

после чего будет создан файл file.iso.zsync.

Для корректной отдачи .zsync-индексов в конфигурацию Apache в файл mime.types следует добавить:

   application/x-zsync             zsync


URL: http://www.omgubuntu.co.uk/2013/01/how-to-update-an-ubuntu-d...
Обсуждается: https://www.opennet.ru/tips/info/2733.shtml

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Dmitry (??) on 10-Янв-13, 22:46 
А где хранится адрес откуда скачивать блоки образа? Ведь при создании индекса zsyncmake создается только индекс.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

2. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Аноним (??) on 10-Янв-13, 23:10 
> А где хранится адрес откуда скачивать блоки образа? Ведь при создании индекса
> zsyncmake создается только индекс.

В файлике с расширением .zsync вначале идёт блок мета-данных, где указано имя файла, размер блока и другая информация.

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

3. "Использование zsync для минимизации трафика при синхронизаци..."  –1 +/
Сообщение от Аноним (??) on 10-Янв-13, 23:13 
> А где хранится адрес откуда скачивать блоки образа? Ведь при создании индекса
> zsyncmake создается только индекс.

Блоки грузятся из основного файла, который выложили для загрузки. Этот файл логически разбивается на сегменты, для которых в индексе хранятся контрольные суммы. Когда zsync загружает индекс, он сверяет контрольные суммы того что уже есть на стороне пользователя и то что различается грузить с удалённого сервера используя HTTP/1.1 заголовок Range.

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

14. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Sw00p aka Jerom on 20-Фев-13, 20:05 
хммм а разве не одно и тоже получает? он же вроде должен весь файл сверить поблочно и это равносильно скачиванию с сервера или я чтото недопонял

как реализован механизм контрольных сумм и чего ?

Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

6. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от XoRe (ok) on 14-Янв-13, 01:05 
> А где хранится адрес откуда скачивать блоки образа?

Обычно индекс лежит там же, где и файл.
Как-то так:
http://server/файл.iso
http://server/файл.iso.zsync

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

15. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Sw00p aka Jerom on 20-Фев-13, 20:08 
>> А где хранится адрес откуда скачивать блоки образа?
> Обычно индекс лежит там же, где и файл.
> Как-то так:
> http://server/файл.iso
> http://server/файл.iso.zsync

а на чьей стороне происходит сверка контрольных сумм ?

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

16. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Аноним (??) on 07-Мрт-13, 05:07 
Клиентской ясен фиг. Клиент качает .zsync и смотрит что у него есть и насколько оно совпадает с вот этим вот описанием. Что не совпадает - качается с сервака.
Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

4. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от pavlinux (ok) on 12-Янв-13, 16:47 
А чё, торрент уже не феншуйно?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

5. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Пользователь Debian on 13-Янв-13, 02:37 
Торрент не умеет эффективно выкачивать изменения в уже имеющимся файле. Основное применение rsync это *инкрементная* передача данных.
Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

7. "Использование zsync для минимизации трафика при синхронизаци..."  +1 +/
Сообщение от XoRe (ok) on 14-Янв-13, 01:16 
> Торрент не умеет эффективно выкачивать изменения в уже имеющимся файле.

o'rly?
Сегмент (англ. part — часть) — все файлы для передачи делятся на небольшие куски — сегменты, которые, затем, передаются по сети в произвольном порядке для оптимизации обмена.

1. Выкладываете новый torrent файл
2. Пользователи его тыкают
3. bittorent клиент анализирует имеющийся у клиента iso, сравнивает crc каждого сегмента
4. Клиент закачивает только изменившиеся сегменты
5. PROFIT!

В остальном, программа имеет право быть. Хотя это отдельная программа.
Её профит скорее для сервера - можно использовать http сервер, со всеми его плюшками (бекенды, балансировка, и т.д.), не нужно поднимать *sync сервер.
Клиент все равно должен использовать специальную программу для скачивания
Было бы классно, если бы был плагин к FF с такой функциональностью.

Ответить | Правка | ^ к родителю #5 | Наверх | Cообщить модератору

8. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Пользователь Debian on 14-Янв-13, 01:29 
Спасибо, не знал про такую особенность протокола.
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

9. "Использование zsync для минимизации трафика при синхронизаци..."  +1 +/
Сообщение от pavlinux (ok) on 14-Янв-13, 02:44 
> Спасибо, не знал про такую особенность протокола.

Через Magnet по-моему (или что-то ещё нужно) можно вообще обновлять
без уведомления клиентов. Просто в папку кидаешь новый файл с тем же
именем, а оно само по клиентам расползается.
  
А ещё есть PerFS, P2PFS, и другая распределённая хрень.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

10. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Pilat66 on 14-Янв-13, 12:00 
Насчёт торрента - если в начало файла добавится один байт, сработает ли ?
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

12. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от pavlinux (ok) on 15-Янв-13, 02:06 
> Насчёт торрента - если в начало файла добавится один байт, сработает ли ?

Не, там всё сдвинется на один байт.

Ответить | Правка | ^ к родителю #10 | Наверх | Cообщить модератору

11. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от Аноним (??) on 14-Янв-13, 13:55 
чем jigdo не угодила?
постоянно недельные деб исошки обновляю ею
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

13. "Использование zsync для минимизации трафика при синхронизаци..."  +/
Сообщение от qux (ok) on 27-Янв-13, 22:59 
Поправьте если не так, но это может профильный кейс для jigdo (сборка iso из кучи rpm-файлов и одного со служебной информацией). В случае если большой файл "атомарный", это не прокатит.

А вообще как выше сказали, тут скорее торрент альтернатива. Плюс, если данные нужны многим, еще и распределенное хранение вместо одного сервера, и скорость скачивания.

Ответить | Правка | ^ к родителю #11 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2022 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру