• Страница 2 из 2
  • «
  • 1
  • 2
Форум » Беседка » Оффтопик - Разное » BOINC (Добровольные распределённые вычисления)
BOINC
ZFS закрытая и требует костылей. А это новый уровень бубнов и потенциальных проблем, с которым я пока не готов столкнуться. Я долго мучился, пытаясь зашифровать весь диск с LVM и btrfs, чтобы при этом дистрибутив не зависал от кучи ошибок ACPI и нормально крутил видюху NVIDIA. Сделать это удалось лишь на OpenSUSE Tumbleweed. Debian c NVIDIA я так и не завёл, в Ubuntu драйвера ставятся одним щелчком и просто работают (как в Винде), но она не умеет в логические тома и шифрование по желанию пользователя, а не автоматическим (и весьма тупым, в отличие от Debian) разбиением (невозможно сделать btrfs, только ext4, home папкой в root, swap на 1 Гб при памяти ноута 8 ГБ). Yast же в OpenSuse красаучег, более фичастого и удобного графического установщика пока не видел. Смог настроить всё. С видеокартой пришлось любиться головой о стену, но таки завелась. Что отдельно приятно, Suse изначально ориентирована на полюбившиеся мне KDE и btrfs. Пока боролся с видюхой, раза три откатывался на автоматически создаваемый после установки снапшот при помощи snapper (удивительно простая консольная утилита для этого самого).

Проблемы вышли с BOINC. Он почему-то крайне странно ставится на Suse, из коробки не запускается, требует шаманства в консоли, но даже после этого не видит видюху. Оказывается, чтобы он её увидел, нужно запускать именно /usr/bin/boinс-gui и обязательно от root. На выяснение этого вопроса пришлось убить пару часов, но я вернул свой комп в стан GPU Grid.
Вверх Вниз
# 26 | , 11:10 | m00n1ight
(Автор темы)
Предновогодний конкурс в нашей команде: https://twitter.com/team_csf/status/1075688194283331585
Памятный день, мои кошки вошли в интЫрнеты smile

Добавлено (06.03.2019, 02:49)
---------------------------------------------


Your computer's unused power can be donated to researchers who are studying HIV/AIDS, cancer, tuberculosis, Zika, and the human microbiome.
Find out how:
https://www.worldcommunitygrid.org/discover.action


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 27 | , 02:22 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Мой ноут кранчит не переставая. smile Хоть какая-то польза от совершенно чрезмерного для моего ноута мобильного 7700. Не так давно удвоил количество памяти, докупив 8 Гб SODIMM, дабы продолжать кранчить, держать криптоноды, тор и не виснуть прямо на рабочем столе от нехватки памяти. Да, я наркоман, покупающий память, чтобы в неё влезал BOINC.
Вверх Вниз
# 28 | , 19:15 | m00n1ight
(Автор темы)
Ну, зная сколько сейчас жрут даже браузеры, я со своих 16GB на прежней конфигурации, после обновления всей платформы на Threadripper, взял уже 32GB(16 x2) ECC, с дальнейшим докупкой ещё 32, чтобы задействовать все 4 канала памяти.
Эт конечно дикое излишество, так как сейчас обычно больше 20GB незадействуется(в пике зафиксировано 27 за ~ месяц аптайма), но в зависимости от вычисляемых в данный момент проектов на WCG(я обычно попеременно концентрирую усилия на 1 или 2 проектах), потребление RAM одним процессом может варьировать от ~50-100MB(OpenZika) до ~350-400MB(Mapping Cancer Markers / Microbiome Immunity Project), вкупе с парой GPU заданий занимает от 5 до 12 GB.

А так на меня ещё работает круглосуточно 3 ПК(HP Elite 8300 SFF) на моей работе. Учитывая что в каждом стоит Intel i5-3470 и 8GB RAM, то они очень не плохо донатят happy Ещё один такой на очереди.

Вообще у меня в распоряжении ещё есть 2 древних 2-процессоорных (HPE ProLiant BL460c G1 / внутри что-то типа Quad-Core Intel Xeon, 3000 MHz) blade-сервака моего начальника, но пока у меня не хватает времени и по текущим задачам инфраструктуры, так что до них в руки хрен знает когда дойдут sad

«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 29 | , 02:51 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
У меня восемь потоков на CPU и 1 задание на видюхе одновременно. Не так много, криптоноды жрут поболее. Однако если отключить BOINC и криптоноды, и использовать ноут по назначению, то 8 Гб внезапно вполне хватает. Бровзинг там, игрли всякие. Хотя сейчас даже обсидиановская изометрия разжирела.
Вверх Вниз
# 30 | , 11:22 | m00n1ight
(Автор темы)
Если интересно, то недавно David P. Anderson(создатель BOINC) опубликовал статью BOINC: A Platform for Volunteer Computing(в PDF).

Добавлено (28.03.2019, 04:01)
---------------------------------------------
А жирненькие у [email protected] попадаются задания, я вам скажу!


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 31 | , 23:32 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Жирнее квантовой химии у GPU Grid?
Вверх Вниз
# 32 | , 20:45 | m00n1ight
(Автор темы)
m00n1ight, нет, не жирнее если смотреть на те, что я тестил(это были беты под Win, 4 потока, ~ 3.4-4 GB RAM и каждый WU в какой-то момент времени расползался по сторенджу на 20 GiB!! x_X).
Линуксовые я не пробовал, не знаю те же ли там условия.
Я скранчил около 20 тестовых под винду, но большая часть из них зафелилась из-за ошибке в коде этого WU, когда оказывается, что проверка на итоговый объём загружаемых данных на сервер превышает установленный в WU лимит. Кажется они это до сих пор не пофиксили.

Добавлено (30.03.2019, 00:37)
---------------------------------------------
Только сейчас понял почему ты задал этот вопрос.
Выше должен был быть скрин, но он сегодня не отображался. Поправил, теперь надеюсь понятнее.


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 33 | , 00:19 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Да, картинки не было. А требование больше 4 ГБ оперативки у Quantum Chemistry меня в своё время сразило наповал. Такой уж я впечатлительный. biggrin
Вверх Вниз
# 34 | , 10:00 | m00n1ight
(Автор темы)
Тут попалась на глаза толковая пошаговая инструкция "как проинсталить BOINC на сервере под GNU/Linux".
Ничего фантастического конечно там нет, кто хоть раз разворачивал Бубунту-сервер и так справится, но вдруг кому-то когда-то возможно в следующей жизни пригодиться smile

Добавлено (29.09.2019, 02:53)
---------------------------------------------
Кстати, рассматривая по работе варианты облачной инфраструктуры, обратил внимание на интересную фишку в Яндекс Облаке - Прерываемая ВМ (Preemptible VM).
Свойство задаётся только при создании VM и не может быть изменено в дальнейшем. Означает оно следующее:
VM может быть в любой момент работы остановлена поставщиком, но это почти в 4 раза уменьшает стоимость её использования. Как минимум раз в сутки точно произойдёт её остановка. Хоть в документации и не озвучивается, остановка это suspend или shutdown, для большинства вычислений среди BOINC проектов это не критично.
После остановки пользователь сам вручную может заново её запустить.
Учитывая что у Облака есть API, можно без проблем запилить простой скриптец опроса состояни VM, и при обнаружении остановки подать команду на запуск.
При 100% резервировании vCPU уровня Intel Cascade Lake, стоимость такой VM:
2 ядра - 370 р.
4 ядра - 730 р.
6 ядер - 1100 р.

Если каких-либо ещё, скрытых ограничений нет, то вполне себе неплохой вариант для дешёвой, но весьма производительной "BOINC-считалки" smile 
Думаю до нового года займусь тестом такого варианта.

Добавлено (29.09.2019, 03:37)
---------------------------------------------
Когда количество машин под моим контролем превысило 3 шт, пришлось воспользоваться BoincTasks
Приятный и удобный в использовании менеджер с простым классическим GUI.
Теперь мой пул выглядит так:



Когда месяц назад на WCG начался ежегодный командный челендж, подумал как бы прибавить ещё мощщей и распинал себя проинсталить пару VM на 2 стареньких блейдах, учитывая что это кластер тестовой виртуализации, там ничего практически не крутиться на постоянке.
Меньше чем за неделю они уже почти доросли по RAC(BOINC_1 и BOINC_2) инженерных десктопов, которые работаю 24/7:


Сообщение отредактировал silmor_senedlen - Воскресенье, 2019-09-01, 23:38


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 35 | , 23:37 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Цитата m00n1ight ()
[email protected] всё. В хорошем смысле.

Читал, но мне всё равно. В хорошем смысле.

«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 37 | , 01:04 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Иожет тут ещё кто-то есть. В хорошем смысле. О_О
Вверх Вниз
# 38 | , 08:35 | m00n1ight
(Автор темы)


Вверх Вниз
# 39 | , 14:11 | Товарищ
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2010-12-22
Сообщений: 6469
Nvidia говорит, что можно одолжить свою видеокарточку для распределенных вычислений по коронавирусу. Говорят, что скоро можно будет и CPU давать.

Вверх Вниз
# 40 | , 16:37 | Crashwall
Группа: Фрактотум
Регистрация: 2010-12-22
Сообщений: 1495
Отрадно что сам производитель железа популяризирует добровольные вычисления smile
Где-то месяц назад другой проект [email protected] отчитались, что уже провели некоторые вычисления/исследования по COVID-19.
А то что в этой новости - один из стареших проектов [email protected](FAH or [email protected]), но он увы не входит в инфраструктуру BOINC, поэтому миксить его с BOINC проектами не очень удобно.
На GPU, кстати, у них вычисления доступны не только для NVIDIA, но и для ATI/AMD.

Попробую найти пару видяшек по друзьям под это дело. Новую покупать с текущи курсом я точно не хочу biggrin

«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 41 | , 18:00 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Цитата silmor_senedlen ()
Новую покупать с текущи курсом я точно не хочу

Слыхал я эти песни, когда доллар был по 56. cool
Вверх Вниз
# 42 | , 18:12 | m00n1ight
(Автор темы)
Цитата m00n1ight ()
Слыхал я эти песни, когда доллар был по 56.

Хотя я такого не говорил, до этого у меня не было повода для обновления/докупки в связи с отсутствием проектов, на которые можно было бы потратить эти мощности.
Теперь повод есть, но курс и на прилично подросший ценник на съём квартиры поумерил мой текущий энтузиазм cool

«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 43 | , 19:31 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
m00n1ight, растёшь над собой wink

После того как WCG выпустили задания для GPU по проекту OpenPandemics - COVID-19, график получаемых поинтов сделал реальный "Rocket Jump":

Ну и статы все подросли немного biggrin

«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 45 | , 22:19 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Какая-то жесть x_X
Без какого-либо предварительного объявления новые задания по проекту OpenPandemics стали использовать до 2,5 GiB виртуальной RAM вместо стандартных ~200-250 MiB wacko
Понял это когда получил Memory Exhaustion и стал наблюдать глюки в отображении программ.
При этом остальные компьютеры из моего пула не получили ни одного такого задания.

Сообщение отредактировал silmor_senedlen - Понедельник, 2021-10-04, 20:35


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 46 | , 20:34 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Цитата silmor_senedlen ()
Без какого-либо предварительного объявления новые задания по проекту OpenPandemics стали использовать до 2,5 GiB виртуальной RAM вместо стандартных ~200-250 MiB

Позже выяснил, что это не крупные задания, а банальная утечка памяти, притом очень серьёзная(каждую минуту потребление растёт на ~10-15 MiB).
Создал тему на форуме WCG и получил подтверждение от других участников.
Реакции от инженеров проекта пока не дождались.

«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 47 | , 11:51 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Попалась тут на глаза статья с говорящим названием BOINC in Retrospect
На случай если тут вдруг кому-то интересна история проекта BOINC и в целом зарождения добровольных распределённых вычислений.
Вверх Вниз
# 48 | , 11:24 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Учитывая, что тут, судя по всему, ни один посетитель не занимается волонтёрством на поприще распределённых вычислений, то смысл сего поста невелик. Но всё же "похвастаюсь".
Провёл небольшое "расследование" в проекте GPUGRID и предложил улучшения, большую часть из которых админы уже реализовали.
Приятно чувствовать, когда пользу приносишь не только себе/1,5 анонимусам, а целому проекту smile

Сообщение отредактировал silmor_senedlen - Понедельник, 2022-10-10, 01:22


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 49 | , 01:21 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
WCG’s 18th Anniversary
Каждый может внести вклад в науку.
Нужно лишь захотеть closedeyes

Сообщение отредактировал silmor_senedlen - Четверг, 2022-11-17, 06:45


«There is no system but GNU, and Linux is one of its kernels» // Saint RMS
Вверх Вниз
# 50 | , 06:45 | silmor_senedlen
Спонсор C.O.R.E.
Группа: Фрактотум
Регистрация: 2013-04-21
Сообщений: 744
Форум » Беседка » Оффтопик - Разное » BOINC (Добровольные распределённые вычисления)
  • Страница 2 из 2
  • «
  • 1
  • 2
Поиск:
Новый ответ
Имя:
Текст сообщения:
Все смайлы
Антиспам не пропустит ссылки с указанием протокола [http | https]. Зарегистрируйтесь или используйте ссылки без указания протокола.
Опции сообщения:
Код безопасности: