Вопросы по теме 'gnu-parallel'
Как лучше всего ускорить команду поиска в огромном дереве каталогов, используя параллель GNU?
Я некоторое время использовал GNU parallel, в основном для поиска больших файлов или запуска одной и той же команды для разных аргументов, когда каждый экземпляр команды/аргумента работает медленно и должен быть распределен по ядрам/хостам.
Одна...
4272 просмотров
schedule
30.09.2022
GNU Parallel Две или более команд параллельно в последовательности
Прежде всего, я большой поклонник параллелизма GNU. Я хотел бы ускорить ежедневную рутинную загрузку, распаковку и параллельную обработку некоторых файлов. В настоящее время я делаю это в последовательности, в которой распаковка и обработка не...
325 просмотров
schedule
06.10.2023
Как использовать GNU Parallel
Как использовать параллель GNU с командой синхронизации aws?
У меня есть файл со следующими командами:
aws s3 cp ./test s3://test --recursive --content-encoding "gzip" --content-type "text/html" --cache-control "max-age=$MAXAGE" --exclude "*"...
1312 просмотров
schedule
10.09.2022
вложение параллелей gnu по многим узлам
Я хочу запустить цикл, используя параллели gnu, который имеет следующую форму
outer loop about 5-10 iterations can be parallelized
loop that cant be parallelized
inner loop about 100s operations in parallel
inner loop bit that...
59 просмотров
schedule
02.10.2022
Как использовать функцию параллельных повторных попыток GNU без передачи каких-либо параметров?
мне нравится эта функция
parallel -q --retries 5 ./myprogram
Но GNU parallel, похоже, не работает, если я не передам ему набор аргументов. Итак, я сделал что-то вроде этого
seq 1 | parallel -q --retries 5 ./myprogram
Есть ли способ...
238 просмотров
schedule
30.12.2023
Процессы форка неопределенно долго с использованием gnu-parallel, которые перехватывают отдельные ошибки выхода и возрождаются.
Я думаю, название наводит вас на эту мысль.
Еще один дублирующий вопрос
Что ж, позвольте мне объяснить это подробно.
Хорошо, поехали.
Я использую gearman для обработки стека задач. У меня есть клиент передач, который отправляет эту...
372 просмотров
schedule
09.06.2024
ускорить передачу файлов с одной машины на другую
Мне нужно скопировать около 25 файлов с одной машины на другую. Размер каждого файла составляет около 15 ГБ. У меня есть ссылка на 1 ГБ, и обе эти машины имеют очень мощную коробку. У них около 40 процессоров. Теперь, чтобы скопировать все эти...
552 просмотров
schedule
01.02.2024
Передача нескольких параметров в GNU parallel
У меня есть пример сценария с именем sample.sh, который принимает три входа X, Y и Z.
>> cat sample.sh
#! /bin/bash
X=$1
Y=$2
Z=#3
file=X$1_Y$2_Z$3
echo `hostname` `date` >> ./$file
Теперь я могу задать параметры следующим...
92 просмотров
schedule
30.07.2022
Параллельный GNU: запуск тестов для службы — преждевременный сбой
Я использую parallel для распараллеливания автоматических тестов службы как части конвейера сборки. По сути, мой текущий подход заключается в использовании следующего. В итоге что должно получиться:
Как только оба теста пройдены успешно -› успех...
25 просмотров
schedule
09.10.2022