Вопросы по теме 'gnu-parallel'

Как лучше всего ускорить команду поиска в огромном дереве каталогов, используя параллель GNU?
Я некоторое время использовал GNU parallel, в основном для поиска больших файлов или запуска одной и той же команды для разных аргументов, когда каждый экземпляр команды/аргумента работает медленно и должен быть распределен по ядрам/хостам. Одна...
4272 просмотров

GNU Parallel Две или более команд параллельно в последовательности
Прежде всего, я большой поклонник параллелизма GNU. Я хотел бы ускорить ежедневную рутинную загрузку, распаковку и параллельную обработку некоторых файлов. В настоящее время я делаю это в последовательности, в которой распаковка и обработка не...
325 просмотров
schedule 06.10.2023

Как использовать GNU Parallel
Как использовать параллель GNU с командой синхронизации aws? У меня есть файл со следующими командами: aws s3 cp ./test s3://test --recursive --content-encoding "gzip" --content-type "text/html" --cache-control "max-age=$MAXAGE" --exclude "*"...
1312 просмотров

вложение параллелей gnu по многим узлам
Я хочу запустить цикл, используя параллели gnu, который имеет следующую форму outer loop about 5-10 iterations can be parallelized loop that cant be parallelized inner loop about 100s operations in parallel inner loop bit that...
59 просмотров
schedule 02.10.2022

Как использовать функцию параллельных повторных попыток GNU без передачи каких-либо параметров?
мне нравится эта функция parallel -q --retries 5 ./myprogram Но GNU parallel, похоже, не работает, если я не передам ему набор аргументов. Итак, я сделал что-то вроде этого seq 1 | parallel -q --retries 5 ./myprogram Есть ли способ...
238 просмотров
schedule 30.12.2023

Процессы форка неопределенно долго с использованием gnu-parallel, которые перехватывают отдельные ошибки выхода и возрождаются.
Я думаю, название наводит вас на эту мысль. Еще один дублирующий вопрос Что ж, позвольте мне объяснить это подробно. Хорошо, поехали. Я использую gearman для обработки стека задач. У меня есть клиент передач, который отправляет эту...
372 просмотров

ускорить передачу файлов с одной машины на другую
Мне нужно скопировать около 25 файлов с одной машины на другую. Размер каждого файла составляет около 15 ГБ. У меня есть ссылка на 1 ГБ, и обе эти машины имеют очень мощную коробку. У них около 40 процессоров. Теперь, чтобы скопировать все эти...
552 просмотров
schedule 01.02.2024

Передача нескольких параметров в GNU parallel
У меня есть пример сценария с именем sample.sh, который принимает три входа X, Y и Z. >> cat sample.sh #! /bin/bash X=$1 Y=$2 Z=#3 file=X$1_Y$2_Z$3 echo `hostname` `date` >> ./$file Теперь я могу задать параметры следующим...
92 просмотров
schedule 30.07.2022

Параллельный GNU: запуск тестов для службы — преждевременный сбой
Я использую parallel для распараллеливания автоматических тестов службы как части конвейера сборки. По сути, мой текущий подход заключается в использовании следующего. В итоге что должно получиться: Как только оба теста пройдены успешно -› успех...
25 просмотров
schedule 09.10.2022