Вопросы по теме 'oozie'

Как я могу запускать задания MapReduce ToolRunner с помощью Oozie?
Я разработал приложение MapReduce, которое использует ToolRunner . На основе аргументов и свойств конфигурации, переданных пользователем, приложение определенным образом настраивает задание: выбирает конкретный формат ввода/вывода, выбирает классы...
1359 просмотров
schedule 12.04.2024

Выполнение Sqoops с помощью Oozie
У меня есть 2 Sqoops, которые загружают данные из HDFS в MySQL. Я хочу выполнить их с помощью Oozie. Я видел, что Oozie представляет собой файл XML. Как я могу настроить его, чтобы я мог выполнять эти Sqoop? Демонстрация с шагами будет оценена?...
11969 просмотров
schedule 25.01.2024

Как N раз запустить скрипт Pig с помощью oozie?
Мне нужно обработать много файлов с определенной датой. Я нахожу только одно решение: запускать задание N раз, каждый раз с другим набором данных. Используемые разделы основаны на гггг, мм, дд. У меня есть действие java, которое создает хороший...
73 просмотров
schedule 07.04.2024

Задержка для набора данных в Oozie Coordinator
Нужна работа, которая выполняется в зависимости от наличия наборов данных, созданных в разделах Hive. Я заставил это работать, но теперь я хочу, чтобы все мои каналы запускались в номинальное время, но один всегда запускался с задержкой на день....
277 просмотров
schedule 10.02.2024

Ошибка Sqoop при использовании Oozie
У меня проблема с рабочим процессом oozie Я импортирую файл с помощью Sqoop с помощью команды sqoop import --connect jdbc:oracle:thin@:ip:sid --username --password --target-dir Из командной строки это работает, но по расписанию в oozie...
115 просмотров
schedule 18.09.2022

Ошибка импорта: невозможно преобразовать тип SQL 2005==› во время импорта данных CLOB из базы данных Oracle.
Я пытаюсь импортировать данные таблицы Oracle с типом данных CLOB, используя sqoop, и это не удается с ошибкой Imported Failed: Cannot convert SQL type 2005 . Я использую Running Sqoop version: 1.4.5-cdh5.4.7 . Пожалуйста, помогите мне, как...
1300 просмотров
schedule 18.02.2024

Клиент JDBC для Hive — нет данных или нет данных sasl в потоке Исключение
У нас есть кластер с поддержкой Kerberos, и я пытаюсь запустить действие Java в Oozie, где я создаю соединение JDBC с Hive. Это соединение JDBC отлично работает в песочнице без Kerberos. Строка подключения проста, как показано ниже, где я указываю...
4110 просмотров
schedule 31.10.2023

передать имя каталога от одного координатора другому в oozie
У меня есть координатор-A, у которого есть рабочий процесс, который генерирует вывод в каталог /var/test/output/20161213-randomnumber/ теперь мне нужно передать имя каталога «20161213-randomnumber» другому координатору-B, который должен...
76 просмотров
schedule 04.04.2024

Тег параметра Oozie перед тегом script?
Можно ли использовать тег <param> в oozie перед тегом <script> . Как показано ниже: <param>script_name=${wf:actionData('GetJobParameters')['SCRIPT_NAME']}</param>...
175 просмотров
schedule 24.08.2022

Координатор Oozie — триггер на основе файловых событий — многократное срабатывание
Я пытаюсь понять, почему задание координатора на основе oozie 4.2, которое должно ждать набора данных, срабатывает несколько раз. Моя работа координатора выглядит так <coordinator-app name="ConfirmDataMasterTrigger"...
966 просмотров
schedule 30.09.2022

Невозможно запустить Spark Job в HUE oozie. Исключение: datanucleus-api-jdo-3.2.1.jar не существует
Я хочу знать, как и где Spark выбирает нужные банки. файл: /mnt/md0/yarn/nm/usercache/kylin/appcache/application_1468506830246_161908/container_1468506830246_161908_01_000001/datanucleus-api-jdo-3.2.1.jar не существует. <spark-opts>...
321 просмотров
schedule 26.12.2023

как отложить действие рабочего процесса с помощью координатора oozie
У меня есть один координатор oozie и задания рабочего процесса, когда мое одно из действий рабочего процесса завершено, мне нужно начать следующее действие через некоторое время, скажем, через 50 минут. Могу ли я настроить это из рабочего процесса...
1919 просмотров

Ошибка Cloudera -java.lang.NoSuchFieldError: IS_SECURITY_ENABLED при попытке доступа к этому полю
Домашнюю работу искал везде, но не нашел решений java.lang.NoSuchFieldError: IS_SECURITY_ENABLED Посылка CDH содержит конфликтующие файлы jar (jsp-api-2.1-6.1.14.jar, jasper-runtime-5.5.23.jar). jsp-api-2.1-6.1.14.jar и...
903 просмотров
schedule 07.09.2022

Запускайте одно и то же задание Oozie несколько раз параллельно с разными значениями аргументов для каждого задания.
Я хочу запустить программу, которая преобразует данный входной файл в другой формат. Когда файл загружен во входную таблицу, планировщик oozie должен запустить задание. Для одного файла работает нормально; Если входная таблица имеет несколько...
181 просмотров
schedule 26.08.2022