Вопросы по теме 'azure-hdinsight'

Практическое руководство по запуску заданий HDInsight
Несколько вопросов относительно подхода к заданиям HDInsight. 1) Как запланировать задание HDInsight? Есть ли готовое решение для него? Например, если моя система будет постоянно получать большое количество новых входных файлов, для которых нам...
921 просмотров
schedule 25.02.2024

Производительность HDInsight Invoke-Hive
Я использую службу Azure HDInsight и создал в ней несколько таблиц. Каждый раз, когда я использую команду Invoke-Hive «Query» в Windows Azure PowerShell, она открывает задание, и для его завершения требуется около 30–50 секунд. У меня есть те же...
206 просмотров
schedule 13.03.2024

Как читать из хранилища BLOB-объектов Azure в Hadoop?
У меня есть задание по уменьшению карты, и редуктор получает абсолютный адрес файла, находящегося в хранилище BLOB-объектов Azure, и редуктор должен открыть его и прочитать его содержимое. Я добавляю учетную запись хранения, содержащую файлы, при...
4176 просмотров

Ошибка New-AzureHDInsightCluster/Get-AzureHDInsightJobStatus
Поскольку обновленная версия Azure PowerShell (0.9.7) была выпущена 14 августа 2015 г., я получаю следующую ошибку всякий раз, когда запускаю New-AzureHDInsightCluster или Get-AzureHDInsightJobStatus . . Оба работали без проблем до установки...
182 просмотров
schedule 22.04.2024

Ввод в эксплуатацию кластера HDInsight с помощью .Net SDK
Я пытаюсь ввести в эксплуатацию кластер HDI с помощью .Net SDK. tutorial говорит сам за себя, но, когда я следую ему, кажется, что мне не хватает ссылки. using System; using System.Collections.Generic; using System.Diagnostics; using...
65 просмотров
schedule 28.01.2024

Запуск нескольких конвейеров и / или заданий в одном кластере HDinsight в фабрике данных Azure
Каков рекомендуемый способ использования кластера HDInsight для запуска конвейера для настраиваемых действий в фабрике данных Azure. Можно ли использовать один кластер HDInsght для нескольких заданий фабрики данных Azure и для нескольких конвейеров,...
302 просмотров

Как использовать Azure HDInsight с меньшими затратами
Я использую Azure с подпиской с оплатой по мере использования. У меня был опыт создания кластера Spark с помощью HDInsight для себя, и мне заплатили больше, чем я ожидал. После этого я искал, как использовать его экономичным образом, и обнаружил,...
394 просмотров
schedule 10.01.2024

Как подключить хранилище озера данных в службах анализа Azure
Как подключить хранилище озера данных в службах анализа Azure Можем ли мы использовать HIVE ODBC или какие-либо другие варианты?
924 просмотров

Внешняя таблица Hive - удаление таблицы / разделение и удаление данных
Когда удаляется внешняя таблица или раздел куста, из хранилища метаданных куста удаляются только метаданные. Базовые данные в учетной записи хранения HDFS / Azure не удаляются. Какие есть варианты удаления данных при удалении таблицы / раздела?
1313 просмотров
schedule 13.10.2023

Azure — сбой вставки данных HDInsight Hbase
В настоящее время мы переводим нашу платформу IoT в качестве службы PAAS. Мы используем HDInsight Hbase для вставки всех данных IoT. Теперь я могу создавать и удалять таблицы в HBase из java-приложения. Но я не могу вставить или выбрать какие-либо...
277 просмотров
schedule 02.05.2024

Azure HDInsight с ADL, созданный REST API
Получение указанной ниже ошибки при создании Azure HDinsight с ADL через Rest API. Ниже приведена конфигурация, которую мы предоставили как часть json. Чего не хватает? "core-site": { "fs.defaultFS": "adl://<Home>",...
159 просмотров
schedule 08.10.2022

Как запускать команды в кластере HDInsight из кода?
Описание проблемы У меня есть экземпляр кластера HDInsight , к которому я подключаюсь с помощью Putty и сертификата CAPI . Когда я пытаюсь подключиться, он запрашивает специальный PIN-код (назначенный карте, которую необходимо подключить во...
127 просмотров
schedule 14.10.2023

AZURE HD INSIGHT (Кластер) Импорт CSV-файла в хранилище: Создание таблицы
Я новичок в программировании - я знаю основы, поэтому в этом проекте я рожу за волосы. В конце концов, я пытаюсь связать свой кластер Hadoop с Tableau, где будет сосредоточена основная часть моего проекта. Я подписываюсь на этот парень ....
87 просмотров

Spark SQL, работающий с очень большим набором данных, не работает с исключением файла, который не найден через 30 минут
У нас есть Spark SQL, работающий с очень большим набором данных (50 ГБ), этот SQL выполняет множество агрегатов. он терпит неудачу через 30 минут с сообщением «файл не найден». Можно ли каким-либо образом оптимизировать код, чтобы снизить нагрузку...
53 просмотров

Вопрос: удалить повторно создать кластер Azure HDI?
Поддерживается ли указанный ниже вариант. Создайте кластер Azure HDI (без ESP, поскольку ADDS не настроен), а затем, когда ADDS будет доступен, удалите и воссоздайте кластер включения ESP. Возникнут ли проблемы с доступом к существующим данным?...
67 просмотров