Улучшение производительности cURL (библиотека PHP)

Вот краткий обзор того, что я делаю, на самом деле это довольно просто:

  • Выйдите и извлеките записи из таблицы базы данных.
  • Пройдитесь по всем этим записям и для каждого столбца, содержащего URL-адрес, выйдите (используя cURL) и убедитесь, что URL-адрес все еще действителен.
  • Для каждой записи в столбце обновляется текущая отметка времени, указывающая, когда она была проверена в последний раз, и выполняется некоторая другая обработка базы данных.

Во всяком случае все это работает хорошо и хорошо и делает именно то, что предполагается. Проблема в том, что я думаю, что производительность может быть значительно улучшена с точки зрения того, как я проверяю URL-адреса с помощью cURL.

Вот краткий (упрощенный) отрывок из моего кода, демонстрирующий, как используется cURL:

$ch = curl_init();
while($dbo = pg_fetch_object($dbres))
{
   // for each iteration set url to db record url
   curl_setopt($ch, CURLOPT_URL, $dbo->url);
   curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
   curl_exec($ch); // perform a cURL session
   $ihttp_code = intval(curl_getinfo($ch, CURLINFO_HTTP_CODE));
   // do checks on $ihttp_code and update db
}
// do other stuff here
curl_close($ch);

Как вы можете видеть, я просто повторно использую один и тот же дескриптор cURL все время, но даже если я уберу всю обработку (базу данных или что-то еще), сценарий все равно будет выполняться невероятно долго. Поможет ли изменение каких-либо параметров cURL повысить производительность? Настройка значений тайм-аута / и т. д.? Мы будем признательны за любой вклад.

Спасибо,

  • Николай

person Nicholas Kreidberg    schedule 26.02.2009    source источник


Ответы (1)


Установите для CURLOPT_NOBODY значение 1 (см. документацию по curl), сообщите curl не запрашивать тело ответа. Это свяжется с веб-сервером и выдаст запрос HEAD. Код ответа сообщит вам, является ли URL-адрес действительным или нет, и не передаст большую часть данных обратно.

Если это все еще слишком медленно, вы, вероятно, увидите значительное улучшение, запустив N потоков (или процессов), каждый из которых выполняет 1/N часть работы. Узкое место может быть не в вашем коде, а во времени отклика удаленных серверов. Если они медленно реагируют, ваш цикл будет работать медленно.

person slacy    schedule 26.02.2009
comment
Добавление этого параметра определенно помогло, сократив время выполнения на 30-40% — спасибо! - person Nicholas Kreidberg; 27.02.2009
comment
Мы не можем использовать многопоточность здесь. Используйте multi_curl askapache.com/php/curl-multi-downloads.html - person mixdev; 09.07.2010