$localrac, 'taille_max' => $taille_max, 'if_modified_since' => $t ? filemtime($localrac) : '') ); if (!$res or (!$res['length'] and $res['status'] != 304)) { spip_log("copie_locale : Echec recuperation $source sur $localrac status : " . $res['status'], _LOG_INFO_IMPORTANTE); } if (!$res['length']) { // si $t c'est sans doute juste un not-modified-since return $t ? $local : false; } spip_log("copie_locale : recuperation $source sur $localrac taille " . $res['length'] . ' OK'); // pour une eventuelle indexation pipeline( 'post_edition', array( 'args' => array( 'operation' => 'copie_locale', 'source' => $source, 'fichier' => $local, 'http_res' => $res['length'], ), 'data' => null ) ); } return $local; } /** * Valider qu'une URL d'un document distant est bien distante * et pas une url localhost qui permet d'avoir des infos sur le serveur * inspiree de https://core.trac.wordpress.org/browser/trunk/src/wp-includes/http.php?rev=36435#L500 * * @param string $url * @param array $known_hosts * url/hosts externes connus et acceptes * @return false|string * url ou false en cas d'echec */ function valider_url_distante($url, $known_hosts = array()) { if (!function_exists('protocole_verifier')){ include_spip('inc/filtres_mini'); } if (!protocole_verifier($url, array('http', 'https'))) { return false; } $parsed_url = parse_url($url); if (!$parsed_url or empty($parsed_url['host']) ) { return false; } if (isset($parsed_url['user']) or isset($parsed_url['pass'])) { return false; } if (false !== strpbrk($parsed_url['host'], ':#?[]')) { return false; } if (!is_array($known_hosts)) { $known_hosts = array($known_hosts); } $known_hosts[] = $GLOBALS['meta']['adresse_site']; $known_hosts[] = url_de_base(); $known_hosts = pipeline('declarer_hosts_distants', $known_hosts); $is_known_host = false; foreach ($known_hosts as $known_host) { $parse_known = parse_url($known_host); if ($parse_known and strtolower($parse_known['host']) === strtolower($parsed_url['host'])) { $is_known_host = true; break; } } if (!$is_known_host) { $host = trim($parsed_url['host'], '.'); if (! $ip = filter_var($host, FILTER_VALIDATE_IP)) { $ip = gethostbyname($host); if ($ip === $host) { // Error condition for gethostbyname() $ip = false; } if ($records = dns_get_record($host)) { foreach ($records as $record) { // il faut que le TTL soit suffisant afin d'etre certain que le copie_locale eventuel qui suit // se fasse sur la meme IP if ($record['ttl']<10) { $ip = false; break; } } } else { $ip = false; } } if ($ip) { if (! filter_var($ip, FILTER_VALIDATE_IP, FILTER_FLAG_NO_PRIV_RANGE | FILTER_FLAG_NO_RES_RANGE)) { return false; } } } if (empty($parsed_url['port'])) { return $url; } $port = $parsed_url['port']; if ($port === 80 or $port === 443 or $port === 8080) { return $url; } if ($is_known_host) { foreach ($known_hosts as $known_host) { $parse_known = parse_url($known_host); if ($parse_known and !empty($parse_known['port']) and strtolower($parse_known['host']) === strtolower($parsed_url['host']) and $parse_known['port'] == $port) { return $url; } } } return false; } /** * Preparer les donnes pour un POST * si $donnees est une chaine * - charge a l'envoyeur de la boundariser, de gerer le Content-Type etc... * - on traite les retour ligne pour les mettre au bon format * - on decoupe en entete/corps (separes par ligne vide) * si $donnees est un tableau * - structuration en chaine avec boundary si necessaire ou fournie et bon Content-Type * * @param string|array $donnees * @param string $boundary * @return array * entete,corps */ function prepare_donnees_post($donnees, $boundary = '') { // permettre a la fonction qui a demande le post de formater elle meme ses donnees // pour un appel soap par exemple // l'entete est separe des donnees par un double retour a la ligne // on s'occupe ici de passer tous les retours lignes (\r\n, \r ou \n) en \r\n if (is_string($donnees) && strlen($donnees)) { $entete = ''; // on repasse tous les \r\n et \r en simples \n $donnees = str_replace("\r\n", "\n", $donnees); $donnees = str_replace("\r", "\n", $donnees); // un double retour a la ligne signifie la fin de l'entete et le debut des donnees $p = strpos($donnees, "\n\n"); if ($p !== false) { $entete = str_replace("\n", "\r\n", substr($donnees, 0, $p + 1)); $donnees = substr($donnees, $p + 2); } $chaine = str_replace("\n", "\r\n", $donnees); } else { /* boundary automatique */ // Si on a plus de 500 octects de donnees, on "boundarise" if ($boundary === '') { $taille = 0; foreach ($donnees as $cle => $valeur) { if (is_array($valeur)) { foreach ($valeur as $val2) { $taille += strlen($val2); } } else { // faut-il utiliser spip_strlen() dans inc/charsets ? $taille += strlen($valeur); } } if ($taille > 500) { $boundary = substr(md5(rand() . 'spip'), 0, 8); } } if (is_string($boundary) and strlen($boundary)) { // fabrique une chaine HTTP pour un POST avec boundary $entete = "Content-Type: multipart/form-data; boundary=$boundary\r\n"; $chaine = ''; if (is_array($donnees)) { foreach ($donnees as $cle => $valeur) { if (is_array($valeur)) { foreach ($valeur as $val2) { $chaine .= "\r\n--$boundary\r\n"; $chaine .= "Content-Disposition: form-data; name=\"{$cle}[]\"\r\n"; $chaine .= "\r\n"; $chaine .= $val2; } } else { $chaine .= "\r\n--$boundary\r\n"; $chaine .= "Content-Disposition: form-data; name=\"$cle\"\r\n"; $chaine .= "\r\n"; $chaine .= $valeur; } } $chaine .= "\r\n--$boundary\r\n"; } } else { // fabrique une chaine HTTP simple pour un POST $entete = 'Content-Type: application/x-www-form-urlencoded' . "\r\n"; $chaine = array(); if (is_array($donnees)) { foreach ($donnees as $cle => $valeur) { if (is_array($valeur)) { foreach ($valeur as $val2) { $chaine[] = rawurlencode($cle) . '[]=' . rawurlencode($val2); } } else { $chaine[] = rawurlencode($cle) . '=' . rawurlencode($valeur); } } $chaine = implode('&', $chaine); } else { $chaine = $donnees; } } } return array($entete, $chaine); } /** * Convertir une URL dont le host est en utf8 en ascii * Utilise la librairie https://github.com/phlylabs/idna-convert/tree/v0.9.1 * dans sa derniere version compatible toutes version PHP 5 * La fonction PHP idn_to_ascii depend d'un package php5-intl et est rarement disponible * * @param string $url_idn * @return array|string */ function url_to_ascii($url_idn) { if ($parts = parse_url($url_idn)) { $host = $parts['host']; if (!preg_match(',^[a-z0-9_\.\-]+$,i', $host)) { include_spip('inc/idna_convert.class'); $IDN = new idna_convert(); $host_ascii = $IDN->encode($host); $url_idn = explode($host, $url_idn, 2); $url_idn = implode($host_ascii, $url_idn); } } return $url_idn; } /** * Récupère le contenu d'une URL * au besoin encode son contenu dans le charset local * * @uses init_http() * @uses recuperer_entetes() * @uses recuperer_body() * @uses transcoder_page() * * @param string $url * @param array $options * bool transcoder : true si on veut transcoder la page dans le charset du site * string methode : Type de requête HTTP à faire (HEAD, GET ou POST) * int taille_max : Arrêter le contenu au-delà (0 = seulement les entetes ==> requête HEAD). Par defaut taille_max = 1Mo ou 16Mo si copie dans un fichier * string|array datas : Pour envoyer des donnees (array) et/ou entetes (string) (force la methode POST si donnees non vide) * string boundary : boundary pour formater les datas au format array * bool refuser_gz : Pour forcer le refus de la compression (cas des serveurs orthographiques) * int if_modified_since : Un timestamp unix pour arrêter la récuperation si la page distante n'a pas été modifiée depuis une date donnée * string uri_referer : Pour préciser un référer différent * string file : nom du fichier dans lequel copier le contenu * int follow_location : nombre de redirections a suivre (0 pour ne rien suivre) * string version_http : version du protocole HTTP a utiliser (par defaut defini par la constante _INC_DISTANT_VERSION_HTTP) * @return array|bool * false si echec * array sinon : * int status : le status de la page * string headers : les entetes de la page * string page : le contenu de la page (vide si copie dans un fichier) * int last_modified : timestamp de derniere modification * string location : url de redirection envoyee par la page * string url : url reelle de la page recuperee * int length : taille du contenu ou du fichier * * string file : nom du fichier si enregistre dans un fichier */ function recuperer_url($url, $options = array()) { $default = array( 'transcoder' => false, 'methode' => 'GET', 'taille_max' => null, 'datas' => '', 'boundary' => '', 'refuser_gz' => false, 'if_modified_since' => '', 'uri_referer' => '', 'file' => '', 'follow_location' => 10, 'version_http' => _INC_DISTANT_VERSION_HTTP, ); $options = array_merge($default, $options); // copier directement dans un fichier ? $copy = $options['file']; if ($options['methode'] == 'HEAD') { $options['taille_max'] = 0; } if (is_null($options['taille_max'])) { $options['taille_max'] = $copy ? _COPIE_LOCALE_MAX_SIZE : _INC_DISTANT_MAX_SIZE; } if (!empty($options['datas'])) { list($head, $postdata) = prepare_donnees_post($options['datas'], $options['boundary']); if (stripos($head, 'Content-Length:') === false) { $head .= 'Content-Length: ' . strlen($postdata); } $options['datas'] = $head . "\r\n\r\n" . $postdata; if (strlen($postdata)) { $options['methode'] = 'POST'; } } // Accepter les URLs au format feed:// ou qui ont oublie le http:// ou les urls relatives au protocole $url = preg_replace(',^feed://,i', 'http://', $url); if (!tester_url_absolue($url)) { $url = 'http://' . $url; } elseif (strncmp($url, '//', 2) == 0) { $url = 'http:' . $url; } $url = url_to_ascii($url); $result = array( 'status' => 0, 'headers' => '', 'page' => '', 'length' => 0, 'last_modified' => '', 'location' => '', 'url' => $url ); // si on ecrit directement dans un fichier, pour ne pas manipuler en memoire refuser gz $refuser_gz = (($options['refuser_gz'] or $copy) ? true : false); // ouvrir la connexion et envoyer la requete et ses en-tetes list($handle, $fopen) = init_http( $options['methode'], $url, $refuser_gz, $options['uri_referer'], $options['datas'], $options['version_http'], $options['if_modified_since'] ); if (!$handle) { spip_log("ECHEC init_http $url"); return false; } // Sauf en fopen, envoyer le flux d'entree // et recuperer les en-tetes de reponses if (!$fopen) { $res = recuperer_entetes_complets($handle, $options['if_modified_since']); if (!$res) { fclose($handle); $t = @parse_url($url); $host = $t['host']; // Chinoisierie inexplicable pour contrer // les actions liberticides de l'empire du milieu if (!need_proxy($host) and $res = @file_get_contents($url) ) { $result['length'] = strlen($res); if ($copy) { ecrire_fichier($copy, $res); $result['file'] = $copy; } else { $result['page'] = $res; } $res = array( 'status' => 200, ); } else { return false; } } elseif ($res['location'] and $options['follow_location']) { $options['follow_location']--; fclose($handle); include_spip('inc/filtres'); $url = suivre_lien($url, $res['location']); spip_log("recuperer_url recommence sur $url"); return recuperer_url($url, $options); } elseif ($res['status'] !== 200) { spip_log('HTTP status ' . $res['status'] . " pour $url"); } $result['status'] = $res['status']; if (isset($res['headers'])) { $result['headers'] = $res['headers']; } if (isset($res['last_modified'])) { $result['last_modified'] = $res['last_modified']; } if (isset($res['location'])) { $result['location'] = $res['location']; } } // on ne veut que les entetes if (!$options['taille_max'] or $options['methode'] == 'HEAD' or $result['status'] == '304') { return $result; } // s'il faut deballer, le faire via un fichier temporaire // sinon la memoire explose pour les gros flux $gz = false; if (preg_match(",\bContent-Encoding: .*gzip,is", $result['headers'])) { $gz = (_DIR_TMP . md5(uniqid(mt_rand())) . '.tmp.gz'); } // si on a pas deja recuperer le contenu par une methode detournee if (!$result['length']) { $res = recuperer_body($handle, $options['taille_max'], $gz ? $gz : $copy); fclose($handle); if ($copy) { $result['length'] = $res; $result['file'] = $copy; } elseif ($res) { $result['page'] = &$res; $result['length'] = strlen($result['page']); } $result['status'] = 200; // on a reussi, donc ! } if (!$result['page']) { return $result; } // Decompresser au besoin if ($gz) { $result['page'] = implode('', gzfile($gz)); supprimer_fichier($gz); } // Faut-il l'importer dans notre charset local ? if ($options['transcoder']) { include_spip('inc/charsets'); $result['page'] = transcoder_page($result['page'], $result['headers']); } return $result; } /** * Récuperer une URL si on l'a pas déjà dans un cache fichier * * Le délai de cache est fourni par l'option `delai_cache` * Les autres options et le format de retour sont identiques à la fonction `recuperer_url` * @uses recuperer_url() * * @param string $url * @param array $options * int delai_cache : anciennete acceptable pour le contenu (en seconde) * @return array|bool|mixed */ function recuperer_url_cache($url, $options = array()) { if (!defined('_DELAI_RECUPERER_URL_CACHE')) { define('_DELAI_RECUPERER_URL_CACHE', 3600); } $default = array( 'transcoder' => false, 'methode' => 'GET', 'taille_max' => null, 'datas' => '', 'boundary' => '', 'refuser_gz' => false, 'if_modified_since' => '', 'uri_referer' => '', 'file' => '', 'follow_location' => 10, 'version_http' => _INC_DISTANT_VERSION_HTTP, 'delai_cache' => _DELAI_RECUPERER_URL_CACHE, ); $options = array_merge($default, $options); // cas ou il n'est pas possible de cacher if (!empty($options['data']) or $options['methode'] == 'POST') { return recuperer_url($url, $options); } // ne pas tenter plusieurs fois la meme url en erreur (non cachee donc) static $errors = array(); if (isset($errors[$url])) { return $errors[$url]; } $sig = $options; unset($sig['if_modified_since']); unset($sig['delai_cache']); $sig['url'] = $url; $dir = sous_repertoire(_DIR_CACHE, 'curl'); $cache = md5(serialize($sig)) . '-' . substr(preg_replace(',\W+,', '_', $url), 0, 80); $sub = sous_repertoire($dir, substr($cache, 0, 2)); $cache = "$sub$cache"; $res = false; $is_cached = file_exists($cache); if ($is_cached and (filemtime($cache) > $_SERVER['REQUEST_TIME'] - $options['delai_cache']) ) { lire_fichier($cache, $res); if ($res = unserialize($res)) { // mettre le last_modified et le status=304 ? } } if (!$res) { $res = recuperer_url($url, $options); // ne pas recharger cette url non cachee dans le meme hit puisque non disponible if (!$res) { if ($is_cached) { // on a pas reussi a recuperer mais on avait un cache : l'utiliser lire_fichier($cache, $res); $res = unserialize($res); } return $errors[$url] = $res; } ecrire_fichier($cache, serialize($res)); } return $res; } /** * Obsolète : Récupère une page sur le net et au besoin l'encode dans le charset local * * Gère les redirections de page (301) sur l'URL demandée (maximum 10 redirections) * * @deprecated * @uses recuperer_url() * * @param string $url * URL de la page à récupérer * @param bool|string $trans * - chaîne longue : c'est un nom de fichier (nom pour sa copie locale) * - true : demande d'encodage/charset * - null : ne retourner que les headers * @param bool $get_headers * Si on veut récupérer les entêtes * @param int|null $taille_max * Arrêter le contenu au-delà (0 = seulement les entetes ==> requête HEAD). * Par defaut taille_max = 1Mo. * @param string|array $datas * Pour faire un POST de données * @param string $boundary * Pour forcer l'envoi par cette méthode * @param bool $refuser_gz * Pour forcer le refus de la compression (cas des serveurs orthographiques) * @param string $date_verif * Un timestamp unix pour arrêter la récuperation si la page distante * n'a pas été modifiée depuis une date donnée * @param string $uri_referer * Pour préciser un référer différent * @return string|bool * - Code de la page obtenue (avec ou sans entête) * - false si la page n'a pu être récupérée (status different de 200) **/ function recuperer_page( $url, $trans = false, $get_headers = false, $taille_max = null, $datas = '', $boundary = '', $refuser_gz = false, $date_verif = '', $uri_referer = '' ) { // $copy = copier le fichier ? $copy = (is_string($trans) and strlen($trans) > 5); // eviter "false" :-) if (!is_null($taille_max) and ($taille_max == 0)) { $get = 'HEAD'; } else { $get = 'GET'; } $options = array( 'transcoder' => $trans === true, 'methode' => $get, 'datas' => $datas, 'boundary' => $boundary, 'refuser_gz' => $refuser_gz, 'if_modified_since' => $date_verif, 'uri_referer' => $uri_referer, 'file' => $copy ? $trans : '', 'follow_location' => 10, ); if (!is_null($taille_max)) { $options['taille_max'] = $taille_max; } // dix tentatives maximum en cas d'entetes 301... $res = recuperer_url($url, $options); if (!$res) { return false; } if ($res['status'] !== 200) { return false; } if ($get_headers) { return $res['headers'] . "\n" . $res['page']; } return $res['page']; } /** * Obsolete Récupère une page sur le net et au besoin l'encode dans le charset local * * @deprecated * * @uses recuperer_url() * * @param string $url * URL de la page à récupérer * @param bool|null|string $trans * - chaîne longue : c'est un nom de fichier (nom pour sa copie locale) * - true : demande d'encodage/charset * - null : ne retourner que les headers * @param string $get * Type de requête HTTP à faire (HEAD, GET ou POST) * @param int|bool $taille_max * Arrêter le contenu au-delà (0 = seulement les entetes ==> requête HEAD). * Par defaut taille_max = 1Mo. * @param string|array $datas * Pour faire un POST de données * @param bool $refuser_gz * Pour forcer le refus de la compression (cas des serveurs orthographiques) * @param string $date_verif * Un timestamp unix pour arrêter la récuperation si la page distante * n'a pas été modifiée depuis une date donnée * @param string $uri_referer * Pour préciser un référer différent * @return string|array|bool * - Retourne l'URL en cas de 301, * - Un tableau (entête, corps) si ok, * - false sinon **/ function recuperer_lapage( $url, $trans = false, $get = 'GET', $taille_max = 1048576, $datas = '', $refuser_gz = false, $date_verif = '', $uri_referer = '' ) { // $copy = copier le fichier ? $copy = (is_string($trans) and strlen($trans) > 5); // eviter "false" :-) // si on ecrit directement dans un fichier, pour ne pas manipuler // en memoire refuser gz if ($copy) { $refuser_gz = true; } $options = array( 'transcoder' => $trans === true, 'methode' => $get, 'datas' => $datas, 'refuser_gz' => $refuser_gz, 'if_modified_since' => $date_verif, 'uri_referer' => $uri_referer, 'file' => $copy ? $trans : '', 'follow_location' => false, ); if (!is_null($taille_max)) { $options['taille_max'] = $taille_max; } // dix tentatives maximum en cas d'entetes 301... $res = recuperer_url($url, $options); if (!$res) { return false; } if ($res['status'] !== 200) { return false; } return array($res['headers'], $res['page']); } /** * Recuperer le contenu sur lequel pointe la resource passee en argument * $taille_max permet de tronquer * de l'url dont on a deja recupere les en-tetes * * @param resource $handle * @param int $taille_max * @param string $fichier * fichier dans lequel copier le contenu de la resource * @return bool|int|string * bool false si echec * int taille du fichier si argument fichier fourni * string contenu de la resource */ function recuperer_body($handle, $taille_max = _INC_DISTANT_MAX_SIZE, $fichier = '') { $taille = 0; $result = ''; $fp = false; if ($fichier) { include_spip('inc/acces'); $tmpfile = "$fichier." . creer_uniqid() . '.tmp'; $fp = spip_fopen_lock($tmpfile, 'w', LOCK_EX); if (!$fp and file_exists($fichier)) { return filesize($fichier); } if (!$fp) { return false; } $result = 0; // on renvoie la taille du fichier } while (!feof($handle) and $taille < $taille_max) { $res = fread($handle, 16384); $taille += strlen($res); if ($fp) { fwrite($fp, $res); $result = $taille; } else { $result .= $res; } } if ($fp) { spip_fclose_unlock($fp); spip_unlink($fichier); @rename($tmpfile, $fichier); if (!file_exists($fichier)) { return false; } } return $result; } /** * Lit les entetes de reponse HTTP sur la socket $handle * et retourne * false en cas d'echec, * un tableau associatif en cas de succes, contenant : * - le status * - le tableau complet des headers * - la date de derniere modif si connue * - l'url de redirection si specifiee * * @param resource $handle * @param int|bool $if_modified_since * @return bool|array * int status * string headers * int last_modified * string location */ function recuperer_entetes_complets($handle, $if_modified_since = false) { $result = array('status' => 0, 'headers' => array(), 'last_modified' => 0, 'location' => ''); $s = @trim(fgets($handle, 16384)); if (!preg_match(',^HTTP/[0-9]+\.[0-9]+ ([0-9]+),', $s, $r)) { return false; } $result['status'] = intval($r[1]); while ($s = trim(fgets($handle, 16384))) { $result['headers'][] = $s . "\n"; preg_match(',^([^:]*): *(.*)$,i', $s, $r); list(, $d, $v) = $r; if (strtolower(trim($d)) == 'location' and $result['status'] >= 300 and $result['status'] < 400) { $result['location'] = $v; } elseif ($d == 'Last-Modified') { $result['last_modified'] = strtotime($v); } } if ($if_modified_since and $result['last_modified'] and $if_modified_since > $result['last_modified'] and $result['status'] == 200 ) { $result['status'] = 304; } $result['headers'] = implode('', $result['headers']); return $result; } /** * Obsolete : version simplifiee de recuperer_entetes_complets * Retourne les informations d'entête HTTP d'un socket * * Lit les entêtes de reponse HTTP sur la socket $f * * @uses recuperer_entetes_complets() * @deprecated * * @param resource $f * Socket d'un fichier (issu de fopen) * @param int|string $date_verif * Pour tester une date de dernière modification * @return string|int|array * - la valeur (chaîne) de l'en-tete Location si on l'a trouvée * - la valeur (numerique) du statut si different de 200, notamment Not-Modified * - le tableau des entetes dans tous les autres cas **/ function recuperer_entetes($f, $date_verif = '') { //Cas ou la page distante n'a pas bouge depuis //la derniere visite $res = recuperer_entetes_complets($f, $date_verif); if (!$res) { return false; } if ($res['location']) { return $res['location']; } if ($res['status'] != 200) { return $res['status']; } return explode("\n", $res['headers']); } /** * Calcule le nom canonique d'une copie local d'un fichier distant * * Si on doit conserver une copie locale des fichiers distants, autant que ca * soit à un endroit canonique * * @note * Si ca peut être bijectif c'est encore mieux, * mais là tout de suite je ne trouve pas l'idee, étant donné les limitations * des filesystems * * @param string $source * URL de la source * @param string $extension * Extension du fichier * @return string * Nom du fichier pour copie locale **/ function nom_fichier_copie_locale($source, $extension) { include_spip('inc/documents'); $d = creer_repertoire_documents('distant'); # IMG/distant/ $d = sous_repertoire($d, $extension); # IMG/distant/pdf/ // on se place tout le temps comme si on etait a la racine if (_DIR_RACINE) { $d = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $d); } $m = md5($source); return $d . substr(preg_replace(',[^\w-],', '', basename($source)) . '-' . $m, 0, 12) . substr($m, 0, 4) . ".$extension"; } /** * Donne le nom de la copie locale de la source * * Soit obtient l'extension du fichier directement de l'URL de la source, * soit tente de le calculer. * * @uses nom_fichier_copie_locale() * @uses recuperer_infos_distantes() * * @param string $source * URL de la source distante * @return string * Nom du fichier calculé **/ function fichier_copie_locale($source) { // Si c'est deja local pas de souci if (!tester_url_absolue($source)) { if (_DIR_RACINE) { $source = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $source); } return $source; } // optimisation : on regarde si on peut deviner l'extension dans l'url et si le fichier // a deja ete copie en local avec cette extension // dans ce cas elle est fiable, pas la peine de requeter en base $path_parts = pathinfo($source); if (!isset($path_parts['extension'])) { $path_parts['extension'] = ''; } $ext = $path_parts ? $path_parts['extension'] : ''; if ($ext and preg_match(',^\w+$,', $ext) // pas de php?truc=1&... and $f = nom_fichier_copie_locale($source, $ext) and file_exists(_DIR_RACINE . $f) ) { return $f; } // Si c'est deja dans la table des documents, // ramener le nom de sa copie potentielle $ext = sql_getfetsel('extension', 'spip_documents', 'fichier=' . sql_quote($source) . " AND distant='oui' AND extension <> ''"); if ($ext) { return nom_fichier_copie_locale($source, $ext); } // voir si l'extension indiquee dans le nom du fichier est ok // et si il n'aurait pas deja ete rapatrie $ext = $path_parts ? $path_parts['extension'] : ''; if ($ext and sql_getfetsel('extension', 'spip_types_documents', 'extension=' . sql_quote($ext))) { $f = nom_fichier_copie_locale($source, $ext); if (file_exists(_DIR_RACINE . $f)) { return $f; } } // Ping pour voir si son extension est connue et autorisee // avec mise en cache du resultat du ping $cache = sous_repertoire(_DIR_CACHE, 'rid') . md5($source); if (!@file_exists($cache) or !$path_parts = @unserialize(spip_file_get_contents($cache)) or _request('var_mode') == 'recalcul' ) { $path_parts = recuperer_infos_distantes($source, 0, false); ecrire_fichier($cache, serialize($path_parts)); } $ext = !empty($path_parts['extension']) ? $path_parts['extension'] : ''; if ($ext and sql_getfetsel('extension', 'spip_types_documents', 'extension=' . sql_quote($ext))) { return nom_fichier_copie_locale($source, $ext); } spip_log("pas de copie locale pour $source"); } /** * Récupérer les infos d'un document distant, sans trop le télécharger * * @param string $source * URL de la source * @param int $max * Taille maximum du fichier à télécharger * @param bool $charger_si_petite_image * Pour télécharger le document s'il est petit * @return array * Couples des informations obtenues parmis : * * - 'body' = chaine * - 'type_image' = booleen * - 'titre' = chaine * - 'largeur' = intval * - 'hauteur' = intval * - 'taille' = intval * - 'extension' = chaine * - 'fichier' = chaine * - 'mime_type' = chaine **/ function recuperer_infos_distantes($source, $max = 0, $charger_si_petite_image = true) { // pas la peine de perdre son temps if (!tester_url_absolue($source)) { return false; } # charger les alias des types mime include_spip('base/typedoc'); include_spip('action/ajouter_documents'); $a = array(); $mime_type = ''; // On va directement charger le debut des images et des fichiers html, // de maniere a attrapper le maximum d'infos (titre, taille, etc). Si // ca echoue l'utilisateur devra les entrer... if ($headers = recuperer_page($source, false, true, $max, '', '', true)) { list($headers, $a['body']) = preg_split(',\n\n,', $headers, 2); if (preg_match(",\nContent-Type: *([^[:space:];]*),i", "\n$headers", $regs)) { $mime_type = (trim($regs[1])); } else { $mime_type = ''; } // inconnu // Appliquer les alias while (isset($GLOBALS['mime_alias'][$mime_type])) { $mime_type = $GLOBALS['mime_alias'][$mime_type]; } // Si on a un mime-type insignifiant // text/plain,application/octet-stream ou vide // c'est peut-etre que le serveur ne sait pas // ce qu'il sert ; on va tenter de detecter via l'extension de l'url // ou le Content-Disposition: attachment; filename=... $t = null; if (in_array($mime_type, array('text/plain', '', 'application/octet-stream'))) { if (!$t and preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext) ) { $t = sql_fetsel('extension', 'spip_types_documents', 'extension=' . sql_quote(corriger_extension($rext[1]), '', 'text')); } if (!$t and preg_match(',^Content-Disposition:\s*attachment;\s*filename=(.*)$,Uims', $headers, $m) and preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $m[1], $rext) ) { $t = sql_fetsel('extension', 'spip_types_documents', 'extension=' . sql_quote(corriger_extension($rext[1]), '', 'text')); } } // Autre mime/type (ou text/plain avec fichier d'extension inconnue) if (!$t) { $t = sql_fetsel('extension', 'spip_types_documents', 'mime_type=' . sql_quote($mime_type)); } // Toujours rien ? (ex: audio/x-ogg au lieu de application/ogg) // On essaie de nouveau avec l'extension if (!$t and $mime_type != 'text/plain' and preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext) ) { # eviter xxx.3 => 3gp (> SPIP 3) $t = sql_fetsel('extension', 'spip_types_documents', 'extension=' . sql_quote(corriger_extension($rext[1]), '', 'text')); } if ($t) { spip_log("mime-type $mime_type ok, extension " . $t['extension']); $a['extension'] = $t['extension']; } else { # par defaut on retombe sur '.bin' si c'est autorise spip_log("mime-type $mime_type inconnu"); $t = sql_fetsel('extension', 'spip_types_documents', "extension='bin'"); if (!$t) { return false; } $a['extension'] = $t['extension']; } if (preg_match(",\nContent-Length: *([^[:space:]]*),i", "\n$headers", $regs)) { $a['taille'] = intval($regs[1]); } } // Echec avec HEAD, on tente avec GET if (!$a and !$max) { spip_log("tenter GET $source"); $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE); } // si on a rien trouve pas la peine d'insister if (!$a) { return false; } // S'il s'agit d'une image pas trop grosse ou d'un fichier html, on va aller // recharger le document en GET et recuperer des donnees supplementaires... if (preg_match(',^image/(jpeg|gif|png|swf),', $mime_type)) { if ($max == 0 and (empty($a['taille']) or $a['taille'] < _INC_DISTANT_MAX_SIZE) and isset($GLOBALS['meta']['formats_graphiques']) and (strpos($GLOBALS['meta']['formats_graphiques'], $a['extension']) !== false) and $charger_si_petite_image ) { $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE); } else { if ($a['body']) { $a['fichier'] = _DIR_RACINE . nom_fichier_copie_locale($source, $a['extension']); ecrire_fichier($a['fichier'], $a['body']); $size_image = @getimagesize($a['fichier']); $a['largeur'] = intval($size_image[0]); $a['hauteur'] = intval($size_image[1]); $a['type_image'] = true; } } } // Fichier swf, si on n'a pas la taille, on va mettre 425x350 par defaut // ce sera mieux que 0x0 if ($a and isset($a['extension']) and $a['extension'] == 'swf' and empty($a['largeur']) ) { $a['largeur'] = 425; $a['hauteur'] = 350; } if ($mime_type == 'text/html') { include_spip('inc/filtres'); $page = recuperer_page($source, true, false, _INC_DISTANT_MAX_SIZE); if (preg_match(',