たった数行のプログラムでドツボにはまる。
2018.04.14
<?php
$command = "ls -m img";
exec($command,$val,$chk);
//imglist
$imglist = explode(",",implode("",$val));
if(is_array($imglist)){
foreach ($imglist as $key => $value) {
$img64[$key] = base64_encode(file_get_contents("img/".trim($value)));
$path_parts = pathinfo($value);
$path_parts['extension']=="jpeg"?"jpg":$path_parts['extension'];
?>
<div><a href="./img/<?=trim($value)?>"><?=$value?></a><br><img src="data:image/<?=$path_parts['extension']?>;base64,<?=$img64[$key]?>"></div>
<?php
}
}
$obj["imglist"] = implode("\n\n",$img64);
ls -m というコマンドをPHPのexecという関数を使用し
画像リストを取得しようとしてどつぼにハマった・・・。
この関数、exec(“ls -m”)と書くと$valの中に配列として返却されるのだが、複数の配列に別れて返却される。なので一度、implodeを使用して一度、文字列に戻す必要がある。そしてカンマ区切りで再度、文字列分離する。
これでほっと一息つくとアウトだ!
配列化した値の前後に空白部分が入っていたり改行コードが入っていたりして画像を参照することが出来ないのだ。そのため、trim関数を使用して取り除く必要がある。
コマンドを使用して画像をリスト化して参照するメリットは何かと言えば数百枚の画像を列挙するときなどに高速で参照化することが出来るのだ。因みにコマンドでファイルの検索を行うという事なので本領発揮すると思います。
是非、お試しあれ。
タグ
-Command, -m, 3, 39, 64, array, as, base, chk, contents, encode, exec, explode, extension, file, foreach, GET, gt, if, img, imglist, implode, is, jpeg, jpg, key, ls, lt, parts, path, pathinfo, php, quot, trim, val, value, ドツボ, プログラム, 数行,
グーグル画像検索リンク抽出とYahoo画像検索リンク抽出!!
2018.01.15
昨日Qiitaで公開したコードです。プラスYahooも作ってみたよ。
php5.6
ライブラリ Goutte
説明:コマンドラインから巨人ぐーぐるさんの画像検索に検索内容を投げHTMLを抽出後、
HTML解析を行い画像リンクだけを抽出するものです。コメントを外しダウンロードディレクトリを
作成すればダウンロードが可能ですが、あくまでもローカルで動かす事を前提としています。
尚、機械学習の為に画像収集するには少し数が少ないですね・・・(水増し)orz。
リンクはこちら
ライブラリはググってインストールして下さい。
おそらくレンタルサーバーなら大体、標準がPHP5.6だと思います。
PHP7とかで動いている場合もあるだろうけれど・・・。
ライブラリはバージョン2系を自分はインストールして作成しました。
<?php date_default_timezone_set('Asia/Tokyo'); include '/composer/vendor/autoload.php'; use Goutte\Client; $p=count($argv)>=2?$argv[1]:"cat"; $client = new Client(); $client->setHeader('User-Agent', 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'); $crawler = $client->request('GET',"https://www.google.co.jp/search?hl=fr&tbm=isch&source=hp&biw=1920&bih=959&q={$p}&oq={$p}&gws_rd=cr&dcr=0");//'https://www.google.com/search?hl=fr&tbm=isch&source=hp&biw=1920&bih=959&q='.$p.'&oq='.$p); $img = $crawler->filter('div.rg_bx.rg_di.rg_el.ivg-i')->each(function($element){ if(preg_match("/\"ou\":\".*\"\,\"ow\"/",$element->text(),$link)){ $url = str_replace(array('"ou":"','","ow"'), "",$link[0]); $ext = pathinfo($url, PATHINFO_EXTENSION); $name = pathinfo($url,PATHINFO_FILENAME); echo $url."\n"; if(preg_match('/((jpg)|(jpge)|(png)).*/',$ext)){ //$data = file_get_contents($url); //file_put_contents('./download/dl_'.$name.".".$ext,$data); //echo '<img src="'.'./download/dl_'.$name.".".$ext."\">\n"; } } });
こちらがYahoo版ですが、あまり抽出出来てません。
<?php date_default_timezone_set('Asia/Tokyo'); include '/composer/vendor/autoload.php'; use Goutte\Client; $p=count($argv)>=2?$argv[1]:"cat"; $client = new Client(); //$client->setHeader('User-Agent', 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'); $crawler = $client->request('GET','https://search.yahoo.co.jp/image/search?p='.$p.'&rkf=1&oq=inu&ei=UTF-8&imc=&ctype=&dim=large'); $img = $crawler->filter('.gridmodule .SeR .tb a')->each(function($element){ if(!preg_match("/.*search\.yahoo\.co\.jp/",$element->attr('href'),$link)){ $url = $element->attr('href'); $ext = pathinfo($url, PATHINFO_EXTENSION); $name = pathinfo($url,PATHINFO_FILENAME); echo $url."\n"; if(preg_match('/((jpg)|(jpge)|(png))$/',$ext)){ //$data = file_get_contents($url); //file_put_contents('./download/dl_'.$name.".".$ext,$data); //echo '<img src="'.'./download/dl_'.$name.".".$ext."\">\n"; } } });
タグ
'User-Agent', 63.0.3239.132 Safari, AM, AppleWebKit, Asia, autoload.php', href, img src, like Gecko, new Client, pathinfo, PATHINFO_EXTENSION, PHP5.6, setHeader, Tokyo, use GoutteClient, Win64, Windows NT 10.0, ライブラリ, 巨人ぐーぐる,