ラベル caffe の投稿を表示しています。 すべての投稿を表示
ラベル caffe の投稿を表示しています。 すべての投稿を表示

2016年9月5日

[caffe]cifar10サンプルでclassify.pyは使えんのか

久々に、Ubuntuを仮想環境ではなくインストールした。
14.04のDVDしかなかったので、インストールして、アップグレードしてもらった。
ときどきなぜか固まることがあるのだが、まあよかろう。

 

GeForce GT710という古いグラフィックスボードだが、これでもCPUで計算するよりも速い(はず)。
CaffeとCUDA8.0RCなどをインストールした。


もう使い方を覚えていないから、ネットで見ながら動作確認を行った。

CaffeでDeep Learning (2) - 桜朔
[deep learning] caffeとCIFAR-10を使って画像判別テスト(詳細) - 脳汁portal

 

動いたのだが、どちらの人もclassify.pyを使っていない。
io.pyを修正しても、なんかちゃんとした結果を出していないような気がするのだが、そもそも何なのかがよくわかっていないので、推測ができん。

 

まず思ったのは、classify.pyで省略した引数が影響しているのではないか、ということだ。
"--mean_file"があやしい。
デフォルトでは、'caffe/imagenet/ilsvrc_2012_mean.npy'を使っているのだが、これはILSVRC2012用だろう。
cifar10は、CIFAR-10のmean_fileを指定すべきではなかろうか。

ただ、python/caffeの下にはCIFAR-10用と思われるファイルがない。
このnpyファイルは、numpy array形式のファイルらしく、"data set image mean of [Channels x Height x Width]"と説明があるから、平均画像なのだろう。

CIFAR-10サンプルの平均画像は、mean.binaryprotoというファイルになるようだ。
これを指定すればよいかと思ったが、エラーになった。
形式が違うようだ。

Convert binaryproto to npy | Rachel's Memo
Pythonのコードが載っているが、open/readはしているが、writeはしていないから、arrという変数がnpy形式ということになるのか。
最後に「np.save(ファイル名, arr)」とすると、arrの内容をファイル保存するようだ。

これをclassify.pyの--mean_fileに指定すると、ずいぶん進むようになったが、今度は次元数が違っているというような感じがする。
いや、ndimじゃなくてlen()だから、次元ではないか。
io.pyでは、2か3(2だったら1足している)を通すようなのだが、変換したデータは4になっている。
変換データのshapeは(1, 3, 32, 32)だから、これが4つあるからlen()が4なのか。

最初にmean.binaryprotoを作る場合は、コマンドbuild/tools/convert_imagesetを使っている。
lmdbとあるから、lmdbフォーマットがbinaryproto形式ということか。
(1, 3, 32, 32)のうち、最後の2つはデータのWidth x Heightだろうし、その手前はRGBの3 layerだろう。
classify.pyがほしいのは"[Channels x Height x Width]"ということだから、最初の"1"がいらないだけなのかな。

「arr = np.reshape(arr, (3, 32, 32))」とすると、(3, 32, 32)になった。

import caffe
import numpy as np
import sys

param = sys.argv

blob = caffe.proto.caffe_pb2.BlobProto()
data = open( param[1] , 'rb' ).read()
blob.ParseFromString(data)
arr = np.array( caffe.io.blobproto_to_array(blob) )
arr = np.reshape(arr, (3, 32, 32))
np.save(param[2], arr)

わざわざparamに移したり、arrに2回代入したりと格好は悪いが、ネットで調べながらだから許しておくれ。

 

これで(3, 32, 32)になったし、classify.pyの--mean_fileに指定してもエラーにならなかったが、show_result.pyで見てもパーセントが0だ。
何か違うのか。。。


ああ、--model_defと--pretrained_modelも指定しないといかんのか。
2番目のサイトのスクリプトをまねしよう。

$ python python/classify.py ./car.jpg ./result.npy --mean_file=cifar10.npy \
--model_def=examples/cifar10/cifar10_quick.prototxt \
--pretrained_model=examples/cifar10/cifar10_quick_iter_4000.caffemodel.h5

$ python python/show_npy.py result.npy
#1 | dog | 42.7%
#2 | cat | 31.8%
#3 | airplane | 11.0%

数字は出たのだが、結果がおかしいな。。。
2番目のサイトにある、猫がアップになった画像だと、こうなった。

#1 | bird | 29.0%
#2 | airplane | 20.9%
#3 | cat | 13.8%

全然違うなぁ。
同じスクリプトをうちでも動かしたが、数値は異なるもののネコが一番高くなるところは同じだ。

====================================
possibility of each categoly
0(airplane):   0.184532
1(automobile): 0.000219549
2(bird):       0.0134824
3(cat):        0.539376
4(deer):       0.0715057
5(dog):        0.021061
6(frog):       0.0255798
7(horse):      6.09221e-07
8(ship):       0.136054
9(truck):      0.00818893
====================================
I guess this image is [cat]

数字が違うというのも気にはなるのだが、半年違いがあるからネットワークが少し変わったのかもしれない、と勝手に思うことにしよう。

載っているスクリプトもmean.binaryprotoをreshape()しているから、意味として同じようなことをやってるんだと思う。
なにが、何が違う。。。。

あー、images_dimだ。
classify.pyはデフォルトだと256,256なのだが、載っているスクリプトでは省略していて、caffe/classifier.pyのデフォルトは画像サイズ、つまり32,32になっていたのだ。

 

なんだー、じゃあ、そこも指定して動かしておしまい。。。と思ったら、Ubuntuが死んでしまった。。。
メモリテストも正常だったし、インストールも新規だったし、あとはnVIDIAのドライバか、AMDのドライバか?


リセットして動かしたが、まだ合わない。。。
ここまで指定して、ようやく結果が一致した。

$ python python/classify.py ./cat.jpg ./result.npy --mean_file=cifar10.npy \
--model_def=examples/cifar10/cifar10_quick.prototxt \
--pretrained_model=examples/cifar10/cifar10_quick_iter_4000.caffemodel.h5 \
--images_dim=32,32 --center_only --channel_swap=0,1,2

$ python python/show_result.py data/cifar10/batches.meta.txt ./result.npy
#1 | cat | 53.9%
#2 | airplane | 18.5%
#3 | ship | 13.6%

 

こういう目にあうと、DeepLearningはともかく、Pythonには少し近づけたかもしれない。

2016年8月8日

[caffe]caffeをWindows Subsystem for Linuxにインストールしてみる

WindowsがHostのVirtualBoxでCUDAが使えないなら、Host側にインストールしたらいいじゃないの、と思いついてやってみた。

結果としては、caffeやCUDAはインストールできるものの、nVIDIAのボードがあるというところを認識できないようで、make runtestでコケた。

その後で、WSLでCUDAというかGPUが使えるのか調べて、使えなさそうだという掲示板を見つけたのだった。
ちょっと今はどこかわからなくなってしまったのだけど、Big Challengeとか書いてあったから、けっこう大変なのだと思う。

 

ちなみに、インストールするところまでは、そんなに悩まなかった。
どうやらUbuntu14.04と同じ扱いのようだ。
CUDAは、runじゃなくでdebの方じゃないとインストールできんかった。
debも、Windows側のファイルシステムからコピーせんといかんかったのだが、それくらいだ。
それ以外で動かないところは、ubuntuの解決策で調べれば良かった。

 

以前、CNTKで参考にしたFPGA開発日記の方もTensorFlowをインストールされたようだ。
http://msyksphinz.hatenablog.com/entry/2016/04/13/020000

うーん、みんなTensorFlow、TensorFlowいっているので、がんばってcaffeしようとしているのだが、TensorFlowだとGoogleのCloud環境でもすぐに試せるところがよいのかな。

CNTKでがんばってみようとしたのだけど、使っている人が見当たらなくて、初心者には厳しいのだ。
ものがよいとか悪いとかじゃなくて、時代の流れとか雰囲気で決まったりすることもあるから、なかなか曖昧な世界だ。

2016年8月7日

[caffe]初心に戻ってサンプルを動かす

[ai]Caffeの画像分類を説明しているサイトをなぞる

全部入れ直したし、私も全部忘れているので、もう一度同じことをやってみようと思ったが、いやあ、説明文が悪いですな。
読み返しても、何をして良いかよくわからなかった。

 

この辺りを参考に動かそう。
OSX10.10でCaffeをインストール、リファレンスモデルで画像を分類 - Qiita
caffeのサンプルを動かす - スチールウールの活動記録


途中までやっていて気付いたのだが、これはexamples/imagenetは関係ないんだな。。
あれはトレーニングの仕方に関するexamplesなのだろう。

説明されている内容は、こうだ。

  • サンプル画像を取ってくる : www.vision.caltech.eduからダウンロード
  • モデルファイルを取ってくる : dl.caffe.berkeleyvision.orgからダウンロード
  • モデルファイルに関連するデータを取ってくる : get_ilsvrc_aux.shを実行

 

最後にpython classify.pyを実行してクラス分けをするのだが、ここにはサンプル画像しか引数に与えていない。
モデルファイルとトレーニング済みデータは必要なのだろうか?
いや、いるのだろうけど、dataにもmodelsにも他のフォルダがあるので、どうやって使い分けているのだろうか、と心配になるではないか。


pythonはよくわからないので雰囲気で見てみよう。

https://github.com/BVLC/caffe/blob/master/python/classify.py

  • --model_defがなかったら、models/bvlc_reference_caffenet/deploy.prototxt
  • --pretrained_modelがなかったら、models/bvlc_reference_caffenet/bvlc_reference_caffenet.caffemodel

あれ、data/が出てこないぞ?
確かに、classify.pyを実行するときにはdata/自体がなくても動作した。

data/を使うのは、show_result.pyだけだ。
これはcaffeが提供しているわけではないので、提供元を見てみよう。
変数categoriesにタブ区切りのテキストとして読込んでいるようだ。
show_result.pyで出力される内容の、この部分ですな。

#1 | n04552348 warplane, military plane | 84.1%
#2 | n04008634 projectile, missile |  5.8%
#3 | n02690373 airliner |  5.0%

classify.pyでは「n04552348に分類される確率が84.1%です」というところまでやってくれるから、それを名前解決する役割をしていると言うことだろう。


get_ilsvrc_aux.shはトレーニング済みデータを取ってくるのかと思っていたが、それはモデルファイルと一緒に提供されると思って良いのだろう。
まあ、ネットワークとトレーニングデータはセットじゃないと意味がないだろうしね。

今回使ったbvlc_reference_caffenetには、以下のファイルが入っている。

  • bvlc_reference_caffenet.caffemodel(自分でダウンロード)
  • deploy.prototxt
  • solver.prototxt
  • train_val.prototxt

classify.pyに与えるのは、最初の2つだけだ。

deploy.prototxtは、ネットワークの構成のようだ。
最初にこういうのが書かれていた。

input_param { shape: { dim: 10 dim: 3 dim: 227 dim: 227 } }


10 x 3 x 227x227。

227x227は画像のサイズで、3はRGBだろう。
10は?
http://docs.chainer.org/en/stable/reference/caffe.html
ミニバッチのサイズなのかな。


自分でトレーニングデータを作る必要がなければ、このようにどこかからもらってくればよいので、GPUがなくてもそんなに困らないように思う。

でも、症例をたくさん入れて診てもらう、みたいなことをしたかったら、自分でトレーニングデータを作らにゃならんだろう。
データはあるけどネットワークの構成を考えるのはちょっと・・・という場合は、既にあるprototxtを使ってトレーニングさせることができますよ、というのがexamples/imagenetサンプルのやりたいことだと思う。

 

うん、前よりは多少理解が早くなったように思う。
深層学習に対する理解と言うよりは、caffeなどのフレームワークを使うときの考え方への理解なのだけど、まあいいのだ。

2016年8月6日

Xubuntu 16.04にcaffeを入れ直す (4) - end

もう、燃え尽きてきました。。。

まずは対象となるnVIDIAのボードがないと話にならないので、古いPCから持ってきた。
NVIDIA GeForce GT710とのこと。
Windows10のデバイスマネージャでは、こう見えている。

image

 

https://www.virtualbox.org/manual/ch09.html#pcipassthrough

よくわからんが、VBoxManageコマンドを使ってアタッチさせるらしい。
サイトでは「02:00.0@01:05.0」となっていて、@の前に書いてある方がlspciで見えている。

00:02.0 VGA compatible controller: InnoTek Systemberatung GmbH VirtualBox Graphics Adapter

これがうちのguestで見えているグラフィックスボードなので、まねしてみた。

> vboxmanage modifyvm "xubuntu" --pciattach 00:02.0@01:00.0

エラーが出た。
3行くらい出るのだが、最初がこう。

VBoxManage.exe: error: Host PCI attachment only supported with ICH9 chipset

Hostって、今だとWindows10側ということだよな。
ICH9チップセットしか対応していないというのは、この設定項目のことか?

image

後から変更して動くのかなぁ。。。やってみるけどさ。

> vboxmanage modifyvm "xubuntu" --pciattach 00:02.0@01:00.0
>

変更したら、エラーは出なかった。
では、VMを起動して・・・・しなかった。
VERR_PDM_DEVICE_NOT_FOUNDとかで、セッションが開けないんだとか。
vboxmanageを実行する前に起動させていたのだが、これは成功したので、ICH9に変更したことが理由ではなく、vboxmanageで変更した方が影響していると言うことになる。

> vboxmanage modifyvm "xubuntu" --pcidetach 00:02.0

うん、起動した。

エラーダイアログに、Extension Packがどうのこうのと出てくるが、今は5.1.2のPackが入っているので大丈夫だと思う。


ん、VirtualBoxのPCIパススルーの章の1行目になにか書いてあるぞ?

When running on Linux hosts, with a recent enough kernel (at least version 2.6.31) experimental host PCI devices passthrough is available.

ぐはぁ。。。
最初の一歩から道を踏み外していたとは。。。

Xubuntu 16.04にcaffeを入れ直す (3)

VirtualBox上にXubuntu 16.04が入っているのだが、CUDAやcuDNNとnVIDIAのグラフィックスボードがあればGPUが使えるのだろうか?

VirtualBoxでも動かせるかもしれないが非常に面倒だったりマザーボード次第だったり、という記事は見つかった。
VirtualBox上のUbuntu14.04でwaifu2xを動かしたかった - 六彩庵

lspciで見てみたけど、当然出てこない。
まあ、nVIDIAのボードが入っていないから、出るはずはないのだけどね。
「InnoTek Systemberatung GmbH VirtualBox Graphics Adapter」の立ち位置にnVIDIAのボードが出てくれば良いのかな。

https://www.virtualbox.org/manual/ch09.html#pcipassthrough

  1. うちのマザーボード(Extreme4 Z170)は、IOMMUができるようだ。
  2. i5-6500も、対応しているような感じ。
  3. BIOS設定は、なんていう名前なんだろう? VT-dでよいのかな。
  4. 次はVirtualBoxの仮想マシン設定で、システム>アクセラレーション>仮想化支援機能の項目に両方チェック。
  5. Linux Kernelですか! と心配になったが、説明があった。
    /etc/default/grubファイルのGRUB_CMDLINE_LINUXの後ろに"intel_iommu=on"を足せば良いそうだ(うちはintelなので)。DEFAULTがついた方もあったので、両方に追加して、update-grub。
    再起動後に書いてあるとおりにgrepして「DMAR: IOMMU enabled」が出てきた。

これで、6番目までやったことになるはず。
で、どうしたらよいのだ?
lspciで見たけど、何も変わらんぞ。

00:02.0 VGA compatible controller: InnoTek Systemberatung GmbH VirtualBox Graphics Adapter

最初の数字がPCIバスのアドレスらしいから、それがそれぞれの数字になったりするのかと思ったのだが。


その合間に、CUDAのRC8とcuDNNをダウンロードしていた。
あきらめて、nVIDIAにユーザ登録することにしたのだ。
承認までに数日かかると書いてあるサイトもあったのだけど、特にそういうこともなくログインしてダウンロードできた。

cuDNNはv5.1があったのだけど「available soon」だったので、v5のfor Linuxをダウンロード。
cudaはapt-getでインストールしたものが残っていたけど、せっかくなのでRC8をダウンロード。

準備だけはできたんだけどねぇ。

Xubuntu 16.04にcaffeを入れ直す (2)

前回、エラーで終わったので、今日も緑茶の人のを参考にしながら進めよう。

http://yusuke-ujitoko.hatenablog.com/entry/2016/06/19/203443

VirtualBoxで動かすので、CUDAなんかはいらないと思うが、apt-get以外はやらずにcaffeのmakeを行ったので、「python pipによるインストール」を抜かしていた。
これを実行すると何かしらインストールされているようなので、caffeを入れ直すときにはやった方が良いのかもしれん。

が、make cleanしてやり直しても、同じエラーが。

https://github.com/BVLC/caffe/issues/3700
opencv 3を使うなら、Makefile.configの編集が必要だと?
確かに、そういう行がコメントアウトされていた。
opencvのサイトも、2.4の方が上にあったから、そっちの方がまだメジャーなのかな?

ともかく、opencv 3対応したら、makeが通った。
やれやれ。


しかし、cntkのサンプルを動かしたときにわかったのだけど、GPUを使うのと使わないのとでは時間が全然違うのよね。。。
なんかバグってるんじゃないの?と思うくらい時間が違う。
nVIDIAの5千円もしないグラフィックスボードを使っていたのだけどねぇ。

今は、オンボードのIntelなのだが、CUDAはnVIDIA専用よね、さすがに。
古いマシンからnVIDIAのボードだけ引っ張ってきて、caffe用に使えるのかしら?

2016年8月5日

Xubuntu 16.04にcaffeを入れ直す (1)

久々にXubuntuを起動したら、16.04にアップデートできるということで更新した。
ついでなので、caffeも長いこと触っていないから、全部捨てて新しくしておこう。


前にやった手順をなぞったのだが、どうにもうまくいかないので、以下を参考にすることにした。
いやあ、ありがたい。

【Caffe】はじめてCaffeをmakeするまでOn Ubuntu16.04 - 緑茶思考ブログ

最後まで進んだのだが、opencvっぽいところがリンクエラーらしきものを出していた。
「最後まで」といいつつ、前にビルドしたパッケージは更新していなかったので、そのせいじゃなかろうか。


で、今opencv 3.1を取ってきてcmakeしているのだが、うまくいかない。
「file DOWNLOAD HASH mismatch」などといっているので、ダウンロードしたファイルとハッシュが合わないとか?

https://github.com/opencv/opencv/issues/5973
-DWITH_IPP=OFFと書いておくとチェックされないようなので、それで回避したらいいんじゃなかろうか、という案を試すことにした。
うん、エラーは出なくなった。

次にmakeすると、今度はmemcpyでエラーが。
これは、緑茶の人のところにも書いてあった。。。あ、これはcaffeの方だ。

https://github.com/BVLC/caffe/issues/4046
CUDA 8だといいよ、と書いてある。
しかし、メンバーじゃないとダウンロードできない。。そこまでする気はないのだ。

というわけで、その次にあったCMakefile.txtの先頭に「set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS} -D_FORCE_INLINES")」を追加する方法にした。
gccのバージョンが新しくなったことに関連しているのかな。

makeが終わり、make installした。
-jしていなかったせいかもしれないが、かなり時間がかかった。


しかし、これでもまだエラーが出ている。。

.build_release/lib/libcaffe.so: undefined reference to `cv::imread(cv::String const&, int)'

済まぬ、疲れたので次回じゃ。

2015年10月17日

[caffe?]lmdbでデータを見てみる

CaffeでDeep Learning つまずきやすいところを中心に
こちらを見ると、build/tools/convert_imageset.binを使うと学習画像やテスト画像をDBに取り込んでくれるらしい。
デフォルトのDBは、lmdbというもののようだ。
あれ、私は画像じゃなくて、他のをやりたいのだが・・・

というわけで、どういうデータを入れたらいいのか、mnistで取り込んだデータを見てみることにした。


$ sudo apt-get install lmdb-utils
$
mdb_stat examples/mnist/mnist_test_lmdb
Status of Main DB
  Tree depth: 3
  Branch pages: 13
  Leaf pages: 2500
  Overflow pages: 0
  Entries: 10000

ほう。

$ mdb-dump

ない、と怒られた。。。
こちらを見ると、「ppa:cz.nic-labs/knot-dnsがあるよ」ということだった。

PPAってなんだっけねぇ、と調べると、allaboutのページがあった。
私はxubuntuなので、メニューの「Settings > Software & Updates」で、"Other Software"タブを選び、Addした。
こういうのって、apt-get upgradeで何とかなるものだろうか?

$ sudo apt-get update
$ sudo apt-get upgrade
$ mdb_dump

おー、出てきた!

$ mdb_dump examples/mnist/mnist_test_lmdb
VERSION=3
format=bytevalue
type=btree
mapsize=1099511627776
maxreaders=126
db_pagesize=4096
HEADER=END
3030303030303030
0801101c181c229006.....002807
3030303030303031
0801101c181c229006.....002802

(中略)
DATA=END

データの部分の、1行目は連番で、2行目がデータのようだ。
データは、1byte2桁なので、795byteある。
画像は28x28=784。
ということは、795 - 784 = 11byteが付加データ。
こちらによると、MNISTのヘッダは16byteらしいので、それがそのまま載っているわけではない。
MNIST 手書き数字データを画像ファイルに変換する - y_uti のブログ

最初に付いている

0801101c181c22900600...

と、最後に付いている

...000280n

が付加データだろうが、さて、どこからどこまでなのか。
0x1c=28なので、画像のサイズなのだろうが、それだとあまりに画像データに特化しすぎてるよな。。。


あきらめて、検索した。
Caffe: Understanding expected lmdb datastructure for blobs - Stack Overflow

頭の9byteと、お尻の2byteが付加データだった。
データの並びは、caffe.protoのDatumを見ればよいらしい。

message Datum {
  optional int32 channels = 1;
  optional int32 height = 2;
  optional int32 width = 3;
  // the actual image data, in bytes
  optional bytes data = 4;
  optional int32 label = 5;
  // Optionally, the datum could also hold float data.
  repeated float float_data = 6;
  // If true data contains an encoded image that need to be decoded
  optional bool encoded = 7 [default = false];
}

(?_?
protobufの方を見てみよう。
encodingの説明を見てみると・・・

message Test1 {
  required int32 a = 1;
}

こういう設定で、「a=150」とすると、データはこうなるらしい。

08 96 01

へー。0x96 = 150なので、そこはわかるが、前後がわからん。

まず、7bit表現かつリトルエンディアン表現とのこと。
そしてMessageはkey-valueのペアになっていて、最初はkey。
keyは、 (field_number << 3) | wire_type)、という構成。

08
→ 0000_1000 (2進数)
→ 000_1000 (7bit化)
→ field_number : 0001、wire_type : 000

wire_typeが0なのは、表を見ると意味が「Varint」。
field_numberが1なのは、message Test1の「a」という意味。

96 01
→ 1001_0110 0000_0001 (2進数)
→ 001_0110 000_0001 (7bit化)
→ 000_0001 001_0110 (リトルエンディアン)
→ 1001_0110 (つなげた)
→ 0x96 (16進数)
→ 150 (10進数)

他にもルールがあるけど、ごめん、きつい。
あとは、もう、ここのヘッダだけ見ていこう。

0801101c181c229006.....280n

08 : key - field_number=1="channels", wire_type=0=varint型
01 : channels = 0x01
10 : key - field_number=2="height", wire_type=0=varint型
1c : height=28
18 : key - field_number=3="width", wire_type=0=varint型
1c : width=28
22 : key - field_number=4="data", wire_type=2=Length-delimited型
90 06 : Length=0x310=784byte

28 : key - field_number=5="label", wire_type=0=varint型
0n : label=n

データを見ると、頭の方は固定で、labelだけが変わっている。
ここでは、labelが手書き文字が表す数字なのだろう。
最初のリンクで「データセット用意」のクラスに当たるところが、labelになるのかな。


これを、音声や文章のようなストリーミングというか1次元のデータで扱いたいなら、高さか幅を1にして並べればよいのだろう。

でも、lenet_train_test.prototxtを見ても、データが2次元とか、高さとか幅とか、そういうのが見えてこないのよねぇ。
畳み込みニューラルネットって、「深層学習」を読むと2次元のマップに見立て、入力層の広さよりも中間層の広さの方が狭い、みたいな図になっているのだ。
狭いので、中間層の1つのユニットに、入力層のMxNのユニットが結合される、みたいなことになっている。
そういうのが、prototxtになさそうなのだ。

まあ、まだ畳み込みニューラルネットを読んでないので、先走りすぎたかな。

[caffe]自己符号化器だけやってみたい (2)

前回はサンプルのタイトルだけで終わってしまったので、実際にやってみよう。
Training LeNet on MNIST with Caffe

説明文を日本語訳されているところがあったので、不安があるときは読むとよさそうだ。
が、なるべく英文を読むためにがんばろう、私。
OpenCV 備忘録: CaffeによるMNISTのLeNetの学習を訳してみた

 

Prepare Datasets

これは、スクリプトを実行して、MNISTのデータを取得するのと、それを解凍するのと、convert_mnist_data.binというのを実行してmnist_train_lmdb/ と mnist_test_lmdb/ を作っている。
中を見ると、*.mdbのファイルができていた。
「えっ、MS Access?」と思ったが、Symas Lightning Memory-Mapped Databaseのことでよいのかな?
バイナリエディタで見たが、JET MDBのフォーマットとは違いそうだ。まあ、ファイルフォーマットを知ってもどうするつもりもないが。

これが準備段階なのだけど、もうtrainもtestもサイズが大きいのでデータが入ってるんじゃないかと思う。
「学習データが入っている」じゃなくて「学習用のデータが入っている」ということか。

 

Define the MNIST Network

ここからしばらく、lenet_train_test.prototxtの説明が続く。
「MNIST Network」ということで、これがニューラルネットワークの構築に当たるのだろう。

prototxt、という拡張子がニューラルネットワークの設計ファイルになるのか。
と思ったが、lenet_solver.prototxtは構造が全然違う。
こっちは、設定ファイルみたいに見える。
train_lenet.shで使っているのも、このsolver.prototxtだ。

Solverつき

lenet_adadelta_solver.prototxt
lenet_auto_solver.prototxt
lenet_consolidated_solver.prototxt
lenet_multistep_solver.prototxt
lenet_solver_adam.prototxt
lenet_solver.prototxt
lenet_solver_rmsprop.prototxt
lenet_stepearly_solver.prototxt
mnist_autoencoder_solver_adadelta.prototxt
mnist_autoencoder_solver_adagrad.prototxt
mnist_autoencoder_solver_nesterov.prototxt
mnist_autoencoder_solver.prototxt

Solverなし

lenet.prototxt
lenet_train_test.prototxt
mnist_autoencoder.prototxt

うーん。
全部のsolverが設定だけっぽいかというとそうでもなく、lenet_consolidated_solver.prototxtは設計っぽいのも載っている。

まあ、おいおい調べていくとするが、protobufというのに関係しそうなことはわかった。

 

わからんながら眺めると、

  • layerは11個
  • name
    1. mnist
    2. mnist
    3. conv1
    4. pool1
    5. conv2
    6. pool2
    7. ip1
    8. relu1
    9. ip2
    10. accuracy
    11. loss
  • type
    1. Data
    2. Data
    3. Convolution
    4. Polling
    5. Convolution
    6. Pooling
    7. InnerProduct
    8. ReLU
    9. InnerProduct
    10. Accuracy
    11. SoftmaxWithLoss

並べてみたら何かわかるかと思ったが、全然わからん。
畳み込み(Convolution)とかプーリング層(Pooling)とかの言葉は聞いたことがあるから、typeは層の種類なのだろう。
Dataが入力で、SoftmaxWithLossは出力なのかな(ソフトマックス関数は、クラス数分の出力を持っていて、そのクラスに属する確率、みたいなものを表す。総和は1)。
LeNet-5は入力層を除いて7層と書いてあったから、「少し変えている」というのはこの辺なのかもしれない(lecun-01a.pdfのp.7の図みたいなのがあるといいのだが・・・)。

 

と、説明を読み飛ばしていたのだが、prototxtの書き方だけじゃなくてlayerの説明が書いてあった。

  • Data layer
    • lmdbからデータを読み込む
    • 値のレンジは[0, 1)。1.0未満なんだ。。
    • 0.00390625 = 1 / 256
      • ということは、画素値は0~255のグレースケールということか。
      • 255 * 0.00390625 = 0.99609375。ということで、1.0にはならない。
  • Convolution layer
  • Pooling layer
    • まだ勉強してないから、省略
    • bottomは入力で、topは出力だと思うけど、再帰するのかな?
      • 「深層学習」のp.82の図を見ると、再帰はしないけどconvolutionが2つ並んでいた。
      • 6.2章を見ると、畳み込み層とプーリング層はセットだけど、畳み込み層だけ繰り返すこともあるらしい。
  • Connected layer
    • 「深層学習」では、全結合層
  • ReLU layer
    • Rectified Linear Unitらしい
      • rectified : 整流した
      • linear : 線形の
      • unit : ユニット
    • 「深層学習」のp.150に、「正規化線形ユニット」とあった。
    • よくわからんが、ボルツマンマシンの章にあるので、後回し
  • Loss layer
    • 最後!
    • ここにSoftmaxが出てくる

 

図にするほどでもないが、こういうことのようだ。

image

accuracy layerはTESTの時だけらしい。
prototxtにincludeが書いてあるものは、そのフェーズでしか使わない、という意味なのだろう。
だから、mnistが2つあっても、phaseに"TRAIN"と"TEST"があるから使い分けられるのだ。
なお「accuracy」は「正確さ」で、100回実施したときの結果になるらしい。
lenet_solver.prototxtに書いてあるらしいが、これか?

test_iter: 100

 

Training and Testing the Model

lenet_solver.prototxtのsolver_modeをCPUにして、実行。

$ ./examples/mnist/train_lenet.sh

timeコマンドで時間を計ったが、うちの環境では26分くらいかかった。

real    25m52.729s
user    25m44.793s
sys    0m2.958s

うちの環境というのをどう説明したらよいのかわからんが、こんな感じだ。

マシン:AMD Phenom(tm)2 X4 955  3.20GHz  RAM:6.00GB

VirtualBox 4.3.30
Host OS : Windows 7 SP1 64bit
Guest OS : Xubuntu 14.04 64bit
メインメモリー:2048MB
プロセッサー数:1
使用率制限:100

lrはleaning rate、lossはtraining function。ふーん。
よくわからんが、最後の方の出力は、こうだった。

I1017 13:41:36.143224 10438 solver.cpp:590] Iteration 9700, lr = 0.00601382
I1017 13:41:50.156757 10438 solver.cpp:243] Iteration 9800, loss = 0.0120732
I1017 13:41:50.157027 10438 solver.cpp:259]     Train net output #0: loss = 0.0120734 (* 1 = 0.0120734 loss)
I1017 13:41:50.157097 10438 solver.cpp:590] Iteration 9800, lr = 0.00599102
I1017 13:42:03.945916 10438 solver.cpp:243] Iteration 9900, loss = 0.00437907
I1017 13:42:03.946504 10438 solver.cpp:259]     Train net output #0: loss = 0.0043792 (* 1 = 0.0043792 loss)
I1017 13:42:03.946665 10438 solver.cpp:590] Iteration 9900, lr = 0.00596843
I1017 13:42:17.699626 10438 solver.cpp:468] Snapshotting to binary proto file examples/mnist/lenet_iter_10000.caffemodel
I1017 13:42:17.714552 10438 solver.cpp:753] Snapshotting solver state to binary proto file examples/mnist/lenet_iter_10000.solverstate
I1017 13:42:17.780030 10438 solver.cpp:327] Iteration 10000, loss = 0.0033141
I1017 13:42:17.780444 10438 solver.cpp:347] Iteration 10000, Testing net (#0)
I1017 13:42:26.025928 10438 solver.cpp:415]     Test net output #0: accuracy = 0.9921
I1017 13:42:26.026139 10438 solver.cpp:415]     Test net output #1: loss = 0.0274125 (* 1 = 0.0274125 loss)
I1017 13:42:26.026231 10438 solver.cpp:332] Optimization Done.
I1017 13:42:26.026285 10438 caffe.cpp:215] Optimization Done.

"after a few minits, you are done!"って書いてあるけど・・・これって最初のログを吐き始めてから数分ってことかしら。
だったら・・・どんだけ速いんですか・・・。
せめて、VirtualBoxじゃなくて、普通に立ち上げたLinuxじゃないとわからんですな。

最終モデルは、lenet_iter_10000、というprotobufファイルに書き込まれるらしい。
うーん、「lenet_iter_10000.caffemodel」のことかな?
同じような名前で「lenet_iter_10000.solverstate」もある。
そして、10000じゃなくて、5000のファイルもある。

https://gist.github.com/rezoo/a1c8d1459b222fc5658f
こちらの「CNNの学習」に、反復回数ごとのスナップショットを撮る、とあった(画像じゃないけど、撮る、でいいや)。
で、solverstateがついている方は学習の再開で使えるらしい。
学習の再開ってなんじゃ?と思ったが、imagenetの学習が3~5日かかる、という恐ろしいことが書かれているので、何かあった場合に再開できるのだろう、きっと。

最終モデルはよいとして、TESTした結果は最後のログでよいのかな?
これだと、accuracyが0.9921なので、認識に99.21%成功した、ということだろうか。

 

さて、これで畳み込みニューラルネットでやった結果はわかったが、自己符号化器もやっておかねばタイトルから逸れてしまう。

$ time ./examples/mnist/train_mnist_autoencoder.sh

・・・終わらない。
最初にだーっとログが出た後、「data -> data」と出たまま止まっている。
CPU使用率も上がってない。
GPUからCPUには変更してるから、そういうのでもないし。
VirtualBoxを再起動させたが、変わらん。
これかいな?
MNIST Autoencoder Example hangs on data layer lock · Issue #3037 · BVLC/caffe

疲れたから、今回はここまでだ。


ニューラルネットワークの構成をExcelに描いたんだけど、caffe+pythonで出力させることができるらしい。

ノート/Caffeのデモプログラムを試してみる (2014-12-24) - 東邦大学理学部情報科学科 山内のサイト

ほへー。

[caffe]自己符号化器だけやってみたい (1)

「深層学習」が自己符号化器まで読んで止まっている。
飽きかけているのがわかるので、ちょっと目先を変えてみよう。
きっと、caffeにも自己符号化器で学習することができるだろうから、それだけやってみよう。


Training LeNet on MNIST with Caffe
検索したら、これが出てきた。
はて・・・。
mnist_autoencoder、というファイルがいくつもあるな。

 

まず、MNISTとはなにか?
Caffeで手書き数字(MNIST)の認識学習をする - Qiita
Mixed National Institute of Standards and Technologyの略とのこと。
手書き数字のサンプルがたくさん入っているので学習に使っているようだ。
MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges
こちらがデータ元だが、タイトルは「THE MNIST DATABASE of handwritten digits」とあるから、他にもデータがあるのかと思ったのだけど、ディレクトリもmnistだし、Wikipediaも手書き数字のことしか書いてない。
なので、MNIST=手書き数字画像データ集、と思っててよさそうだ。
こういう地道なものが役立っているんだ、というのはしみじみしてしまうな。

 

多層のニューラルネットワークを効率よく学習させる手法として自己符号化器などの「事前学習」を必ずやるものだと思っていたのだが、画像なんかでは「たたみ込みニューラルネットワーク」が主流で、事前学習はあまりやらないらしい。
まだ「深層学習」の畳み込みニューラルネットの章は読み進んでないけど、画像っぽく2次元にニューロンを配置してフィルタを作るみたいだ。

フェーズで考えると、

  1. ニューラルネットワークの構築
  2. 事前学習(やらない場合もある)
  3. 学習
  4. 実践

みたいな分け方になるのかな。
そして、画像の場合にはニューラルネットワークの構築の際に「畳み込みニューラルネットワーク」で構成することが多いし、音声学習の場合には事前学習することが多い、と。
まだ言葉が身についていないので、本で読んだことがどう使われるのかわかってないのよねぇ。

自己符号化器は「事前学習」のフェーズで使うもので、事前学習は自己符号化器だけじゃなくて制約ボルツマンマシンというものもあるようなので、「caffe 自己符号化器」で探してもあまり見つからないのはそういう理由かもしれない。

 

もう1つ、LeNet、という言葉が出てきた。
リンク先(pdf)は、論文だ。
"Gradient-Based Learning Applied to Document Recognition"。
「勾配に基づく学習を文書認識に適用した」というところか。
ここの「文書」は、OCRとかそっち系の話で、データもMNISTを使っていることから文字認識のようだ。
Character Recognition、じゃないんですな。

この論文は、手書き数字の認識をいくつかの手法で実験したものだ。
けど「CNNはそれ以外の技法よりも2D図形でoutperformだ」と書いてある。
"outperform"は、「性能が優れている」もあるけど「効率がよい」という訳もあるので、他よりも処理が速かった、と考えられなくもないけど、まあここでは性能がよかったと読むのが正しいだろうな。

LeNetは、"LeNet-1"とか"LeNet-5"とか出てくるので、構築したニューラルネットの種類か何かか?
ここを見ると、「Convolution Neural Networks(LeNet)」とある。
でも、CNNって畳み込みニューラルネットのことだから、事前学習とかしないんじゃないの?
このサンプルって、自己符号化器のところはおまけで、畳み込みニューラルネットの方がメインなのか??

先の論文でもLeNetの説明があり、LeNet-5は「CNN。入力層を除いて7層。入力は32x32pix。」とのこと。
caffeサンプルでも、AutoEncoderが出てくるのはファイルのところだけだし。
なので、論文に書いてあるように「CNNの方がいいぜ!」という比較のために事前学習での例も作った、ということなのかな。
train_lenet.shと、train_mnist_autoencoder.shがあるけど、説明にはtrain_lenet.shしかないしね。

 

話を戻すと、Training LeNet on MNIST with Caffeは、

  • MNISTの手書きデータを学習データとして使う。
  • ニューラルネットワークとしては畳み込みニューラルネットのLeNetを使う。
  • 事前学習として自己符号化器を用いた場合のスクリプトもあるが、そっちはメインじゃない。

だろう。


ここまでで疲れたので、実践は次回で。

2015年10月7日

[caffe]モデルって?

うちのVirtualBox上xubuntu 14.04でcaffeが動くようになったと思うが、今になってインストール方法を見つけた。
Ubuntu 14.04 VirtualBox VM · BVLC/caffe Wiki
CUDAってGPUを使うための何かだろうけど、VirtualBoxから使えるんだねぇ。
と思ったら、Makefile.configで結局CPU_ONLYを1にしてるな。。。

あとは、classify.pyに--print-resultsを付けるようにしてるが、これはclassify.py自体にも変更がいるみたいだ。
せっかくだから本編にも入っているといいのに。

ちょっと気になったのが、modelsのダウンロード。
get_caffe_reference_imagenet_model.shがないから落としてきたのだが、どうもスクリプトがあるみたいだ。
まだダウンロードしていないgooglenetを試してみよう。

$ ./scripts/download_model_binary.py models/bvlc_googlenet

うん、bvlc_googlenet.caffemodelがダウンロードできた。
本当はyamlがないということで「sudo apt-get install python-yaml」をやったのだが、まあ細かいことはよかろう。


そこで思ったのが、モデルって何だろう?だ。
「深層学習」の目次を見ると「モデル平均」しかない。
モデル平均はDeepLearningやニューラルネットワークだけの話じゃなくて、機械学習一般の話らしい。
1種類の識別モデルじゃなくて、複数組み合わせた結果の平均を採った方が精度が上がる、みたいなことのようだ。

なので、caffeでいうところのモデルは、ニューラルネットワークの層だとか重みとかで、bvlc_googlenetだったらgooglenetの画像(というのがあるか知らんが)で学習させたときのパラメータ一式、bvlc_reference_caffenetはまたそういう学習させたときのパラメータ一式、ということだろうか。

あー、でも重みまで入ってるんだったら、ilsvrc12のtrain.txtとかはいらないはずだ。
だから、そこまではモデルには含んでないで、ネットワークの作りだけだろうか。
うーむ。

caffeでモデルというと、Caffe | Model Zooが出てくる。
カフェなのに動物園だなんて。。
ワインだったらワインセラーとかになったのだろうか。
Model Zoo自体は、モデルじゃなくて、モデルを共有するしくみのようだ。

日本語に訳された方
OpenCV 備忘録: Caffe のモデル配布に関して訳してみた

目次に「学習済みモデル」とあるから、やっぱり学習も関係あるのか?
O'Reilly Japan - Caffeをはじめよう

p.13に"Share Your Models!"とあるので、共有できるものらしい。
https://docs.google.com/presentation/d/1UeKXVgRvvxg9OUdh_UiC5G71UMscNPlvArsWER41PsU/preview#slide=id.gc2fcdcce7_216_101


caffeだけの言葉でもなさそうなので、機械学習でのモデルを調べてみよう。

「モデルのトレーニング」
機械学習とは何か? – 機械学習の定義と使える言い回し | コンピュータサイエンス | POSTD

「予測モデル」という言葉が出てくる。
機械学習を用いた予測モデル構築・評価

これも「予測モデル」で、作成できるものらしい。でも「アルゴリズム」という言葉も出てくる。
Google Prediction API - データ分析と予測 API — Google Cloud Platform

「モデルの分割」??
第21回(最終回) 機械学習 はじめよう:機械学習 はじめよう|gihyo.jp … 技術評論社

 

知らない分野の知らない言葉をネットで検索するというのは、恐ろしいことだな。。
調べる内容がどんどん発散していくのが自分でもわかる。
でも、最後に調べた技術評論社の記事は、今読んでる「深層学習」に書かれていない基礎知識を把握する意味でもわかりやすそうだ。

そしてここに、モデルについて書かれていた。
第1回 機械学習 ことはじめ:機械学習 はじめよう|gihyo.jp … 技術評論社
おお! そういうことか(引用は禁止なので)!!

 

ディープラーニングは、別にぽっと出のものではなく、あーでもないこーでもないと多数の人が研究した中の1つだと思う。
なので、もっとよいものは今後出てくるだろうし、もしかしたら「ディープラーニングは局所解で、○○を××すると△△法が一番よかった」みたいなことになるかもしれない。

[ai]Caffeの画像分類を説明しているサイトをなぞる

インストールしたら、まずは動かしてみたいと思うのが人の常。
サンプルが用意してあり、日本語で使い方を書いてくださってる方も多いので、見ながらやってみる。

Caffeで手軽に画像分類 - Yahoo! JAPAN Tech Blog
こちらは、examples/imagenetにあるサンプルを動かすようだ。
が、今のバージョンでは(かどうかもわからんが)、get_caffe_reference_imagenet_model.shが無い。

  • create_imagenet.sh
  • make_imagenet_mean.sh
  • resume_training.sh
  • train_caffenet.sh

caffe/examples/imagenet at master · BVLC/caffe
上から順にやっていけばよさそうだ。
「Training ImageNet」の1番目のコマンド(caffeの次がtrain)になってるのが、train_caffenet.sh。
「Resume Training?」のコマンドがresume_training.shになっているようだ。


まず、データの準備。
caffeをビルドしたディレクトリに移動し、

$ ./data/ilsvrc12/get_ilsvrc_aux.sh

これで、何かダウンロードし始めた。
caffe_ilsvrc12.tar.gzをwgetで取得し、tarで解凍するだけのスクリプトだ。

「ilsvrc12」って、なんだろうね?
ImageNet Large Scale Visual Recognition Competition 2012 (ILSVRC2012)
なるほど、ImageNetというのがあり、規模の大きな(Large Scale)画像認識(Visual Recognition)チャレンジ(Challenge)の2012年版、ということかな。
Challengeがうまく解釈できないけど「この画像たちを見事認識してみよ」みたいな挑戦ってことかしら。
今は2015年版があるようだ。

解凍されると、ファイルが8つあった。
画像がいっぱい入っているのかと思ったけど、そうではない。

  • det_synset_words.txt
  • imagenet.bet.pickle
  • imagenet_mean.binaryproto
  • synsets.txt
  • synset_words.txt
  • test.txt
  • train.txt
  • val.txt

大きいのはtrain.txtとimagenet.bet.pickleで、train.txtは44MBちかくある。

そしてexamples/imagenet/create_imagenet.shを実行したのだが、JPEG画像がないないとずーーーっとエラーを吐き続けた。。
githubの方のImageNetサンプルの説明の最初の方に「あなたは既にImageNetトレーニングデータと検証データをダウンロードしてあるとします」とあり、JPEGファイルが置かれている想定になっているようだ。

256x256にサンプリングするときだけのような気もしたが、ilsvrc12_train_leveldbとilsvrc12_val_leveldbがコマンド実行前にあるとダメ、と書いてあるので、その両者がないとダメなのだろう。
make_imagenet_mean.shにもそのパスが書いてあるし。

 

Caffe+AlexNetでImageNet2012を学習してみた (1) - 下丸子のコネクショニスト
こちらを読むと、ImageNetに申請してデータを入手した、とあった。
でも、Yahoo!のブログでやってる手順を見ると、そんなのはなさそうだ。
もしかすると、get_caffe_reference_imagenet_model.shというスクリプトがそれをやっていたのかもしれない。
記事から1年経ってるから、いろいろ変わったのかもしれない。

CaffeのImageNetで特徴量抽出器を動かすまで - About connecting the dots.
非常にありがたい。
そうか、いろいろダウンロードがいるのですな。


どうも、imagenetのサンプルは、自分で画像を用意してトレーニングさせるサンプルのようだ。
そのサンプルデータとしてImageNetのデータを使うから、あれこれダウンロードがいるのだろう。

それより前に、既にあるものを使って動くのかどうかを見てみたい。
というわけで、またYahoo!ブログの内容に戻ろう。

こちらは、先ほどのリンク先からデータさえ取ってきておけば使えそうな気がする。
例がpythonなので、そこら辺もインストールしよう。

$ make pycaffe
$ cd python
$ for req in $(cat requirements.txt); do pip install $req; done

そしてコマンドを動かしたのだが、skimage.ioがないとか言われる。
Download — scikit-image
$ pip install -U scikit-image
インストール中に、scipyがないと言われる。
Installing the SciPy Stack — SciPy.org
けっこう時間がかかる・・・。ここで"Anaconda"という単語を見て、CaffeのインストールページにもAnacondaって書いてあったのを思いだした。
どうも、Anaconda Pythonというpythonが入っていると、あんまり大変じゃないらしい。
アナコンダっていわれても蛇くらいしか思いつかないよなあ、とも思ったが、そもそもパイソンも蛇か。

終わって、再びsckit-imageをpip。
scipyほどではないが、これも時間がかかる。。。あ、エラーだ。
sudoが・・・いるのね・・・。
これでコマンドを動かすと、今度はgoogle.protobuf.internalがない、と。
$ sudo pip install -U protobuf

またコマンドを動かすと、今度はランタイムエラー。bvlc_reference_caffenet.caffemodelがない、と。
FPGAの部屋 2015年02月03日
やはり先人がおられるものだ。
githubで該当するmodelのフォルダに移動すると、ダウンロード先のURLが書いてあった。
こういうしくみですか。。。
ダウンロードしているが、これもかなり時間がかかりそう。

2時間くらいかかった。
今度実行すると、こういうエラーになった。

ValueError: Mean shape incompatible with input shape.

助けて、百太郎(もう疲れてきてる。。)!
OSX10.10でCaffeをインストール、リファレンスモデルで画像を分類 - Qiita
バージョンによっては、caffe/python/caffe/io.pyがそういうエラーを出すとのこと。
さて、なんのバージョンなのだろう。Caffe? それとも他のツール?

io.pyは400行もないファイルだ。
私が動かしたときは、これのL.255でエラーになっている。
pythonはわからんが、raiseがthrowかexit()みたいな役割なのかな。
ということは、ms != self.inputs[in_][1:]という条件を満たしたということだ。
msは、mean.shape。
ソースコメントによると、meanはndarrayのmean(平均?)、in_はこのmeanへの入力のようだ。
ndarrayはn次元配列?
len(ms)は3じゃないとダメらしい(2だと補正している?)。画像は縦×横×画素値、ということで3なのかなぁ。
それとも、画像が何枚もあるから3次元としているのか。。
で、今回出ているエラーはそれもくぐり抜け、self.inputs[in_][1:]と不一致だから発生している。
self.inputsは、そういうメンバ変数がいるのだろう(io.pyのコンストラクタで与えられているみたい)。
[1:]は、配列の1番目以降(0始まり)、という意味らしい。
ms[0]とself.inputs[in_][1]が一致するのはその前に確認しているから、全体として違う、ということか。

そもそも「違う」って、何が違うんだろう?
Cだとmemcmp()とかで比較しない限りはアドレスの一致だけしか見ないけど、stackoverflowのを読んだ感じでは画像のサイズが違うから一致してない、といっているような気がする。つまり、要素数の不一致。
エラー出力も「mean画像とinput画像に互換性がない」だし。

imagenetサンプルの説明でも、ImageMagickで256x256に変換してどうたらこうたらと書いてあったので、テスト画像を256x256にしてみたらどうだろう?
$ convert -resize 256x256\! ../examples/101_ObjectCategories/airplanes/image_0001.jpg ./image_0001_256x256.jpg
$ python classify.py --raw_scale 255 ./image_0001_256x256.jpg ../result.npy
・・・うん、同じエラーだった。

いや、説明に書いてあったconvertするのは、元画像の方だったはずだ。
256x256に正規化してからトレーニングするとか、そんな話だろう。
ということは、元画像のサイズはばらばらだから、それごとに画像サイズを合わせる、というのがstackoverflowに書いてあることなのか。

というのを理解して、OSX10.10でCaffeをインストール、リファレンスモデルで画像を分類 - Qiitaの修正内容を反映させた。

$ python classify.py --raw_scale 255 ../examples/101_ObjectCategories/airplanes/image_0001.jpg ../result.npy
・・・
Done in 2.06 s.
Saving results into ../result.npy

ようやく出力された。
長かった・・・。


できたresult.npyはテキストファイル化と思ったが、さらに加工しないと人間が見てわかりづらいらしい。
こちらは、Yahoo!ブログに書いてあるshow_result.pyを使うとよろしい。

$ python show_result.py ../data/ilsvrc12/synset_words.txt ../result.npy
#1 | n04552348 warplane, military plane | 84.8%
#2 | n04008634 projectile, missile |  5.5%
#3 | n02690373 airliner |  5.1%

お、ブログに書いてあるのと同じ結果だ。

というわけで、自力で解決できたところは何もなかったけど、「とりあえず動かす」ということだけはできた。
しかし、最後に変更したとこなんかはshapeと書いているだけに、画像認識が強そうに思う。
でも、Caffeだってフレームワークだし、入力と結果さえ定義すれば画像以外にも使えるはずだと思っている。
まあ、その場合にはトレーニングされたデータというのは使えなくなるが・・・。

 

本の「深層学習」は、ようやく4章に入った。
ええ、理解できているとは到底言えませんが。
とりあえず、今までは順伝播型ネットワークということで入力から出力までが一方向だったけど、誤差を逆方向に伝えるようにすることで計算量が減らせるよ、ということらしい。
なんか、こういう適当すぎる把握しかできなくて、著者に申し訳ない・・・。

2015年10月6日

[ai]Caffeをインストールしてみよう

深層学習はちょっとお休みして、Caffeをインストールしてみよう。
Caffe | Installation
偶然、うちのVirtualBoxに入っているXubuntuが14.04なので、環境は悪くなさそうだ。
(Hostは、Windows7 64bit)

※注意※
次の段に書いてますが、Ubuntuでのインストール手順がちゃんと書いてあるので、そっちを参考にした方がよいです。

atlas package : Ubuntu
$ sudo apt-get install libatlas-base-dev

boostのインストール - C++入門
$ sudo apt-get install libboost1.55-dev libboost1.55-tools-dev
※これはインストールせず、後述のUbuntu用インストールをやった方がよい

jayrambhia/Install-OpenCV
ZIPを落としてきて、展開。
$ cd Ubuntu
$ ./opencv_latest.sh

protobuf package : Ubuntu
$ sudo apt-get install libprotobuf-dev

glog?
どうやるんだ??


というところまでやって、「glog ubuntu」で検索すると、CaffeをUbuntuにインストールするときの手順が出てきた。
Caffe
ああ、そういう親切なページがあったのね。。

インストールして無さそうなものをapt-getして、ようやくCaffe本体をcloneした。
$ git clone https://github.com/BVLC/caffe.git

そしてコンパイルだ。
$ cp Makefile.config.example Makefile.config

ここで自分の環境にMakefile.configを編集するらしい。
VirtualBoxだとGPUが使えない気がするので、CPU_ONLYのコメントを外そう。
そして!
$ make all
・・・エラーになった。boost周りっぽい。
普通にapt-getすると1.54だったから別の方法でインストールしたんだけど、Ubuntuインストールの説明に従った方がよいのだろうか?

$ sudo apt-get remove libboost1.55-dev libboost1.55-tools-dev
$ sudo apt-get install --no-install-recommends libboost-all-dev

なんか、opencvも怒られるみたい。
でも、libopencv-devをapt-getしても変わらなかった。
うん、こういうときは、Makefile.configからUSE_OPENCVをコメントアウトして、0を設定しよう。
$ make clean
$ make all
うむ
$ make test
うむうむ


OpenCVを組み込めなかったのは残念だが、そこは必要になったら考えよう。
今必要なのは、どうやったらこれで遊べるの?なのだが、そこは後日に。

[2015/10/07追記]
OpenCVでエラーになったのは、Makefile(Makefile.configではなく)へのライブラリ追加で対応できるようだ。
https://github.com/BVLC/caffe/issues/2288

ifeq ($(USE_OPENCV), 1)
    LIBRARIES += opencv_core opencv_highgui opencv_imgproc opencv_imgcodecs
endif

インターネット様様である。

image