學(xué)習(xí)方法
【專利摘要】本公開提供能夠高精度地進(jìn)行圖像識(shí)別并且提高圖像識(shí)別的處理速度的分類器的學(xué)習(xí)方法等。學(xué)習(xí)方法包括：第1步驟(S1)，使由第1神經(jīng)網(wǎng)絡(luò)構(gòu)成的粗類別分類器將圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)粗類別而學(xué)習(xí)該多個(gè)粗類別的每一個(gè)粗類別的共同的特征即第1特征，所述圖像組被賦予了表示各自的詳細(xì)類別的標(biāo)簽；以及第2步驟(S2)，使由第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器將圖像組分類為詳細(xì)類別而學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征即第2特征，由此進(jìn)行分類器的學(xué)習(xí)，所述第2神經(jīng)網(wǎng)絡(luò)與在第1步驟進(jìn)行了學(xué)習(xí)的上述第1神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同。
【專利說明】
學(xué)習(xí)方法
技術(shù)領(lǐng)域
[0001]本公開涉及學(xué)習(xí)方法，具體地，涉及由神經(jīng)網(wǎng)絡(luò)構(gòu)成、用于對(duì)圖像進(jìn)行分類的分類器的學(xué)習(xí)方法。
【背景技術(shù)】
[0002]近年，要求使用用于識(shí)別在圖像中的何處具有何內(nèi)容的技術(shù)即圖像識(shí)別技術(shù)，高速且高精度地識(shí)別各種物體。例如在非專利文獻(xiàn)I中，公開了通過利用多個(gè)卷積神經(jīng)網(wǎng)絡(luò)分類器(以下記載為分類器)能夠高精度地進(jìn)行圖像識(shí)別的圖像識(shí)別技術(shù)。
[0003]【非專利文獻(xiàn)l】Z.Yan、V.Jagadeesh、D.DeCoste、W.Di和R.Piramuthu的 “HD-CNN:Hierarchical Deep Convolut1nal Neural Network for Image Classificat1n”，其作為會(huì)議文獻(xiàn)發(fā)表在 ICLR2015，URL: http: //arxiv.0rg/pdf/1410.0736v2.pdf，2014年12月。

【發(fā)明內(nèi)容】

[0004]但是，上述現(xiàn)有技術(shù)由于是在粗類別分類器之后連接多個(gè)詳細(xì)類別分類器的構(gòu)成，所以存在圖像識(shí)別的處理速度慢的問題。另外，在上述現(xiàn)有技術(shù)中，還存在在由粗類別分類器誤分類了的情況下分類結(jié)果的正確率會(huì)降低的問題。
[0005]本公開是為了解決上述問題而提出的，其目的在于提供能夠提高圖像識(shí)別的精度及圖像識(shí)別的處理速度的分類器的學(xué)習(xí)方法。
[0006]為了解決上述問題，本公開的一方式所涉及的分類器的學(xué)習(xí)方法，是用于對(duì)圖像進(jìn)行分類的分類器的學(xué)習(xí)方法，包括:第I步驟，使由第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的粗類別分類器將圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)粗類別而學(xué)習(xí)該多個(gè)粗類別的每一個(gè)粗類別的共同的特征即第I特征，所述圖像組是被賦予了表示各自的詳細(xì)類別的標(biāo)簽的多個(gè)圖像的圖像組；以及第2步驟，使由第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器將上述圖像組分類為詳細(xì)類別而學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征即第2特征，由此進(jìn)行上述分類器的學(xué)習(xí)，所述第2神經(jīng)網(wǎng)絡(luò)與在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同。
[0007]另外，這些全面或具體的方式既可以由系統(tǒng)、方法、集成電路、計(jì)算機(jī)程序或能夠由計(jì)算機(jī)讀取的CD-ROM等記錄介質(zhì)實(shí)現(xiàn)，也可以由系統(tǒng)、方法、集成電路、計(jì)算機(jī)程序及記錄介質(zhì)的任意組合實(shí)現(xiàn)。
[0008]根據(jù)本公開，能夠?qū)崿F(xiàn)可以高精度地進(jìn)行圖像識(shí)別并且提高圖像識(shí)別的處理速度的分類器的學(xué)習(xí)方法等。
【附圖說明】
[0009]圖1是表不實(shí)施方式I的學(xué)習(xí)系統(tǒng)的構(gòu)成的一例的方框圖。
[0010]圖2A是用于說明在實(shí)施方式I的學(xué)習(xí)系統(tǒng)進(jìn)行的學(xué)習(xí)處理中使用的粗類別分類器的構(gòu)成的圖。
[0011]圖2B是用于說明在實(shí)施方式I的學(xué)習(xí)系統(tǒng)進(jìn)行的學(xué)習(xí)處理中使用的詳細(xì)類別分類器的構(gòu)成的圖。
[0012]圖3A是表示構(gòu)成圖2A所示的粗類別分類器的第I神經(jīng)網(wǎng)絡(luò)的一例的圖。
[0013]圖3B是表示構(gòu)成圖2B所示的詳細(xì)類別分類器的第2神經(jīng)網(wǎng)絡(luò)的一例的圖。
[0014]圖4是用于說明實(shí)施方式I的分類器進(jìn)行識(shí)別處理時(shí)的構(gòu)成的圖。
[0015]圖5是表示實(shí)施方式I中的學(xué)習(xí)處理的流程圖。
[0016]圖6A是表示實(shí)施方式I中的粗類別學(xué)習(xí)的結(jié)果的一例的圖。
[0017]圖6B是表示實(shí)施方式I中的詳細(xì)類別學(xué)習(xí)的結(jié)果的一例的圖。
[0018]圖7是表示圖5所示的步驟SI的詳細(xì)處理的一例的流程圖。
[0019]圖8是表示圖5所示的步驟S2的詳細(xì)處理的一例的流程圖。
[0020]圖9A是表示變形例I中的學(xué)習(xí)系統(tǒng)的構(gòu)成的一例的方框圖。
[0021 ]圖9B是表示圖9A所示的粗類別制作部的詳細(xì)構(gòu)成的一例的方框圖。
[0022]圖1OA是表示變形例I中的粗類別學(xué)習(xí)的詳細(xì)處理的一例的流程圖。
[0023 ]圖1OB是表示圖1OA所示的步驟S1的詳細(xì)處理的一例的流程圖。
[0024]圖11是表示變形例2中的第3神經(jīng)網(wǎng)絡(luò)的一例的圖。
[0025]圖12A是表示構(gòu)成變形例2中的粗類別分類器的第I神經(jīng)網(wǎng)絡(luò)的一例的圖。
[0026]圖12B是表示構(gòu)成變形例2中的詳細(xì)類別分類器的第2神經(jīng)網(wǎng)絡(luò)的一例的圖。
[0027]圖13是表示實(shí)施方式2中的學(xué)習(xí)系統(tǒng)的構(gòu)成的一例的方框圖。
[0028]圖14是用于說明在實(shí)施方式2中的學(xué)習(xí)系統(tǒng)進(jìn)行的學(xué)習(xí)處理中使用的詳細(xì)類別分類器的構(gòu)成的圖。
[0029]圖15是表示實(shí)施方式2中的詳細(xì)類別學(xué)習(xí)的詳細(xì)處理的一例的流程圖。
[0030]圖16是用于說明現(xiàn)有的分類器的構(gòu)成及學(xué)習(xí)方法的圖。
[0031]標(biāo)號(hào)的說明
[0032]1、1A、1B學(xué)習(xí)系統(tǒng)，2信息取得部，3分類器設(shè)計(jì)部，4分類器學(xué)習(xí)部，5保存部，6粗類別制作部，7權(quán)重設(shè)定部，10分類器，10a、10c粗類別分類器，10b、10d、10e詳細(xì)類別分類器，61粗類別制作處理部，62粗類別標(biāo)簽附加部。
【具體實(shí)施方式】
[0033](作為發(fā)明的基礎(chǔ)的知識(shí))
[0034]圖像識(shí)別技術(shù)一般分為I)從圖像提取特征量的提取處理和2)根據(jù)特征量判別物體的判別處理這兩個(gè)階段。例如，在提取處理中，從圖像中的識(shí)別對(duì)象物體提取在亮度的分布和/或亮度的差別(邊緣)等的識(shí)別中利用的特征量。另外，例如在判別處理中，根據(jù)所提取的特征量，利用1^0081:;[1^和/或3\^[(3卯。01^ Vector Machine:支持向量機(jī))等統(tǒng)計(jì)機(jī)器學(xué)習(xí)方法來判別是否為識(shí)別對(duì)象。
[0035]以往，在提取處理中使用的特征量提取過濾器由人手設(shè)計(jì)。近年，由于拍攝環(huán)境的提升和/或經(jīng)由因特網(wǎng)的大量的學(xué)習(xí)數(shù)據(jù)收集成為現(xiàn)實(shí)、及GHJ等大規(guī)模計(jì)算機(jī)環(huán)境的基礎(chǔ)設(shè)施的配備，開展了自動(dòng)進(jìn)行特征量提取過濾器的設(shè)計(jì)的方式的研究。這樣的方法之一被稱為深度學(xué)習(xí)(Deep Learning)。特別地，在圖像識(shí)別的領(lǐng)域中，研究了將特征量提取過濾器視為針對(duì)2維圖像的卷積過濾器處理的卷積神經(jīng)網(wǎng)絡(luò)。該卷積神經(jīng)網(wǎng)絡(luò)具有在深度學(xué)習(xí)技術(shù)中也與圖像識(shí)別相容性良好這一特征。
[0036]在非專利文獻(xiàn)I中，公開了使用深度學(xué)習(xí)的分類器的構(gòu)成及學(xué)習(xí)方法。以下，使用圖16說明非專利文獻(xiàn)I的分類器。圖16是用于說明現(xiàn)有的分類器的構(gòu)成及學(xué)習(xí)方法的圖。
[0037]圖16所示的分類器具備粗類別分類器900和詳細(xì)類別分類器901、902、903。粗類別分類器900是進(jìn)行犬和/或貓這樣的粗略分類的分類器。詳細(xì)類別分類器901、902、903是進(jìn)行柴犬和/或柯基犬、三色貓等詳細(xì)分類的分類器。在詳細(xì)類別分類器901、902、903中，通過使其進(jìn)行學(xué)習(xí)以便擅于某特定的類別的分類，能夠進(jìn)行上述的詳細(xì)分類。
[0038]這樣，在圖16所示的分類器中，在進(jìn)行犬和/或貓這樣的粗略分類的粗類別分類器900之后，連接進(jìn)行柴犬和/或柯基犬、三色貓等詳細(xì)分類的詳細(xì)類別分類器901、902、903。在對(duì)圖16所示的分類器例如提供了柯基犬(犬)的圖像作為輸入圖像的情況下，在由粗類別分類器900判別為犬后，分配給擅于犬類別的分類的例如詳細(xì)類別分類器901，由詳細(xì)類別分類器901判別為柯基犬。
[0039]如上所述，在非專利文獻(xiàn)I中，具備在進(jìn)行粗略分類的分類器之后連接進(jìn)行詳細(xì)分類的分類器的構(gòu)成。由此，通過簡(jiǎn)化粗類別分類器、詳細(xì)類別分類器各自解決的問題并將它們組合，能夠高精度地進(jìn)行圖像識(shí)別，能夠更高精度地對(duì)圖像進(jìn)行分類。
[0040]但是，非專利文獻(xiàn)I的分類器是在粗類別分類器之后連接多個(gè)詳細(xì)類別分類器的構(gòu)成，神經(jīng)網(wǎng)絡(luò)的大小(神經(jīng)元數(shù)量和/或結(jié)合的數(shù)量)大。因此，在圖像識(shí)別時(shí)需要更多的計(jì)算處理，會(huì)產(chǎn)生圖像識(shí)別的處理速度變慢的問題。另外，在非專利文獻(xiàn)I的分類器中，若由粗類別分類器誤分類，則將會(huì)由與發(fā)生了錯(cuò)誤的粗類別的分類對(duì)應(yīng)的詳細(xì)類別分類器進(jìn)一步進(jìn)行詳細(xì)分類，因此也存在分類結(jié)果的正確率將降低的問題。
[0041]為了解決這樣的問題，本公開的一方式所涉及的分類器的學(xué)習(xí)方法是用于對(duì)圖像進(jìn)行分類的分類器的學(xué)習(xí)方法，包括:第I步驟，使由第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的粗類別分類器將圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)粗類別而學(xué)習(xí)該多個(gè)粗類別的每一個(gè)粗類別的共同的特征即第I特征，所述圖像組是被賦予了表示各自的詳細(xì)類別的標(biāo)簽的多個(gè)圖像的圖像組；以及第2步驟，使由第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器將上述圖像組分類為詳細(xì)類別而學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征即第2特征，由此進(jìn)行上述分類器的學(xué)習(xí)，所述第2神經(jīng)網(wǎng)絡(luò)與在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同。
[0042]由此，由于能夠維持神經(jīng)網(wǎng)絡(luò)構(gòu)造的大小(size)，因此，與現(xiàn)有技術(shù)相比，能夠不使圖像識(shí)別(分類)的處理速度降低而高精度地進(jìn)行圖像識(shí)別(分類)。
[0043]另外，也可以例如上述第I步驟包括:第I設(shè)計(jì)步驟，以數(shù)量與基于表示上述詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的上述粗類別的數(shù)量相同的神經(jīng)元設(shè)計(jì)上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元；以及第I學(xué)習(xí)步驟，使由所設(shè)計(jì)的上述第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的上述粗類別分類器取得上述圖像組并學(xué)習(xí)上述第I特征，上述第2步驟包括:第2設(shè)計(jì)步驟，通過將在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)閿?shù)量與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元，來設(shè)計(jì)上述第2神經(jīng)網(wǎng)絡(luò)；以及第2學(xué)習(xí)步驟，使由所設(shè)計(jì)的上述第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的上述詳細(xì)類別分類器取得上述圖像組并學(xué)習(xí)上述第2特征，由此進(jìn)行上述分類器的學(xué)習(xí)。
[0044]另外，也可以例如在上述第2設(shè)計(jì)步驟中，通過將在上述第I學(xué)習(xí)步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元置換為與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元，來設(shè)計(jì)上述第2神經(jīng)網(wǎng)絡(luò)。
[0045]另外，也可以例如上述詳細(xì)類別分類器和上述粗類別分類器使用第3神經(jīng)網(wǎng)絡(luò)而構(gòu)成，在上述學(xué)習(xí)方法中，在上述第I步驟之前，還包括第3設(shè)計(jì)步驟，上述第3設(shè)計(jì)步驟是以與將上述粗類別的數(shù)量和上述詳細(xì)類別的數(shù)量相加而得到的數(shù)量相同的數(shù)量以上的神經(jīng)元來設(shè)計(jì)上述第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元的步驟，在上述第I設(shè)計(jì)步驟中，將使用上述第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中數(shù)量與上述粗類別的數(shù)量相同的神經(jīng)元的上述第3神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)作為上述第I神經(jīng)網(wǎng)絡(luò)，由此將上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)計(jì)為數(shù)量與基于表示上述詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的上述粗類別的數(shù)量相同的神經(jīng)元，在上述第2設(shè)計(jì)步驟中，將使用上述第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中與上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元不同且數(shù)量與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元的上述第3神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)作為上述第2神經(jīng)網(wǎng)絡(luò)，由此將在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)榕c上述詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元而設(shè)計(jì)作為上述第2神經(jīng)網(wǎng)絡(luò)。
[0046]另外，也可以例如在上述第2設(shè)計(jì)步驟中，還包括:將表示上述第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的上述第2神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重設(shè)定成隨機(jī)值的步驟。
[0047]另外，也可以例如在上述第2設(shè)計(jì)步驟中，還包括:使用將上述第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重基于上述多個(gè)粗類別和該多個(gè)粗類別中所包含的多個(gè)詳細(xì)類別的關(guān)系性按比例分配而得到的值，設(shè)定表示上述第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的上述第2神經(jīng)網(wǎng)絡(luò)的最終層的第2權(quán)重的步驟，所述第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重是在上述第I學(xué)習(xí)步驟進(jìn)行了學(xué)習(xí)時(shí)獲得的表示上述第I神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的權(quán)重。
[0048]另外，也可以例如在上述學(xué)習(xí)方法中，還包括:將在上述第2步驟學(xué)習(xí)了上述第2特征的上述詳細(xì)類別分類器作為上述分類器保存的步驟。
[0049]另外，也可以例如在上述第I步驟中，還包括:基于對(duì)上述多個(gè)圖像分別賦予的表示上述詳細(xì)類別的標(biāo)簽的內(nèi)容，制作上述多個(gè)粗類別的步驟。
[0050]另外，也可以例如在上述第I步驟中，還包括:基于上述多個(gè)圖像各自的圖像的相似度，制作上述多個(gè)粗類別的步驟。
[0051 ]另外，也可以例如上述學(xué)習(xí)方法還包括:第3步驟，使由第3神經(jīng)網(wǎng)絡(luò)構(gòu)成的第3粗類別分類器將上述圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)第3粗類別而學(xué)習(xí)該多個(gè)第3粗類別的每一個(gè)第3粗類別的共同的特征即第3特征，在上述第I步驟中，包括:使由上述第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的上述詳細(xì)類別分類器將上述圖像組分類為上述粗類別而學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的上述第I特征的學(xué)習(xí)步驟，所述第I神經(jīng)網(wǎng)絡(luò)是與在上述第3步驟進(jìn)行了學(xué)習(xí)的上述第3神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同的神經(jīng)網(wǎng)絡(luò)，上述多個(gè)粗類別通過分別包含多個(gè)第3粗類別，包含該多個(gè)第3粗類別中所包含的多個(gè)詳細(xì)類別。
[0052]另外，例如上述第I步驟和上述第2步驟中的至少一個(gè)步驟可以由處理器執(zhí)行。
[0053]以下說明的實(shí)施方式都表示本公開的一具體例。以下的實(shí)施方式中所示的數(shù)值、形狀、構(gòu)成要素、步驟、步驟的順序等為一例，并非要限定本公開。另外，對(duì)于以下的實(shí)施方式中的構(gòu)成要素之中在表示最上位概念的獨(dú)立權(quán)利要求中未記載的構(gòu)成要素，以任意的構(gòu)成要素進(jìn)行說明。另外，在全部的實(shí)施方式中，也可以使各自的內(nèi)容組合。
[0054](實(shí)施方式I)
[0055]以下，參照附圖，進(jìn)行實(shí)施方式I的分類器10的學(xué)習(xí)方法等的說明。
[0056][學(xué)習(xí)系統(tǒng)I的構(gòu)成]
[0057]圖1是表示實(shí)施方式I的學(xué)習(xí)系統(tǒng)I的構(gòu)成的一例的方框圖。圖2A是用于說明在實(shí)施方式I的學(xué)習(xí)系統(tǒng)I進(jìn)行的學(xué)習(xí)處理中使用的粗類別分類器1a的構(gòu)成的圖。圖2B是用于說明在實(shí)施方式I的學(xué)習(xí)系統(tǒng)I進(jìn)行的學(xué)習(xí)處理中使用的詳細(xì)類別分類器1b的構(gòu)成的圖。圖3A是表示構(gòu)成圖2A所示的粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的一例的圖。圖3B是表示構(gòu)成圖2B所示的詳細(xì)類別分類器1b的第2神經(jīng)網(wǎng)絡(luò)的一例的圖。
[0058]圖1所示的學(xué)習(xí)系統(tǒng)I具備信息取得部2、分類器設(shè)計(jì)部3、分類器學(xué)習(xí)部4、保存部5，是用于進(jìn)行對(duì)圖像分類的分類器10的學(xué)習(xí)的系統(tǒng)。
[0059]信息取得部2取得預(yù)先準(zhǔn)備的多個(gè)圖像(圖像組)的數(shù)據(jù)集即被賦予了表示詳細(xì)類別的標(biāo)簽的圖像組。另外，信息取得部2取得在保存部5保存的粗類別分類器10a、即在保存部5保存的構(gòu)成粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))。
[0060]分類器學(xué)習(xí)部4基于圖像識(shí)別中的粗略到詳細(xì)的考慮方法，通過進(jìn)行圖2A所示的粗類別分類器1a的學(xué)習(xí)處理(粗類別學(xué)習(xí))和圖2B所示的詳細(xì)類別分類器1b的學(xué)習(xí)處理(詳細(xì)類別學(xué)習(xí))，進(jìn)行分類器10的學(xué)習(xí)。
[0061 ]更具體地，分類器學(xué)習(xí)部4使粗類別分類器1a取得被賦予了表示各自的詳細(xì)類別的標(biāo)簽的圖像組，所述粗類別分類器1a由通過分類器設(shè)計(jì)部3設(shè)計(jì)的第I神經(jīng)網(wǎng)絡(luò)構(gòu)成。然后，分類器學(xué)習(xí)部4使粗類別分類器1a將該圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)粗類另Ij，進(jìn)行學(xué)習(xí)該多個(gè)粗類別的每一個(gè)粗類別的共同的特征即第I特征的粗類別學(xué)習(xí)。另外，分類器學(xué)習(xí)部4也可以在保存部5保存進(jìn)行了粗類別學(xué)習(xí)的粗類別分類器10a、即構(gòu)成粗類別分類器I Oa的第I神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))。
[0062]另外，分類器學(xué)習(xí)部4使詳細(xì)類別分類器1b取得該圖像組，所述詳細(xì)類別分類器1b由通過分類器設(shè)計(jì)部3設(shè)計(jì)的、與進(jìn)行了粗類別學(xué)習(xí)的第I神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同的第2神經(jīng)網(wǎng)絡(luò)構(gòu)成。然后，分類器學(xué)習(xí)部4使該圖像組分類為詳細(xì)類別，進(jìn)行學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征即第2特征的詳細(xì)類別學(xué)習(xí)。然后，分類器學(xué)習(xí)部4將詳細(xì)類別學(xué)習(xí)后的詳細(xì)類別分類器10b、即構(gòu)成詳細(xì)類別分類器1b的第2神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))作為分類器10保存在保存部5。
[0063]這樣，分類器學(xué)習(xí)部4使分類器10以多階段(在本實(shí)施方式中為兩階段)學(xué)習(xí)。
[0064]分類器設(shè)計(jì)部3確定詳細(xì)類別的數(shù)量或所制作的粗類別的數(shù)量作為分類器的輸出數(shù)(神經(jīng)元的數(shù)量)，設(shè)計(jì)粗類別分類器1a或詳細(xì)類別分類器1b的構(gòu)成及參數(shù)。
[0065]更具體地，分類器設(shè)計(jì)部3將構(gòu)成粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)計(jì)成與基于表示上述的詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的粗類別的數(shù)量相同數(shù)量的神經(jīng)元。在本實(shí)施方式中，分類器設(shè)計(jì)部3設(shè)計(jì)包括例如圖3A所示的輸入層、中間層和最終層的第I神經(jīng)網(wǎng)絡(luò)，作為圖2A所示的粗類別分類器10a。這里，第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)定成與粗類別的數(shù)量相同數(shù)量的神經(jīng)元。
[0066]另外，分類器設(shè)計(jì)部3通過將進(jìn)行了粗類別學(xué)習(xí)的粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)榕c詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元，來設(shè)計(jì)第2神經(jīng)網(wǎng)絡(luò)。分類器設(shè)計(jì)部3例如通過將進(jìn)行了粗類別學(xué)習(xí)的第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元置換為與詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元，來設(shè)計(jì)第2神經(jīng)網(wǎng)絡(luò)。這里，分類器設(shè)計(jì)部3也可以將表示第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的權(quán)重設(shè)定成隨機(jī)值。
[0067]在本實(shí)施方式中，分類器設(shè)計(jì)部3設(shè)計(jì)包括例如圖3B所示的輸入層、中間層和最終層的第2神經(jīng)網(wǎng)絡(luò)，作為例如圖2B所示的詳細(xì)類別分類器10b。這里，第2神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)為以與進(jìn)行了粗類別學(xué)習(xí)的第I神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同的方式，置換(替換)最終層。然后，第2神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)定成與詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元。由于表示第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的權(quán)重在詳細(xì)類別學(xué)習(xí)時(shí)學(xué)習(xí)(追加學(xué)習(xí))，所以設(shè)定怎樣的值都可以，例如設(shè)定為隨機(jī)值。
[0068]保存部5保存進(jìn)行了粗類別學(xué)習(xí)的分類器10(粗類別分類器10a)、即構(gòu)成粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))。另外，保存部5保存詳細(xì)類別學(xué)習(xí)后的分類器10(詳細(xì)類別分類器10b)、即構(gòu)成詳細(xì)類別分類器1b的第2神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))，作為分類器10。
[0069]圖4是用于說明實(shí)施方式I的分類器10進(jìn)行識(shí)別處理時(shí)的構(gòu)成的圖。
[0070]分類器10是用于對(duì)圖像進(jìn)行分類的分類器，在被輸入了分類對(duì)象物(輸入圖像)時(shí)，執(zhí)行識(shí)別處理及分類處理，并輸出其結(jié)果(分類結(jié)果)。分類器10與圖4所示的構(gòu)成即詳細(xì)類別學(xué)習(xí)后的詳細(xì)類別分類器1b相同。
[0071]這樣，分類器10由于由大小(神經(jīng)元數(shù)量和/或結(jié)合的數(shù)量)小的神經(jīng)網(wǎng)絡(luò)構(gòu)成，另一方面基于圖像識(shí)別中的粗略到詳細(xì)的考慮方法通過學(xué)習(xí)系統(tǒng)I進(jìn)行多階段學(xué)習(xí)，所以能夠高精度地進(jìn)行圖像識(shí)別并且提高圖像識(shí)別(分類)的處理速度。
[0072][學(xué)習(xí)系統(tǒng)I的學(xué)習(xí)處理]
[0073]接著，用圖說明以上那樣構(gòu)成的學(xué)習(xí)系統(tǒng)I的學(xué)習(xí)處理。
[0074]圖5是表示實(shí)施方式I中的學(xué)習(xí)處理的流程圖。在圖5中，作為多階段的學(xué)習(xí)處理的一例，示出了兩階段學(xué)習(xí)處理。圖6A是表示實(shí)施方式I中的粗類別學(xué)習(xí)的結(jié)果的一例的圖。圖6B是表示實(shí)施方式I中的詳細(xì)類別學(xué)習(xí)的結(jié)果的一例的圖。
[0075]首先，在步驟SI，學(xué)習(xí)系統(tǒng)I進(jìn)行粗類別分類器1a的學(xué)習(xí)處理(粗類別學(xué)習(xí))。
[0076]更具體地，學(xué)習(xí)系統(tǒng)I使由第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的粗類別分類器10a，將被賦予了表示各自的詳細(xì)類別的標(biāo)簽的圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)粗類別，學(xué)習(xí)該多個(gè)粗類別的每一個(gè)粗類別的共同的特征即第I特征。例如如圖6A所示，學(xué)習(xí)系統(tǒng)I使粗類別分類器1a將圖像數(shù)據(jù)集即圖像組分類為狗、鳥、機(jī)器等多個(gè)粗類別(畫邊界線)，在被賦予了表示分類為相同粗類別的詳細(xì)類別的標(biāo)簽的圖像間提取共同特征(第I特征)。然后，學(xué)習(xí)系統(tǒng)I使粗類別分類器1a進(jìn)行學(xué)習(xí)(粗類別學(xué)習(xí))以便識(shí)別所提取的第I特征。
[0077]接著，在步驟S2，學(xué)習(xí)系統(tǒng)I進(jìn)行詳細(xì)類別分類器1b的學(xué)習(xí)處理(詳細(xì)類別學(xué)習(xí))。
[0078]更具體地，通過使由第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器1b將該圖像組分類為詳細(xì)類別，學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征即第2特征，來進(jìn)行分類器10的學(xué)習(xí)，所述第2神經(jīng)網(wǎng)絡(luò)與在步驟SI學(xué)習(xí)的第I神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同。例如如圖6B所示，學(xué)習(xí)系統(tǒng)I對(duì)詳細(xì)類別分類器10b，將對(duì)同一圖像數(shù)據(jù)集即上述圖像組在步驟SI分類后的(畫邊界線)狗、鳥、機(jī)器等多個(gè)粗類別設(shè)為初始值。學(xué)習(xí)系統(tǒng)I進(jìn)一步分類為柯基犬(00作；0、羅特韋爾狗(1'01^￥6；[161')、金毛獵犬(801(1611 retriever)、收音機(jī)、打印機(jī)、計(jì)算機(jī)、白鸛、信天翁、赤翻石鷸等詳細(xì)類別(畫邊界線)，提取分類后的詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征(第2特征)。然后，學(xué)習(xí)系統(tǒng)I使詳細(xì)類別分類器1b進(jìn)行追加學(xué)習(xí)(詳細(xì)類別學(xué)習(xí))以便識(shí)別所提取的第2特征。
[0079]由此，與現(xiàn)有的分類器比較，由于能夠在將神經(jīng)網(wǎng)絡(luò)構(gòu)造的大小維持得小的情況下抑制局部解和/或過度學(xué)習(xí)，所以能夠不使圖像識(shí)別(分類)的處理速度降低而高精度地進(jìn)行圖像識(shí)別。
[0080]以下，說明步驟SI(粗類別學(xué)習(xí))及步驟S2(詳細(xì)類別學(xué)習(xí))的詳細(xì)處理。
[0081]圖7是表示圖5所示的步驟SI的詳細(xì)處理的一例的流程圖。
[0082]在步驟SI，首先，學(xué)習(xí)系統(tǒng)I將構(gòu)成粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)計(jì)為與基于表示詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的粗類別的數(shù)量相同數(shù)量的神經(jīng)元(S11)。即，學(xué)習(xí)系統(tǒng)I設(shè)計(jì)構(gòu)成粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)。
[0083]接著，學(xué)習(xí)系統(tǒng)I從外部取得被賦予了表示詳細(xì)類別的標(biāo)簽的圖像組(S12)。
[0084]接著，學(xué)習(xí)系統(tǒng)I使由所設(shè)計(jì)的第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的粗類別分類器1a取得該圖像組，學(xué)習(xí)第I特征(S13)。具體地，粗類別分類器1a通過進(jìn)行學(xué)習(xí)(粗類別學(xué)習(xí))以便識(shí)別第I特征，來學(xué)習(xí)用于標(biāo)識(shí)第I特征的第I神經(jīng)網(wǎng)絡(luò)的表示閾值和/或權(quán)重、結(jié)合狀態(tài)等的參數(shù)。
[0085]接著，學(xué)習(xí)系統(tǒng)I將在步驟S13學(xué)習(xí)了第I特征的粗類別分類器10a、即構(gòu)成粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)保存在保存部5 (S14)。
[0086]圖8是表示圖5所示的步驟S2的詳細(xì)處理的一例的流程圖。
[0087]在步驟2，首先，學(xué)習(xí)系統(tǒng)I通過將構(gòu)成在步驟SI進(jìn)行了學(xué)習(xí)的粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)榕c詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元，來設(shè)計(jì)構(gòu)成詳細(xì)類別分類器1b的第2神經(jīng)網(wǎng)絡(luò)(S21)。
[0088]S卩，學(xué)習(xí)系統(tǒng)I設(shè)計(jì)第2神經(jīng)網(wǎng)絡(luò)作為詳細(xì)類別分類器10b，所述第2神經(jīng)網(wǎng)絡(luò)是將構(gòu)成在步驟SI進(jìn)行了學(xué)習(xí)的粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))除了最終層以外原樣利用了的神經(jīng)網(wǎng)絡(luò)。然后，改變第2神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元以便成為與詳細(xì)類別的數(shù)量相同的數(shù)量。在本實(shí)施方式中，學(xué)習(xí)系統(tǒng)I通過將第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元置換為與詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元，來設(shè)計(jì)第2神經(jīng)網(wǎng)絡(luò)。
[0089]接著，學(xué)習(xí)系統(tǒng)I從外部取得被賦予了表示詳細(xì)類別的標(biāo)簽的圖像組(S22)。這里，學(xué)習(xí)系統(tǒng)I取得與在步驟S12取得的圖像組相同的圖像組。
[0090]接著，學(xué)習(xí)系統(tǒng)I使由所設(shè)計(jì)的第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器1b取得該圖像組，學(xué)習(xí)第2特征(S23)。具體地，詳細(xì)類別分類器1b通過進(jìn)行學(xué)習(xí)(詳細(xì)類別學(xué)習(xí))以便識(shí)別第2特征，來學(xué)習(xí)用于標(biāo)識(shí)第2特征的第2神經(jīng)網(wǎng)絡(luò)的表示閾值和/或權(quán)重、結(jié)合狀態(tài)等的參數(shù)。
[0091]接著，學(xué)習(xí)系統(tǒng)I將在步驟S23學(xué)習(xí)了第2特征的詳細(xì)類別分類器10b、即構(gòu)成詳細(xì)類別分類器1b的第2神經(jīng)網(wǎng)絡(luò)(表示構(gòu)造和/或閾值、權(quán)重、結(jié)合狀態(tài)等的參數(shù))作為分類器10保存在保存部5(S14)。
[0092][效果等]
[0093]如上所述，根據(jù)本實(shí)施方式I，與現(xiàn)有技術(shù)相比，可以實(shí)現(xiàn)能夠不使圖像識(shí)別的處理速度降低而高精度地進(jìn)行圖像識(shí)別的分類器的學(xué)習(xí)方法等。具體地，根據(jù)實(shí)施方式I的學(xué)習(xí)方法，以由粗類別分類器1a進(jìn)行的粗類別學(xué)習(xí)的結(jié)果作為初始值，使詳細(xì)類別分類器1b進(jìn)行詳細(xì)類別學(xué)習(xí)(多階段學(xué)習(xí))，所述粗類別分類器1a由與詳細(xì)類別分類器1b在最終層以外相同的神經(jīng)網(wǎng)絡(luò)構(gòu)成。即，在粗類別學(xué)習(xí)和詳細(xì)類別學(xué)習(xí)中，使用由僅輸出數(shù)(最終層的神經(jīng)元的數(shù)量)被替換的神經(jīng)網(wǎng)絡(luò)構(gòu)成的分類器10(粗類別分類器10a、詳細(xì)類別分類器10b)。進(jìn)而，在詳細(xì)類別學(xué)習(xí)中，使用由如下神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器10b，即該神經(jīng)網(wǎng)絡(luò)在最終層以外的層設(shè)定了在粗類別學(xué)習(xí)中獲得的參數(shù)。這樣，不改變分類器10的神經(jīng)網(wǎng)絡(luò)的最終層以外的構(gòu)造(維持大小不變)地，進(jìn)行多階段學(xué)習(xí)。由此，由于能夠抑制以錯(cuò)誤的詳細(xì)類別進(jìn)行分類這樣的情況，所以不僅能夠提高圖像識(shí)別的精度，而且還能夠減小神經(jīng)網(wǎng)絡(luò)的大小，所以與以往比較，能夠?qū)D像識(shí)別的處理速度提高4倍左右。
[0094]另外，在實(shí)施方式I中，說明了使分類器10進(jìn)行兩階段學(xué)習(xí)的情況，但是并不限于此。也可以進(jìn)行三階段以上的多階段學(xué)習(xí)。
[0095]例如，在進(jìn)行3階段學(xué)習(xí)的情況下，學(xué)習(xí)系統(tǒng)I還使由第3神經(jīng)網(wǎng)絡(luò)構(gòu)成的第3粗類別分類器將上述圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)第3粗類別，學(xué)習(xí)該多個(gè)第3粗類別的每一個(gè)第3粗類別的共同的特征即第3特征。然后，使由上述第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器1b將上述圖像組分類為上述粗類別，學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的第I特征，所述第I神經(jīng)網(wǎng)絡(luò)與學(xué)習(xí)了該第3特征的第3神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同。這里，上述多個(gè)粗類別只要分別通過包含多個(gè)第3粗類別而包含該多個(gè)第3粗類別所包含的多個(gè)詳細(xì)類別即可。
[0096]這樣，只要通過以兩階段以上進(jìn)行上述的粗類別分類，來使分類器10進(jìn)行3階段以上的多階段學(xué)習(xí)即可。在構(gòu)成被賦予了表示詳細(xì)類別的標(biāo)簽的圖像組的圖像較多的情況下在一個(gè)階段的粗類別分類中輸出數(shù)(最終層的神經(jīng)元數(shù))變多時(shí)特別有效。
[0097](變形例I)
[0098]在實(shí)施方式I中，說明了學(xué)習(xí)系統(tǒng)I使用基于表示詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的粗類別來設(shè)計(jì)粗類別分類器1a的情況，但是并不限于此。學(xué)習(xí)系統(tǒng)I也可以基于表示詳細(xì)類別的標(biāo)簽的內(nèi)容制作粗類別。以下，說明該情況的一例作為變形例I。
[0099][學(xué)習(xí)系統(tǒng)IA的構(gòu)成]
[0100]圖9A是表示變形例I中的學(xué)習(xí)系統(tǒng)IA的構(gòu)成的一例的方框圖。圖9B是表示圖9A所示的粗類別制作部6的詳細(xì)構(gòu)成的一例的方框圖。對(duì)于與圖1同樣的要素標(biāo)注同一符號(hào)，并省略詳細(xì)的說明。
[0101]圖9A所示的學(xué)習(xí)系統(tǒng)IA相對(duì)于圖1所示的學(xué)習(xí)系統(tǒng)I，不同點(diǎn)在于增加了粗類別制作部6。
[0102]粗類別制作部6基于對(duì)構(gòu)成上述圖像組的多個(gè)圖像分別賦予的表示詳細(xì)類別的標(biāo)簽的內(nèi)容，制作多個(gè)粗類別。另外，粗類別制作部6也可以基于構(gòu)成上述圖像組的多個(gè)圖像各自的圖像的相似度，制作多個(gè)粗類別。
[0103][粗類別制作部6的構(gòu)成]
[0104]在本變形例中，粗類別制作部6如圖9B所示，例如具備粗類別制作處理部61和粗類別標(biāo)簽附加部62。
[0105]粗類別制作處理部61例如通過進(jìn)行無指導(dǎo)聚類，能夠?qū)?gòu)成圖像組的多個(gè)圖像分類為多個(gè)粗類別，來制作多個(gè)粗類別。例如，粗類別制作處理部61基于對(duì)構(gòu)成圖像組的多個(gè)圖像分別賦予的表示詳細(xì)類別的標(biāo)簽的內(nèi)容或構(gòu)成上述圖像組的多個(gè)圖像各自的圖像的相似度，將構(gòu)成圖像組的多個(gè)圖像分類為多個(gè)粗類別。然后，制作能夠唯一地標(biāo)識(shí)所分類的多個(gè)粗類別的名稱等。這樣，粗類別制作處理部能夠制作上述的多個(gè)粗類別。
[0106]粗類別標(biāo)簽附加部62對(duì)作為構(gòu)成圖像組的多個(gè)圖像、被賦予了表示各自的詳細(xì)類別的標(biāo)簽的多個(gè)圖像，分別賦予表示在粗類別制作處理部61中被分類的粗類別的標(biāo)簽。
[0107][學(xué)習(xí)系統(tǒng)IA的學(xué)習(xí)處理]
[0108]接著，使用圖說明如以上那樣構(gòu)成的學(xué)習(xí)系統(tǒng)IA的學(xué)習(xí)處理。由于關(guān)于學(xué)習(xí)系統(tǒng)IA的兩階段學(xué)習(xí)處理如圖5所示，關(guān)于詳細(xì)類別學(xué)習(xí)(步驟S2)的詳細(xì)處理如圖8所示，所以省略說明。以下，以與實(shí)施方式I不同的部分為中心進(jìn)行說明。
[0109]圖1OA是表示變形例I中的粗類別學(xué)習(xí)(步驟SI)的詳細(xì)處理的一例的流程圖。圖1OB是表示圖1OA所示的步驟SlO的詳細(xì)處理的一例的流程圖。對(duì)于與圖7同樣的要素標(biāo)注相同的符號(hào)，并省略說明。
[0110]圖1OA所示的粗類別學(xué)習(xí)的詳細(xì)處理與圖7所示的粗類別學(xué)習(xí)的詳細(xì)處理比較，不同點(diǎn)在于增加了步驟SlO的處理。
[0111]在步驟S10，學(xué)習(xí)系統(tǒng)IA使粗類別制作部6基于對(duì)構(gòu)成上述圖像組的多個(gè)圖像分別賦予的表示詳細(xì)類別的標(biāo)簽的內(nèi)容，制作多個(gè)粗類別。另外，學(xué)習(xí)系統(tǒng)IA也可以使粗類別制作部6基于構(gòu)成上述圖像組的多個(gè)圖像各自的圖像的相似度，制作多個(gè)粗類別。
[0112]更具體地，如圖1OB所示，在步驟SlO，首先，學(xué)習(xí)系統(tǒng)IA進(jìn)行粗類別制作處理(S101)。在本變形例中，學(xué)習(xí)系統(tǒng)IA使粗類別制作處理部61從外部取得被賦予了表示詳細(xì)類別的標(biāo)簽的圖像組。然后，學(xué)習(xí)系統(tǒng)IA使粗類別制作處理部61將構(gòu)成所取得的圖像組的多個(gè)圖像分類為多個(gè)粗類別，來制作多個(gè)粗類別。
[0113]接著，學(xué)習(xí)系統(tǒng)IA進(jìn)行粗類別標(biāo)簽附加處理(S102)。在本變形例中，學(xué)習(xí)系統(tǒng)IA使粗類別標(biāo)簽附加部62基于在步驟SlOl進(jìn)行的分類結(jié)果，對(duì)構(gòu)成該圖像組的多個(gè)圖像、即被賦予了表示各自的詳細(xì)類別的標(biāo)簽的多個(gè)圖像，分別賦予表示在步驟SlOl分類的粗類別的標(biāo)簽。
[0114](變形例2)
[0115]在實(shí)施方式I中，說明了通過替換(置換)第I神經(jīng)網(wǎng)絡(luò)的最終層來設(shè)計(jì)第2神經(jīng)網(wǎng)絡(luò)的最終層的情況的例子，但是并不限于此。也可以使構(gòu)成同一第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中要使用的神經(jīng)元依第I神經(jīng)網(wǎng)絡(luò)和第2神經(jīng)網(wǎng)絡(luò)改變。以下，關(guān)于該情況下的例子，作為變形例2進(jìn)行說明。
[0116][構(gòu)成]
[0117]圖11是表示變形例2中的第3神經(jīng)網(wǎng)絡(luò)的一例的圖。圖12A是表示構(gòu)成變形例2中的粗類別分類器的第I神經(jīng)網(wǎng)絡(luò)1c的一例的圖。圖12B是表示構(gòu)成變形例2中的詳細(xì)類別分類器的第2神經(jīng)網(wǎng)絡(luò)1d的一例的圖。另外，對(duì)于與圖2A及圖2B同樣的要素標(biāo)注相同的符號(hào)，并省略詳細(xì)的說明。
[0118]學(xué)習(xí)系統(tǒng)I在進(jìn)行分類器10的多階段學(xué)習(xí)時(shí)，使用粗類別分類器1c進(jìn)行粗類別學(xué)習(xí)，使用詳細(xì)類別分類器1d進(jìn)行詳細(xì)類別學(xué)習(xí)。
[0119]在本變形例中，粗類別分類器1c和詳細(xì)類別分類器1d使用例如圖11所示的第3神經(jīng)網(wǎng)絡(luò)構(gòu)成。這里，第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元由與將粗類別的數(shù)量和詳細(xì)類別的數(shù)量相加而得到的數(shù)量相同數(shù)量以上的的神經(jīng)元構(gòu)成。
[0120]構(gòu)成粗類別分類器1c的第I神經(jīng)網(wǎng)絡(luò)如圖12A所示，使用圖11所示的第3神經(jīng)網(wǎng)絡(luò)的最終層以外的層和該最終層的一部分構(gòu)成。具體地，構(gòu)成粗類別分類器1c的第I神經(jīng)網(wǎng)絡(luò)由使用第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中與粗類別的數(shù)量相同數(shù)量的神經(jīng)元的第3神經(jīng)網(wǎng)絡(luò)構(gòu)成。
[0121]構(gòu)成詳細(xì)類別分類器1d的第2神經(jīng)網(wǎng)絡(luò)如圖12B所示，使用圖11所示的第3神經(jīng)網(wǎng)絡(luò)的最終層以外的層和該最終層的另一部分構(gòu)成。具體地，構(gòu)成詳細(xì)類別分類器1d的第2神經(jīng)網(wǎng)絡(luò)由使用第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中與第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元不同且與詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元的第3神經(jīng)網(wǎng)絡(luò)構(gòu)成。
[0122][學(xué)習(xí)系統(tǒng)I的學(xué)習(xí)處理]
[0123]在本變形例中，學(xué)習(xí)系統(tǒng)I使用如以上那樣構(gòu)成的粗類別分類器1c和詳細(xì)類別分類器1d進(jìn)行例如圖5中說明的學(xué)習(xí)處理。
[0124]更具體地，在本變形例的學(xué)習(xí)處理中，進(jìn)而在步驟SI的粗類別分類器1c的學(xué)習(xí)處理之前，用與將粗類別的數(shù)量和詳細(xì)類別的數(shù)量相加而得到的數(shù)量相同數(shù)量以上的神經(jīng)元設(shè)計(jì)例如圖11所示的第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元。
[0125]因此，變形例的學(xué)習(xí)系統(tǒng)I在步驟SI，通過將使用第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中與粗類別的數(shù)量相同數(shù)量的神經(jīng)元的第3神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)作為構(gòu)成粗類別分類器1c的第I神經(jīng)網(wǎng)絡(luò)，來將第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)計(jì)為與基于表示詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的粗類別的數(shù)量相同數(shù)量的神經(jīng)元。
[0126]進(jìn)而，變形例的學(xué)習(xí)系統(tǒng)I在步驟S2，通過將使用第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中與第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元不同且與詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元的第3神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)作為構(gòu)成詳細(xì)類別分類器1d的第2神經(jīng)網(wǎng)絡(luò)，來將在步驟SI進(jìn)行了學(xué)習(xí)的第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)榕c詳細(xì)類別的數(shù)量相同數(shù)量的神經(jīng)元而設(shè)計(jì)作為第2神經(jīng)網(wǎng)絡(luò)。
[0127](實(shí)施方式2)
[0128]在實(shí)施方式I中，舉例說明了將第2神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重設(shè)定成隨機(jī)值的情況，但是并不限于此。也可以基于進(jìn)行了粗類別學(xué)習(xí)的第I神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重和詳細(xì)類別及粗類別的關(guān)系性，設(shè)定第2神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重。以下，關(guān)于該情況，說明與實(shí)施方式I不同的部分。
[0129][學(xué)習(xí)系統(tǒng)IB的構(gòu)成]
[0130]圖13是表示實(shí)施方式2中的學(xué)習(xí)系統(tǒng)IB的構(gòu)成的一例的方框圖。圖14是用于說明在實(shí)施方式2中的學(xué)習(xí)系統(tǒng)IB進(jìn)行的學(xué)習(xí)處理中使用的詳細(xì)類別分類器1e的構(gòu)成的圖。圖14中的a、b、k、al?al、bl?bm、kl?kn是正的整數(shù)。另外，對(duì)于與圖1等同樣的要素標(biāo)注相同的符號(hào)，并省略詳細(xì)的說明。
[0131]圖13所示的學(xué)習(xí)系統(tǒng)IB具備信息取得部2、分類器設(shè)計(jì)部3、分類器學(xué)習(xí)部4、保存部5、權(quán)重設(shè)定部7。圖13所示的學(xué)習(xí)系統(tǒng)IB相對(duì)于圖1所示的學(xué)習(xí)系統(tǒng)I，不同點(diǎn)在于具備權(quán)重設(shè)定部7。
[0132]權(quán)重設(shè)定部7基于由進(jìn)行了粗類別學(xué)習(xí)的粗類別分類器1a取得的第I神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重和包含關(guān)系等詳細(xì)類別與粗類別的關(guān)系性，計(jì)算并設(shè)定新的最終層的權(quán)重即第2神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重。更具體地，權(quán)重設(shè)定部7計(jì)算將表示通過粗類別學(xué)習(xí)而獲得的粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重基于多個(gè)粗類別和該多個(gè)粗類別中所包含的多個(gè)詳細(xì)類別的關(guān)系性而按比例分配而得到的值。然后，權(quán)重設(shè)定部7使用所計(jì)算的值，設(shè)定表示第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的第2神經(jīng)網(wǎng)絡(luò)的最終層的第2權(quán)重。
[0133]例如，在圖14中，示出Wa、Wb、."、Wk等第I權(quán)重和Wal?Wal、Wbl?Wbm、."、Wkl?Wkn等第2權(quán)重。另外，在圖14中，示出第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元所輸出的多個(gè)粗類別(粗類別a、粗類別b、…粗類別k)和第2神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元所輸出的多個(gè)詳細(xì)類別(詳細(xì)類別al?詳細(xì)類別al、詳細(xì)類別bl?詳細(xì)類別bm、...、詳細(xì)類別kl?詳細(xì)類別Kn)。
[0134]S卩，權(quán)重設(shè)定部7通過在粗類別學(xué)習(xí)中學(xué)習(xí)第I神經(jīng)網(wǎng)絡(luò)，能夠取得輸出粗類別a、粗類別b、…、粗類別k的最終層的神經(jīng)元的第I權(quán)重Wa、Wb、…、Wk，作為第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重。然后，在詳細(xì)類別分類器1e中，多個(gè)粗類別(粗類別a、粗類別b、…粗類別k)被置換為多個(gè)粗類別(粗類別a、粗類別b、…粗類別k)中所包含的多個(gè)詳細(xì)類別(詳細(xì)類別al?詳細(xì)類別al、詳細(xì)類別bl?詳細(xì)類別bm、...、詳細(xì)類別kl?詳細(xì)類別Kn。此時(shí)，權(quán)重設(shè)定部7基于多個(gè)粗類別(粗類別a、粗類別b、…粗類別k)中所包含的多個(gè)詳細(xì)類別(詳細(xì)類別al?詳細(xì)類別al、詳細(xì)類別bl?詳細(xì)類別bm、...、詳細(xì)類別kl?詳細(xì)類別Kn)的關(guān)系性，計(jì)算將所取得的第I權(quán)重Wa、Wb、"_、Wk以對(duì)應(yīng)的粗類別所包含的詳細(xì)類別的數(shù)量(I個(gè)、m個(gè)、…、η個(gè))按比例分配而得到的值(Wa I?Wa Uffbl?Wbm、…、Wkl?Wkn )，作為第2權(quán)重。
[0135][學(xué)習(xí)系統(tǒng)IB的學(xué)習(xí)處理]
[0136]接著，說明以上那樣構(gòu)成的學(xué)習(xí)系統(tǒng)IB的學(xué)習(xí)處理。由于關(guān)于學(xué)習(xí)系統(tǒng)IB的兩階段學(xué)習(xí)處理如圖5所示，關(guān)于粗類別學(xué)習(xí)(步驟SI)的詳細(xì)處理如圖7所示，所以省略說明。以下，以與實(shí)施方式I不同的部分為中心進(jìn)行說明。
[0137]圖15是表示實(shí)施方式2中的詳細(xì)類別學(xué)習(xí)(步驟S2)的詳細(xì)處理的一例的流程圖。另外，由于圖15的步驟S32、步驟S34?步驟S36與圖8中說明的步驟S21?步驟S24相同，所以省略這里的說明。
[0138]首先，在步驟S31，學(xué)習(xí)系統(tǒng)IB使權(quán)重設(shè)定部7取得構(gòu)成在步驟SlO使粗類別分類器1a進(jìn)行了粗類別學(xué)習(xí)時(shí)獲得的粗類別分類器1a的第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重。
[0139]另外，在步驟S33，學(xué)習(xí)系統(tǒng)IB使權(quán)重設(shè)定部7使用將所取得的第I權(quán)重基于詳細(xì)類別與粗類別的關(guān)系性而按比例分配而得到的值，設(shè)定構(gòu)成詳細(xì)類別分類器1b的第2神經(jīng)網(wǎng)絡(luò)的最終層的第2權(quán)重。這里，詳細(xì)類別與粗類別的關(guān)系性是多個(gè)粗類別和該多個(gè)粗類別中所包含的多個(gè)詳細(xì)類別的關(guān)系性，在上述的例子中，是粗類別中所包含的多個(gè)詳細(xì)類別的數(shù)量。
[0140][效果等]
[0141]如上所述，根據(jù)本實(shí)施方式，與現(xiàn)有技術(shù)相比，可以實(shí)現(xiàn)能夠不使圖像識(shí)別的處理速度降低而高精度地進(jìn)行圖像識(shí)別的分類器的學(xué)習(xí)方法等。
[0142]另外，如上所述，在實(shí)施方式2的學(xué)習(xí)方法中，除了實(shí)施方式I的學(xué)習(xí)方法外，還基于在通過粗類別分類處理進(jìn)行了學(xué)習(xí)時(shí)取得的粗類別分類器1a的最終層的權(quán)重，設(shè)定在詳細(xì)類別分類處理中使用的詳細(xì)類別分類器1b的最終層的權(quán)重。由此，能夠提高分類器10的圖像識(shí)別的精度及圖像識(shí)別的處理速度。
[0143]以上，通過實(shí)施方式1、變形例1、變形例2及實(shí)施方式2說明了本公開的學(xué)習(xí)方法，但是關(guān)于實(shí)施各處理的主體和/或裝置沒有特別限定。也可以通過組裝到在本地配置的特定的裝置內(nèi)的處理器等(以下說明)來處理。另外，也可以由在與本地的裝置不同的場(chǎng)所配置的云服務(wù)器等進(jìn)行處理。
[0144]另外，本公開還包含以下的情況。
[0145](I)上述的裝置具體地，是包括微處理器、R0M、RAM、硬盤單元、顯示器單元、鍵盤、鼠標(biāo)等的計(jì)算機(jī)系統(tǒng)。在上述RAM或硬盤單元中，存儲(chǔ)有計(jì)算機(jī)程序。上述微處理器通過按照上述計(jì)算機(jī)程序進(jìn)行工作，使各裝置實(shí)現(xiàn)其功能。這里，計(jì)算機(jī)程序?yàn)榱藢?shí)現(xiàn)預(yù)定的功能，使表示對(duì)計(jì)算機(jī)的指令的指令碼多個(gè)組合而構(gòu)成。
[0146](2)構(gòu)成上述的裝置的構(gòu)成要素的一部分或全部也可以包括一個(gè)系統(tǒng)LSI (LargeScale Integrat1n:大規(guī)模集成電路)。系統(tǒng)LSI是在一個(gè)芯片上集成多個(gè)構(gòu)成部而制造的超多功能LSI，具體地，是包含微處理器、R0M、RAM等而構(gòu)成的計(jì)算機(jī)系統(tǒng)。在上述RAM中，存儲(chǔ)有計(jì)算機(jī)程序。上述微處理器通過按照上述計(jì)算機(jī)程序而工作，使系統(tǒng)LSI實(shí)現(xiàn)其功能。
[0147](3)構(gòu)成上述的裝置的構(gòu)成要素的一部分或全部也可以包括對(duì)各裝置可以裝卸的IC卡或單體模塊。上述IC卡或上述模塊是包括微處理器、R0M、RAM等的計(jì)算機(jī)系統(tǒng)。上述IC卡或上述模塊也可以包含上述的超多功能LSI。微處理器通過按照計(jì)算機(jī)程序而工作，使上述IC卡或上述模塊實(shí)現(xiàn)其功能。該IC卡或該模塊也可以具有耐破解性。
[0148](4)本公開也可以構(gòu)成為上述所示的方法。另外，既可以將這些方法構(gòu)成為由計(jì)算機(jī)實(shí)現(xiàn)的計(jì)算機(jī)程序，也可以構(gòu)成為包括上述計(jì)算機(jī)程序的數(shù)字信號(hào)。
[0149](5)另外，本公開也可以構(gòu)成為將上述計(jì)算機(jī)程序或上述數(shù)字信號(hào)記錄到由計(jì)算機(jī)可以讀取的記錄介質(zhì)例如軟盤、硬盤、CD-ROM、MO、DVD、DVD-ROM、DVD-RAM、BD (Blu-ray (注冊(cè)商標(biāo))盤)、半導(dǎo)體存儲(chǔ)器等而得到的物品。另外，也可以形成為在這些記錄介質(zhì)中記錄的上述數(shù)字信號(hào)。
[0150]另外，本公開也可以形成為經(jīng)由電通信線路、無線或有線通信線路、以因特網(wǎng)為代表的網(wǎng)絡(luò)、數(shù)據(jù)廣播等傳送上述計(jì)算機(jī)程序或上述數(shù)字信號(hào)的物品。
[0151]另外，本公開也可以形成為具備微處理器和存儲(chǔ)器的計(jì)算機(jī)系統(tǒng)，上述存儲(chǔ)器存儲(chǔ)上述計(jì)算機(jī)程序，上述微處理器按照上述計(jì)算機(jī)程序而工作。
[0152]另外，也可以通過將上述程序或上述數(shù)字信號(hào)記錄到上述記錄介質(zhì)而移送，或通過將上述程序或上述數(shù)字信號(hào)經(jīng)由上述網(wǎng)絡(luò)等移送，由獨(dú)立的其他計(jì)算機(jī)系統(tǒng)實(shí)施。
[0153](6)也可以將上述實(shí)施方式及上述變形例分別組合。
[0154]本公開能夠在用于對(duì)圖像進(jìn)行分類的分類器的學(xué)習(xí)方法及其程序等中利用，特別地，能夠在具備可以從圖像高精度地識(shí)別圖像中所包含的物體為何的物體識(shí)別方法及系統(tǒng)的數(shù)字照相機(jī)、影片、監(jiān)視照相機(jī)、車載照相機(jī)、可佩帶照相機(jī)等拍攝裝置中利用。
【主權(quán)項(xiàng)】
1.一種學(xué)習(xí)方法，其是用于對(duì)圖像進(jìn)行分類的分類器的學(xué)習(xí)方法，包括: 第I步驟，使由第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的粗類別分類器將圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)粗類別而學(xué)習(xí)該多個(gè)粗類別的每一個(gè)粗類別的共同的特征即第I特征，所述圖像組是被賦予了表示各自的詳細(xì)類別的標(biāo)簽的多個(gè)圖像的圖像組；以及 第2步驟，使由第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的詳細(xì)類別分類器將上述圖像組分類為詳細(xì)類別而學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的共同的特征即第2特征，由此進(jìn)行上述分類器的學(xué)習(xí)，所述第2神經(jīng)網(wǎng)絡(luò)與在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同。2.根據(jù)權(quán)利要求1所述的學(xué)習(xí)方法， 上述第I步驟包括: 第I設(shè)計(jì)步驟，以數(shù)量與基于表示上述詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的上述粗類別的數(shù)量相同的神經(jīng)元來設(shè)計(jì)上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元；以及 第I學(xué)習(xí)步驟，使由所設(shè)計(jì)的上述第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的上述粗類別分類器取得上述圖像組并學(xué)習(xí)上述第I特征， 上述第2步驟包括: 第2設(shè)計(jì)步驟，通過將在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)閿?shù)量與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元，來設(shè)計(jì)上述第2神經(jīng)網(wǎng)絡(luò)；以及 第2學(xué)習(xí)步驟，使由所設(shè)計(jì)的上述第2神經(jīng)網(wǎng)絡(luò)構(gòu)成的上述詳細(xì)類別分類器取得上述圖像組并學(xué)習(xí)上述第2特征，由此進(jìn)行上述分類器的學(xué)習(xí)。3.根據(jù)權(quán)利要求2所述的學(xué)習(xí)方法， 在上述第2設(shè)計(jì)步驟中， 通過將在上述第I學(xué)習(xí)步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元置換為與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元，來設(shè)計(jì)上述第2神經(jīng)網(wǎng)絡(luò)。4.根據(jù)權(quán)利要求2所述的學(xué)習(xí)方法， 上述詳細(xì)類別分類器和上述粗類別分類器使用第3神經(jīng)網(wǎng)絡(luò)而構(gòu)成， 在上述學(xué)習(xí)方法中， 在上述第I步驟之前，還包括第3設(shè)計(jì)步驟，上述第3設(shè)計(jì)步驟是以與將上述粗類別的數(shù)量和上述詳細(xì)類別的數(shù)量相加而得到的數(shù)量相同的數(shù)量以上的神經(jīng)元來設(shè)計(jì)上述第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元的步驟， 在上述第I設(shè)計(jì)步驟中， 將使用上述第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中數(shù)量與上述粗類別的數(shù)量相同的神經(jīng)元的上述第3神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)作為上述第I神經(jīng)網(wǎng)絡(luò)，由此將上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元設(shè)計(jì)為數(shù)量與基于表示上述詳細(xì)類別的標(biāo)簽的內(nèi)容而制作的上述粗類別的數(shù)量相同的神經(jīng)元， 在上述第2設(shè)計(jì)步驟中， 將使用上述第3神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元之中與上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元不同且數(shù)量與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元的上述第3神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)作為上述第2神經(jīng)網(wǎng)絡(luò)，由此將在上述第I步驟進(jìn)行了學(xué)習(xí)的上述第I神經(jīng)網(wǎng)絡(luò)的最終層的神經(jīng)元改變?yōu)閿?shù)量與上述詳細(xì)類別的數(shù)量相同的神經(jīng)元而設(shè)計(jì)作為上述第2神經(jīng)網(wǎng)絡(luò)。5.根據(jù)權(quán)利要求2所述的學(xué)習(xí)方法， 在上述第2設(shè)計(jì)步驟中，還包括: 將表示上述第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的上述第2神經(jīng)網(wǎng)絡(luò)的最終層的權(quán)重設(shè)定成隨機(jī)值的步驟。6.根據(jù)權(quán)利要求2所述的學(xué)習(xí)方法， 在上述第2設(shè)計(jì)步驟中，還包括: 使用將上述第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重基于上述多個(gè)粗類別和該多個(gè)粗類別中所包含的多個(gè)詳細(xì)類別的關(guān)系性按比例分配而得到的值，設(shè)定表示上述第2神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的上述第2神經(jīng)網(wǎng)絡(luò)的最終層的第2權(quán)重的步驟，所述第I神經(jīng)網(wǎng)絡(luò)的最終層的第I權(quán)重是在上述第I學(xué)習(xí)步驟進(jìn)行了學(xué)習(xí)時(shí)獲得的表示上述第I神經(jīng)網(wǎng)絡(luò)的最終層與該最終層的前一層的結(jié)合效率的權(quán)重。7.根據(jù)權(quán)利要求1所述的學(xué)習(xí)方法， 在上述學(xué)習(xí)方法中，還包括: 將在上述第2步驟學(xué)習(xí)了上述第2特征的上述詳細(xì)類別分類器作為上述分類器保存的步驟。8.根據(jù)權(quán)利要求1所述的學(xué)習(xí)方法， 在上述第I步驟中，還包括: 基于對(duì)上述多個(gè)圖像分別賦予的表示上述詳細(xì)類別的標(biāo)簽的內(nèi)容，制作上述多個(gè)粗類別的步驟。9.根據(jù)權(quán)利要求1所述的學(xué)習(xí)方法， 在上述第I步驟中，還包括: 基于上述多個(gè)圖像各自的圖像的相似度，制作上述多個(gè)粗類別的步驟。10.根據(jù)權(quán)利要求1所述的學(xué)習(xí)方法， 上述學(xué)習(xí)方法還包括: 第3步驟，使由第3神經(jīng)網(wǎng)絡(luò)構(gòu)成的第3粗類別分類器將上述圖像組分類為包含多個(gè)詳細(xì)類別的多個(gè)第3粗類別而學(xué)習(xí)該多個(gè)第3粗類別的每一個(gè)第3粗類別的共同的特征即第3特征， 在上述第I步驟中，包括: 使由上述第I神經(jīng)網(wǎng)絡(luò)構(gòu)成的上述詳細(xì)類別分類器將上述圖像組分類為上述粗類別而學(xué)習(xí)該詳細(xì)類別的每一個(gè)詳細(xì)類別的上述第I特征的學(xué)習(xí)步驟，所述第I神經(jīng)網(wǎng)絡(luò)是與在上述第3步驟進(jìn)行了學(xué)習(xí)的上述第3神經(jīng)網(wǎng)絡(luò)的最終層以外相同而僅該最終層不同的神經(jīng)網(wǎng)絡(luò)， 上述多個(gè)粗類別通過分別包含多個(gè)第3粗類別而包含該多個(gè)第3粗類別中所包含的多個(gè)詳細(xì)類別。11.根據(jù)權(quán)利要求1所述的學(xué)習(xí)方法， 上述第I步驟和上述第2步驟中的至少一個(gè)步驟由處理器執(zhí)行。
【文檔編號(hào)】G06K9/62GK105938558SQ201610094433
【公開日】2016年9月14日
【申請(qǐng)日】2016年2月19日
【發(fā)明人】羽川令子, 筑澤宗太郎, 石井育規(guī)
【申請(qǐng)人】松下知識(shí)產(chǎn)權(quán)經(jīng)營(yíng)株式會(huì)社