背景技術(shù):
1、數(shù)字病理學(xué)可涉及對數(shù)字化圖像的解釋,以便正確地診斷受試者的疾病并指導(dǎo)治療決策制定。在數(shù)字病理學(xué)解決方案中,可建立圖像分析工作流程以自動地對目的生物學(xué)對象(例如,對特定的生物標(biāo)志物或其他指示物呈陽性或陰性的腫瘤細(xì)胞等)進(jìn)行檢測或分類。示例性數(shù)字病理學(xué)解決方案工作流程包括:獲得組織樣品的載玻片,用數(shù)字圖像掃描儀(例如,全載玻片圖像(wsi)掃描儀)來掃描組織載玻片的預(yù)先選擇的區(qū)域或整個組織載玻片以獲得數(shù)字圖像,使用一種或多種圖像分析算法來對數(shù)字圖像進(jìn)行圖像分析(例如,以檢測目的對象)。此類工作流程還可包括基于圖像分析來量化目的對象(例如,對對象的對象特定或累積區(qū)域進(jìn)行計數(shù)或識別),并且可進(jìn)一步包括基于量化的結(jié)果來對樣品進(jìn)行定量或半定量評分(例如,為陽性、陰性、中度、弱等)。
技術(shù)實現(xiàn)思路
1、在各種實施例中,提供了一種用于對輸入圖像進(jìn)行分類的計算機(jī)實現(xiàn)方法,該方法包括:使用包括至少一個卷積層的經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來生成針對輸入圖像的特征圖;生成特征圖的多個同心裁剪;使用來自該多個同心裁剪中的每一個的信息來生成輸出向量,該輸出向量表示在輸入圖像的中心區(qū)中描繪的結(jié)構(gòu)的特征;以及通過處理輸出向量來確定分類結(jié)果。
2、在一些實施例中,使用該多個同心裁剪來生成輸出向量包括:對于該多個同心裁剪中的每一個,使用至少一個池化操作來生成多個特征向量中的對應(yīng)一個;以及使用該多個特征向量來生成輸出向量。在此類方法中,可按照對應(yīng)同心裁剪的徑向尺寸來對該多個特征向量進(jìn)行排序,并且生成輸出向量可包括:在相鄰對的經(jīng)排序的多個特征向量上獨立地對經(jīng)訓(xùn)練的過濾器進(jìn)行卷積。
3、在一些實施例中,使用該多個同心裁剪來生成輸出向量包括:對于該多個同心裁剪中的每一個,使用至少一個池化操作來生成多個特征向量中的對應(yīng)一個;以及使用該多個特征向量來生成輸出向量。在此類方法中,可按照對應(yīng)同心裁剪的徑向尺寸來對該多個特征向量進(jìn)行排序,并且生成輸出向量可包括:在第一相鄰對的經(jīng)排序的多個特征向量上對經(jīng)訓(xùn)練的過濾器進(jìn)行卷積以產(chǎn)生第一組合特征向量;以及在第二相鄰對的經(jīng)排序的多個特征向量上對經(jīng)訓(xùn)練的過濾器進(jìn)行卷積以產(chǎn)生第二組合特征向量。在此類方法中,使用該多個特征向量來生成輸出向量可包括:使用第一組合特征向量和第二組合特征向量來生成輸出向量。
4、在各種實施例中,提供了一種用于對輸入圖像進(jìn)行分類的計算機(jī)實現(xiàn)方法,該方法包括:生成針對輸入圖像的特征圖;使用來自特征圖的信息來生成多個特征向量;使用經(jīng)訓(xùn)練的共享模型來生成第二多個特征向量,該模型被獨立地應(yīng)用于該多個特征向量中的每一個;使用來自該第二多個特征向量中的每一個的信息來生成輸出向量,該輸出向量表示在輸入圖像中描繪的結(jié)構(gòu)的特征;以及通過處理輸出向量來確定分類結(jié)果。
5、在各種實施例中,提供了一種用于訓(xùn)練分類模型的計算機(jī)實現(xiàn)方法,該分類模型包括第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò),該方法包括:使用第一神經(jīng)網(wǎng)絡(luò)和來自第一數(shù)據(jù)集的圖像的信息來生成多個特征圖;以及使用該多個特征圖來訓(xùn)練第二神經(jīng)網(wǎng)絡(luò)。在該方法中,第一數(shù)據(jù)集的每個圖像描繪至少一個生物細(xì)胞,并且在第二數(shù)據(jù)集的多個圖像上對第一神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練,該第二數(shù)據(jù)集包括未描繪生物細(xì)胞的圖像。
6、在各種實施例中,提供了一種用于對輸入圖像進(jìn)行分類的計算機(jī)實現(xiàn)方法,該方法包括:使用分類模型的第一經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來生成針對輸入圖像的特征圖;使用分類模型的第二經(jīng)訓(xùn)練的網(wǎng)絡(luò)和來自特征圖的信息來生成輸出向量,該輸出向量表示在輸入圖像的中心部分中描繪的結(jié)構(gòu)的特征;以及通過處理輸出向量來確定分類結(jié)果。在該方法中,輸入圖像描繪至少一個生物細(xì)胞,在第一多個圖像上對第一經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練,該第一多個圖像包括未描繪生物細(xì)胞的圖像,并且通過為分類模型提供描繪生物細(xì)胞的第二多個圖像來訓(xùn)練第二經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。
7、在一些實施例中,提供了一種系統(tǒng),該系統(tǒng)包括:一個或多個數(shù)據(jù)處理器和非暫時性計算機(jī)可讀存儲介質(zhì),該非暫時性計算機(jī)可讀存儲介質(zhì)包含指令,該指令當(dāng)在該一個或多個數(shù)據(jù)處理器上被執(zhí)行時,使該一個或多個數(shù)據(jù)處理器進(jìn)行本文所公開的一種或多種方法的一部分或全部。
8、在一些實施例中,提供了一種計算機(jī)程序產(chǎn)品,其有形地體現(xiàn)在非暫時性機(jī)器可讀存儲介質(zhì)中,并且包括被配置成促使一個或多個數(shù)據(jù)處理器執(zhí)行本文所公開的一種或多種方法的部分或全部的指令。
9、本公開的一些實施例包括一種系統(tǒng),該系統(tǒng)包括一個或多個數(shù)據(jù)處理器。在一些實施例中,該系統(tǒng)包括包含指令的非暫時性計算機(jī)可讀存儲介質(zhì),所述指令在所述一個或多個數(shù)據(jù)處理器上被執(zhí)行時使所述一個或多個數(shù)據(jù)處理器執(zhí)行本文公開的一種或多種方法的部分或全部和/或本文公開的一種或多種過程的部分或全部。本公開的一些實施例包括一種有形地體現(xiàn)在非暫時性機(jī)器可讀存儲介質(zhì)中的計算機(jī)程序產(chǎn)品,其包括指令,該指令被配置成使一個或多個數(shù)據(jù)處理器進(jìn)行本文公開的一種或多種方法的部分或全部和/或本文公開的一種或多種過程的部分或全部。
10、已采用的術(shù)語和表達(dá)被用作描述性而非限制性的術(shù)語,并且在使用此類術(shù)語和表達(dá)時,無意排除所示出和描述的特征或其部分的任何等同物,但是應(yīng)當(dāng)認(rèn)識到,在所要求保護(hù)的本發(fā)明的范圍內(nèi),各種修改是可能的。因此,應(yīng)當(dāng)理解,盡管已通過實施例和任選特征具體地公開了所要求保護(hù)的本發(fā)明,但是本領(lǐng)域技術(shù)人員可以采用本文所公開的概念的修改和變化,并且認(rèn)為這樣的修改和變化在由所附權(quán)利要求限定的本發(fā)明范圍內(nèi)。
1.一種用于對輸入圖像進(jìn)行分類的計算機(jī)實現(xiàn)方法,所述方法包括:使用包括至少一個卷積層的經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來生成針對所述輸入圖像的特征圖;
2.根據(jù)權(quán)利要求1所述的計算機(jī)實現(xiàn)方法,其中所述輸入圖像的所述中心區(qū)中描繪的所述結(jié)構(gòu)是要被分類的結(jié)構(gòu)。
3.根據(jù)權(quán)利要求1和2中任一項所述的計算機(jī)實現(xiàn)方法,其中所述輸入圖像的所述中心區(qū)中描繪的所述結(jié)構(gòu)是生物細(xì)胞。
4.根據(jù)權(quán)利要求1至3中任一項所述的計算機(jī)實現(xiàn)方法,其中,對于所述多個同心裁剪中的每一個,所述特征圖的中心與所述裁剪的中心重合。
5.根據(jù)權(quán)利要求1至4中任一項所述的計算機(jī)實現(xiàn)方法,其中所述分類結(jié)果預(yù)測所述輸入圖像描繪有絲分裂象。
6.根據(jù)權(quán)利要求1至5中任一項所述的計算機(jī)實現(xiàn)方法,所述方法進(jìn)一步包括:使用包括至少一個卷積層的經(jīng)訓(xùn)練的編碼器來生成所述輸入圖像的至少一部分的潛在嵌入,其中生成所述特征圖還使用所述潛在嵌入。
7.根據(jù)權(quán)利要求1至6中任一項所述的計算機(jī)實現(xiàn)方法,所述方法進(jìn)一步包括:使用所述經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)的多個最終層中的相應(yīng)一個來生成多個特征圖中的每一個,其中生成所述特征圖使用所述多個特征圖的拼接。
8.根據(jù)權(quán)利要求1至7中任一項所述的計算機(jī)實現(xiàn)方法,其中使用來自所述多個同心裁剪中的每一個的信息來生成所述輸出向量包括:對于所述多個同心裁剪中的每一個,使用至少一個池化操作來生成多個特征向量中的對應(yīng)一個;以及
9.根據(jù)權(quán)利要求8所述的計算機(jī)實現(xiàn)方法,其中使用來自所述多個特征向量中的每一個的信息來生成所述輸出向量包括:使用所述多個特征向量的加權(quán)和來生成所述輸出向量。
10.根據(jù)權(quán)利要求8所述的計算機(jī)實現(xiàn)方法,所述方法進(jìn)一步包括:按照對應(yīng)同心裁剪的徑向尺寸來對所述多個特征向量進(jìn)行排序,并且其中生成所述輸出向量包括:在相鄰對的經(jīng)排序的多個特征向量上獨立地對經(jīng)訓(xùn)練的過濾器進(jìn)行卷積。
11.根據(jù)權(quán)利要求8所述的計算機(jī)實現(xiàn)方法,其中按照對應(yīng)同心裁剪的徑向尺寸來對所述多個特征向量進(jìn)行排序,并且
12.根據(jù)權(quán)利要求8所述的計算機(jī)實現(xiàn)方法,其中使用所述多個特征向量來生成所述輸出向量包括:
13.根據(jù)權(quán)利要求12所述的計算機(jī)實現(xiàn)方法,其中使用來自所述第二多個特征向量中的每一個的信息來生成所述輸出向量包括:使用所述第二多個特征向量的加權(quán)和來生成所述輸出向量。
14.根據(jù)權(quán)利要求1至13中任一項所述的計算機(jī)實現(xiàn)方法,其中所述方法進(jìn)一步包括:使用第二經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來選擇所述輸入圖像作為更大圖像的圖塊,其中所述輸入圖像的中心區(qū)描繪生物細(xì)胞。
15.根據(jù)權(quán)利要求1至14中任一項所述的計算機(jī)實現(xiàn)方法,其中處理所述輸出向量包括:將sigmoid函數(shù)應(yīng)用于所述輸出向量。
16.一種用于對輸入圖像進(jìn)行分類的計算機(jī)實現(xiàn)方法,所述方法包括:生成針對所述輸入圖像的特征圖;
17.根據(jù)權(quán)利要求16所述的計算機(jī)實現(xiàn)方法,其中使用所述特征圖來生成所述多個特征向量包括:使用至少一個池化操作。
18.根據(jù)權(quán)利要求16和17中任一項所述的計算機(jī)實現(xiàn)方法,其中所述結(jié)構(gòu)被描繪在所述輸入圖像的中心部分中。
19.根據(jù)權(quán)利要求16至18中任一項所述的計算機(jī)實現(xiàn)方法,其中使用所述第二多個特征向量來生成所述輸出向量包括:使用所述第二多個特征向量的加權(quán)和來生成所述輸出向量。
20.一種用于訓(xùn)練分類模型的計算機(jī)實現(xiàn)方法,所述分類模型包括第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò),所述方法包括:
21.根據(jù)權(quán)利要求20所述的計算機(jī)實現(xiàn)方法,其中所述第二數(shù)據(jù)集的所述多個圖像包括描繪非生物結(jié)構(gòu)的圖像。
22.根據(jù)權(quán)利要求20和21中任一項所述的計算機(jī)實現(xiàn)方法,其中,對于所述第一數(shù)據(jù)集的每個圖像,所述圖像的中心區(qū)描繪至少一個生物細(xì)胞。
23.一種用于對輸入圖像進(jìn)行分類的計算機(jī)實現(xiàn)方法,所述方法包括:使用分類模型的第一經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來生成針對所述輸入圖像的特征圖;
24.根據(jù)權(quán)利要求23所述的計算機(jī)實現(xiàn)方法,其中所述第一多個圖像包括描繪非生物結(jié)構(gòu)的圖像。
25.根據(jù)權(quán)利要求23和24中任一項所述的計算機(jī)實現(xiàn)方法,其中,對于所述第二多個圖像中的每個圖像,所述圖像的中心區(qū)描繪至少一個生物細(xì)胞。
26.一種系統(tǒng),所述系統(tǒng)包括:
27.一種有形地體現(xiàn)在非暫時性機(jī)器可讀存儲介質(zhì)中的計算機(jī)程序產(chǎn)品,所述計算機(jī)程序產(chǎn)品包含指令,所述指令被配置成使一個或多個數(shù)據(jù)處理器進(jìn)行本文所公開的一種或多種方法的一部分或全部。