一種基于rram的新型神經(jīng)網(wǎng)絡(luò)電路的制作方法
【專利摘要】本發(fā)明提供一種神經(jīng)網(wǎng)絡(luò)電路，其特征在于，包括：若干個(gè)傳感器、若干個(gè)第一層神經(jīng)元支路以及第二層神經(jīng)元支路。每個(gè)第一層神經(jīng)元支路包括：若干個(gè)RRAM器件以及第一層神經(jīng)元。所述傳感器用于將圖片的顏色轉(zhuǎn)換為電壓信號(hào)，并將此電壓信號(hào)傳輸給所述RRAM器件；所述RRAM器件根據(jù)接收到的電壓信號(hào)產(chǎn)生電流信號(hào)，并傳輸至所述第一層神經(jīng)元；所述第一層神經(jīng)元用于對(duì)接收到的電流信號(hào)進(jìn)行求和，若神經(jīng)元被激活，則向后級(jí)發(fā)射電壓脈沖。第二層神經(jīng)元支路包括權(quán)重RRAM器件以及第二層神經(jīng)元，所述權(quán)重RRAM器件將所述第一層神經(jīng)元與所述第二層神經(jīng)元連接起來(lái)；所述第二層神經(jīng)元用于匯總?cè)舾蓚€(gè)所述第一層神經(jīng)元的電流信號(hào)，然后通過(guò)運(yùn)算產(chǎn)生最后的判斷結(jié)果。
【專利說(shuō)明】—種基于RRAM的新型神經(jīng)網(wǎng)絡(luò)電路
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及半導(dǎo)體【技術(shù)領(lǐng)域】，具體涉及一種基于RRAM的新型神經(jīng)網(wǎng)絡(luò)電路。
【背景技術(shù)】
[0002]阻變式存儲(chǔ)器RRAM在近些年吸引了廣泛的關(guān)注。高速度(<5ns)、低操作電壓(〈IV)，高存儲(chǔ)密度、易于集成等優(yōu)點(diǎn)，使得RRAM成為了下一代半導(dǎo)體存儲(chǔ)器的強(qiáng)有力競(jìng)爭(zhēng)者。RRAM器件一般具有金屬一絕緣體一金屬的結(jié)構(gòu)，即在兩層金屬電極之間加入一層具有阻變特性的介質(zhì)薄膜材料，這些阻變材料一般是金屬氧化物，常見(jiàn)的有TiO2, HfO2, ZrO2,W03，Ta2O5等等。通過(guò)外加電壓，可以對(duì)器件的阻值在低阻和高阻之間轉(zhuǎn)換。利用基于阻變存儲(chǔ)器(RRAM)陣列構(gòu)成的類似于大腦神經(jīng)網(wǎng)絡(luò)的電路，可以做到極低的功耗和較好的模糊識(shí)別功能。是未來(lái)圖像識(shí)別、聲音識(shí)別等領(lǐng)域的一個(gè)重要發(fā)展方向。
[0003]現(xiàn)有的基于RRAM的圖像識(shí)別電路的工作原理大致如下所述:電路結(jié)構(gòu)大致分為三部分，第一部分為傳感器結(jié)構(gòu)。將圖片的顏色信號(hào)轉(zhuǎn)變?yōu)殡妷盒盘?hào)(電壓大小不同，或者脈沖長(zhǎng)短不同)，該電壓用來(lái)對(duì)后級(jí)的RRAM陣列進(jìn)行操作。第二部分為多個(gè)RRAM陣列。這些陣列中的RRAM器件接收前級(jí)的電壓信號(hào)，并且產(chǎn)生電流信號(hào)，傳遞到后一級(jí)。利用多個(gè)RRAM陣列的原因是在使用中，每個(gè)陣列中的RRAM器件都會(huì)有不同的阻值分布，不同的陣列的阻值分布使得其對(duì)某種圖片的反應(yīng)強(qiáng)度最高。這些陣列中的器件對(duì)應(yīng)到神經(jīng)系統(tǒng)即為數(shù)量龐大的突觸。第三部分為末級(jí)的神經(jīng)元模塊，每個(gè)神經(jīng)元與一個(gè)陣列中所有的RRAM器件相連接，對(duì)每個(gè)器件上面的電流求和。當(dāng)電流和超過(guò)某個(gè)閾值，或者是多個(gè)神經(jīng)元中的最大值時(shí)，該神經(jīng)元被激活，也即對(duì)一個(gè)圖片做出了對(duì)應(yīng)的反應(yīng)。
[0004]目前相關(guān)的工作中提到的基于RRAM的神經(jīng)元電路雖然都是由多個(gè)RRAM陣列構(gòu)成的，但是每個(gè)陣列都要接受來(lái)自整個(gè)圖片所有像素點(diǎn)產(chǎn)生的電壓。這種電路不夠靈活，無(wú)法應(yīng)對(duì)輸入圖像的形狀變化。由于利用一個(gè)RRAM陣列來(lái)接收整個(gè)圖片的信號(hào)，然后經(jīng)過(guò)后級(jí)電路求和這一過(guò)程將圖片的細(xì)節(jié)省略了，則使得現(xiàn)有電路無(wú)法處理“包含邏輯”、識(shí)別圖像時(shí)無(wú)法區(qū)分主次。同時(shí)，相對(duì)于生物上的神經(jīng)系統(tǒng)，目前的結(jié)構(gòu)太過(guò)于簡(jiǎn)單，只有一級(jí)神經(jīng)元，只能處理最簡(jiǎn)單的情況。

【發(fā)明內(nèi)容】

[0005](一)解決的技術(shù)問(wèn)題
[0006]針對(duì)現(xiàn)有技術(shù)的不足，本發(fā)明提供一種神經(jīng)網(wǎng)絡(luò)電路，能夠在保證識(shí)別能力的基礎(chǔ)上，盡可能保留圖片的細(xì)節(jié)信息。
[0007](二)技術(shù)方案
[0008]為了實(shí)現(xiàn)以上目的，本發(fā)明通過(guò)以下技術(shù)方案予以實(shí)現(xiàn):
[0009]一種神經(jīng)網(wǎng)絡(luò)電路，包括:若干個(gè)傳感器、若干個(gè)第一層神經(jīng)元支路和若干個(gè)第二層神經(jīng)元支路；
[0010]每個(gè)第一層神經(jīng)元支路包括:若干個(gè)第一阻變式存儲(chǔ)器RRAM以及第一層神經(jīng)元；[0011]所述傳感器用于將像素點(diǎn)的顏色轉(zhuǎn)換為電壓信號(hào)，并將此電壓信號(hào)傳輸給所述第一 RRAM ;所述第一 RRAM根據(jù)接收到的電壓信號(hào)產(chǎn)生電流信號(hào)，并傳輸至所述第一層神經(jīng)元；所述第一層神經(jīng)元用于對(duì)接收到的電流信號(hào)進(jìn)行求和，若第一神經(jīng)元被激活，則發(fā)射電壓脈沖至所述第二 RRAM ；
[0012]每個(gè)第二層神經(jīng)元支路包括:若干個(gè)第二 RRAM以及第二層神經(jīng)元；
[0013]所述第二 RRAM器件將所述第一層神經(jīng)元與所述第二層神經(jīng)元連接起來(lái)；所述第二層神經(jīng)元用于匯總?cè)舾蓚€(gè)所述第一層神經(jīng)元激活后產(chǎn)生的電流信號(hào)。
[0014]其中，一個(gè)傳感器對(duì)應(yīng)于一個(gè)像素點(diǎn)，同時(shí)一個(gè)傳感器對(duì)應(yīng)于一個(gè)RRAM器件。
[0015]其中，所述第一 RRAM的阻值與接收到傳感器的電壓信號(hào)的大小呈反比。
[0016]其中，所述第一層神經(jīng)元，包括:CM0S神經(jīng)元、反饋電路。
[0017]其中，所述反饋電路用于改變所述第一層神經(jīng)元對(duì)應(yīng)的第一 RRAM的阻值。
[0018]其中，所述第二層神經(jīng)元為CMOS神經(jīng)元。
[0019](三)有益效果
[0020]本發(fā)明至少具有如下的有益效果:
[0021]1、由于采用了分塊的結(jié)構(gòu)，即將圖片分成幾個(gè)部分分別進(jìn)行識(shí)別，則單個(gè)的小的RRAM陣列負(fù)責(zé)圖片的一部分,如電路結(jié)構(gòu)中的每一條第一層神經(jīng)兀支路負(fù)責(zé)圖片的一部分，這樣通過(guò)多個(gè)小單元或多條支路的并行工作，就可以在一個(gè)較短的工作周期內(nèi)對(duì)一幅大的圖片進(jìn)行處理。這種并行工作的方式提高了工作效率。
[0022]2、采用分層的結(jié)構(gòu)，和現(xiàn)有的技術(shù)不同，本發(fā)明的電路結(jié)構(gòu)中有兩層神經(jīng)元電路，可以將每個(gè)小塊的信息再次進(jìn)行處理，這樣電路就能處理更為復(fù)雜的邏輯關(guān)系。
[0023]3、可以解決現(xiàn)有技術(shù)無(wú)法進(jìn)行“包含邏輯”識(shí)別的缺點(diǎn)，如圖1所示，我們假設(shè)白色部分為有效信息，現(xiàn)有技術(shù)的電路在訓(xùn)練過(guò)程中，對(duì)白色的部分進(jìn)行SET (將高阻轉(zhuǎn)變?yōu)榈妥?操作，對(duì)黑色部分進(jìn)行RESET (將低阻轉(zhuǎn)變?yōu)楦咦?操作，那么和白色相對(duì)應(yīng)的RRAM器件的阻值應(yīng)該SET到一個(gè)比較小的值，其電流較大，但對(duì)于(a)圖來(lái)說(shuō)，其白色部分完全包含與(b)圖的白色部分，根據(jù)神經(jīng)元被激活的條件，導(dǎo)致了在識(shí)別(a)時(shí)對(duì)應(yīng)(b)的神經(jīng)元被激活。但本發(fā)明采用了分塊的方式，即將圖片分成幾個(gè)部分分別進(jìn)行識(shí)別，可以將細(xì)節(jié)部分的信號(hào)保存下來(lái)，然后再進(jìn)行判斷，而不是單純的求和。
【專利附圖】

【附圖說(shuō)明】
[0024]為了更清楚地說(shuō)明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面描述中的附圖僅僅是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可以根據(jù)這些圖獲得其他的附圖。
[0025]圖1是“包含邏輯”問(wèn)題的示意圖；
[0026]圖2是基于本發(fā)明一個(gè)實(shí)施例的RRAM的神經(jīng)網(wǎng)絡(luò)電路的整體結(jié)構(gòu)示意圖；
[0027]圖3是本發(fā)明一個(gè)具體實(shí)施例中基于RRAM的神經(jīng)網(wǎng)絡(luò)電路的電路原理圖。
【具體實(shí)施方式】
[0028]為了更清楚地說(shuō)明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面描述中的附圖僅僅是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可以根據(jù)這些圖獲得其他的附圖。
[0029]圖2為基于本發(fā)明一個(gè)實(shí)施例的RRAM的神經(jīng)網(wǎng)絡(luò)電路的整體結(jié)構(gòu)示意圖，該電路包括:傳感器201、RRAM陣列202、第一層神經(jīng)元203、第二 RRAM204和第二層神經(jīng)元205。其中，RRAM陣列由若干個(gè)RRAM器件組成。
[0030]對(duì)電路進(jìn)行訓(xùn)練時(shí)，將需要識(shí)別的圖片分為4塊分別進(jìn)行圖像識(shí)別，傳感器201接收?qǐng)D片像素的信號(hào)，產(chǎn)生電壓脈沖，電壓脈沖傳輸至RRAM陣列202中的RRAM器件，并產(chǎn)生電流信號(hào)，由于加在每個(gè)RRAM器件202上的電壓大小有所不同，因此產(chǎn)生的電流大小也不同，每個(gè)RRAM陣列202所產(chǎn)生的電流信號(hào)匯總至第一層神經(jīng)元203，若匯總到第一層神經(jīng)元203的電流和超過(guò)某個(gè)閾值或?yàn)槎鄠€(gè)神經(jīng)元中的最大值，則第一層神經(jīng)元203被激活，并同時(shí)和其所對(duì)應(yīng)的RRAM陣列202進(jìn)行反饋，這里的反饋是指對(duì)陣列中的RRAM器件的阻值進(jìn)行SET或RESET操作，適當(dāng)?shù)拇螖?shù)后(每張圖片20次左右)，RRAM陣列202中的RRAM器件的阻值會(huì)形成與圖片對(duì)應(yīng)的一個(gè)分布，另外，還具備對(duì)與其相連的后級(jí)的第二 RRAM204的阻值進(jìn)行調(diào)整的功能，這樣就使得不同的第一層神經(jīng)元203經(jīng)過(guò)權(quán)重RRAM器件204的電流大小不同，最后匯總在第二層神經(jīng)元205中，通過(guò)運(yùn)算產(chǎn)生最后的判斷結(jié)果，其中，每個(gè)第一層神經(jīng)元203都與第二層神經(jīng)元204連接。
[0031]為了進(jìn)一步說(shuō)明上述實(shí)施例，圖3為基于上述實(shí)施例的電路原理圖。如圖3所不，該電路包括傳感器301、第一 RRAM302、第一層神經(jīng)元303，第二 RRAM304以及第二層神經(jīng)元305。
[0032]此電路包括若干個(gè)第一層神經(jīng)元支路，以及一個(gè)第二層神經(jīng)元305(實(shí)際應(yīng)用中第二層神經(jīng)元不止一個(gè))。其中，每條第一層神經(jīng)元支路包括若干個(gè)傳感器301，若干個(gè)第一RRAM302, 一個(gè)第一層神經(jīng)元，一個(gè)權(quán)重RRAM器件。當(dāng)進(jìn)行電路訓(xùn)練時(shí)，通過(guò)傳感器301將圖片的顏色轉(zhuǎn)變?yōu)殡妷盒盘?hào)，電壓信號(hào)傳輸至第一 RRAM302，并產(chǎn)生電流信號(hào)，第一 RRAM302的阻值與接收到傳感器的電壓信號(hào)的大小呈反比，按照這種規(guī)則調(diào)整RRAM阻值，使得以后在使用中，就可以產(chǎn)生最大的電流，即相當(dāng)于一個(gè)最大的響應(yīng)。由于加在每個(gè)第一 RRAM302上的電壓大小有所不同，則第一 RRAM的阻值變的不同，因此產(chǎn)生的電流大小也不同，若干個(gè)第一 RRAM302所產(chǎn)生的電流信號(hào)匯總至第一層神經(jīng)元303。如圖3所示，第一層神經(jīng)元303由CMOS神經(jīng)元、反饋電路306以及阻值調(diào)整電路307組成，其中，所述CMOS神經(jīng)元是現(xiàn)有技術(shù)，利用其中的閾值比較電路，使得當(dāng)流入第一層神經(jīng)元303的電流信號(hào)之和超過(guò)某個(gè)特定的閾值時(shí)，第一層神經(jīng)元303被激活，則其中的反饋電路306對(duì)所對(duì)應(yīng)的若干個(gè)RRAM器件302進(jìn)行反饋，這里的反饋是指對(duì)陣列中的RRAM器件的阻值進(jìn)行SET或RESET操作，適當(dāng)?shù)拇螖?shù)后(20次左右)，RRAM陣列中的若干個(gè)第一 RRAM302的阻值會(huì)形成與圖片對(duì)應(yīng)的一個(gè)分布；同時(shí)，其阻值調(diào)整電路對(duì)與其相連的后級(jí)的第二 RRAM304的阻值進(jìn)行調(diào)整，這樣就使得不同的第一層神經(jīng)元303經(jīng)過(guò)第二 RRAM304的電流大小不同，電路訓(xùn)練完畢。則在電路使用時(shí)，在輸入端加入一幅圖片，傳感器301產(chǎn)生電壓脈沖，第一 RRAM302中有電流流過(guò)，流入第一神經(jīng)元303求和，相應(yīng)的第一神經(jīng)元303被激活，向后級(jí)發(fā)射電壓脈沖，該電壓脈沖在不同的第二 RRAM304上產(chǎn)生不同的電流，最后匯總至第二神經(jīng)元305中。
[0033]由于采用了分塊的結(jié)構(gòu)，即將圖片分成幾個(gè)部分分別進(jìn)行識(shí)別，則單個(gè)的小的RRAM陣列負(fù)責(zé)圖片的一部分,如電路結(jié)構(gòu)中的每一條第一層神經(jīng)兀支路負(fù)責(zé)圖片的一部分，這樣通過(guò)多個(gè)小單元或多條支路的并行工作，就可以在一個(gè)較短的工作周期內(nèi)對(duì)一幅大的圖片進(jìn)行處理。這種并行工作的方法提高了工作效率。
[0034]采用分層的結(jié)構(gòu)，和現(xiàn)有的技術(shù)不同，本發(fā)明的電路結(jié)構(gòu)中有兩層神經(jīng)元電路，可以將每個(gè)小塊的信息再次進(jìn)行處理，這樣電路就能處理更為復(fù)雜的邏輯關(guān)系。
[0035]可以解決現(xiàn)有技術(shù)無(wú)法進(jìn)行“包含邏輯”識(shí)別的缺點(diǎn)，本發(fā)明采用了分塊的方式，即將圖片分成幾個(gè)部分分別進(jìn)行識(shí)別，可以將細(xì)節(jié)部分的信號(hào)保存下來(lái)，然后再進(jìn)行判斷，而不是單純的求和。
[0036]以上實(shí)施例僅用以說(shuō)明本發(fā)明的技術(shù)方案，而非對(duì)其限制；盡管參照前述實(shí)施例對(duì)本發(fā)明進(jìn)行了詳細(xì)的說(shuō)明，本領(lǐng)域的普通技術(shù)人員應(yīng)當(dāng)理解；其依然可以對(duì)前述各實(shí)施例所記載的技術(shù)方案進(jìn)行修改，或者對(duì)其中部分技術(shù)特征進(jìn)行等同替換；而這些修改或者替換，并不使相應(yīng)技術(shù)方案的本質(zhì)脫離本發(fā)明各實(shí)施例技術(shù)方案的精神和范圍。
【權(quán)利要求】
1.一種基于RRAM的神經(jīng)網(wǎng)絡(luò)電路,其特征在于,包括:若干個(gè)傳感器、若干個(gè)第一層神經(jīng)元支路和若干個(gè)第二層神經(jīng)元支路； 每個(gè)第一層神經(jīng)元支路包括:若干個(gè)第一 RRAM以及第一層神經(jīng)元； 所述傳感器用于將像素點(diǎn)的顏色轉(zhuǎn)換為電壓信號(hào)，并將此電壓信號(hào)傳輸給所述第一RRAM ;所述第一 RRAM根據(jù)接收到的電壓信號(hào)產(chǎn)生電流信號(hào)，并傳輸至所述第一層神經(jīng)元；所述第一層神經(jīng)元用于對(duì)接收到的電流信號(hào)進(jìn)行求和，若第一神經(jīng)元被激活，則發(fā)射電壓脈沖至所述第二 RRAM ； 每個(gè)第二層神經(jīng)元支路包括:若干個(gè)第二 RRAM以及第二層神經(jīng)元； 所述第二 RRAM器件將所述第一層神經(jīng)元與所述第二層神經(jīng)元連接起來(lái)；所述第二層神經(jīng)元用于匯總?cè)舾蓚€(gè)所述第一層神經(jīng)元激活后產(chǎn)生的電流信號(hào)。
2.如權(quán)利要求1所述的電路，其特征在于， 一個(gè)傳感器對(duì)應(yīng)于一個(gè)像素點(diǎn)，同時(shí)一個(gè)傳感器對(duì)應(yīng)于一個(gè)RRAM器件。
3.如權(quán)利要求1所述的電路，其特征在于， 所述第一 RRAM的阻值與接收到傳感器的電壓信號(hào)的大小呈反比。
4.如權(quán)利要求1所述的電路，其特征在于， 所述第一層神經(jīng)元，包括=CMOS神經(jīng)元、反饋電路。
5.如權(quán)利要求6所述的電路，其特征在于， 所述反饋電路用于改變所述第一層神經(jīng)元對(duì)應(yīng)的第一 RRAM的阻值。
6.如權(quán)利要求1所述的電路，其特征在于， 所述第二層神經(jīng)元為CMOS神經(jīng)元。
【文檔編號(hào)】G06N3/063GK103778468SQ201410021568
【公開(kāi)日】2014年5月7日 申請(qǐng)日期:2014年1月16日 優(yōu)先權(quán)日:2014年1月16日
【發(fā)明者】康晉鋒, 龍?jiān)? 畢穎杰, 高濱, 陳冰, 劉曉彥, 劉力鋒 申請(qǐng)人:北京大學(xué)