專利名稱：基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種小波神經(jīng)網(wǎng)絡(luò)處理器，尤其是一種基于SOPC的小波神經(jīng)網(wǎng)絡(luò)處理器。
背景技術(shù)：
小波神經(jīng)網(wǎng)絡(luò)(Wavelet Neural Network, WNN)是小波分析理論與神經(jīng)網(wǎng)絡(luò)理論 相結(jié)合的產(chǎn)物。Pati和Krishaprasad提出了離散仿射小波網(wǎng)絡(luò)模型，其基本思想是將離散 小波變換引入神經(jīng)網(wǎng)絡(luò)模型，通過對(duì)Sigmoid函數(shù)的平移伸縮構(gòu)成中的仿射框架，進(jìn)而構(gòu) 造小波神經(jīng)網(wǎng)絡(luò)。Zhang Qinghua等1992年正式提出小波神經(jīng)網(wǎng)絡(luò)的概念，其思想是用小 波元代替神經(jīng)元，即用已定位的小波函數(shù)代替Sigmoid函數(shù)作為激活函數(shù)，通過仿射變換 建立起小波變換與網(wǎng)絡(luò)系數(shù)之間的連接。小波神經(jīng)網(wǎng)絡(luò)在具體實(shí)施和應(yīng)用過程中，需要大量、復(fù)雜的數(shù)學(xué)運(yùn)算，依靠人工計(jì) 算很難完成和進(jìn)行實(shí)時(shí)處理，因此，目前實(shí)現(xiàn)小波神經(jīng)網(wǎng)絡(luò)算法是利用計(jì)算機(jī)配合相應(yīng)軟 件及編程來完成。由于其成本、體積及功耗等問題也限制了小波神經(jīng)網(wǎng)絡(luò)的進(jìn)一步發(fā)展和 應(yīng)用。

發(fā)明內(nèi)容
針對(duì)上述現(xiàn)有技術(shù)的缺陷或不足，本發(fā)明提供了基于SOPC的小波神經(jīng)網(wǎng)絡(luò)處理 器，在SOPC上實(shí)現(xiàn)小波神經(jīng)網(wǎng)絡(luò)，將小波神經(jīng)網(wǎng)絡(luò)算法劃分為幾種基本運(yùn)算，這些基本運(yùn) 算由可重構(gòu)單元(ReconfigurabIe Cell, RC)完成，通過采用不同的RC連接方式能夠構(gòu)成 功能不同的小波神經(jīng)網(wǎng)絡(luò)。為了達(dá)到以上目的，本發(fā)明采用如下的技術(shù)解決方案一種基于sopc的小波神經(jīng) 網(wǎng)絡(luò)處理器，由前向傳播模塊，誤差反饋模塊和網(wǎng)絡(luò)更新模塊組成；前向傳播模塊的輸出端 連接到誤差反饋模塊，誤差反饋模塊的輸出端連接到網(wǎng)絡(luò)更新模塊，網(wǎng)絡(luò)更新模塊的輸出 端連接到前向傳播模塊。所述前向傳播模塊包括前向傳播輸入層功能模塊，前向傳播隱含層功能模塊，前 向傳播輸出層功能模塊。所述前向傳播輸入層功能模塊，是由若干個(gè)數(shù)據(jù)寄存器構(gòu)成。所述前向傳播隱含層功能模塊，是由若干個(gè)前向傳播隱含層可重構(gòu)單元和相同數(shù) 目的小波函數(shù)查找表構(gòu)成，前向傳播輸入層功能模塊中每個(gè)數(shù)據(jù)寄存器的輸出端連接每個(gè) 前向傳播隱含層可重構(gòu)單元的輸入端；每個(gè)前向傳播隱含層可重構(gòu)單元的輸出端連接一個(gè) 小波神經(jīng)網(wǎng)絡(luò)的小波函數(shù)查找表；前向傳播隱含層可重構(gòu)單元和小波函數(shù)查找表的數(shù)目由 輸入數(shù)據(jù)的數(shù)目、網(wǎng)絡(luò)的性能決定。所述前向傳播輸出層模塊，是由若干個(gè)前向傳播輸出層可重構(gòu)單元和相同數(shù)目的 激勵(lì)函數(shù)查找表構(gòu)成，每個(gè)小波函數(shù)查找表的輸出端連接每個(gè)前向傳播輸出層可重構(gòu)單元 的輸入端，每個(gè)前向傳播輸出層可重構(gòu)單元的輸出端連接一個(gè)激勵(lì)函數(shù)查找表；前向傳播輸出層可重構(gòu)單元和激勵(lì)函數(shù)查找表的數(shù)目由對(duì)輸出信號(hào)的要求來決定。所述誤差反饋模塊包括誤差反饋輸出層功能模塊和誤差反饋隱含層功能模塊。所述誤差反饋輸出層功能模塊是由若干個(gè)誤差反饋輸出層可重構(gòu)單元、若干個(gè)激 勵(lì)函數(shù)導(dǎo)函數(shù)查找表以及若干個(gè)誤差反饋輸出層乘法器構(gòu)成；誤差反饋輸出層可重構(gòu)單 元，激勵(lì)函數(shù)導(dǎo)函數(shù)查找表和誤差反饋輸出層乘法器的數(shù)目相同，該數(shù)目由前向傳播輸出 層功能模塊決定；誤差反饋輸出層可重構(gòu)單元的輸出端和激勵(lì)函數(shù)導(dǎo)函數(shù)查找表的輸出端 分別連接到誤差反饋輸出層乘法器的輸入端，誤差反饋輸出層乘法器的輸出作為誤差反饋 輸出層功能模塊的輸出；誤差反饋輸出層功能模塊的兩輸入分別來自前向傳播輸出層激勵(lì) 函數(shù)查找表和前向傳播輸出層可重構(gòu)單元。所述誤差反饋隱含層功能模塊由若干個(gè)誤差反饋隱含層可重構(gòu)單元，若干個(gè)小波 函數(shù)導(dǎo)函數(shù)查找表單元和若干個(gè)誤差反饋隱含層乘法器構(gòu)成；誤差反饋隱含層可重構(gòu)單 元、小波函數(shù)導(dǎo)函數(shù)查找表單元和誤差反饋隱含層乘法器的數(shù)目相同，該數(shù)目由前向傳播 隱含層可重構(gòu)單元和前向傳播隱含層激勵(lì)函數(shù)查找表決定；每個(gè)誤差反饋輸出層乘法器的 輸出端連接誤差反饋隱含層可重構(gòu)單元的輸入端；誤差反饋隱含層可重構(gòu)單元的輸出端與 小波函數(shù)導(dǎo)函數(shù)查找表單元的輸出端分別連接誤差反饋隱含層乘法器的輸入端，誤差反饋 隱含層乘法器的輸出端作為誤差反饋隱含層功能模塊的輸出端。所述網(wǎng)絡(luò)更新模塊包括網(wǎng)絡(luò)更新輸出層功能模塊，網(wǎng)絡(luò)更新隱含層功能模塊。所述網(wǎng)絡(luò)更新輸出層功能模塊由若干個(gè)輸出層更新量計(jì)算模塊和若干個(gè)輸出層 更新模塊組成；輸出層更新量計(jì)算模塊和輸出層更新模塊數(shù)目相同，該數(shù)目由前向傳播輸 出層可重構(gòu)單元決定；每個(gè)輸出層更新量計(jì)算模塊的輸入端有三個(gè)輸入端，每個(gè)輸出層更 新量計(jì)算模塊的輸出端對(duì)應(yīng)連接一個(gè)輸出層更新模塊。網(wǎng)絡(luò)更新隱含層功能模塊由若干個(gè)隱含層更新量計(jì)算模塊和若干個(gè)隱含層更新 模塊組成，隱含層更新量計(jì)算模塊和隱含層更新模塊的數(shù)目相同，該數(shù)目由前向傳播隱含 層可重構(gòu)單元決定；每個(gè)隱含層更新量計(jì)算模塊的輸出端連接隱含層更新模塊。本發(fā)明的基于sopc小波神經(jīng)網(wǎng)絡(luò)處理器，以可重構(gòu)體系結(jié)構(gòu)為基礎(chǔ)，構(gòu)建了一個(gè) 小波神經(jīng)網(wǎng)絡(luò)硬件的可重構(gòu)平臺(tái)，縮短了神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)周期，提高了神經(jīng)網(wǎng)絡(luò)的運(yùn)行速度， 推動(dòng)了神經(jīng)網(wǎng)絡(luò)硬件在相關(guān)應(yīng)用領(lǐng)域中的實(shí)用化。


圖1是本發(fā)明的結(jié)構(gòu)示意圖。圖2是小波神經(jīng)網(wǎng)絡(luò)前向傳播模塊方框圖。圖3是前向傳播隱含層可重構(gòu)單元結(jié)構(gòu)示意圖。圖4是前向傳播輸出層可重構(gòu)單元結(jié)構(gòu)示意圖。圖5是小波神經(jīng)網(wǎng)絡(luò)誤差反饋模塊方框圖。圖6是誤差反饋輸出層可重構(gòu)單元結(jié)構(gòu)示意圖。圖7是誤差反饋隱含層可重構(gòu)單元結(jié)構(gòu)示意圖。圖8是小波神經(jīng)網(wǎng)絡(luò)更新模塊方框圖。圖9是網(wǎng)絡(luò)更新輸出層更新量計(jì)算模塊結(jié)構(gòu)示意圖。圖10是網(wǎng)絡(luò)更新輸出層更新模塊結(jié)構(gòu)示意圖。
圖11是網(wǎng)絡(luò)更新隱含層更新量計(jì)算模塊結(jié)構(gòu)示意圖。圖12是網(wǎng)絡(luò)更新隱含層更新模塊結(jié)構(gòu)示意圖。下面結(jié)合附圖和具體實(shí)施方式
對(duì)本發(fā)明的內(nèi)容作進(jìn)一步的詳細(xì)說明。
具體實(shí)施例方式如圖1、圖2所示，一種基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，由前向傳播模塊1、誤差 反饋模塊2、網(wǎng)絡(luò)更新模塊3組成。前向傳播模塊1的輸出端連接到誤差反饋模塊2，誤差 反饋模塊2的輸出端連接到網(wǎng)絡(luò)更新模塊3，網(wǎng)絡(luò)更新模塊3的輸出端連接到前向傳播模塊 1。前向傳播模塊1包括前向傳播輸入層功能模塊1-1，前向傳播隱含層功能模塊 1-2，前向傳播輸出層功能模塊1-3。前向傳播輸入層功能模塊1-1，是由若干個(gè)數(shù)據(jù)寄存器構(gòu)成。前向傳播隱含層功能模塊1-2，是由若干個(gè)前向傳播隱含層可重構(gòu)單元RCl-I和 相同數(shù)目的小波函數(shù)查找表LUTl-I構(gòu)成，前向傳播輸入層功能模塊1-1的每個(gè)數(shù)據(jù)寄存器 的輸出端連接每個(gè)前向傳播隱含層可重構(gòu)單元RCl-I的輸入端；每個(gè)前向傳播隱含層可重 構(gòu)單元RCl-I的輸出端連接一個(gè)小波神經(jīng)網(wǎng)絡(luò)的小波函數(shù)查找表LUTl-I ；前向傳播隱含層 可重構(gòu)單元RCl-I和小波函數(shù)查找表LUTl-I的數(shù)目由輸入數(shù)據(jù)的數(shù)目、網(wǎng)絡(luò)的性能決定。前向傳播輸出層模塊1-3，是由若干個(gè)前向傳播輸出層可重構(gòu)單元RC1-2和相同 數(shù)目的激勵(lì)函數(shù)查找表LUT1-2構(gòu)成，每個(gè)小波函數(shù)查找表LUTl-I的輸出端連接每個(gè)前向 傳播輸出層可重構(gòu)單元RC1-2的輸入端，每個(gè)前向傳播輸出層可重構(gòu)單元RC1-2的輸出端 連接一個(gè)激勵(lì)函數(shù)查找表LUT1-2 ；前向傳播輸出層可重構(gòu)單元RC1-2和激勵(lì)函數(shù)查找表 LUT1-2的數(shù)目由對(duì)輸出信號(hào)的要求來決定。如圖3所示，每個(gè)前向傳播隱含層可重構(gòu)單元RCl-I的結(jié)構(gòu)如下由一個(gè)次當(dāng)前權(quán) 值寄存器、一個(gè)當(dāng)前權(quán)值寄存器、一個(gè)乘法器、第一加法器ADD 1、第二加法器ADD 2、一個(gè) 次當(dāng)前平移因子寄存器、一個(gè)當(dāng)前平移因子寄存器、一個(gè)次當(dāng)前伸縮因子寄存器、一個(gè)當(dāng)前 伸縮因子寄存器和一個(gè)除法器組成；前向傳播輸入層功能模塊1-1的每個(gè)數(shù)據(jù)寄存器的輸 出端和當(dāng)前權(quán)值寄存器的一個(gè)輸出端連接每個(gè)前向傳播隱含層可重構(gòu)單元RCl-I中的乘 法器的輸入端，該乘法器的輸出端連接到第一加法器ADD1，該第一加法器ADDl的輸出端分 為兩路第一加法器ADDl的一個(gè)輸出端和當(dāng)前平移因子寄存器的輸出端連接第二加法器 ADD2的輸入端，第一加法器ADDl的另一個(gè)輸出端反饋連接到自身的另一個(gè)輸入端；第二加 法器ADD2的輸出端和當(dāng)前伸縮因子寄存器的一個(gè)輸出端連接除法器的輸入端；除法器的 輸出端作為前向傳播隱含層可重構(gòu)單元RCl-I的輸出端；當(dāng)前權(quán)值寄存器的另一個(gè)輸出端 連接到次當(dāng)前權(quán)值寄存器，當(dāng)前平移因子寄存器的另一個(gè)輸出端連接到次當(dāng)前平移因子寄 存器，當(dāng)前伸縮因子寄存器的另一個(gè)輸出端連接到次當(dāng)前伸縮因子寄存器；前向傳播隱含 層可重構(gòu)單元RCl-I的功能將進(jìn)入前向傳播隱含層可重構(gòu)單元RCl-I的所有輸入數(shù)據(jù)與 當(dāng)前權(quán)值寄存器中的對(duì)應(yīng)的權(quán)值加權(quán)和運(yùn)算后與當(dāng)前平移因子寄存器中的平移因子相加， 然后再與伸縮因子寄存器中的伸縮因子相乘，得到前向傳播隱含層可重構(gòu)單元RCl-I的輸 出hhi〇小波函數(shù)查找表LUTl-I是小波函數(shù)輸入數(shù)據(jù)與輸出數(shù)據(jù)一一對(duì)應(yīng)的映射關(guān)系表，用于實(shí)現(xiàn)小波函數(shù)運(yùn)算。小波函數(shù)查找表LUTl-I由FPGA內(nèi)的ROM實(shí)現(xiàn)，ROM中存儲(chǔ)小 波母函數(shù)的輸出值，前向傳播隱含層可重構(gòu)單元RCl-I中的每個(gè)除法器的輸出端連接小波 函數(shù)查找表LUTl-I的輸入端，來自前向傳播隱含層可重構(gòu)單元RCl-I中的除法器的輸入信 號(hào)作為小波函數(shù)查找表LUTl-I的地址索引，小波函數(shù)查找表LUTl-I根據(jù)該輸入信號(hào)求出 小波函數(shù)輸出值Yh(h)。如圖4所示，前向傳播輸出層可重構(gòu)單元RC1-2的結(jié)構(gòu)如下由一個(gè)次當(dāng)前權(quán)值寄 存器、一個(gè)當(dāng)前權(quán)值寄存器，一個(gè)乘法器、一個(gè)加法器和一個(gè)閾值寄存器組成，前向傳播隱 含層可重構(gòu)單元RCl-I中的每個(gè)小波函數(shù)查找表LUTl-I的輸出端和當(dāng)前權(quán)值寄存器的一 個(gè)輸出端連接每個(gè)前向傳播輸出層可重構(gòu)單元RC1-2中的乘法器，當(dāng)前權(quán)值寄存器的另一 個(gè)輸出端連接到次當(dāng)前權(quán)值寄存器；乘法器的輸出端和閾值寄存器的輸出端分別連接到加 法器的輸入端，該加法器的輸出端分為兩路加法器ADD的一個(gè)輸出端連接到與前向傳播 輸出層可重構(gòu)單元RC1-2對(duì)應(yīng)的激勵(lì)函數(shù)查找表LUT1-2的輸入端，加法器的另一個(gè)輸出端 反饋連接到該加法器自身的另一個(gè)輸入端；前向傳播輸出層可重構(gòu)單元RC1-2的功能對(duì) 每個(gè)小波函數(shù)查找表LUTl-I的輸出數(shù)據(jù)與當(dāng)前權(quán)值寄存器中的相應(yīng)權(quán)值作加權(quán)和運(yùn)算， 得到的結(jié)果作為前向傳播輸出層可重構(gòu)單元RC1-2的輸出h。h。前向傳播輸出層的激勵(lì)函數(shù)查找表LUT1-2是由存儲(chǔ)器構(gòu)成，是激勵(lì)函數(shù)輸入數(shù) 據(jù)與輸出數(shù)據(jù)一一對(duì)應(yīng)的映射關(guān)系表，前向傳播輸出層可重構(gòu)單元RC1-2的輸出作為地址 索引，前向傳播輸出層激勵(lì)函數(shù)查找表LUT1-2根據(jù)地址索引實(shí)現(xiàn)激勵(lì)函數(shù)運(yùn)算。前向模塊1-1的作用是將輸入數(shù)據(jù)由經(jīng)過與權(quán)值做乘累加運(yùn)算，再經(jīng)過與小波函 數(shù)運(yùn)算后，得到輸出數(shù)據(jù)YO(O)；如圖5所示，誤差反饋模塊2包括誤差反饋輸出層功能模 塊2-1和誤差反饋隱含層功能模塊2-2。誤差反饋輸出層功能模塊2-1是由若干個(gè)誤差反饋輸出層可重構(gòu)單元RC2-1、若 干個(gè)激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1以及若干個(gè)誤差反饋輸出層乘法器構(gòu)成；誤差反饋輸 出層可重構(gòu)單元RC2-1，激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1和誤差反饋輸出層乘法器的數(shù)目相 同，該數(shù)目由前向傳播輸出層功能模塊1-3決定；誤差反饋輸出層可重構(gòu)單元RC2-1的輸出 端和激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1的輸出端分別連接誤差反饋輸出層乘法器的輸入端， 誤差反饋輸出層乘法器的輸出作為誤差反饋輸出層功能模塊2-1的輸出80。誤差反饋輸 出層功能模塊2-1的兩輸入分別來自前向傳播輸出層激勵(lì)函數(shù)查找表LUT1-2和前向傳播 輸出層可重構(gòu)單元RC1-2 ；誤差反饋隱含層功能模塊2-2由若干個(gè)誤差反饋隱含層可重構(gòu) 單元RC2-2，若干個(gè)小波函數(shù)導(dǎo)函數(shù)查找表LUT2-2和若干個(gè)誤差反饋隱含層乘法器構(gòu)成； 誤差反饋隱含層可重構(gòu)單元RC2-2、小波函數(shù)導(dǎo)函數(shù)查找表LUT2-2和誤差反饋隱含層乘 法器的數(shù)目相同，該數(shù)目由前向傳播隱含層可重構(gòu)單元RCl-I和前向傳播隱含層激勵(lì)函數(shù) 查找表LUTl-I決定。每個(gè)誤差反饋輸出層乘法器的輸出端連接誤差反饋隱含層可重構(gòu)單 元RC2-2的輸入端；誤差反饋隱含層可重構(gòu)單元RC2-2的輸出端與小波函數(shù)導(dǎo)函數(shù)查找表 LUT2-2的輸出端分別連接誤差反饋隱含層乘法器的輸入端，誤差反饋隱含層乘法器的輸出 端作為誤差反饋隱含層功能模塊2-2的輸出端δ h ；如圖6所示，誤差反饋輸出層可重構(gòu)單 元RC2-1的結(jié)構(gòu)如下由一個(gè)目標(biāo)數(shù)據(jù)寄存器和一個(gè)減法器組成，前向傳播輸出層功能模 塊1-3中的每個(gè)激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1的輸出端和目標(biāo)數(shù)據(jù)寄存器的輸出端連接 減法器的輸入端；該減法器的輸出端的結(jié)果作為誤差反饋輸出層可重構(gòu)單元RC2-1的輸出Mo (ο)ο激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1由激勵(lì)函數(shù)導(dǎo)函數(shù)ROM構(gòu)成；前向傳播隱含層可重 構(gòu)單元RCl-I的輸出端連接激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1的輸入端，該激勵(lì)函數(shù)導(dǎo)函數(shù)查 找表LUT2-1的輸出端作為誤差反饋輸出層功能模塊2-1的輸出端；激勵(lì)函數(shù)導(dǎo)函數(shù)查找表 LUT2-1的功能對(duì)應(yīng)于前向傳播輸出層激勵(lì)函數(shù)的導(dǎo)函數(shù)，其中激勵(lì)函數(shù)輸入數(shù)據(jù)與激勵(lì) 函數(shù)導(dǎo)函數(shù)數(shù)據(jù)一一對(duì)應(yīng)的映射關(guān)系表，激勵(lì)函數(shù)導(dǎo)函數(shù)查找表LUT2-1用于實(shí)現(xiàn)激勵(lì)函 數(shù)求導(dǎo)運(yùn)算。如圖7所示，誤差反饋隱含層可重構(gòu)單元RC2-2由一個(gè)乘法器和一個(gè)加法器組成， 每個(gè)誤差反饋輸出層乘法器的輸出端和前向傳播輸出層模塊1-2的當(dāng)前權(quán)值寄存器的輸 出端連接誤差反饋隱含層可重構(gòu)單元RC2-2的乘法器的輸入端；誤差反饋隱含層可重構(gòu)單 元RC2-2的乘法器的輸出端連接加法器的一個(gè)輸入端，該加法器的輸出端分為兩路加法 器的一個(gè)輸出端反饋連接到該加法器自身的另一個(gè)輸出端；當(dāng)所有輸入數(shù)據(jù)乘累加計(jì)算完 成，加法器的另一路輸出端作為誤差反饋隱含層可重構(gòu)單元RC2-2的輸出端Mh(h)；誤差反 饋隱含層可重構(gòu)單元RC2-2的功能每個(gè)誤差反饋輸出層乘法器的輸出和對(duì)應(yīng)的前向傳播 輸出層模塊1-2的當(dāng)前權(quán)值寄存器中的權(quán)值分別作為二路輸入信號(hào)進(jìn)入誤差反饋隱含層 可重構(gòu)單元RC2-2的乘法器，第i個(gè)反饋輸出層乘法器的輸出信號(hào)在誤差反饋隱含層可重 構(gòu)單元RC2-2的乘法器中與對(duì)應(yīng)權(quán)值相乘后，得到與第i+Ι個(gè)反饋輸出層乘法器的輸出信 號(hào)在誤差反饋隱含層可重構(gòu)單元RC2-2的乘法器中與對(duì)應(yīng)權(quán)值相乘后的結(jié)果相加，假定誤 差反饋輸出層模塊的數(shù)目為η個(gè)，則需要進(jìn)行η次，得到加權(quán)和后輸出；小波函數(shù)導(dǎo)函數(shù)查 找表LUT2-2由小波函數(shù)導(dǎo)函數(shù)ROM構(gòu)成；前向傳播隱含層可重構(gòu)單元RCl-I的輸出端連接 小波函數(shù)導(dǎo)函數(shù)查找表的輸入端，該小波函數(shù)導(dǎo)函數(shù)查找表LUT2-2的輸出端作為誤差反 饋隱含層功能模塊2-2的輸出端；小波函數(shù)導(dǎo)函數(shù)查找表LUT2-2的功能將誤差反饋隱含 層可重構(gòu)單元RC2-2單元的輸出信號(hào)作為地址，根據(jù)小波函數(shù)導(dǎo)函數(shù)的一一映射關(guān)系，輸 出小波函數(shù)導(dǎo)函數(shù)值；誤差反饋模塊2的作用是將前向傳播階段產(chǎn)生的誤差由后向前反向 傳播到其他各個(gè)層；如圖8所示，網(wǎng)絡(luò)更新模塊3包括網(wǎng)絡(luò)更新輸出層功能模塊3-1，網(wǎng)絡(luò) 更新隱含層功能模塊3-2 ；網(wǎng)絡(luò)更新輸出層功能模塊3-1由若干個(gè)輸出層更新量計(jì)算模塊 RC3-1和若干個(gè)輸出層更新模塊RC3-2組成；輸出層更新量計(jì)算模塊RC3-1和輸出層更新 模塊RC3-2數(shù)目相同，該數(shù)目由前向傳播輸出層可重構(gòu)單元RC1-2決定；每個(gè)輸出層更新量 計(jì)算模塊RC3-1的輸入端有三個(gè)輸入端，每個(gè)輸出層更新量計(jì)算模塊RC3-1的輸出端對(duì)應(yīng) 連接一個(gè)輸出層更新模塊RC3-2 ；網(wǎng)絡(luò)更新隱含層功能模塊3-2由若干個(gè)隱含層更新量計(jì) 算模塊RC3-3和若干個(gè)隱含層更新模塊RC3-4組成，隱含層更新量計(jì)算模塊RC3-3和隱含 層更新模塊RC3-4的數(shù)目相同，該數(shù)目由前向傳播隱含層可重構(gòu)單元RCl-I決定；每個(gè)隱含 層更新量計(jì)算模塊RC3-3的輸出端連接隱含層更新模塊RC3-4 ；如圖9所示，網(wǎng)絡(luò)更新輸出 層更新量計(jì)算模塊RC3-1由一個(gè)三輸入的乘法器和學(xué)習(xí)速率寄存器構(gòu)成，學(xué)習(xí)速率寄存器 的輸出作為乘法器的一個(gè)輸入，誤差反饋輸出層功能模塊2-1的輸出δ J乍為乘法器的第 二個(gè)輸入，激勵(lì)函數(shù)查找表LUT1-2的輸出h。h作為乘法器的第三個(gè)輸入。如圖10所示，網(wǎng)絡(luò)更新輸出層更新模塊RC3-2由一個(gè)二輸入減法器，一個(gè)二輸 入乘法器，一個(gè)三輸入加法器組成；減法器的一個(gè)輸入端連接前向傳播輸出層可重構(gòu)單元 RC1-2的當(dāng)前權(quán)值寄存器(輸入數(shù)據(jù)為W(n))，另一個(gè)輸入端連接前向傳播輸出層可重構(gòu)單元RC1-2的次當(dāng)前權(quán)值寄存器(輸入數(shù)據(jù)為W(n-l))，減法器的一個(gè)輸出端連接乘法器 的一個(gè)輸入端，該乘法器的另一個(gè)輸入端是輸出層更新量計(jì)算單元RC3-1的學(xué)習(xí)速率寄存 器(輸入數(shù)據(jù)為λ )，乘法器的輸出端連接加法器的第一個(gè)輸入端，網(wǎng)絡(luò)更新輸出層更新量 計(jì)算模塊RC3-1的乘法器的輸出端連接該加法器的第二個(gè)輸入端(輸入數(shù)據(jù)為Δ W)，該加 法器的第三個(gè)輸入端連接前向傳播輸出層可重構(gòu)單元RC1-2的當(dāng)前權(quán)值寄存器(輸入數(shù)據(jù) 為W(n))，加法器的輸出端連接前向傳播輸出層可重構(gòu)單元RC1-2的當(dāng)前權(quán)值寄存器；加法 器的輸出作為網(wǎng)絡(luò)更新輸出層更新模塊RC3-2的輸出；如圖11所示，網(wǎng)絡(luò)更新隱含層更新 量計(jì)算模塊RC3-3由三個(gè)二輸入乘法器，兩個(gè)二輸入除法器、閾值寄存器、平移因子寄存器 和伸縮因子寄存器構(gòu)成；網(wǎng)絡(luò)更新輸出層更新量計(jì)算單元RC3-1的學(xué)習(xí)速率寄存器的輸出 λ和誤差反饋輸出層功能模塊2-1的輸出δ。連接到第一個(gè)乘法器的輸入端，第一個(gè)乘法 器的輸出端分為三路第一個(gè)乘法器的第一路輸出端和閾值寄存器的輸入端分別連接到第 二個(gè)乘法器，第一個(gè)乘法器的第二路輸出端和平移因子的輸出端分別連接到第一個(gè)除法器 的輸入端，第一個(gè)乘法器的第三路輸出端和前向傳播輸出層可重構(gòu)單元RC1-2的輸出H。(ο) 分別連接本模塊的第三個(gè)乘法器的輸入端；第三個(gè)乘法器的輸出端和伸縮因子寄存器的輸 出端分別連接第二個(gè)除法器的輸入端；第二乘法器的輸出端、第一除法器的輸出端以及第 二除法器的輸出端作為網(wǎng)絡(luò)更新隱含層更新量計(jì)算模塊RC3-3的輸出；網(wǎng)絡(luò)更新隱含層更 新量計(jì)算模塊RC3-3的功能計(jì)算出權(quán)值的更新量△ ，平移因子的更新量伸縮因子 的更新量Ab ；如圖12所示，網(wǎng)絡(luò)更新隱含層更新模塊RC3-4由第一可重構(gòu)模塊RC3-4-1、 第二可重構(gòu)模塊RC3-4-2、第三可重構(gòu)模塊RC3-4-3組成；這三個(gè)可重構(gòu)模塊的結(jié)構(gòu)相同且 相互獨(dú)立；每個(gè)可重構(gòu)模塊由一個(gè)二輸入減法器，一個(gè)二輸入乘法器，一個(gè)三輸入加法器組 成，輸入數(shù)據(jù)進(jìn)入減法器的輸入端，該減法器的輸出端與另一輸入連接乘法器的輸入端，該 乘法器的輸出端與另兩個(gè)輸入連接加法器的輸入端，該加法器輸出作為所屬的可重構(gòu)模塊 的輸出；第一個(gè)可重構(gòu)模塊RC3-4-1中減法器的兩個(gè)輸入從上到下依次是前向傳播隱含 層可重構(gòu)單元RCl-I的當(dāng)前權(quán)值寄存器的輸出Wh(h)和次當(dāng)前權(quán)值寄存器的輸出Wh(n-1)； 乘法器的輸入從上到下依次是減法器的輸出和輸出層更新量計(jì)算單元RC3-1的學(xué)習(xí)速率 寄存器的輸出λ ；加法器的三個(gè)輸入從上到下依次是乘法器的輸出，網(wǎng)絡(luò)更新隱含層更 新模塊RC3-3的第一個(gè)輸出(即權(quán)值的更新量和前向傳播隱含層可重構(gòu)單元RCl-I中 的當(dāng)前權(quán)值寄存器的輸出Wh(η)；第二個(gè)可重構(gòu)模塊RC3-4-2中減法器的兩個(gè)輸入從上到 下依次是前向傳播隱含層可重構(gòu)單元RCl-I的當(dāng)前平移因子寄存器的輸出ah(n)和次當(dāng) 前平移因子寄存器的輸出ah(n-l)；乘法器的輸入從上到下依次是減法器的輸出和輸出層 更新量計(jì)算單元RC3-1的學(xué)習(xí)速率寄存器的輸出λ ；加法器的三個(gè)輸入從上到下依次是 乘法器的輸出，網(wǎng)絡(luò)更新隱含層更新模塊RC3-3的第二個(gè)輸出(即平移因子的更新量Aa) 和前向傳播隱含層可重構(gòu)單元RCl-I中的當(dāng)前平移因子寄存器的輸出ah(n)；第三個(gè)可重 構(gòu)模塊RC3-4-3中減法器的兩個(gè)輸入從上到下依次是前向傳播隱含層可重構(gòu)單元RCl-I 的當(dāng)前伸縮因子寄存器的輸出bh(η)和次當(dāng)前伸縮因子寄存器的輸出bh(n-1)；乘法器的輸 入從上到下依次是減法器的輸出和輸出層更新量計(jì)算單元RC3-1的學(xué)習(xí)速率寄存器的輸 出λ ；加法器的三個(gè)輸入從上到下依次是乘法器的輸出，網(wǎng)絡(luò)更新隱含層更新模塊RC3-3 的第三個(gè)輸出(即伸縮因子的更新量和前向傳播隱含層可重構(gòu)單元RCl-I中的當(dāng)前 伸縮因子寄存器的輸出bh(n)；網(wǎng)絡(luò)更新隱含層更新模塊RC3-4的功能通過權(quán)值更新量、當(dāng)前權(quán)值和學(xué)習(xí)因子的運(yùn)算，計(jì)算出下一次權(quán)值，同樣平移因子和伸縮因子也由計(jì)算得到， 由此，權(quán)值、平移因子、伸縮因子三個(gè)變量同時(shí)并行完成了更新。網(wǎng)絡(luò)更新模塊3的作用是利用誤差值與小波函數(shù)產(chǎn)生的系數(shù)來改變小波神經(jīng)網(wǎng) 絡(luò)的權(quán)值，平移因子、伸縮因子。本發(fā)明的小波神經(jīng)網(wǎng)絡(luò)處理器具有可重構(gòu)性，具體表現(xiàn)為結(jié)構(gòu)可重構(gòu)、小波函數(shù) 可重構(gòu)和學(xué)習(xí)算法可重構(gòu)。結(jié)構(gòu)可重構(gòu)是指通過增刪處理器中的RC模塊即可完成小波神 經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的調(diào)整；小波函數(shù)的可重構(gòu)是指用于實(shí)現(xiàn)小波函數(shù)的LUT1-2模塊和LUT2-2中 數(shù)據(jù)的能夠靈活修改，從而影響小波神經(jīng)網(wǎng)絡(luò)的小波函數(shù)的結(jié)構(gòu)；學(xué)習(xí)算法的可重構(gòu)是指 用于調(diào)整權(quán)值、平移因子、伸縮因子的算法的更新只需通過更新RC3-4模塊即可完成。例如，一個(gè)字符識(shí)別的神經(jīng)網(wǎng)絡(luò)需要前向傳播輸入層功能模塊1-164個(gè)數(shù)據(jù)寄存 器，需要13個(gè)RCl-I模塊和LUTl-I模塊，需要12個(gè)RC1-2模塊和LUT1-2模塊，其他模塊 的數(shù)模由上述模塊數(shù)目決定。小波神經(jīng)網(wǎng)絡(luò)處理器工作原理其工作過程分為三個(gè)階段前向傳播階段、誤差 反傳階段和網(wǎng)絡(luò)更新階段。在前向傳播階段，輸入數(shù)據(jù)經(jīng)過隱含層、輸出層計(jì)算出實(shí)際輸出 值。若輸出層的實(shí)際輸出與期望的輸出不符，則轉(zhuǎn)入誤差反饋階段；誤差反傳是將輸出誤差 通過輸出層向隱含層逐層反傳，并將誤差分?jǐn)偨o各層的所有單元，從而獲得各層單元的誤 差信號(hào)。然后轉(zhuǎn)入網(wǎng)絡(luò)更新階段；網(wǎng)絡(luò)更新階段是在將誤差反饋階段的誤差信號(hào)即作為修 正各單元權(quán)值的依據(jù)，由輸出層到隱含層逐層更新小波神經(jīng)網(wǎng)絡(luò)的權(quán)值、平移因子、伸縮因 子。然后在前向傳播階段的運(yùn)算，計(jì)算出實(shí)際輸出值。比較實(shí)際輸出與期望的輸出的誤差， 直到滿足要求。系統(tǒng)運(yùn)行時(shí)，每次在FPGA中只配置一個(gè)階段的功能，一個(gè)階段的功能完成 后，再配置下一個(gè)階段的功能。這種“配置_執(zhí)行”過程一直重復(fù)下去直到完成算法。
權(quán)利要求
一種基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，由前向傳播模塊(1)，誤差反饋模塊(2)和網(wǎng)絡(luò)更新模塊(3)組成；前向傳播模塊(1)的輸出端連接到誤差反饋模塊(2)，誤差反饋模塊(2)的輸出端連接到網(wǎng)絡(luò)更新模塊(3)，網(wǎng)絡(luò)更新模塊(3)的輸出端連接到前向傳播模塊(1)；所述前向傳播模塊(1)包括前向傳播輸入層功能模塊(1-1)，前向傳播隱含層功能模塊(1-2)，前向傳播輸出層功能模塊(1-3)；所述前向傳播輸入層功能模塊(1-1)，是由若干個(gè)數(shù)據(jù)寄存器構(gòu)成；所述前向傳播隱含層功能模塊(1-2)，是由若干個(gè)前向傳播隱含層可重構(gòu)單元(RC1-1)和相同數(shù)目的小波函數(shù)查找表(LUT1-1)構(gòu)成，前向傳播輸入層功能模塊(1-1)中每個(gè)數(shù)據(jù)寄存器的輸出端連接每個(gè)前向傳播隱含層可重構(gòu)單元(RC1-1)的輸入端；每個(gè)前向傳播隱含層可重構(gòu)單元(RC1-1)的輸出端連接一個(gè)小波神經(jīng)網(wǎng)絡(luò)的小波函數(shù)查找表(LUT1-1)；前向傳播隱含層可重構(gòu)單元(RC1-1)和小波函數(shù)查找表(LUT1-1)的數(shù)目由輸入數(shù)據(jù)的數(shù)目、網(wǎng)絡(luò)的性能決定；所述前向傳播輸出層模塊(1-3)，是由若干個(gè)前向傳播輸出層可重構(gòu)單元(RC1-2)和相同數(shù)目的激勵(lì)函數(shù)查找表(LUT1-2)構(gòu)成，每個(gè)小波函數(shù)查找表(LUT1-1)的輸出端連接每個(gè)前向傳播輸出層可重構(gòu)單元(RC1-2)的輸入端，每個(gè)前向傳播輸出層可重構(gòu)單元(RC1-2)的輸出端連接一個(gè)激勵(lì)函數(shù)查找表(LUT1-2)；前向傳播輸出層可重構(gòu)單元(RC1-2)和激勵(lì)函數(shù)查找表(LUT1-2)的數(shù)目由對(duì)輸出信號(hào)的要求來決定；所述誤差反饋模塊(2)包括誤差反饋輸出層功能模塊(2-1)和誤差反饋隱含層功能模塊(2-2)；所述誤差反饋輸出層功能模塊(2-1)是由若干個(gè)誤差反饋輸出層可重構(gòu)單元(RC2-1)、若干個(gè)激勵(lì)函數(shù)導(dǎo)函數(shù)查找表(LUT2-1)以及若干個(gè)誤差反饋輸出層乘法器構(gòu)成；誤差反饋輸出層可重構(gòu)單元(RC2-1)，激勵(lì)函數(shù)導(dǎo)函數(shù)查找表(LUT2-1)和誤差反饋輸出層乘法器的數(shù)目相同，該數(shù)目由前向傳播輸出層功能模塊(1-3)決定；誤差反饋輸出層可重構(gòu)單元(RC2-1)的輸出端和激勵(lì)函數(shù)導(dǎo)函數(shù)查找表(LUT2-1)的輸出端分別連接到誤差反饋輸出層乘法器的輸入端，誤差反饋輸出層乘法器的輸出作為誤差反饋輸出層功能模塊(2-1)的輸出；誤差反饋輸出層功能模塊(2-1)的兩輸入分別來自前向傳播輸出層激勵(lì)函數(shù)查找表(LUT1-2)和前向傳播輸出層可重構(gòu)單元(RC1-2)；所述誤差反饋隱含層功能模塊(2-2)由若干個(gè)誤差反饋隱含層可重構(gòu)單元(RC2-2)，若干個(gè)小波函數(shù)導(dǎo)函數(shù)查找表單元(LUT2-2)和若干個(gè)誤差反饋隱含層乘法器構(gòu)成；誤差反饋隱含層可重構(gòu)單元(RC2-2)、小波函數(shù)導(dǎo)函數(shù)查找表單元(LUT2-2)和誤差反饋隱含層乘法器的數(shù)目相同，該數(shù)目由前向傳播隱含層可重構(gòu)單元(RC1-1)和前向傳播隱含層激勵(lì)函數(shù)查找表(LUT1-1)決定；每個(gè)誤差反饋輸出層乘法器的輸出端連接誤差反饋隱含層可重構(gòu)單元(RC2-2)的輸入端；誤差反饋隱含層可重構(gòu)單元(RC2-2)的輸出端與小波函數(shù)導(dǎo)函數(shù)查找表單元(LUT2-2)的輸出端分別連接誤差反饋隱含層乘法器的輸入端，誤差反饋隱含層乘法器的輸出端作為誤差反饋隱含層功能模塊(2-2)的輸出端；所述網(wǎng)絡(luò)更新模塊(3)包括網(wǎng)絡(luò)更新輸出層功能模塊(3-1)，網(wǎng)絡(luò)更新隱含層功能模塊(3-2)；所述網(wǎng)絡(luò)更新輸出層功能模塊(3-1)由若干個(gè)輸出層更新量計(jì)算模塊(RC3-1)和若干個(gè)輸出層更新模塊(RC3-2)組成；輸出層更新量計(jì)算模塊(RC3-1)和輸出層更新模塊(RC3-2)數(shù)目相同，該數(shù)目由前向傳播輸出層可重構(gòu)單元(RC1-2)決定；每個(gè)輸出層更新量計(jì)算模塊(RC3-1)的輸入端有三個(gè)輸入端，每個(gè)輸出層更新量計(jì)算模塊(RC3-1)的輸出端對(duì)應(yīng)連接一個(gè)輸出層更新模塊(RC3-2)；所述網(wǎng)絡(luò)更新隱含層功能模塊(3-2)由若干個(gè)隱含層更新量計(jì)算模塊(RC3-3)和若干個(gè)隱含層更新模塊(RC3-4)組成，隱含層更新量計(jì)算模塊(RC3-3)和隱含層更新模塊(RC3-4)的數(shù)目相同，該數(shù)目由前向傳播隱含層可重構(gòu)單元(RC1-1)決定；每個(gè)隱含層更新量計(jì)算模塊(RC3-3)的輸出端連接隱含層更新模塊(RC3-4)。
2.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的前向傳 播隱含層可重構(gòu)單元(RCl-I)的結(jié)構(gòu)如下由一個(gè)次當(dāng)前權(quán)值寄存器、一個(gè)當(dāng)前權(quán)值寄存器、一個(gè)乘法器、第一加法器(ADD 1)、第 二加法器(ADD 2)、一個(gè)次當(dāng)前平移因子寄存器、一個(gè)當(dāng)前平移因子寄存器、一個(gè)次當(dāng)前伸 縮因子寄存器、一個(gè)當(dāng)前伸縮因子寄存器和一個(gè)除法器組成；前向傳播輸入層功能模塊(1-1)的每個(gè)數(shù)據(jù)寄存器的輸出端和當(dāng)前權(quán)值寄存器的一 個(gè)輸出端連接每個(gè)前向傳播隱含層可重構(gòu)單元(RCl-I)中的乘法器的輸入端，該乘法器的 輸出端連接到第一加法器(ADD 1)，該第一加法器(ADD 1)的輸出端分為兩路第一加法 器(ADD 1)的一個(gè)輸出端和當(dāng)前平移因子寄存器的輸出端連接第二加法器(ADD 2)的輸 入端，第一加法器(ADD 1)的另一個(gè)輸出端反饋連接到自身的另一個(gè)輸入端；第二加法器 (ADD 2)的輸出端和當(dāng)前伸縮因子寄存器的一個(gè)輸出端連接除法器的輸入端；除法器的輸 出端作為前向傳播隱含層可重構(gòu)單元(RCl-I)的輸出端；當(dāng)前權(quán)值寄存器的另一個(gè)輸出端連接到次當(dāng)前權(quán)值寄存器，當(dāng)前平移因子寄存器的另 一個(gè)輸出端連接到次當(dāng)前平移因子寄存器，當(dāng)前伸縮因子寄存器的另一個(gè)輸出端連接到次 當(dāng)前伸縮因子寄存器。
3.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的前向傳 播輸出層可重構(gòu)單元(RC1-2)的結(jié)構(gòu)如下由一個(gè)次當(dāng)前權(quán)值寄存器、一個(gè)當(dāng)前權(quán)值寄存器，一個(gè)乘法器、一個(gè)加法器和一個(gè)閾值 寄存器組成，前向傳播隱含層可重構(gòu)單元(RCl-I)中的每個(gè)小波函數(shù)查找表(LUTl-I)的輸 出端和當(dāng)前權(quán)值寄存器的一個(gè)輸出端連接每個(gè)前向傳播輸出層可重構(gòu)單元(RC1-2)中的 乘法器，當(dāng)前權(quán)值寄存器的另一個(gè)輸出端連接到次當(dāng)前權(quán)值寄存器；乘法器的輸出端和閾 值寄存器的輸出端分別連接到加法器的輸入端，該加法器的輸出端分為兩路加法器的一 個(gè)輸出端連接到與前向傳播輸出層可重構(gòu)單元(RC1-2)對(duì)應(yīng)的激勵(lì)函數(shù)查找表(LUT1-2) 的輸入端，加法器的另一個(gè)輸出端反饋連接到該加法器自身的另一個(gè)輸入端。
4.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的誤差反 饋輸出層可重構(gòu)單元(RC2-1)的結(jié)構(gòu)如下由一個(gè)目標(biāo)數(shù)據(jù)寄存器和一個(gè)減法器組成，前向傳播輸出層功能模塊(1-3)中的每個(gè) 激勵(lì)函數(shù)導(dǎo)函數(shù)查找表(LUT2-1)的輸出端和目標(biāo)數(shù)據(jù)寄存器的輸出端連接減法器的輸入 端；該減法器的輸出端的結(jié)果作為誤差反饋輸出層可重構(gòu)單元(RC2-1)的輸出。
5.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的誤差反 饋隱含層可重構(gòu)單元(RC2-2)由一個(gè)乘法器和一個(gè)加法器組成，每個(gè)誤差反饋輸出層乘法器的輸出端和前向傳播輸出層模塊(1-2)的當(dāng)前權(quán)值寄存器的輸出端連接誤差反饋隱含 層可重構(gòu)單元(RC2-2)的乘法器的輸入端；誤差反饋隱含層可重構(gòu)單元(RC2-2)的乘法器 的輸出端連接加法器的一個(gè)輸入端，該加法器的輸出端分為兩路加法器的一個(gè)輸出端反 饋連接到該加法器自身的另一個(gè)輸出端；當(dāng)所有輸入數(shù)據(jù)乘累加計(jì)算完成，加法器的另一 路輸出端作為誤差反饋隱含層可重構(gòu)單元(RC2-2)的輸出端。
6.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的網(wǎng)絡(luò)更 新輸出層更新量計(jì)算模塊(RC3-1)由一個(gè)三輸入的乘法器和學(xué)習(xí)速率寄存器構(gòu)成，學(xué)習(xí)速 率寄存器的輸出作為乘法器的一個(gè)輸入，誤差反饋輸出層功能模塊(2-1)的輸出作為乘法 器的第二個(gè)輸入，激勵(lì)函數(shù)查找表(LUT1-2)的輸出作為乘法器的第三個(gè)輸入。
7.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的網(wǎng)絡(luò)更 新輸出層更新模塊(RC3-2)由一個(gè)二輸入減法器，一個(gè)二輸入乘法器，一個(gè)三輸入加法器 組成；減法器的一個(gè)輸入端連接前向傳播輸出層可重構(gòu)單元(RC1-2)的當(dāng)前權(quán)值寄存器， 另一個(gè)輸入端連接前向傳播輸出層可重構(gòu)單元(RC1-2)的次當(dāng)前權(quán)值寄存器，減法器的一 個(gè)輸出端連接乘法器的一個(gè)輸入端，該乘法器的另一個(gè)輸入端是輸出層更新量計(jì)算單元 (RC3-1)的學(xué)習(xí)因子寄存器，乘法器的輸出端連接加法器的第一個(gè)輸入端，網(wǎng)絡(luò)更新輸出層 更新量計(jì)算模塊(RC3-1)的乘法器的輸出端連接該加法器的第二個(gè)輸入端，該加法器的第 三個(gè)輸入端連接前向傳播輸出層可重構(gòu)單元(RC1-2)的當(dāng)前權(quán)值寄存器，加法器的輸出端 連接前向傳播輸出層可重構(gòu)單元(RC1-2)的當(dāng)前權(quán)值寄存器；加法器的輸出作為網(wǎng)絡(luò)更新 輸出層更新模塊(RC3-2)的輸出。
8.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的網(wǎng)絡(luò)更 新隱含層更新量計(jì)算模塊(RC3-3)由三個(gè)二輸入乘法器，兩個(gè)二輸入除法器、閾值寄存器、 平移因子寄存器和伸縮因子寄存器構(gòu)成；網(wǎng)絡(luò)更新輸出層更新量計(jì)算單元(RC3-1)的學(xué) 習(xí)因子寄存器的輸出和誤差反饋輸出層功能模塊(2-1)的輸出連接到第一個(gè)乘法器的輸 入端，第一個(gè)乘法器的輸出端分為三路第一個(gè)乘法器的第一路輸出端和閾值寄存器的輸 入端分別連接到第二個(gè)乘法器，第一個(gè)乘法器的第二路輸出端和平移因子的輸出端分別連 接到第一個(gè)除法器的輸入端，第一個(gè)乘法器的第三路輸出端和前向傳播輸出層可重構(gòu)單元 (RC1-2)中加法器的輸出分別連接本模塊的第三個(gè)乘法器的輸入端；第三個(gè)乘法器的輸出 端和伸縮因子寄存器的輸出端分別連接第二個(gè)除法器的輸入端；第二乘法器的輸出端、第 一除法器的輸出端以及第二除法器的輸出端作為網(wǎng)絡(luò)更新隱含層更新量計(jì)算模塊(RC3-3) 的輸出。
9.如權(quán)利要求1所述的基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，其特征在于，所述的網(wǎng)絡(luò)更 新隱含層更新模塊(RC3-4)由第一可重構(gòu)模塊(RC3-4-1)、第二可重構(gòu)模塊(RC3-4-2)、第 三可重構(gòu)模塊(RC3-4-3)組成；這三個(gè)可重構(gòu)模塊的結(jié)構(gòu)相同且相互獨(dú)立；每個(gè)可重構(gòu)模 塊由一個(gè)二輸入減法器，一個(gè)二輸入乘法器，一個(gè)三輸入加法器組成，輸入數(shù)據(jù)進(jìn)入減法器 的輸入端，該減法器的輸出端與另一輸入連接乘法器的輸入端，該乘法器的輸出端與另兩 個(gè)輸入連接加法器的輸入端，該加法器輸出作為所屬的可重構(gòu)模塊的輸出。
全文摘要
本發(fā)明公開了一種基于sopc的小波神經(jīng)網(wǎng)絡(luò)處理器，由前向傳播模塊，誤差反饋模塊和網(wǎng)絡(luò)更新模塊構(gòu)成；前向傳播模塊的輸出端連接到誤差反饋模塊，誤差反饋模塊的輸出端連接到網(wǎng)絡(luò)更新模塊，網(wǎng)絡(luò)更新模塊的輸出端連接到前向傳播模塊；前向傳播模塊包括前向傳播輸入層功能模塊，前向傳播隱含層功能模塊，前向傳播輸出層功能模塊；誤差反饋模塊包括誤差反饋輸出層功能模塊和誤差反饋隱含層功能模塊；網(wǎng)絡(luò)更新模塊包括網(wǎng)絡(luò)更新輸出層功能模塊，網(wǎng)絡(luò)更新隱含層功能模塊。本發(fā)明在SOPC上實(shí)現(xiàn)小波神經(jīng)網(wǎng)絡(luò)，將小波神經(jīng)網(wǎng)絡(luò)算法劃分為幾種基本運(yùn)算，這些基本運(yùn)算由可重構(gòu)單元RC完成，通過采用不同的RC連接方式能夠構(gòu)成功能不同的小波神經(jīng)網(wǎng)絡(luò)。
文檔編號(hào)G06N3/063GK101882238SQ201010227358
公開日2010年11月10日 申請(qǐng)日期2010年7月15日 優(yōu)先權(quán)日2010年7月15日
發(fā)明者任東明, 劉清洪, 巨永鋒, 康迤, 文常保, 李洪安, 閆棟 申請(qǐng)人:長安大學(xué)