相關(guān)申請(qǐng)的交叉引用

本申請(qǐng)要求于2014年11月6日提交且題為“nonparametricmodelfordetectionofspatiallydiversetemporalpatterns(用于檢測(cè)在空間上不同的時(shí)間模式的非參數(shù)化模型)”的美國(guó)臨時(shí)專利申請(qǐng)no.62/076,319的權(quán)益，其公開內(nèi)容通過援引全部明確納入于此。

背景技術(shù)：

本公開的某些方面一般涉及機(jī)器學(xué)習(xí)，且更具體地涉及改進(jìn)檢測(cè)在空間上不同的時(shí)間模式的系統(tǒng)和方法。

背景

諸如蜂窩電話或個(gè)人數(shù)字助理(pda)等移動(dòng)設(shè)備具有若干功能，這些功能中的每一者可通過用戶選擇唯一鍵序列或使用屏上菜單來激活。給定移動(dòng)設(shè)備上能夠提供的有限數(shù)目的控件，在移動(dòng)設(shè)備提供增加的特征集時(shí)，訪問所有特征可變得愈加復(fù)雜。

最近，一些移動(dòng)設(shè)備已被設(shè)計(jì)成包括通過識(shí)別用戶控制的姿勢(shì)來接收用戶輸入的能力。一些設(shè)備可通過觸摸屏界面接收用戶控制的姿勢(shì)，而其他設(shè)備可被配置成通過獲取圖像并實(shí)現(xiàn)計(jì)算機(jī)視覺辦法以跟蹤用戶輸入來接收用戶控制的姿勢(shì)。姿勢(shì)識(shí)別的一個(gè)重要方面是識(shí)別所得的軌跡數(shù)據(jù)中的已知模式的能力。然而，比劃或打手勢(shì)來作出輸入姿勢(shì)的方法或表現(xiàn)通常隨用戶而變，或甚至隨同一用戶的每一次比劃而變。例如，輕微差異可存在于不同用戶比劃特定字符(例如，數(shù)字“2”)的方式中。由于這些差異，識(shí)別軌跡數(shù)據(jù)中的模式依然是重大挑戰(zhàn)。

概覽

在本公開的一方面，提出了一種生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的計(jì)算機(jī)實(shí)現(xiàn)的方法。該方法包括接收多個(gè)訓(xùn)練軌跡。訓(xùn)練軌跡中的每一者包括表示時(shí)空模式的多個(gè)不同數(shù)據(jù)點(diǎn)。接收到的訓(xùn)練軌跡定義一區(qū)域。該方法還包括將該區(qū)域劃分成多個(gè)觀察到的集群和一非觀察到的補(bǔ)充性集群。該方法進(jìn)一步包括生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群。

在本公開的另一方面，提出了一種生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的裝置。該裝置包括存儲(chǔ)器以及耦合至該存儲(chǔ)器的至少一個(gè)處理器。(各)處理器被配置成接收訓(xùn)練軌跡。訓(xùn)練軌跡中的每一者包括表示時(shí)空模式的不同數(shù)據(jù)點(diǎn)。接收到的訓(xùn)練軌跡定義一區(qū)域。(各)處理器被進(jìn)一步配置成將該區(qū)域劃分成各觀察到的集群和一非觀察到的補(bǔ)充性集群。(各)處理器進(jìn)一步包括生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群。

在本公開的又一方面，提出了一種用于生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的設(shè)備。該設(shè)備包括用于接收訓(xùn)練軌跡的裝置。訓(xùn)練軌跡中的每一者包括表示時(shí)空模式的不同數(shù)據(jù)點(diǎn)。接收到的訓(xùn)練軌跡定義一區(qū)域。該設(shè)備還包括用于將該區(qū)域劃分成各觀察到的集群和一非觀察到的補(bǔ)充性集群的裝置。該設(shè)備進(jìn)一步包括用于生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群的裝置。

根據(jù)本公開的又一方面，提出了一種非瞬態(tài)計(jì)算機(jī)可讀介質(zhì)。該非瞬態(tài)計(jì)算機(jī)可讀介質(zhì)上編碼有用于生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的程序代碼。該程序代碼由處理器執(zhí)行且包括用于接收訓(xùn)練軌跡的程序代碼。訓(xùn)練軌跡中的每一者包括表示時(shí)空模式的不同數(shù)據(jù)點(diǎn)。接收到的訓(xùn)練軌跡定義一區(qū)域。該程序代碼還包括用于將該區(qū)域劃分成各觀察到的集群和一非觀察到的補(bǔ)充性集群的程序代碼。該程序代碼進(jìn)一步包括用于生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群的程序代碼。

本公開的附加特征和優(yōu)點(diǎn)將在下文描述。本領(lǐng)域技術(shù)人員應(yīng)該領(lǐng)會(huì)，本公開可容易地被用作修改或設(shè)計(jì)用于實(shí)施與本公開相同的目的的其他結(jié)構(gòu)的基礎(chǔ)。本領(lǐng)域技術(shù)人員還應(yīng)認(rèn)識(shí)到，這樣的等效構(gòu)造并不脫離所附權(quán)利要求中所闡述的本公開的教導(dǎo)。被認(rèn)為是本公開的特性的新穎特征在其組織和操作方法兩方面連同進(jìn)一步的目的和優(yōu)點(diǎn)在結(jié)合附圖來考慮以下描述時(shí)將被更好地理解。然而，要清楚理解的是，提供每一幅附圖均僅用于解說和描述目的，且無意作為對(duì)本公開的限定的定義。

附圖簡(jiǎn)述

在結(jié)合附圖理解下面闡述的詳細(xì)描述時(shí)，本公開的特征、本質(zhì)和優(yōu)點(diǎn)將變得更加明顯，在附圖中，相同附圖標(biāo)記始終作相應(yīng)標(biāo)識(shí)。

圖1a和1b分別解說了移動(dòng)平臺(tái)的正面和背面。

圖2解說了移動(dòng)平臺(tái)接收字母數(shù)字用戶輸入。

圖3解說了根據(jù)本公開的某些方面的使用片上系統(tǒng)(soc)(包括通用處理器)來設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)的示例實(shí)現(xiàn)。

圖4解說了根據(jù)本公開的各方面的系統(tǒng)的示例實(shí)現(xiàn)。

圖5是解說根據(jù)本公開的各方面的根據(jù)dirichlet過程的經(jīng)劃分空間區(qū)域的示圖。

圖6是解說根據(jù)本公開的各方面的根據(jù)pitman-yor過程的經(jīng)劃分空間區(qū)域的示圖。

圖7a是解說用于上下顛倒地呈現(xiàn)的字母數(shù)字字符“2”的訓(xùn)練軌跡集合的示圖。

圖7b是圖7a的訓(xùn)練軌跡的高斯過程協(xié)方差的示圖。

圖7c是解說圖7a的訓(xùn)練軌跡的另一高斯過程協(xié)方差的示圖，其具有與用于圖7b的長(zhǎng)度-尺度相比增加的長(zhǎng)度-尺度。

圖7d是圖7c的高斯過程協(xié)方差的三維(3d)表示。

圖8a-c是解說根據(jù)本公開的各方面的根據(jù)應(yīng)用于圖7a的訓(xùn)練軌跡的pitman-yor過程的經(jīng)劃分空間區(qū)域的示圖。

圖9是用于識(shí)別時(shí)空模式的方法的圖形解說。

圖10是解說能夠經(jīng)由前向相機(jī)接收用戶輸入的移動(dòng)平臺(tái)的功能框圖。

圖11是解說根據(jù)本公開的各方面的用于生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的方法的流程圖。

圖12是解說根據(jù)本公開的各方面的用于生成時(shí)空模式模型的過程的流程圖。

圖13是解說根據(jù)本公開的各方面的用于時(shí)空模式識(shí)別的方法的流程圖。

詳細(xì)描述

以下結(jié)合附圖闡述的詳細(xì)描述旨在作為各種配置的描述，而無意表示可實(shí)踐本文中所描述的概念的僅有的配置。本詳細(xì)描述包括具體細(xì)節(jié)以便提供對(duì)各種概念的透徹理解。然而，對(duì)于本領(lǐng)域技術(shù)人員將顯而易見的是，沒有這些具體細(xì)節(jié)也可實(shí)踐這些概念。在一些實(shí)例中，以框圖形式示出眾所周知的結(jié)構(gòu)和組件以避免湮沒此類概念。

基于本教導(dǎo)，本領(lǐng)域技術(shù)人員應(yīng)領(lǐng)會(huì)，本公開的范圍旨在覆蓋本公開的任何方面，不論其是與本公開的任何其他方面相獨(dú)立地還是組合地實(shí)現(xiàn)的。例如，可以使用所闡述的任何數(shù)目的方面來實(shí)現(xiàn)裝置或?qū)嵺`方法。另外，本公開的范圍旨在覆蓋使用作為所闡述的本公開的各個(gè)方面的補(bǔ)充或者與之不同的其他結(jié)構(gòu)、功能性、或者結(jié)構(gòu)及功能性來實(shí)踐的此類裝置或方法。應(yīng)當(dāng)理解，所披露的本公開的任何方面可由權(quán)利要求的一個(gè)或多個(gè)元素來實(shí)施。

措辭“示例性”在本文中用于表示“用作示例、實(shí)例或解說”。本文中描述為“示例性”的任何方面不必被解釋為優(yōu)于或勝過其他方面。

盡管本文描述了特定方面，但這些方面的眾多變體和置換落在本公開的范圍之內(nèi)。雖然提到了優(yōu)選方面的一些益處和優(yōu)點(diǎn)，但本公開的范圍并非旨在被限定于特定益處、用途或目標(biāo)。相反，本公開的各方面旨在能寬泛地應(yīng)用于不同的技術(shù)、系統(tǒng)配置、網(wǎng)絡(luò)和協(xié)議，其中一些作為示例在附圖以及以下對(duì)優(yōu)選方面的描述中解說。詳細(xì)描述和附圖僅僅解說本公開而非限定本公開，本公開的范圍由所附權(quán)利要求及其等效技術(shù)方案來定義。

本公開的各方面涉及生成用于時(shí)空模式識(shí)別的模型。即，在檢測(cè)到持續(xù)觀察的多維變量?jī)?nèi)的時(shí)間模式時(shí)，知曉該變量是否背離所評(píng)估的模式以及背離得多少是合乎需要的。時(shí)間模式可包括字母數(shù)字字符、物體、語(yǔ)音、姿勢(shì)、股票市場(chǎng)活動(dòng)、氣象模式、以及其它時(shí)間模式或時(shí)空模式。在接受或拒絕時(shí)間模式之前可考慮差異量。換言之，時(shí)間模式中的空間差異可能足夠顯著以使得原本可接受模式被拒絕，或反之。相應(yīng)地，本公開的各方面提供了通過建模過程對(duì)可接受差異量的控制。

根據(jù)本公開的各方面，非參數(shù)化模型可被用于檢測(cè)具有空間多樣性的習(xí)得時(shí)間流形(manifold)。在一些方面，該模型可以基于隨機(jī)過程，諸如稱為pitman-yor過程的兩參數(shù)dirichlet過程。例如，空間多樣性可通過pitman-yor過程在第二參數(shù)上施加協(xié)方差回歸過程(例如，高斯過程協(xié)方差回歸)來建模。給定混合模型的各分量的序列，隱馬爾科夫模型可被應(yīng)用來對(duì)各流形的時(shí)間動(dòng)態(tài)性進(jìn)行建模。這允許評(píng)估給定流形并拒絕任意序列，這在其中要在連續(xù)觀察序列內(nèi)發(fā)現(xiàn)各模式(例如，連續(xù)手部移動(dòng)內(nèi)的時(shí)間模式)的應(yīng)用中是非常重要的。

時(shí)間流形被用在許多應(yīng)用中，包括手部跟蹤、姿勢(shì)識(shí)別以及人類動(dòng)作識(shí)別。常規(guī)隱馬爾科夫模型(hmm)已被用來檢測(cè)許多應(yīng)用(包括語(yǔ)音和姿勢(shì)識(shí)別)中的時(shí)間事件。存在hmm的不同版本，包括在其中各觀察以空間多樣性發(fā)生的應(yīng)用中使用的具有離散和連續(xù)密度發(fā)射的hmm。

空間數(shù)據(jù)對(duì)于許多應(yīng)用而言起重要作用，諸如用于流檢測(cè)和姿勢(shì)識(shí)別的軌跡的識(shí)別。用于對(duì)空間數(shù)據(jù)進(jìn)行建模的一些常規(guī)方法包括k均值和高斯混合模型(gmm)，其中數(shù)據(jù)點(diǎn)被編組在一起以定義集群集合，每一集群表示字母表中的一個(gè)符號(hào)。在單詞詞匯表(例如，英語(yǔ)單詞、口語(yǔ)單詞、軌跡、或姿勢(shì))中，來自字母表的各個(gè)符號(hào)序列可以創(chuàng)建有意義的不同單詞(流形、姿勢(shì)，等等)。

檢測(cè)時(shí)空模式的一個(gè)問題涉及拒絕不與習(xí)得模式的詞匯表的任何成員相類似的移動(dòng)。這在語(yǔ)音和姿勢(shì)識(shí)別中尤其重要。對(duì)于諸如姿勢(shì)和動(dòng)作識(shí)別等應(yīng)用，姿勢(shì)/動(dòng)作被定義為多維空間內(nèi)的移動(dòng)，其中該移動(dòng)的所有部分應(yīng)當(dāng)被完成才能被認(rèn)為是詞匯表中的習(xí)得模型之一。這意味著例如如果經(jīng)訓(xùn)練模式或移動(dòng)看起來是空間中的圓，則部分類似于圓的曲線(例如，圓的60％)不是可接受的且被拒絕。在檢測(cè)連續(xù)移動(dòng)內(nèi)的模式時(shí)，這尤其重要，因?yàn)槿我庖苿?dòng)頻繁發(fā)生且它們中的許多可能部分類似于經(jīng)訓(xùn)練模式中的一些。

相應(yīng)地，本公開的各方面提供了用于將各模式局部化并拒絕不與詞匯表中的任何模式相類似的軌跡的觀察和移動(dòng)的非參數(shù)化模型。各模式的時(shí)間動(dòng)態(tài)性可以用隱馬爾科夫模型來建模并且用帶高斯發(fā)射的dirichlet過程混合(dpm)模型對(duì)它們的空間變化進(jìn)行建模。高斯的混合允許適于空間上不同的模式的觀察的無限集合。dpm可被用于對(duì)各觀察進(jìn)行群集。該混合的分量標(biāo)記可進(jìn)而被用在hmm中以用于對(duì)每一模式的時(shí)間動(dòng)態(tài)性進(jìn)行建模。

此外，本文的配置被用于檢測(cè)或拒絕一序列。因此，接受和拒絕區(qū)之間的清晰且強(qiáng)烈的分隔間隙是合乎需要的。例如，來自可接受區(qū)的數(shù)據(jù)產(chǎn)生顯著大于由來自拒絕區(qū)的數(shù)據(jù)所產(chǎn)生的似然性的大似然性是合乎需要的。例如，如果接受的似然性是-100及以上且拒絕的似然性是-300及以下，則存在足夠間隔來避免混淆。然而，如果接受的似然性是-100及以上且拒絕的似然性是-115及以下，則間隙很小，以致一些可接受輸入可造成似然性稍小于-115并且因此被拒絕。

因?yàn)榍逦覐?qiáng)烈的分隔間隙是合乎需要的，所以該模型可在不使用連續(xù)密度發(fā)射hmm(cdhmm)的情況下被配置。在cdhmm中，發(fā)射的概率通過概率密度函數(shù)(諸如高斯)和混合系數(shù)向量的混合來呈現(xiàn)。因此，遠(yuǎn)離密度中心的觀察將產(chǎn)生小似然性，這造成hmm似然性方面的損失。cdhmm作出從接受到拒絕區(qū)的平滑移動(dòng)，使得接受區(qū)與拒絕區(qū)之間的分隔含糊且不清。相反，根據(jù)本公開的各方面，接受區(qū)與拒絕區(qū)之間的間隙可通過考慮來自補(bǔ)充性集群的使得hmm產(chǎn)生非常小的似然性的觀察而被放大。不具有來自補(bǔ)充性集群的數(shù)據(jù)點(diǎn)的序列具有較大似然性。

圖1a和1b分別解說了被配置成經(jīng)由前向相機(jī)110接收用戶輸入的移動(dòng)平臺(tái)100的正面和背面。移動(dòng)平臺(tái)100被解說為包括前向顯示器102、揚(yáng)聲器104、以及話筒106。移動(dòng)平臺(tái)100進(jìn)一步包括用于捕捉環(huán)境的圖像的后向相機(jī)108和前向相機(jī)110。移動(dòng)平臺(tái)100可進(jìn)一步包括包含諸如鄰近度傳感器、加速度計(jì)、陀螺儀、鄰近度傳感器、觸摸傳感器/觸摸屏等傳感器的傳感器系統(tǒng)，這可被用來輔助確定移動(dòng)平臺(tái)100的位置和/或相對(duì)運(yùn)動(dòng)或觸摸手指在屏幕上的位置。

如本文中所使用的，移動(dòng)平臺(tái)是指任何便攜式電子設(shè)備，諸如蜂窩或其它無線通信設(shè)備、個(gè)人通信系統(tǒng)(pcs)設(shè)備、個(gè)人導(dǎo)航設(shè)備(pnd)、個(gè)人信息管理器(pim)、個(gè)人數(shù)字助理(pda)、或者其它合適的移動(dòng)設(shè)備。移動(dòng)平臺(tái)可被配置成接收無線通信和/或?qū)Ш叫盘?hào)(諸如導(dǎo)航定位信號(hào))。移動(dòng)平臺(tái)可包括諸如通過短程無線、紅外、有線連接、或其他連接與個(gè)人導(dǎo)航設(shè)備(pnd)通信的設(shè)備，不管衛(wèi)星信號(hào)接收、輔助數(shù)據(jù)接收、和/或定位相關(guān)處理是發(fā)生在該設(shè)備上還是pnd上。在一些方面，移動(dòng)平臺(tái)還可包括電子設(shè)備，包括無線通信設(shè)備、計(jì)算機(jī)、膝上型設(shè)備、平板計(jì)算機(jī)、頭戴式設(shè)備、可穿戴計(jì)算機(jī)等等，它們能夠經(jīng)由前向相機(jī)或觸摸傳感器來光學(xué)地或通過觸摸跟蹤用戶引導(dǎo)的對(duì)象以用于識(shí)別用戶輸入。

圖2解說了經(jīng)由相機(jī)(例如，參見圖1a的前向相機(jī)110)接收字母數(shù)字用戶輸入的示例性移動(dòng)平臺(tái)100的俯視圖。移動(dòng)平臺(tái)100使用其相機(jī)捕捉用戶引導(dǎo)的對(duì)象的圖像序列。在這一配置中，用戶引導(dǎo)的對(duì)象是用戶202的指尖204。然而，在其他方面，用戶引導(dǎo)的對(duì)象可包括書寫工具，諸如用戶的整個(gè)手指、指示筆、筆、鉛筆、刷、或其它書寫工具。

移動(dòng)平臺(tái)100捕捉圖像系列或序列并且響應(yīng)于此，在用戶202在表面200上四處移動(dòng)指尖204時(shí)跟蹤用戶引導(dǎo)的對(duì)象(例如，指尖204)。在一種配置中，表面200是平坦表面且與移動(dòng)平臺(tái)100分開并在其外部。例如，表面200可以是桌面或臺(tái)面。在另一配置中，用戶202可以簡(jiǎn)單地在移動(dòng)平臺(tái)100的視野中移動(dòng)指尖204而不接觸表面(例如，開放空間)以由移動(dòng)平臺(tái)100跟蹤。在這一配置中，輸入序列可以例如跟蹤用戶指尖204關(guān)于顯示器102的表面的移動(dòng)。在又一配置中，表面200可以是觸摸屏，諸如觸敏顯示器102，其中基于與顯示器的表面的接觸來指示輸入。在這一配置中，輸入序列可以例如跟蹤用戶指尖204沿著和/或與顯示器102的表面的接觸。

移動(dòng)平臺(tái)100對(duì)用戶引導(dǎo)的對(duì)象的跟蹤數(shù)據(jù)可由移動(dòng)平臺(tái)100分析以生成軌跡數(shù)據(jù)。在一個(gè)示例中，軌跡數(shù)據(jù)是在時(shí)間上排序且在空間上不同的數(shù)據(jù)點(diǎn)的集合。移動(dòng)平臺(tái)100可以分析所有或部分軌跡數(shù)據(jù)以識(shí)別各種類型的用戶輸入。例如，軌跡數(shù)據(jù)可以指示諸如字母數(shù)字字符(例如，字母、數(shù)字、以及符號(hào))、姿勢(shì)、和/或鼠標(biāo)/觸摸控制輸入等用戶輸入。在圖2的示例中，用戶202被示為正通過跨表面200引導(dǎo)指尖204完成字母數(shù)字字符206(例如，數(shù)字“2”)的一個(gè)或多個(gè)筆畫。通過在用戶202畫出虛擬數(shù)字“2”時(shí)捕捉圖像系列或記錄跨觸敏顯示器102的移動(dòng)，移動(dòng)平臺(tái)100可以跟蹤指尖204并隨后分析軌跡數(shù)據(jù)以識(shí)別該字符輸入。

圖3解說根據(jù)本公開的某些方面使用片上系統(tǒng)(soc)300進(jìn)行前述的生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的示例實(shí)現(xiàn)，soc300可包括通用處理器(cpu)或多核通用處理器(cpu)302。變量(例如，神經(jīng)信號(hào)和突觸權(quán)重)、與計(jì)算設(shè)備(例如，帶有權(quán)重的神經(jīng)網(wǎng)絡(luò))相關(guān)聯(lián)的系統(tǒng)參數(shù)、延遲、頻率槽信息、以及任務(wù)信息可被存儲(chǔ)在與神經(jīng)處理單元(npu)308相關(guān)聯(lián)的存儲(chǔ)器塊中、與cpu302相關(guān)聯(lián)的存儲(chǔ)器塊中、與圖形處理單元(gpu)104相關(guān)聯(lián)的存儲(chǔ)器塊中、與數(shù)字信號(hào)處理器(dsp)306相關(guān)聯(lián)的存儲(chǔ)器塊中、專用存儲(chǔ)器塊318中，或可跨多個(gè)塊分布。在通用處理器302處執(zhí)行的指令可從與cpu302相關(guān)聯(lián)的程序存儲(chǔ)器加載或可從專用存儲(chǔ)器塊318加載。

soc300還可包括為具體功能定制的附加處理塊(諸如gpu304、dsp306、連通性塊310(其可包括第四代長(zhǎng)期演進(jìn)(4glte)連通性、無執(zhí)照wi-fi連通性、usb連通性、藍(lán)牙連通性等))以及例如可檢測(cè)和識(shí)別姿勢(shì)的多媒體處理器312。在一種實(shí)現(xiàn)中，npu實(shí)現(xiàn)在cpu、dsp、和/或gpu中。soc300還可包括傳感器處理器314、圖像信號(hào)處理器(isp)、和/或?qū)Ш?20(其可包括全球定位系統(tǒng))。

soc300可基于arm指令集。在本公開的一方面，加載到通用處理器302中的指令可包括用于接收訓(xùn)練軌跡的代碼。訓(xùn)練軌跡中的每一者包括表示時(shí)空模式的不同數(shù)據(jù)點(diǎn)并且接收到的訓(xùn)練軌跡定義一區(qū)域。加載到通用處理器302的指令還可包括用于將該區(qū)域劃分成各觀察到的集群和一非觀察到的補(bǔ)充性集群的代碼。此外，加載到通用處理器302的指令可包括用于生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群的代碼。

圖4解說了根據(jù)本公開的某些方面的系統(tǒng)400的示例實(shí)現(xiàn)。如圖4中所解說的，系統(tǒng)400可具有可執(zhí)行本文所描述的方法的各種操作的多個(gè)局部處理單元402。每個(gè)局部處理單元402可包括局部狀態(tài)存儲(chǔ)器404和可存儲(chǔ)機(jī)器學(xué)習(xí)模型的參數(shù)的局部參數(shù)存儲(chǔ)器406。另外，局部處理單元402可具有用于存儲(chǔ)局部模型程序的局部(例如，神經(jīng)元)模型程序(lmp)存儲(chǔ)器408、用于存儲(chǔ)局部學(xué)習(xí)程序的局部學(xué)習(xí)程序(llp)存儲(chǔ)器410、以及局部連接存儲(chǔ)器412。此外，如圖4中所解說的，每個(gè)局部處理單元402可與用于為該局部處理單元的各局部存儲(chǔ)器提供配置的配置處理器單元414對(duì)接，并且與提供各局部處理單元402之間的路由的路由連接處理單元416對(duì)接。

圖5是解說根據(jù)dirichlet過程的經(jīng)劃分空間區(qū)域502的示圖。如圖5中所示，空間區(qū)域502已被劃分成八個(gè)區(qū)a1-a8。

根據(jù)本公開的各方面，不合需要的觀察和序列可被拒絕。在一些方面，dirichlet過程混合模型可被施加在觀察的無限空間上以定義接受區(qū)和拒絕區(qū)。dirichlet過程可被用來通過作為正實(shí)數(shù)的θ和α來定義觀察的空間的各分區(qū)，使得對(duì)于θ上的任何有限可測(cè)量分區(qū)a1,a2,…,ak，a1∪a2∪…∪ak＝θ，并且g是θ上的隨機(jī)概率測(cè)量(g(a1),g(a2),…,g(ak))～dirichlet(αh(a1),αh(a2),…,αh(ak))。根據(jù)這一定義，觀察的空間(例如，空間區(qū)域)可被劃分成數(shù)個(gè)區(qū)，例如如圖5中所示。如果g是根據(jù)dirichlet過程(dp)分布的(例如，g～dp(α,h)，則來自g的比劃是θi，其中θi|g～g，i＝1,2,…,n，并且dirichlet過程的后驗(yàn)如下給出：

通過將g邊緣化，預(yù)測(cè)分布由下式給出：

其中|θ|是當(dāng)前分區(qū)數(shù)目，nk是分區(qū)k處的觀察的數(shù)目，n是觀察的總數(shù)，δ(θ，θk)是增量函數(shù)(例如，kronecker增量函數(shù))，且α是對(duì)稱dirichlet分布的參數(shù)。

根據(jù)式2，新觀察將以概率被指派給任何當(dāng)前填充(非空)分區(qū)或集群k。另選地，新觀察能以概率被指派給新未填充(空)分區(qū)。因而，如果α與當(dāng)前分區(qū)處的觀察的數(shù)目相比很小，則更可能的是新觀察被指派給當(dāng)前分區(qū)之一(而非新分區(qū))。

應(yīng)用隨機(jī)過程(例如，pitman-yor過程)，預(yù)測(cè)概率分布可由下式給出：

其中d是用于控制各區(qū)或集群的面積的參數(shù)。

在式3中，參數(shù)d可以例如被定義為使得0≤d<1且α>-d。在這一示例中，參數(shù)d可以控制具有一個(gè)或非常少觀察(軌跡)的區(qū)或集群的數(shù)目。即，d的值越大，具有較少數(shù)目的觀察(軌跡)的區(qū)或集群越多。另外，d越大，具有大量觀察的區(qū)或集群的數(shù)目越少，并且每一區(qū)內(nèi)的觀察(軌跡)的數(shù)目越大。

在一個(gè)示例性方面，在空間上分布的數(shù)據(jù)點(diǎn)可由高斯集群來建模。諸如pitman-yor過程等隨機(jī)過程可被用來限制高斯集群的范圍。用于詞匯表中的一單詞的訓(xùn)練數(shù)據(jù)點(diǎn)群可以與高斯混合模型群集在一起。pitman-yor過程(pyp)可被用來將空間群集成有限數(shù)目的集群或區(qū)。如此，觀察的空間可被劃分成有限數(shù)目的區(qū)或集群，其中某些集群具有指派給它的訓(xùn)練數(shù)據(jù)點(diǎn)，具有增長(zhǎng)更多集群的潛力或能力。將不具有所指派的數(shù)據(jù)點(diǎn)的無限集群集合共同地認(rèn)為是單個(gè)集群，pitmanyor過程可被用來將空間群集成以下集合：

其中是經(jīng)訓(xùn)練高斯分區(qū)(例如，區(qū)或集群)。

圖6是解說根據(jù)諸如pitman-yor過程等隨機(jī)過程的經(jīng)劃分空間區(qū)域602的示圖。參考圖6，空間區(qū)域602已被劃分成四個(gè)觀察到的區(qū)a1、a2、a3以及a4和一個(gè)非觀察到的補(bǔ)充區(qū)acomplement。雖然圖6中示出了四個(gè)觀察到的區(qū)，但這僅僅是為了易于解釋并且本公開不限于此。如本文所示，任何數(shù)目的區(qū)可被用來劃分觀察空間。在一個(gè)配置中，補(bǔ)充區(qū)acomplement籠統(tǒng)地表示可由式4的pyp發(fā)起的所有未觀察到的分區(qū)。

在數(shù)據(jù)點(diǎn)i+1相當(dāng)不可能由經(jīng)訓(xùn)練分量之一生成時(shí)，式4的pyp可被用來限制每一高斯集群的范圍并評(píng)估新集群的創(chuàng)建。由pitman-yor過程發(fā)起的新集群的位置因此可以是任何位置。在一些方面，式4的基礎(chǔ)分布可以是高斯族，因?yàn)榛旌夏Ｐ褪歉咚埂?/p>

混合模型中高斯的均值和協(xié)方差兩者可以是未知的且采樣自共軛先驗(yàn)。因?yàn)閰f(xié)方差矩陣是正定的(對(duì)于每一非零列向量而言，轉(zhuǎn)置是正的)，對(duì)于均值固定的情形而言其共軛先驗(yàn)具有逆wishart分布λ～iw(v,δ)，這是單維高斯采樣的逆伽馬-正態(tài)共軛先驗(yàn)的多維類似。在一些方面，多維均值和協(xié)方差矩陣是不確定的。因此，這一情形的正確先驗(yàn)是正態(tài)逆wishart分布，其密度表達(dá)為：λ～w(v，δ)和

其中v表示自由度且一般被選擇成大于數(shù)據(jù)的維數(shù)，δ是其中v作為其數(shù)據(jù)集的大小的偽協(xié)方差矩陣，且k是具有期望均值v的先驗(yàn)的偽數(shù)據(jù)集的大小。觀察x^*的預(yù)測(cè)似然性可根據(jù)具有自由度的student-t分布來分布。因而，預(yù)測(cè)似然性隨后可由均值為且協(xié)方差為的正態(tài)分布來近似地給出。

相應(yīng)地，使用pitman-yor過程并且具有用于基礎(chǔ)正態(tài)分布的共軛先驗(yàn)的所確定的正確分布，該分布可被采樣以用于推斷。在一個(gè)示例性方面，gibbs采樣器過程可被用于訓(xùn)練并用于從pyp推斷。pyp似然性對(duì)隱馬爾科夫模型的發(fā)射進(jìn)行建模，其中每一集群的分區(qū)標(biāo)記被認(rèn)為是觀察。不屬于具有所指派的數(shù)據(jù)點(diǎn)的任一分區(qū)的觀察數(shù)據(jù)點(diǎn)的pyp似然性允許將觀察延伸到不具有任何觀察的無限分區(qū)集合，這可被稱為補(bǔ)充分區(qū)或區(qū)(例如，acomplement)。因此，可以向不可能來自被占據(jù)分區(qū)的觀察給出補(bǔ)充分區(qū)的標(biāo)記。hmm因而被修改以容納這些觀察。因?yàn)樵谠~匯表的群集過程中和hmm的訓(xùn)練中沒有這樣的觀察的實(shí)例，所以補(bǔ)充分區(qū)(例如，acomplement)以從其它觀察共同減去的非常小的概率被添加到觀察的每一hmm的表(這確保發(fā)射矩陣保持隨機(jī))。例如，如果bw是單詞w的hmm的發(fā)射矩陣，則來自補(bǔ)充分區(qū)的觀察的概率隨后由下式給出：

其中是狀態(tài)為s的觀察ok針對(duì)單詞w的經(jīng)調(diào)整發(fā)射概率。表示來自補(bǔ)充分區(qū)的所有觀察，且|kw|表示對(duì)于單詞w而言混合模型中被占據(jù)分區(qū)的數(shù)目。雖然單詞間分區(qū)交疊是可能的，但對(duì)于觀察序列分開地推斷每一單詞的pyp，并且因此每一單詞的pyp的分區(qū)是根據(jù)訓(xùn)練數(shù)據(jù)針對(duì)該單詞的觀察的最高值表示。因此，每一分區(qū)處的數(shù)據(jù)點(diǎn)的空間變化由該單詞的相關(guān)聯(lián)的訓(xùn)練數(shù)據(jù)來表示。

在一些方面，dirichlet過程能以概率將新成員吸引到已占據(jù)或填充的集群或區(qū)。因此，在關(guān)于新觀察進(jìn)行推斷時(shí)，新分區(qū)被發(fā)起并被這一觀察占據(jù)的似然性可能非常低。換言之，dirichlet過程往往產(chǎn)生許多大分區(qū)。然而，從已占據(jù)分區(qū)集合排除數(shù)據(jù)點(diǎn)是合乎需要的，如果它更可能來自補(bǔ)充分區(qū)的話。此外，因?yàn)閿?shù)據(jù)可在各區(qū)域處不同，使用相同的限制因子來限制混合的所有分量可能是不合理的。因此，代替等同地限制各混合分量，在一些方面，pitman-yor過程的第二參數(shù)(例如，參數(shù)d)可根據(jù)數(shù)據(jù)來被設(shè)置并允許分量協(xié)方差控制每一分量的范圍。

由于數(shù)據(jù)點(diǎn)的空間性質(zhì)，空間模型可被使用來提供pyp的第二參數(shù)(例如，參數(shù)d)。為此，其中數(shù)據(jù)的空間變化由非參數(shù)化協(xié)方差回歸來建模的模型可被采用?？紤]多維高斯變量的條件分布，給定具有相同維度的高斯變量集合，如果x*是d維變量且x表示高斯變量集合，則條件分布p(x*|x)的均值和協(xié)方差由下式給出：

為避免高維數(shù)據(jù)回歸的計(jì)算負(fù)擔(dān)，在一些方面，數(shù)據(jù)的均值和協(xié)方差可由從某些先驗(yàn)分布采樣的函數(shù)來建模。因而，可在潛在無限維高斯空間為數(shù)據(jù)創(chuàng)建高斯模型(例如，μ(x1),…,μ(xn)～n((m(x1),…,m(xn),k(x1,…,xn)))，這是高斯過程(gp)。認(rèn)為數(shù)據(jù)是固定的是合理的，因?yàn)槟Ｊ脚c觀察的位置無關(guān)。因此，固定協(xié)方差函數(shù)(諸如平方指數(shù))可被使用：

其中τ是量值且l是協(xié)方差函數(shù)的平滑度。在一些方面，只有給定數(shù)據(jù)點(diǎn)的條件分布的協(xié)方差可被考慮。

cov(x^*|x)＝k(x^*，x^*)-k(x^*，x)t(k(x，x)+σ²i)-1k(x^*，x)(10)

在一些配置中，可能沒有與將數(shù)據(jù)認(rèn)為是表示高斯過程的數(shù)據(jù)點(diǎn)相關(guān)聯(lián)的任何輸出。因此，在這種情形中，數(shù)據(jù)點(diǎn)x^*的gp的期望沒有意義。然而，協(xié)方差回歸可由將項(xiàng)(k(x,x)+σ²i)倒轉(zhuǎn)的期望來支配。但是，它可被合理快地計(jì)算，因?yàn)樵擁?xiàng)與觀察x^*無關(guān)且可被存儲(chǔ)。如此，協(xié)方差回歸的過程也可以是快速的。

在一些方面，式9的協(xié)方差函數(shù)的超參數(shù)(τ和l)可被設(shè)置，使得對(duì)于pitman-yor過程而言，該回歸是有用的。因?yàn)闆]有針對(duì)數(shù)據(jù)點(diǎn)的輸出，給定數(shù)據(jù)x和高斯過程的超參數(shù)，輸出的邊際似然性不能被最大化。因此，在一些方面，試探法也可被使用。

例如，為使式3中的參數(shù)d遵守約束0≤d<1，協(xié)方差函數(shù)的量值τ可被設(shè)置成小于1但接近1的值(例如，τ＝0.99)。這實(shí)際上可能不足以確?；貧w的協(xié)方差在任何位置都小于1。另選地，在一些方面，量值τ可被設(shè)置成更小的值?；貧w的值也可針對(duì)所有數(shù)據(jù)點(diǎn)同等地縮小。

另一方面，平滑度參數(shù)l(本文中也稱為長(zhǎng)度尺度)可被設(shè)置成表示數(shù)據(jù)如何平滑地變化的適當(dāng)值。

式10中的協(xié)方差回歸函數(shù)可被解釋為各基礎(chǔ)函數(shù)的混合的條件似然性，每一基礎(chǔ)函數(shù)以來自給定數(shù)據(jù)集x的數(shù)據(jù)點(diǎn)為中心。每一基礎(chǔ)函數(shù)的方差隨后由長(zhǎng)度尺度參數(shù)l來控制。為適當(dāng)?shù)卦O(shè)置l以使得各基本函數(shù)的混合不會(huì)對(duì)該數(shù)據(jù)過度擬合或擬合不足，在一些方面，長(zhǎng)度尺度參數(shù)l可被設(shè)置成等于各觀察之間的平均最小距離乘以一系數(shù)，例如由下式給出：

對(duì)于全部其中系數(shù)η可被用來調(diào)整(例如，擴(kuò)張或縮減)集群的面積。

回歸過程產(chǎn)生0和1之間的值(不包括1)。對(duì)于接近給定數(shù)據(jù)集x或在給定數(shù)據(jù)集x中的點(diǎn)，回歸的協(xié)方差非常小，而對(duì)于遠(yuǎn)離該數(shù)據(jù)集中的項(xiàng)的點(diǎn)而言，它將很大。

圖7a-7d解說了具有不同η值的、軌跡的協(xié)方差回歸的示例。圖7a是解說用于上下顛倒地呈現(xiàn)的字母數(shù)字字符“2”的訓(xùn)練軌跡(例如，704a-c)集合702的示圖。訓(xùn)練軌跡可被歸一化以提供可被用于識(shí)別的訓(xùn)練模式。圖7b是圖7a的訓(xùn)練軌跡的高斯過程協(xié)方差的繪圖。圖7c是解說圖7a的訓(xùn)練軌跡的另一高斯過程協(xié)方差的示圖，其具有與用于圖7b的長(zhǎng)度-尺度(例如，l＝0.0244)相比增加的長(zhǎng)度-尺度(例如，l＝0.0488)。圖7d是圖7c的高斯過程協(xié)方差的三維(3d)表示。

從圖7b和7c示出針對(duì)給定集合x的1-cov(x*|x)的值的結(jié)果，可以確定η系數(shù)越大，l越大(因?yàn)槭?imgfile="bda0001286256340000133.gif"wi="51"he="72"img-content="drawing"img-format="gif"orientation="portrait"inline="no"/>正的)且集合x上的混合覆蓋的越平滑。實(shí)際上，混合覆蓋的邊緣也由超參數(shù)l控制。參考圖7b，在數(shù)字“2”的軌跡的開始處，該模型具有其間有間隙的兩個(gè)脫節(jié)分支708和710。另外，在圖7b，示出了分開的樣本之間的空區(qū)域712。然而，具有高斯基礎(chǔ)分布的dirichlet過程可被用來預(yù)測(cè)并計(jì)入將來變化。在一些方面，第二參數(shù)(參數(shù)d)可被設(shè)置成樣本的gp協(xié)方差乘以可調(diào)整系數(shù)。這可向pyp提供極好提示以包括并預(yù)見變化，同時(shí)每一分布的范圍被控制。如上所示，式3中的小參數(shù)d可造成給定數(shù)據(jù)點(diǎn)被指派給已占據(jù)分量(例如，區(qū)或集群)的較高概率。相反地，較高d可使得該過程允許生成新分量，如果該數(shù)據(jù)點(diǎn)不可能足夠由已占據(jù)分量之一生成的話。因此，在一些方面，給定數(shù)據(jù)點(diǎn)x^*處的gp協(xié)方差可被用作pitman-yor過程的d。如此，如果x^*足夠遠(yuǎn)離已占據(jù)分量，則該過程可以指派從基礎(chǔ)分布h(θ)采樣的新分量。

圖8a-8c示出基于圖7a的軌跡應(yīng)用于經(jīng)訓(xùn)練模型的pitman-yor過程的示例。圖8a是解說根據(jù)基于圖7a的軌跡(其中參數(shù)d被設(shè)置成0)應(yīng)用于經(jīng)訓(xùn)練模型的pitman-yor過程的經(jīng)劃分空間區(qū)域的示圖。參考圖8b，基于圖7a的訓(xùn)練軌跡集合應(yīng)用dirichlet過程以產(chǎn)生經(jīng)群集的空間。集群a1-a7連同acomplement一起示出。圖8c是解說根據(jù)基于圖7a的軌跡(其中參數(shù)d基于高斯過程協(xié)方差來被設(shè)置(例如，gp協(xié)方差具有長(zhǎng)度-尺度l＝0.0244))應(yīng)用于經(jīng)訓(xùn)練模型的pitman-yor過程的經(jīng)劃分空間區(qū)域的示圖。如圖8b所示，區(qū)a1-a7的區(qū)域是寬舒的，使得模式仍然是可檢測(cè)的但可導(dǎo)致假肯定。圖8c是解說根據(jù)基于圖7a的訓(xùn)練軌跡(其中參數(shù)d乘以大于1的系數(shù)(d>1.0))應(yīng)用于經(jīng)訓(xùn)練模型的pitman-yor過程的經(jīng)劃分空間區(qū)域的示圖。如圖8a中所示，定義該模式的各集群的區(qū)域非常寬舒，使得數(shù)字2不再是可辨別的。

圖9是時(shí)空模式識(shí)別的模型的圖形表示。在圖9的模型中，dirichlet過程混合模型(dpm)連同參數(shù)α、d以及基礎(chǔ)分布h一起被示出。隱馬爾科夫模型接收來自dpm的觀察序列，這是由dpm提取的分量標(biāo)記的序列。

在一些方面，所識(shí)別模式的正確度可被驗(yàn)證。驗(yàn)證給定數(shù)據(jù)點(diǎn)序列中的所識(shí)別模式的正確度包括驗(yàn)證該模式的所有區(qū)域被正確地滿足。為了驗(yàn)證，經(jīng)訓(xùn)練模型中的大多數(shù)分區(qū)貫穿給定軌跡來被滿足。即，如果一模式具有沿由pyp指派給給定模式的集群的軌跡的數(shù)據(jù)點(diǎn)，則它被滿足。在一些方面，hmm可進(jìn)一步標(biāo)識(shí)滿足各分區(qū)的軌跡序列處于正確的次序。

因?yàn)閜yp將給定序列的數(shù)據(jù)點(diǎn)指派給各集群，所以指派給每一集群的數(shù)據(jù)點(diǎn)的數(shù)目可以是清楚的。此外，確切地知曉pyp向新集群給出多少數(shù)據(jù)點(diǎn)，從而意味著它們屬于共同表示沒有被經(jīng)訓(xùn)練集群覆蓋的區(qū)域的補(bǔ)充分區(qū)。使用計(jì)數(shù)方案來確保每一分區(qū)接收到某最小數(shù)目的所分配的數(shù)據(jù)點(diǎn)，并且補(bǔ)充分區(qū)的所分配的點(diǎn)低于可容許最小值，滿足這些準(zhǔn)則的分區(qū)的數(shù)目被認(rèn)為是給定序列是否正確地滿足經(jīng)訓(xùn)練模型的所有區(qū)域的量度。

圖10是解說被配置用于識(shí)別時(shí)間模式的移動(dòng)平臺(tái)1000的功能框圖。移動(dòng)平臺(tái)1000是圖1a和1b的移動(dòng)平臺(tái)100的一個(gè)可能實(shí)現(xiàn)。移動(dòng)平臺(tái)1000包括相機(jī)1002以及用戶接口1006。用戶接口1006包括顯示器1026，它可被配置用于顯示由相機(jī)1002捕捉的預(yù)覽圖像以及字母數(shù)字字符，如上所述。用戶接口1006也可包括按鍵板1028，用戶可以通過它將信息輸入到移動(dòng)平臺(tái)1000中。如果需要，可通過利用相機(jī)1002來消除按鍵板1028，如上所述。另外，為向用戶提供多種方式來提供時(shí)空模式，例如在一些方面，移動(dòng)平臺(tái)1000可包括用于經(jīng)由顯示器1026接收觸摸姿勢(shì)輸入的觸摸傳感器。用戶接口1006還可包括話筒1030和揚(yáng)聲器1032(例如，如果移動(dòng)平臺(tái)是蜂窩電話)。

移動(dòng)平臺(tái)1000包括被配置成執(zhí)行對(duì)象引導(dǎo)的跟蹤的跟蹤單元1018。在一個(gè)示例中，跟蹤單元1018被配置成跟蹤對(duì)象(例如，指尖、指示筆、書寫工具或其它對(duì)象)的移動(dòng)，如以上討論的，以生成軌跡數(shù)據(jù)。

移動(dòng)平臺(tái)1000還包括控制單元1004，該控制單元1004被連接至相機(jī)1002以及用戶接口1006連同其他部件(諸如，跟蹤單元1018和姿勢(shì)識(shí)別單元1022)并與它們通信。姿勢(shì)識(shí)別單元1022接受并處理從跟蹤單元1018接收到的軌跡數(shù)據(jù)以將用戶輸入識(shí)別為符號(hào)和/或姿勢(shì)。控制單元1004可由處理器1008和相關(guān)聯(lián)的存儲(chǔ)器1014、硬件1010、軟件1016及固件1012提供。

如果需要，控制單元1004還可以包括用于將期望ar數(shù)據(jù)渲染在顯示器1026中的圖形引擎1024，其可以是例如游戲引擎。為清楚起見，跟蹤組件1018和姿勢(shì)識(shí)別組件1022被分開地解說并且與處理器1008分開，但是可以是單個(gè)單元和/或基于在處理器1008中運(yùn)行的軟件1016中的指令而實(shí)現(xiàn)在處理器1008中。處理器1008以及跟蹤單元1018、姿勢(shì)識(shí)別單元1022和圖形引擎1024中的一者或多者可以但不一定包括一個(gè)或多個(gè)微處理器、嵌入式處理器、控制器、專用集成電路(asic)、高級(jí)數(shù)字信號(hào)處理(adsp)等等。術(shù)語(yǔ)處理器描述由系統(tǒng)實(shí)現(xiàn)的功能而非具體硬件。此外，如本文所使用的，術(shù)語(yǔ)“存儲(chǔ)器”是指任何類型的計(jì)算機(jī)存儲(chǔ)介質(zhì)，包括長(zhǎng)期、短期、或與移動(dòng)平臺(tái)1000相關(guān)聯(lián)的其他存儲(chǔ)器，且并不限于任何特定類型的存儲(chǔ)器或特定數(shù)目的存儲(chǔ)器、或記憶存儲(chǔ)在其上的介質(zhì)的類型。

在一種配置中，機(jī)器學(xué)習(xí)模型被配置成用于接收訓(xùn)練軌跡。該模型還被配置用于將該區(qū)域劃分成各觀察到的集群和一非觀察到的補(bǔ)充性集群。該模型進(jìn)一步被配置用于生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群。該模型包括接收裝置、劃分裝置、和/或生成裝置。在一個(gè)方面，接收裝置、劃分裝置、和/或生成裝置可以是配置成執(zhí)行所敘述功能的通用處理器302、與通用處理器302相關(guān)聯(lián)的程序存儲(chǔ)器、存儲(chǔ)器塊318、局部處理單元402、和/或路由連接處理單元316。在另一配置中，接收裝置、劃分裝置和/或生成裝置可經(jīng)由處理器1008、硬件1010、固件1012和/或軟件1016來實(shí)現(xiàn)。在另一配置中，前述裝置可以是被配置成執(zhí)行由前述裝置所敘述的功能的任何模塊或任何裝置。

本文中所描述的過程取決于應(yīng)用可藉由各種手段來實(shí)現(xiàn)。例如，這些過程可在硬件1010、固件1012、軟件1016、或其任何組合中實(shí)現(xiàn)。對(duì)于硬件實(shí)現(xiàn)，這些處理單元可以在一個(gè)或多個(gè)專用集成電路(asic)、數(shù)字信號(hào)處理器(dsp)、數(shù)字信號(hào)處理器件(dspd)、可編程邏輯器件(pld)、現(xiàn)場(chǎng)可編程門陣列(fpga)、處理器、控制器、微控制器、微處理器、電子器件、設(shè)計(jì)成執(zhí)行本文中所描述功能的其他電子單元、或者其組合內(nèi)實(shí)現(xiàn)。

根據(jù)本公開的某些方面，每個(gè)局部處理單元402可被配置成基于模型的一個(gè)或多個(gè)期望功能特征來確定模型的參數(shù)，以及隨著所確定的參數(shù)被進(jìn)一步適配、調(diào)諧和更新來使這一個(gè)或多個(gè)功能特征朝著期望的功能特征發(fā)展。

圖11是解說根據(jù)本公開的各方面的用于生成用于時(shí)空模式識(shí)別的時(shí)空模式模型的方法1100。在框1102，該過程接收訓(xùn)練軌跡。訓(xùn)練軌跡中的每一者可包括表示時(shí)空模式的不同數(shù)據(jù)點(diǎn)。時(shí)空模式可以例如包括表示字母數(shù)字字符、符號(hào)、鼠標(biāo)/觸摸控制中的至少一者的相機(jī)輸入或輸入姿勢(shì)。接收到的訓(xùn)練軌跡定義一區(qū)域。

在框1104，該過程將該區(qū)域劃分成各觀察到的集群和一非觀察到的補(bǔ)充性集群。此外，在框1106，該過程生成時(shí)空模式模型以包括各觀察到的集群和該非觀察到的補(bǔ)充性集群。

該區(qū)域可通過應(yīng)用諸如例如兩參數(shù)pitman-yor過程等隨機(jī)過程來被劃分。在一些方面，協(xié)方差回歸(諸如高斯過程協(xié)方差回歸)可針對(duì)訓(xùn)練軌跡中包括的數(shù)據(jù)點(diǎn)中的兩者或更多者而被執(zhí)行并且可進(jìn)而被用于確定一個(gè)或多個(gè)隨機(jī)過程參數(shù)。

隨機(jī)過程可被用來確定哪一集群(包括非觀察到的補(bǔ)充性集群)對(duì)應(yīng)于給定軌跡的每一數(shù)據(jù)點(diǎn)。觀察到的集群中的每一者的范圍還可基于一個(gè)或多個(gè)隨機(jī)過程參數(shù)來確定。另外，在一些方面，時(shí)空模式模型可通過基于隨機(jī)過程創(chuàng)建隱馬爾科夫模型(hmm)來生成。

此外，該過程可修改hmm的觀察表以包括非觀察到的補(bǔ)充性集群。在又一些方面，在隱馬爾科夫模型的似然性高于預(yù)定閾值時(shí)，該過程可將接收到的軌跡識(shí)別為時(shí)空匹配。

圖12是解說根據(jù)本公開的各方面的用于生成時(shí)空模式識(shí)別的模型的示例性過程1200的流程圖。在框1202，該過程接收訓(xùn)練軌跡(例如，圖7a的訓(xùn)練軌跡704a-c)。訓(xùn)練軌跡中的每一者包括表示輸入姿勢(shì)的在空間上不同的數(shù)據(jù)點(diǎn)。在框1204，高斯過程(例如，圖7c)隨后被應(yīng)用于訓(xùn)練軌跡并且在可任選過程框1206，高斯過程被用來確定隨機(jī)過程參數(shù)(例如，pitman-yor過程的參數(shù)d)。如上所述，過程框1206是可任選的且在訓(xùn)練模型時(shí)可被省略。因而，在一個(gè)示例中，高斯過程協(xié)方差回歸只被用于識(shí)別而不被用于訓(xùn)練。隨機(jī)過程(例如，pitman-yor過程)隨后在過程框1208中被應(yīng)用以將軌跡的空間區(qū)域劃分成各觀察到的區(qū)和一非觀察到的補(bǔ)充性區(qū)。各觀察到的區(qū)中的每一者的范圍(例如，大小)可以基于上述隨機(jī)過程參數(shù)。在框1210，該過程生成用于時(shí)空模式識(shí)別的模型，它使用各觀察到的區(qū)和該非觀察到的補(bǔ)充性區(qū)來確定模式匹配。

圖13是解說時(shí)空模式識(shí)別的過程1300的流程圖。在框1302，該過程接收軌跡。接收到的軌跡可包括數(shù)據(jù)點(diǎn)。軌跡的各數(shù)據(jù)點(diǎn)可以與輸入姿勢(shì)、股票市場(chǎng)相關(guān)數(shù)據(jù)、語(yǔ)音、天氣數(shù)據(jù)、或其它時(shí)空數(shù)據(jù)相關(guān)。

在框1304，該過程評(píng)估接收到的軌跡以確定接收到的軌跡的各數(shù)據(jù)點(diǎn)落入經(jīng)訓(xùn)練時(shí)空模式模型中的哪一集群(例如，觀察到的集群和補(bǔ)充集群)。在數(shù)據(jù)點(diǎn)落入觀察到的集群中時(shí)，該過程指派一標(biāo)記。在數(shù)據(jù)點(diǎn)處于補(bǔ)充集群中時(shí)，該數(shù)據(jù)點(diǎn)可能不是可接受的。然而，根據(jù)本公開的各方面，一些差異可被容忍。

在框1306，該過程找出每一集群和補(bǔ)充集群中的數(shù)據(jù)點(diǎn)。包括補(bǔ)充集群的每一集群的所指派的標(biāo)記可被提供給對(duì)應(yīng)的隱馬爾科夫模型以確定似然性。通過考慮補(bǔ)充集群的數(shù)據(jù)點(diǎn)，hmm所產(chǎn)生的似然性可被降低。

每一hmm可以輸出可在框1308與閾值相比較的似然性值。如果輸出高于閾值，則接收到的軌跡可在框1310被識(shí)別為時(shí)空匹配。否則，在框1312，接收到的軌跡不被認(rèn)為是匹配。

在一些方面，觀察的次序也可被評(píng)估。即，在一些方面，hmm可以用正確的觀察次序來訓(xùn)練并可被用來評(píng)估時(shí)空模式。例如，如果hmm是使用用于畫出數(shù)字2的正確次序來訓(xùn)練的，如果數(shù)字2以逆序畫出，則該hmm所生成的似然性可非常小并且因而可指示該輸入不是匹配。

以上所描述的方法的各種操作可由能夠執(zhí)行相應(yīng)功能的任何合適的裝置來執(zhí)行。這些裝置可包括各種硬件和/或(諸)軟件組件和/或(諸)模塊，包括但不限于電路、專用集成電路(asic)、或處理器。一般而言，在附圖中有解說的操作的場(chǎng)合，那些操作可具有帶相似編號(hào)的相應(yīng)配對(duì)裝置加功能組件。

如本文所使用的，術(shù)語(yǔ)“確定”涵蓋各種各樣的動(dòng)作。例如，“確定”可包括演算、計(jì)算、處理、推導(dǎo)、研究、查找(例如，在表、數(shù)據(jù)庫(kù)或其他數(shù)據(jù)結(jié)構(gòu)中查找)、探知及諸如此類。另外，“確定”可包括接收(例如接收信息)、訪問(例如訪問存儲(chǔ)器中的數(shù)據(jù))、及類似動(dòng)作。而且，“確定”可包括解析、選擇、選取、確立及類似動(dòng)作。

如本文中所使用的，引述一列項(xiàng)目“中的至少一個(gè)”的短語(yǔ)是指這些項(xiàng)目的任何組合，包括單個(gè)成員。作為示例，“a、b或c中的至少一個(gè)”旨在涵蓋：a、b、c、a-b、a-c、b-c、以及a-b-c。

結(jié)合本公開所描述的各種解說性邏輯框、模塊、以及電路可用設(shè)計(jì)成執(zhí)行本文所描述功能的通用處理器、數(shù)字信號(hào)處理器(dsp)、專用集成電路(asic)、現(xiàn)場(chǎng)可編程門陣列信號(hào)(fpga)或其他可編程邏輯器件(pld)、分立的門或晶體管邏輯、分立的硬件組件或其任何組合來實(shí)現(xiàn)或執(zhí)行。通用處理器可以是微處理器，但在替換方案中，處理器可以是任何市售的處理器、控制器、微控制器、或狀態(tài)機(jī)。處理器還可以被實(shí)現(xiàn)為計(jì)算設(shè)備的組合，例如dsp與微處理器的組合、多個(gè)微處理器、與dsp核心協(xié)同的一個(gè)或多個(gè)微處理器、或任何其它此類配置。

結(jié)合本公開描述的方法或算法的步驟可直接在硬件中、在由處理器執(zhí)行的軟件模塊中、或在這兩者的組合中實(shí)施。軟件模塊可駐留在本領(lǐng)域所知的任何形式的存儲(chǔ)介質(zhì)中?？墒褂玫拇鎯?chǔ)介質(zhì)的一些示例包括隨機(jī)存取存儲(chǔ)器(ram)、只讀存儲(chǔ)器(rom)、閃存、可擦除可編程只讀存儲(chǔ)器(eprom)、電可擦除可編程只讀存儲(chǔ)器(eeprom)、寄存器、硬盤、可移動(dòng)盤、cd-rom，等等。軟件模塊可包括單條指令、或許多條指令，且可分布在若干不同的代碼段上，分布在不同的程序間以及跨多個(gè)存儲(chǔ)介質(zhì)分布。存儲(chǔ)介質(zhì)可被耦合到處理器以使得該處理器能從/向該存儲(chǔ)介質(zhì)讀寫信息。在替換方案中，存儲(chǔ)介質(zhì)可以被整合到處理器。

本文所公開的方法包括用于達(dá)成所描述的方法的一個(gè)或多個(gè)步驟或動(dòng)作。這些方法步驟和/或動(dòng)作可以彼此互換而不會(huì)脫離權(quán)利要求的范圍。換言之，除非指定了步驟或動(dòng)作的特定次序，否則具體步驟和/或動(dòng)作的次序和/或使用可以改動(dòng)而不會(huì)脫離權(quán)利要求的范圍。

所描述的功能可在硬件、軟件、固件或其任何組合中實(shí)現(xiàn)。如果以硬件實(shí)現(xiàn)，則示例硬件配置可包括設(shè)備中的處理系統(tǒng)。處理系統(tǒng)可以用總線架構(gòu)來實(shí)現(xiàn)。取決于處理系統(tǒng)的具體應(yīng)用和整體設(shè)計(jì)約束，總線可包括任何數(shù)目的互連總線和橋接器?？偩€可將包括處理器、機(jī)器可讀介質(zhì)、以及總線接口的各種電路鏈接在一起?？偩€接口可用于尤其將網(wǎng)絡(luò)適配器等經(jīng)由總線連接至處理系統(tǒng)。網(wǎng)絡(luò)適配器可用于實(shí)現(xiàn)信號(hào)處理功能。對(duì)于某些方面，用戶接口(例如，按鍵板、顯示器、鼠標(biāo)、操縱桿，等等)也可以被連接到總線?？偩€還可以鏈接各種其他電路，諸如定時(shí)源、外圍設(shè)備、穩(wěn)壓器、功率管理電路以及類似電路，它們?cè)诒绢I(lǐng)域中是眾所周知的，因此將不再進(jìn)一步描述。

處理器可負(fù)責(zé)管理總線和一般處理，包括執(zhí)行存儲(chǔ)在機(jī)器可讀介質(zhì)上的軟件。處理器可用一個(gè)或多個(gè)通用和/或?qū)Ｓ锰幚砥鱽韺?shí)現(xiàn)。示例包括微處理器、微控制器、dsp處理器、以及其他能執(zhí)行軟件的電路系統(tǒng)。軟件應(yīng)當(dāng)被寬泛地解釋成意指指令、數(shù)據(jù)、或其任何組合，無論是被稱作軟件、固件、中間件、微代碼、硬件描述語(yǔ)言、或其他。作為示例，機(jī)器可讀介質(zhì)可包括隨機(jī)存取存儲(chǔ)器(ram)、閃存、只讀存儲(chǔ)器(rom)、可編程只讀存儲(chǔ)器(prom)、可擦式可編程只讀存儲(chǔ)器(eprom)、電可擦式可編程只讀存儲(chǔ)器(eeprom)、寄存器、磁盤、光盤、硬驅(qū)動(dòng)器、或者任何其他合適的存儲(chǔ)介質(zhì)、或其任何組合。機(jī)器可讀介質(zhì)可被實(shí)施在計(jì)算機(jī)程序產(chǎn)品中。該計(jì)算機(jī)程序產(chǎn)品可以包括包裝材料。

在硬件實(shí)現(xiàn)中，機(jī)器可讀介質(zhì)可以是處理系統(tǒng)中與處理器分開的一部分。然而，如本領(lǐng)域技術(shù)人員將容易領(lǐng)會(huì)的，機(jī)器可讀介質(zhì)或其任何部分可在處理系統(tǒng)外部。作為示例，機(jī)器可讀介質(zhì)可包括傳輸線、由數(shù)據(jù)調(diào)制的載波、和/或與設(shè)備分開的計(jì)算機(jī)產(chǎn)品，所有這些都可由處理器通過總線接口來訪問。替換地或補(bǔ)充地，機(jī)器可讀介質(zhì)或其任何部分可被集成到處理器中，諸如高速緩存和/或通用寄存器文件可能就是這種情形。雖然所討論的各種組件可被描述為具有特定位置，諸如局部組件，但它們也可按各種方式來配置，諸如某些組件被配置成分布式計(jì)算系統(tǒng)的一部分。

處理系統(tǒng)可以被配置為通用處理系統(tǒng)，該通用處理系統(tǒng)具有一個(gè)或多個(gè)提供處理器功能性的微處理器、以及提供機(jī)器可讀介質(zhì)中的至少一部分的外部存儲(chǔ)器，它們都通過外部總線架構(gòu)與其他支持電路系統(tǒng)鏈接在一起。替換地，該處理系統(tǒng)可以包括一個(gè)或多個(gè)神經(jīng)元形態(tài)處理器以用于實(shí)現(xiàn)本文所述的神經(jīng)元模型和神經(jīng)系統(tǒng)模型。作為另一替換方案，處理系統(tǒng)可以用帶有集成在單塊芯片中的處理器、總線接口、用戶接口、支持電路系統(tǒng)、和至少一部分機(jī)器可讀介質(zhì)的專用集成電路(asic)來實(shí)現(xiàn)，或者用一個(gè)或多個(gè)現(xiàn)場(chǎng)可編程門陣列(fpga)、可編程邏輯器件(pld)、控制器、狀態(tài)機(jī)、門控邏輯、分立硬件組件、或者任何其他合適的電路系統(tǒng)、或者能執(zhí)行本公開通篇所描述的各種功能性的電路的任何組合來實(shí)現(xiàn)。取決于具體應(yīng)用和加諸于整體系統(tǒng)上的總設(shè)計(jì)約束，本領(lǐng)域技術(shù)人員將認(rèn)識(shí)到如何最佳地實(shí)現(xiàn)關(guān)于處理系統(tǒng)所描述的功能性。

機(jī)器可讀介質(zhì)可包括數(shù)個(gè)軟件模塊。這些軟件模塊包括當(dāng)由處理器執(zhí)行時(shí)使處理系統(tǒng)執(zhí)行各種功能的指令。這些軟件模塊可包括傳送模塊和接收模塊。每個(gè)軟件模塊可以駐留在單個(gè)存儲(chǔ)設(shè)備中或者跨多個(gè)存儲(chǔ)設(shè)備分布。作為示例，當(dāng)觸發(fā)事件發(fā)生時(shí)，可以從硬驅(qū)動(dòng)器中將軟件模塊加載到ram中。在軟件模塊執(zhí)行期間，處理器可以將一些指令加載到高速緩存中以提高訪問速度。隨后可將一個(gè)或多個(gè)高速緩存行加載到通用寄存器文件中以供處理器執(zhí)行。在以下述及軟件模塊的功能性時(shí)，將理解此類功能性是在處理器執(zhí)行來自該軟件模塊的指令時(shí)由該處理器來實(shí)現(xiàn)的。此外，應(yīng)領(lǐng)會(huì)，本公開的各方面產(chǎn)生對(duì)處理器、計(jì)算機(jī)、機(jī)器或?qū)崿F(xiàn)此類方面的其它系統(tǒng)的機(jī)能的改進(jìn)。

如果以軟件實(shí)現(xiàn)，則各功能可作為一條或多條指令或代碼存儲(chǔ)在計(jì)算機(jī)可讀介質(zhì)上或藉其進(jìn)行傳送。計(jì)算機(jī)可讀介質(zhì)包括計(jì)算機(jī)存儲(chǔ)介質(zhì)和通信介質(zhì)兩者，這些介質(zhì)包括促成計(jì)算機(jī)程序從一地向另一地轉(zhuǎn)移的任何介質(zhì)。存儲(chǔ)介質(zhì)可以是能被計(jì)算機(jī)訪問的任何可用介質(zhì)。作為示例而非限定，此類計(jì)算機(jī)可讀介質(zhì)可包括ram、rom、eeprom、cd-rom或其他光盤存儲(chǔ)、磁盤存儲(chǔ)或其他磁存儲(chǔ)設(shè)備、或能用于攜帶或存儲(chǔ)指令或數(shù)據(jù)結(jié)構(gòu)形式的期望程序代碼且能被計(jì)算機(jī)訪問的任何其他介質(zhì)。另外，任何連接也被正當(dāng)?shù)胤Q為計(jì)算機(jī)可讀介質(zhì)。例如，如果軟件是使用同軸電纜、光纖電纜、雙絞線、數(shù)字訂戶線(dsl)、或無線技術(shù)(諸如紅外(ir)、無線電、以及微波)從web網(wǎng)站、服務(wù)器、或其他遠(yuǎn)程源傳送而來，則該同軸電纜、光纖電纜、雙絞線、dsl或無線技術(shù)(諸如紅外、無線電、以及微波)就被包括在介質(zhì)的定義之中。如本文中所使用的盤(disk)和碟(disc)包括壓縮碟(cd)、激光碟、光碟、數(shù)字多用碟(dvd)、軟盤、和碟，其中盤(disk)常常磁性地再現(xiàn)數(shù)據(jù)，而碟(disc)用激光來光學(xué)地再現(xiàn)數(shù)據(jù)。因此，在一些方面，計(jì)算機(jī)可讀介質(zhì)可包括非瞬態(tài)計(jì)算機(jī)可讀介質(zhì)(例如，有形介質(zhì))。另外，對(duì)于其他方面，計(jì)算機(jī)可讀介質(zhì)可包括瞬態(tài)計(jì)算機(jī)可讀介質(zhì)(例如，信號(hào))。上述的組合應(yīng)當(dāng)也被包括在計(jì)算機(jī)可讀介質(zhì)的范圍內(nèi)。

因此，某些方面可包括用于執(zhí)行本文中給出的操作的計(jì)算機(jī)程序產(chǎn)品。例如，此類計(jì)算機(jī)程序產(chǎn)品可包括其上存儲(chǔ)(和/或編碼)有指令的計(jì)算機(jī)可讀介質(zhì)，這些指令能由一個(gè)或多個(gè)處理器執(zhí)行以執(zhí)行本文中所描述的操作。對(duì)于某些方面，計(jì)算機(jī)程序產(chǎn)品可包括包裝材料。

此外，應(yīng)當(dāng)領(lǐng)會(huì)，用于執(zhí)行本文中所描述的方法和技術(shù)的模塊和/或其它恰適裝置能由用戶終端和/或基站在適用的場(chǎng)合下載和/或以其他方式獲得。例如，此類設(shè)備能被耦合至服務(wù)器以促成用于執(zhí)行本文中所描述的方法的裝置的轉(zhuǎn)移。替換地，本文所述的各種方法能經(jīng)由存儲(chǔ)裝置(例如，ram、rom、諸如壓縮碟(cd)或軟盤等物理存儲(chǔ)介質(zhì)等)來提供，以使得一旦將該存儲(chǔ)裝置耦合至或提供給用戶終端和/或基站，該設(shè)備就能獲得各種方法。此外，可利用適于向設(shè)備提供本文所描述的方法和技術(shù)的任何其他合適的技術(shù)。

將理解，權(quán)利要求并不被限定于以上所解說的精確配置和組件?？稍谝陨纤枋龅姆椒ê脱b置的布局、操作和細(xì)節(jié)上作出各種改動(dòng)、更換和變形而不會(huì)脫離權(quán)利要求的范圍。