管理工作負載存儲器分配的方法和設(shè)備的制造方法
【技術(shù)領(lǐng)域】
[0001 ]本公開內(nèi)容一般涉及存儲器管理，并且更具體地說，涉及管理工作負載存儲器分配的方法和設(shè)備。
【背景技術(shù)】
[0002]近年來，處理器已被開發(fā)以執(zhí)行增大的每秒浮點運算數(shù)量(FLOPS)。促成增大的FLOPS的設(shè)計改進包括但不限于更大的晶體管密度和多個核。在另外的晶體管和/或核添加到處理器時，出現(xiàn)了功耗和熱的對應(yīng)增大，這可對FLOPS性能起到反作用。
【附圖說明】
[0003]圖1是根據(jù)管理工作負載存儲器分配的本公開內(nèi)容的教導(dǎo)構(gòu)成的示例工作負載管理器的示意圖。
[0004]圖2是指示請求平臺的存儲器訪問的示例數(shù)據(jù)元素的示例表格。
[0005]圖3是指示請求平臺的存儲器訪問的示例數(shù)據(jù)陣列簡檔的示例表格。
[0006]圖4-6是表示可執(zhí)行以管理工作負載存儲器分配，實現(xiàn)圖1的示例工作負載管理器和/或構(gòu)建圖2和3的表格的示例機器可讀指令的流程圖。
[0007]圖7是可執(zhí)行圖4-6的示例機器可讀指令以實現(xiàn)圖1的示例工作負載管理器和/或構(gòu)建圖2和3的表格的示例系統(tǒng)的框圖。
【具體實施方式】
[0008]本文公開了管理工作負載存儲器分配的方法、制品和設(shè)備。示例方法包括識別與平臺相關(guān)聯(lián)的主存儲器和輔助存儲器，輔助存儲器具有與主存儲器的第二性能度量不同的第一性能度量，識別與在平臺上執(zhí)行期間由工作負載調(diào)用的多個數(shù)據(jù)元素相關(guān)聯(lián)的訪問度量，基于與多個數(shù)據(jù)元素的對應(yīng)數(shù)據(jù)元素相關(guān)聯(lián)的訪問度量，按優(yōu)先排列(pr1ritize)多個數(shù)據(jù)元素的列表，以及基于多個存儲器元素的第一存儲器元素的優(yōu)先級，將多個數(shù)據(jù)元素的第一數(shù)據(jù)元素從主存儲器重新分配到輔助存儲器。
[0009]圖1是控制工作負載存儲器分配的示例工作負載控制器100的示意圖。在圖1的所示示例中，工作負載管理器100包括工作負載管理器102、數(shù)據(jù)元素識別器104、數(shù)據(jù)元素跟蹤器106、數(shù)據(jù)元素性能計算器108、存儲器管理器110、代碼修改器112及鏈接程序(linker)接口 114。示例工作負載管理器100以通信方式連接到具有一個或更多個工作負載118、主存儲器120、輔助存儲器122和處理器124的示例平臺116。
[0010]圖1的平臺116的示例處理器124包括執(zhí)行示例工作負載118的任何數(shù)量的核。圖1的示例工作負載118可包括但不限于由編譯器機制從源代碼生成和鏈接的可執(zhí)行代碼(例如，二進制碼)的一個或更多個程序。代碼的執(zhí)行可包括但不限于執(zhí)行一個或更多個程序，程序具有任何數(shù)量的相關(guān)聯(lián)動態(tài)鏈路庫(DLL)、一起鏈接到相同程序的一個或更多個單獨的文件和/或集群使用模型，集群使用模型中工作負載包括帶有涉及一個或更多個過程的任何數(shù)量的共享庫的程序。在示例工作負載118執(zhí)行期間，處理器124可訪問主存儲器120以操控和/或以其它方式處理數(shù)據(jù)。數(shù)據(jù)可包括但不限于數(shù)據(jù)陣列、文件、堆(heap)和/或棧(stack)。在本文中使用時，對數(shù)據(jù)、陣列數(shù)據(jù)和/或數(shù)據(jù)陣列的引用包括可由處理器124處理和/或存儲在主存儲器120和/或輔助存儲器122中的所有類型的數(shù)據(jù)。在本文中使用時，主存儲器120包括閃存、只讀存儲器(ROM)、隨機存取存儲器(RAM)和/或硬盤驅(qū)動器存儲器。主存儲器120例如可包括任何類型的雙倍數(shù)據(jù)率(DDR) RAM(例如，DDR2、DDR3、DDR4等)。
[0011]在一些示例中，平臺116的輔助存儲器122包括在與主存儲器120相比時展示更低等待時間、相干性和/或更高帶寬能力的增強性能設(shè)計。示例輔助存儲器122可包括在與示例主存儲器120對應(yīng)的對應(yīng)閃存、R0M、RAM和/或硬盤驅(qū)動器存儲器相比時具有改進性能度量的閃存、R0M、RAM和/或硬盤驅(qū)動器存儲器。示例輔助存儲器122可基于其改進的性能特性而具有相關(guān)聯(lián)溢價，并且因此，輔助存儲器122的對應(yīng)大小/容量可實質(zhì)上低于主存儲器120的大小/容量。相應(yīng)地，示例輔助存儲器122的利用由于其相對更高的成本和更低的大小而得到仔細審查。示例輔助存儲器122可包括但不限于暫存RAM。暫存RAM是相對高速的內(nèi)部存儲器，可以是協(xié)調(diào)的(coherent)，并且可位于處理器124上，在處理器124附近和/或在處理器封裝內(nèi)。
[0012]在操作中，示例工作負載管理器100識別改進(例如，優(yōu)化)在示例平臺116上執(zhí)行的代碼的一個或更多個機會。如上所述，雖然添加到處理器124的另外晶體管和/或核可在執(zhí)行代碼時產(chǎn)生更快的結(jié)果，但添加的晶體管的對應(yīng)熱生成和/或功耗可在FLOPS性能方面最終提供減小的收益。為在執(zhí)行一個或更多個工作負載118時改進平臺性能，示例工作負載管理器100識別工作負載118的存儲器利用模式。如果由示例處理器124創(chuàng)建和/或以其它方式操控的第一數(shù)據(jù)陣列展示相對高的需求(例如，與第二數(shù)據(jù)陣列相比時的讀/寫操作的數(shù)量、數(shù)據(jù)陣列實質(zhì)影響工作負載/平臺性能的程度、相對比較等)，則示例工作負載管理器100修改與示例工作負載118相關(guān)聯(lián)的代碼，以便為此類讀/寫操作利用相對更快類型的存儲器。示例工作負載管理器100執(zhí)行的代碼修改可包括但不限于源代碼修改、二進制碼修改、動態(tài)即時(JIT)編碼器修改等。在一些示例中，可重新鏈接代碼以在某種程度上改進速度而無需一個或更多個編譯操作。諸如示例輔助存儲器122等更快類型的存儲器允許通過比主存儲器120更低的等待時間和/或更高的帶寬進行讀/寫操作，由此改進在示例平臺116上執(zhí)行時工作負載118的性能。
[0013]示例工作負載管理器102檢索和/或以其它方式接收來自平臺116的工作負載118，并且執(zhí)行在受監(jiān)視環(huán)境中的工作負載以表征其操作。在一些示例中，工作負載管理器102獲得，檢索和/或以其它方式獲得與示例平臺116相關(guān)聯(lián)的信息，如平臺116利用和/或以其它方式可用的一個或更多個類型的存儲器。如下面進一步詳細所述，如果平臺116包括具有在與示例主存儲器120相比時改進的操作特性的一個或更多個類型的存儲器(例如，輔助存儲器122)，則示例工作負載管理器100修改與工作負載118相關(guān)聯(lián)的代碼(例如，源代碼、一個或更多個二進制碼、磁盤上有利于隨后執(zhí)行優(yōu)化的二進制碼等)，以利用此類存儲器改進平臺性能。示例工作負載管理器102可一次或更多次調(diào)用工作負載118以表征其數(shù)據(jù)陣列和存儲器利用行為。在一些示例中，工作負載管理器102調(diào)用工作負載118的多次執(zhí)行迭代以確定平均特性。在其它示例中，工作負載管理器102通過一個或更多個輸入?yún)?shù)調(diào)用工作負載118以識別對應(yīng)數(shù)據(jù)陣列和/或存儲器利用行為(例如，應(yīng)力試驗)。
[0014]在示例工作負載118執(zhí)行期間，示例數(shù)據(jù)元素識別器104識別到諸如示例主存儲器120等平臺116的一個或更多個存儲器的數(shù)據(jù)訪問的實例。示例數(shù)據(jù)元素跟蹤器106為示例工作負載118采用的每個數(shù)據(jù)陣列計數(shù)數(shù)據(jù)訪問的檢測到的實例的數(shù)量，并且存儲此類計數(shù)以便以后分析工作負載118行為。在其它示例中，收集和/或監(jiān)視訪問計數(shù)可能不足以確定在與一個或更多個其它數(shù)據(jù)陣列相比時關(guān)注的數(shù)據(jù)陣列的相對分級。在此類情況下，收集和/或監(jiān)視用于關(guān)注的每個數(shù)據(jù)陣列的每時間單位的訪問允許進行哪個(些)數(shù)據(jù)陣列可對平臺和/或工作負載性能貢獻最大益處的相對分級。如上所述，每個數(shù)據(jù)陣列可包括由示例工作負載采用的任何類型的存儲器結(jié)構(gòu)，如陣列、文件、堆、棧、寄存器等。示例數(shù)據(jù)元素跟蹤器106也可從工作負載收集情報以發(fā)送到示例數(shù)據(jù)元素性能計算器108。
[0015]示例數(shù)據(jù)元素性能計算器108分析數(shù)據(jù)訪問的存儲實例，并且生成與執(zhí)行到存儲器的一個或更多個讀/寫操作的每個數(shù)據(jù)陣列相關(guān)聯(lián)的一個或更多個數(shù)據(jù)訪問行為的表格。如下面進一步詳細所述，示例數(shù)據(jù)元素性能計算器108生成的表格可包括與每個數(shù)據(jù)陣列相關(guān)聯(lián)的存儲器訪問嘗試的數(shù)量的計數(shù)(訪問計數(shù))、存儲器訪問嘗試導(dǎo)致延遲(例如，處理器自旋、處理器等待存儲器變得可用于讀/寫操作、與負載和/或存儲相關(guān)聯(lián)的停頓)的實例數(shù)量的計數(shù)和/或在存儲器訪問嘗試造成處理器自旋(例如，處理器等待事件)的實例期間發(fā)生的周期數(shù)量。在