本發(fā)明涉及圖像處理技術,特別涉及一種控制方法、控制裝置及電子裝置。
背景技術:
現(xiàn)有的一種圖像傳感器包括感光像素單元陣列和設置在像素單元陣列上的濾光片單元陣列,每個濾光片單元陣列覆蓋對應一個感光像素單元,每個像素單元包括多個感光像素。工作時,可以控制圖像傳感器曝光輸出合并圖像,合并圖像包括合并像素陣列,同一感光像素單元的多個感光像素合并輸出作為一個合并像素。如此,可以提高合并圖像的信噪比,然而,合并圖像的解析度降低。當然,也可以控制圖像傳感器曝光輸出色塊圖像,色塊圖像包括圖像像素單元陣列,圖像像素單元包括原始像素,每個感光像素對應一個原始像素。然而,由于同一濾光片單元對應的多個原始像素顏色相同,同樣無法提高色塊圖像的解析度。因此,需要通過插值計算的方式將色塊圖像轉(zhuǎn)化成仿原圖像,仿原圖像可以包括呈拜耳陣列排布的仿原像素。然而,在應用寬動態(tài)范圍(High Dynamic Range,HDR)功能時,需要多幀亮度不同的仿原圖像,也即是需要進行多次插值計算,耗費資源且耗時。
技術實現(xiàn)要素:
本發(fā)明旨在至少解決現(xiàn)有技術中存在的技術問題之一。為此,本發(fā)明需要提供一種控制方法、控制裝置及電子裝置。
本發(fā)明實施方式的控制方法,用于控制電子裝置,所述電子裝置包括成像裝置和顯示器,所述成像裝置包括圖像傳感器,所述圖像傳感器包括感光像素單元陣列和設置在所述感光像素單元陣列上的濾光片單元陣列,每個所述濾光片單元覆蓋對應一個所述感光像素單元,每個所述感光像素單元包括多個感光像素;所述控制方法包括以下步驟:
控制所述感光像素單元陣列曝光并輸出合并圖像,所述合并圖像包括預定陣列排布的合并像素,同一所述感光像素單元的多個所述感光像素合并輸出作為一個合并像素;
控制所述感光像素單元陣列曝光并輸出色塊圖像,所述色塊圖像包括預定陣列排布的原始像素,每個所述感光像素對應一個所述原始像素;
通過縮放計算方式將所述合并圖像轉(zhuǎn)換成高亮圖像,所述高亮圖像包括預定陣列排布的高亮像素;
通過插值計算方式將所述色塊圖像轉(zhuǎn)換成低亮圖像,所述低亮圖像包括預定陣列排布的低亮像素;和
合并所述高亮圖像和所述低亮圖像以得到寬動態(tài)范圍圖像。
在某些實施方式中,所述色塊圖像包括預定陣列排布的圖像像素單元,所述圖像像素單元包括多個顏色相同的所述原始像素,所述低亮圖像包括預定陣列的低亮像素,所述低亮像素包括當前像素,所述原始像素包括與所述當前像素對應的關聯(lián)像素,所述通過插值計算方式將所述色塊圖像轉(zhuǎn)換成低亮圖像的步驟包括:
判斷所述當前像素的顏色與所述關聯(lián)像素的顏色是否相同;
在所述當前像素的顏色與所述關聯(lián)像素的顏色相同時,將所述關聯(lián)像素的像素值作為所述當前像素的像素值;和
在所述當前像素的顏色與所述關聯(lián)像素的顏色不同時,根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值,所述圖像像素單元的陣列包括所述關聯(lián)像素單元,所述關聯(lián)像素單元與所述當前像素顏色相同且與所述當前像素相鄰。
在某些實施方式中,所述預定陣列包括拜耳陣列。
在某些實施方式中,所述圖像像素單元包括2*2陣列的所述原始像素。
在某些實施方式中,所述根據(jù)關聯(lián)像素單元的像素值通過插值方式計算當前像素的像素值的步驟包括以下步驟:
計算所述關聯(lián)像素各個方向上的漸變量;
計算所述關聯(lián)像素各個方向上的權重;和
根據(jù)所述漸變量及所述權重計算所述當前像素的像素值。
在某些實施方式中,所述控制方法在所述根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值的步驟前包括以下步驟:
對所述色塊圖像做白平衡補償;
所述控制方法在所述根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值的步驟后包括以下步驟:
對所述低亮圖像做白平衡補償還原。
在某些實施方式中,所述控制方法在所述根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值的步驟前包括以下步驟:
對所述色塊圖像做壞點補償。
在某些實施方式中,所述控制方法在所述根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值的步驟前包括以下步驟:
對所述色塊圖像做串擾補償。
在某些實施方式中,所述控制方法在所述根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值的步驟后包括以下步驟:
對所述低亮圖像進行鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理。
本發(fā)明實施方式的控制裝置,用于控制電子裝置,所述電子裝置包括成像裝置和顯示器,所述成像裝置包括圖像傳感器,所述圖像傳感器包括感光像素單元陣列和設置在所述感光像素單元陣列上的濾光片單元陣列,每個所述濾光片單元覆蓋對應一個所述感光像素單元,每個所述感光像素單元包括多個感光像素;所述控制裝置包括:
第一控制模塊,用于控制所述感光像素單元陣列曝光并輸出合并圖像,所述合并圖像包括預定陣列排布的合并像素,同一所述感光像素單元的多個所述感光像素合并輸出作為一個合并像素;
第二控制模塊,用于控制所述感光像素單元陣列曝光并輸出色塊圖像,所述色塊圖像包括預定陣列排布的原始像素,每個所述感光像素對應一個所述原始像素;
第一圖像處理模塊,用于通過縮放計算方式將所述合并圖像轉(zhuǎn)換成高亮圖像,所述高亮圖像包括預定陣列排布的高亮像素;
第二圖像處理模塊,用于通過插值計算方式將所述色塊圖像轉(zhuǎn)換成低亮圖像,所述低亮圖像包括預定陣列排布的低亮像素;和
合并模塊,用于合并所述高亮圖像和所述低亮圖像以得到寬動態(tài)范圍圖像。
在某些實施方式中,所述色塊圖像包括預定陣列排布的圖像像素單元,所述圖像像素單元包括多個顏色相同的原始像素,所述低亮圖像包括預定陣列的低亮像素,所述低亮像素包括當前像素,所述原始像素包括與所述當前像素對應的關聯(lián)像素,所述第二圖像處理模塊包括:
判斷單元,用于判斷所述當前像素的顏色與所述關聯(lián)像素的顏色是否相同;
第一計算單元,用于在所述當前像素的顏色與所述關聯(lián)像素的顏色相同時,將所述關聯(lián)像素的像素值作為所述當前像素的像素值;和
第二計算單元,用于在所述當前像素的顏色與所述關聯(lián)像素的顏色不同時,根據(jù)關聯(lián)像素單元的像素值通過插值方式計算所述當前像素的像素值,所述像素單元包括所述關聯(lián)像素單元,所述關聯(lián)像素單元與所述當前像素顏色相同且與所述當前像素相鄰。
在某些實施方式中,所述預定陣列包括拜耳陣列。
在某些實施方式中,所述圖像像素單元包括2*2陣列的所述原始像素。
在某些實施方式中,所述第二計算單元包括:
第一計算子單元,用于計算所述關聯(lián)像素各個方向上的漸變量;
第二計算子單元,用于計算所述關聯(lián)像素各個方向上的權重;和
第三計算子單元,用于根據(jù)所述漸變量及所述權重計算所述當前像素的像素值。
在某些實施方式中,所述第二圖像處理模塊包括:
白平衡補償單元,用于對所述色塊圖像做白平衡補償;和
白平衡補償還原單元,用于對所述低亮圖像做白平衡補償還原。
在某些實施方式中,所述第二圖像處理模塊包括:
壞點補償單元,用于對所述色塊圖像做換點補償。
在某些實施方式中,所述第二圖像處理模塊包括:
串擾補償單元,用于對所述色塊圖像做串擾補償。
在某些實施方式中,所述第二圖像處理模塊包括:
處理單元,對所述低亮圖像進行鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理。
本發(fā)明實施方式的電子裝置,包括成像裝置、顯示器和上述控制裝置。
在某些實施方式中,所述電子裝置包括手機或平板電腦。
在某些實施方式中,所述成像裝置包括前置相機或后置相機。
本發(fā)明實施方式的控制方法、控制裝置及電子裝置,利用圖像傳感器不同圖像輸出模式存在亮度差的特性,采用兩種模式下的圖像進行寬動態(tài)范圍圖像的合成,減少合成處理的時間,提高效率。
本發(fā)明的附加方面的優(yōu)點將在下面的描述中部分給出,部分將從下面的描述中變得明顯,或通過本發(fā)明的實踐了解到。
附圖說明
本發(fā)明的上述和/或附加的方面和優(yōu)點從結合下面附圖對實施方式的描述中將變得明顯和容易理解,其中:
圖1是本發(fā)明實施方式的控制方法的流程示意圖。
圖2是本發(fā)明實施方式的電子裝置的功能模塊示意圖。
圖3是本發(fā)明實施方式的圖像傳感器的模塊示意圖。
圖4是本發(fā)明實施方式的圖像傳感器的電路示意圖。
圖5是本發(fā)明實施方式的濾光片單元的示意圖
圖6是本發(fā)明實施方式的圖像傳感器的結構示意圖。
圖7是本發(fā)明實施方式的合并圖像狀態(tài)示意圖。
圖8是本發(fā)明實施方式的色塊圖像的狀態(tài)示意圖。
圖9是本發(fā)明某些實施方式的控制方法的流程示意圖。
圖10是本發(fā)明某些實施方式的第二圖像處理模塊的功能模塊示意圖。
圖11是本發(fā)明某些實施方式的控制方法的狀態(tài)示意圖。
圖12是本發(fā)明某些實施方式的控制方法的狀態(tài)示意圖。
圖13是本發(fā)明某些實施方式的第二計算單元的功能模塊示意圖。
圖14是本發(fā)明某些實施方式的控制方法的流程示意圖。
圖15是本發(fā)明某些實施方式的控制方法的流程示意圖。
圖16是本發(fā)明某些實施方式的控制方法的狀態(tài)示意圖。
具體實施方式
下面詳細描述本發(fā)明的實施方式,所述實施方式的示例在附圖中示出,其中相同或類似的標號自始至終表示相同或類似的元件或具有相同或類似功能的元件。下面通過參考附圖描述的實施方式是示例性的,僅用于解釋本發(fā)明的實施方式,而不能理解為對本發(fā)明的實施方式的限制。
請參閱圖1,本發(fā)明實施方式的控制方法,用于控制電子裝置。電子裝置包括成像裝置和顯示器。成像裝置包括圖像傳感器,圖像傳感器包括感光像素陣列和設置在感光像素單元陣列上的濾光片單元陣列,每個濾光片單元覆蓋對應一個感光像素單元,每個感光像素單元包括多個感光像素??刂品椒òú襟E:
S10:控制感光像素單元陣列曝光并輸出合并圖像;
S20:控制感光像素單元陣列曝光并輸出色塊圖像;
S30:通過縮放計算方式將合并圖像轉(zhuǎn)換成高亮圖像;
S40:通過插值計算方式將色塊圖像轉(zhuǎn)換成低亮圖像;和
S50:合并高亮圖像和低亮圖像以得到寬動態(tài)范圍圖像。
請參閱圖2,本發(fā)明實施方式的控制裝置100,用于控制電子裝置1000,電子裝置1000還包括成像裝置和顯示器。成像裝置包括圖像傳感器200??刂蒲b置100包括第一控制模塊110、第二控制模塊120和第一圖像處理模塊130、第二圖像處理模塊140和合并模塊150。作為例子,本發(fā)明實施方式的控制在方法可以由本發(fā)明實施方式的控制裝置100實現(xiàn),可應用于電子裝置1000并用于控制電子裝置1000的成像裝置的圖像傳感器200輸出寬動態(tài)范圍圖像。
在一些示例中,電子裝置1000包括手機或平板電腦。成像裝置包括前置相機或后置相機。
請一并參閱圖3至圖6,本發(fā)明實施方式的圖像傳感器200包括感光像素單元陣列210和設置在感光像素單元陣列210上的濾光片單元陣列220。
進一步地,感光像素單元陣列210包括多個感光像素單元210a,每個感光像素單元210a包括多個相鄰的感光像素212。每個感光像素212包括一個感光器件2121和一個傳輸管2122,其中,感光器件2121可以是光電二極管,傳輸管2122可以是MOS晶體管。
濾光片單元陣列220包括多個濾光片單元220a,每個濾光片單元220a覆蓋對應一個感光像素單元210a。
具體地,在某些示例中,濾光片單元陣列220包括拜耳陣列,也即是說,相鄰的四個濾光片單元220a分別為一個紅色濾光片單元、一個藍色濾光片單元和兩個綠色濾光片單元。
每一個感光像素單元210a對應同一顏色的濾光片單元220a,若一個感光像素單元210a中一共包括n個相鄰的感光器件2121,那么一個濾光片單元220a覆蓋一個感光像素單元210a中的n個感光器件2121,該濾光片單元220a可以是一體構造,也可以由n個獨立的子濾光片組裝連接在一起。
在某些實施方式中,每個感光像素單元210a包括四個相鄰的感光像素212,相鄰兩個感光像素212共同構成一個感光像素子單元2120,感光像素子單元2120還包括一個源極跟隨器2123及一個模數(shù)轉(zhuǎn)換器2124。感光像素單元210a還包括一個加法器213。其中,一個感光像素子單元2120中的每個傳輸管2122的一端電極被連接到對應感光器件2121的陰極電極,每個傳輸管2122的另一端被共同連接至源極跟隨器2123的閘極電極,并通過源極跟隨器2123源極電極連接至一個模數(shù)轉(zhuǎn)換器2124。其中,源極跟隨器2122可以是MOS晶體管。兩個感光像素子單元2120通過各自的源極跟隨器2123及模數(shù)轉(zhuǎn)換器2124連接至加法器213。
也即是說,本發(fā)明實施方式的圖像傳感器200的一個感光像素單元210a中相鄰的四個感光器件2121共用一個同顏色的濾光片單元220a,每個感光器件2121對應連接一個傳輸管2122,相鄰兩個感光器件2121共用一個源極跟隨器2123和一個模數(shù)轉(zhuǎn)換器2124,相鄰的四個感光器件2121共用一個加法器213。
進一步地,相鄰的四個感光器件2121呈2*2陣列排布。其中,一個感光像素子單元2120中的兩個感光器件2121可以處于同一列。
在成像時,當同一濾光片單元220a下覆蓋的兩個感光像素子單元2120或者說四個感光器件2121同時曝光時,可以對像素進行合并進而可輸出合并圖像。
具體地,感光器件2121用于將光照轉(zhuǎn)化為電荷,且產(chǎn)生的電荷與光照強度成比例關系,傳輸管2122用于根據(jù)控制信號來控制電路的導通或斷開。當電路導通時,源極跟隨器2123用于將感光器件2121經(jīng)光照產(chǎn)生的電荷信號轉(zhuǎn)化為電壓信號。模數(shù)轉(zhuǎn)換器2124用于電壓信號轉(zhuǎn)換為數(shù)字信號。加法器214用于將兩路數(shù)字信號相加共同輸出,以供與圖像傳感器200相連的圖像處理模塊處理。
請參閱圖7,以16M的圖像傳感器200舉例來說,本發(fā)明實施方式的圖像傳感器200可以將16M的感光像素合并成4M,或者說,輸出合并圖像,合并圖像包括預定陣列排布的合并像素,同一感光像素單元210a的多個感光像素212合并輸出作為一個合并像素,在一些示例中,每個感光像素單元210a包括四個感光像素212,也即是說,合并后,感光像素的大小相當于變成了原來大小的4倍,從而提升了感光像素的感光度。此外,由于圖像傳感器200中的噪聲大部分都是隨機噪聲,對于合并之前的感光像素的來說,有可能其中一個或兩個像素中存在噪點,而在將四個感光像素合并成一個大的感光像素后,減小了噪點對該大像素的影響,也即是減弱了噪聲,提高了信噪比。
但在感光像素大小變大的同時,由于像素值降低,合并圖像的解析度也將降低。
在成像時,當同一濾光片單元220a下覆蓋的四個感光器件2121依次曝光時,經(jīng)過圖像處理可以輸出色塊圖像。
具體地,感光器件2121用于將光照轉(zhuǎn)化為電荷,且產(chǎn)生的電荷與光照強度成比例關系,傳輸管2122用于根據(jù)控制信號來控制電路的導通或斷開。當電路導通時,源極跟隨器2123用于將感光器件2121經(jīng)光照產(chǎn)生的電荷信號轉(zhuǎn)化為電壓信號。模數(shù)轉(zhuǎn)換器2124用于電壓信號轉(zhuǎn)換為數(shù)字信號,以供與圖像傳感器200相連的圖像處理模塊處理。
請參閱圖8,以16M的圖像傳感器200舉例來說,本發(fā)明實施方式的圖像傳感器200還可以保持16M的感光像素輸出,或者說輸出色塊圖像,色塊圖像包括圖像像素單元,圖像像素單元包括2*2陣列排布的原始像素,該原始像素的大小與感光像素大小相同,然而由于覆蓋相鄰四個感光器件2121的濾光片單元220a為同一顏色,也即是說,雖然四個感光器件2121分別曝光,但覆蓋其的濾光片單元220a顏色相同,因此,輸出的每個圖像像素單元的相鄰四個原始像素顏色相同,仍然無法提高圖像的解析度,需要進行進一步的處理。
可以理解,合并圖像在輸出時,四個相鄰的同色感光像素以合并像素輸出,如此,合并圖像中的四個相鄰的合并像素仍可看作是典型的拜耳陣列,可以直接被圖像處理模塊接收進行處理以輸出真彩圖像。而色塊圖像在輸出時每個感光像素分別輸出,由于相鄰四個感光像素顏色相同,因此,一個圖像像素單元的四個相鄰原始像素的顏色相同,是非典型的拜耳陣列。而圖像處理模塊無法對非典型拜耳陣列直接進行處理,也即是說,在圖像傳感器200采用同一圖像處理模塊時,為兼容兩種模式的真彩圖像輸出即合并模式下的真彩圖像輸出及色塊模式下的真彩圖像輸出,需對色塊圖像進行轉(zhuǎn)化處理,或者說將非典型拜耳陣列的圖像像素單元轉(zhuǎn)化為典型拜耳陣列的像素排布。
進一步地,合并圖像輸出時,四個相鄰的同色感光像素以合并像素輸出,在同一曝光條件下,相對于感光像素分別輸出形成的色塊圖像,合并圖像的感光度或者說亮度是色塊圖像的四倍,而這種亮度差異構成了應用寬動態(tài)范圍(High Dynamic Range,HDR)模式的條件,即對同一被攝物采用不同曝光參數(shù)輸出多幀圖像,并進行合并。如此,利用圖像傳感器200兩種輸出模式在同一曝光條件下可輸出不同亮度的圖像的特性,可直接進行HDR模式圖像的處理。
然而,需要注意的是,由于合并圖像相當于以4M輸出,因此,在這種模式下輸出的合并圖像的尺寸與以16M輸出的色塊圖像的尺寸并不相同,在合并前需要對合并圖像的進行尺寸處理。
例如,可以通過縮放計算方式,將合并圖像進行放大,使其與色塊圖像的尺寸一致。縮放計算后,可將合并圖像轉(zhuǎn)轉(zhuǎn)換為高亮圖像,其中,高亮圖像包括呈拜耳陣列排布的高亮像素。
如上述,色塊圖像中的每個圖像像素單元以非典型拜耳陣列排布,因此無法直接使用圖像處理模塊進行處理,以使其與高亮圖像進行合并,也即是說,需要對色塊圖像進行處理,例如可以通過插值計算方式將色塊圖像轉(zhuǎn)換為低亮圖像,低亮圖像包括低亮像素,低亮像素以預定陣列也即是拜耳陣列排布。如此,可對高亮圖像與低亮圖像進行合并,進而轉(zhuǎn)而為真彩圖像通過顯示器輸出給用戶。合成中,低亮度部分采用合并圖像的相應部分,從而提高低亮區(qū)域的信噪比,而高亮度部分采用色塊圖像的相應部分,從而提高高亮區(qū)域的解析力。
如此,本發(fā)明實施方式的控制方法、控制裝置100及電子裝置1000,由于采用的圖像傳感器200可以兩種不同模式輸出圖像,所輸出圖像存在亮度差異,形成HDR模式的條件,相較于在16M模式下直接進行HDR,也即是,以不同曝光值輸出多幀色塊圖像,并對每幀色塊圖像進行插值處理后再進行合并,節(jié)省了時間,提高效率。
請參閱圖9及圖10,在某些實施方式中,低亮圖像包括呈拜耳陣列排布的低亮像素。低亮像素包括當前像素,原始像素包括與當前像素對應的關聯(lián)像素。
步驟S40包括步驟:
S42:判斷當前像素的顏色與關聯(lián)像素的顏色是否相同;
S44:在當前像素的顏色與關聯(lián)像素的顏色相同時,將關聯(lián)像素的像素值作為當前像素的像素值;和
S46:在當前像素的顏色與關聯(lián)像素的顏色不同時,根據(jù)關聯(lián)像素單元的像素值通過插值方式計算當前像素的像素值。
在某些實施方式中,第二圖像處理模塊140包括判斷單元142、第一計算單元144和第二計算單元146。步驟S42可以由判斷單元142實現(xiàn),步驟S44可以由第一計算單元144實現(xiàn),步驟S46可以由第二計算單元146實現(xiàn)?;蛘哒f,判斷模塊142用于判斷當前像素的顏色與關聯(lián)像素的顏色是否相同。第一計算單元144用于在當前像素的顏色與關聯(lián)像素的顏色相同時,將關聯(lián)像素的像素值作為當前像素的像素值。第二計算單元146用于在當前像素的顏色與關聯(lián)像素的顏色不同時,根據(jù)關聯(lián)像素單元的像素值通過插值方式計算當前像素的像素值。
請參閱圖11,以圖11為例,當前像素為R3’3’和R5’5’,對應的關聯(lián)像素分別為R33和B55。
在獲取當前像素R3’3’時,由于R33’與對應的關聯(lián)像素R33的顏色相同,因此在轉(zhuǎn)化時直接將R33的像素值作為R33’的像素值。
在獲取當前像素R5’5’時,由于R5’5’與對應的關聯(lián)像素B55的顏色不相同,顯然不能直接將B55的像素值作為R5’5’的像素值,需要根據(jù)R5’5’的關聯(lián)像素單元通過插值的方式計算得到。
需要說明的是,以上及下文中的像素值應當廣義理解為該像素的顏色屬性數(shù)值,例如色彩值。
關聯(lián)像素單元包括多個,例如4個,顏色與當前像素相同且與當前像素相鄰的圖像像素單元中的原始像素。
需要說明的是,此處相鄰應做廣義理解,以圖11為例,R5’5’對應的關聯(lián)像素為B55,與B55所在的圖像像素單元相鄰的且與R5’5’顏色相同的關聯(lián)像素單元所在的圖像像素單元分別為R44、R74、R47、R77所在的圖像像素單元,而并非在空間上距離B55所在的圖像像素單元更遠的其他的紅色圖像像素單元。其中,與B55在空間上距離最近的紅色原始像素分別為R44、R74、R47和R77,也即是說,R55’的關聯(lián)像素單元由R44、R74、R47和R77組成,R5’5’與R44、R74、R47和R77的顏色相同且相鄰。
如此,針對不同情況的當前像素,采用不同方式的將原始像素轉(zhuǎn)化為低亮像素,從而將色塊圖像轉(zhuǎn)化為低亮圖像,由于圖像傳感器200采用了特殊的拜耳陣列結構的濾光片,提高了圖像信噪比,并且在圖像處理過程中,通過插值方式對色塊圖像進行插值處理,提高了圖像的分辨率及解析度。
請參閱圖12,在某些實施方式中,步驟S46包括以下步驟:
S461:計算關聯(lián)像素單元各個方向上的漸變量;
S462:計算關聯(lián)像素單元各個方向上的權重;和
S463:根據(jù)漸變量及權重計算當前像素的像素值。
請參閱圖13,在某些實施方式中,第二計算單元146包括第一計算子單元1461、第二計算子單元1462和第三計算單元1463。步驟S461可以由第一計算子單元1461實現(xiàn),步驟S462可以由第二計算子單元1462實現(xiàn),步驟S463可以由第三計算子單元1463實現(xiàn)?;蛘哒f,第一計算子單元1461用于計算關聯(lián)像素單元各個方向上的漸變量,第二計算子單元1462用于計算關聯(lián)像素單元各個方向上的權重,第三計算單元1463用于根據(jù)漸變量及權重計算當前像素的像素值。
具體地,插值處理方式是參考圖像在不同方向上的能量漸變,將與當前像素對應的顏色相同且相鄰的關聯(lián)像素單元依據(jù)在不同方向上的漸變權重大小,通過線性插值的方式計算得到當前像素的像素值。其中,在能量變化量較小的方向上,參考比重較大,因此,在插值計算時的權重較大。
在某些示例中,為方便計算,僅考慮水平和垂直方向。
R5’5’由R44、R74、R47和R77插值得到,而在水平和垂直方向上并不存在顏色相同的原始像素,因此需首根據(jù)關聯(lián)像素單元計算在水平和垂直方向上該顏色的分量。其中,水平方向上的分量為R45和R75、垂直方向的分量為R54和R57可以分別通過R44、R74、R47和R77計算得到。
具體地,R45=R44*2/3+R47*1/3,R75=2/3*R74+1/3*R77,R54=2/3*R44+1/3*R74,R57=2/3*R47+1/3*R77。
然后,分別計算在水平和垂直方向的漸變量及權重,也即是說,根據(jù)該顏色在不同方向的漸變量,以確定在插值時不同方向的參考權重,在漸變量小的方向,權重較大,而在漸變量較大的方向,權重較小。其中,在水平方向的漸變量X1=|R45-R75|,在垂直方向上的漸變量X2=|R54-R57|,W1=X1/(X1+X2),W2=X2/(X1+X2)。
如此,根據(jù)上述可計算得到,R5’5’=(2/3*R45+1/3*R75)*W2+(2/3*R54+1/3*R57)*W1??梢岳斫?,若X1大于X2,則W1大于W2,因此計算時水平方向的權重為W2,而垂直方向的權重為W1,反之亦反。
如此,可根據(jù)插值方式計算得到當前像素的像素值。依據(jù)上述對關聯(lián)像素的處理方式,可將原始像素轉(zhuǎn)化為呈典型拜耳陣列排布的低亮像素,也即是說,相鄰的四個2*2陣列的低亮像素包括一個紅色低亮像素,兩個綠色低亮像素和一個藍色低亮像素。
需要說明的是,插值的方式包括但不限于本實施例中公開的在計算時僅考慮垂直和水平兩個方向相同顏色的像素值的方式,例如還可以參考其他顏色的像素值。
請參閱圖10和圖14,在某些實施方式中,步驟S46前包括步驟:
S45a:對色塊圖像做白平衡補償;
步驟S46后包括步驟:
S47a:對低亮圖像做白平衡補償還原。
在某些實施方式中,第二圖像處理模塊140包括白平衡補償單元145a和白平衡補償還原單元147a。步驟S45a可以由白平衡補償單元145a實現(xiàn),步驟S47a可以由白平衡補償還原單元147a實現(xiàn)?;蛘哒f,白平衡補償單元145a用于對色塊圖像做白平衡補償,白平衡補償還原單元147a用于對低亮圖像做白平衡補償還原。
具體地,在一些示例中,在將色塊圖像轉(zhuǎn)化為低亮圖像的過程中,在插值過程中,紅色和藍色低亮像素往往不僅參考與其顏色相同的通道的原始像素的顏色,還會參考綠色通道的原始像素的顏色權重,因此,在插值前需要進行白平衡補償,以在插值計算中排除白平衡的影響。為了不破壞色塊圖像的白平衡,因此,在插值之后需要將低亮圖像進行白平衡補償還原,還原時根據(jù)在補償中紅色、綠色及藍色的增益值進行還原。
如此,可排除在插值過程中白平衡的影響,并且能夠使得插值后得到的低亮圖像保持色塊圖像的白平衡。
請再次參閱圖10和圖14,在某些實施方式中,步驟S46前包括步驟:
S45b:對色塊圖像做壞點補償。
在某些實施方式中,第二圖像處理模塊140包括壞點補償模塊145b。步驟S45b可以由壞點補償模塊145b實現(xiàn)?;蛘哒f,壞點補償模塊145b用于對色塊圖像做壞點補償。
可以理解,受限于制造工藝,圖像傳感器200可能會存在壞點,壞點通常不隨感光度變化而始終呈現(xiàn)同一顏色,壞點的存在將影響圖像質(zhì)量,因此,為保證插值的準確,不受壞點的影響,需要在插值前進行壞點補償。
具體地,壞點補償過程中,可以對原始像素進行檢測,當檢測到某一原始像素為壞點時,可根據(jù)其所在的圖像像素單元的其他原始像的像素值進行壞點補償。
如此,可排除壞點對插值處理的影響,提高圖像質(zhì)量。
請再次參閱圖10和圖14,在某些實施方式中,步驟S46前包括步驟:
S45c:對色塊圖像做串擾補償。
在某些實施方式中,第二圖像處理模塊140包括串擾補償模塊145c。步驟S45c可以由串擾補償模塊145c實現(xiàn)?;蛘哒f,串擾補償模塊145c用于對色塊圖像做串擾補償。
具體的,一個感光像素單元中的四個感光像素覆蓋同一顏色的濾光片,而感光像素之間可能存在感光度的差異,以至于以低亮圖像轉(zhuǎn)化輸出的真彩圖像中的純色區(qū)域會出現(xiàn)固定型譜噪聲,影響圖像的質(zhì)量。因此,需要對色塊圖像進行串擾補償。
請參閱圖15,如上述解釋說明,進行串擾補償,需要在圖像傳感器200制造過程中設定補償參數(shù),并將串擾補償?shù)南嚓P參數(shù)預置于成像裝置的存儲器中或裝設成像裝置的電子裝置1000例如手機或平板電腦中。
在某些實施方式中,設定補償參數(shù)包括以下步驟:
S451:提供預定光環(huán)境;
S452:設置成像裝置的成像參數(shù);
S453:拍攝多幀圖像;
S454:處理多幀圖像以獲得串擾補償參數(shù);和
S455:將串擾補償參數(shù)保存在所述圖像處理裝置內(nèi)。
預定光環(huán)境例如可包括LED勻光板,5000K左右的色溫,亮度1000勒克斯左右,成像參數(shù)可包括增益值,快門值及鏡頭位置。設定好相關參數(shù)后,進行串擾補償參數(shù)的獲取。
處理過程中,首先在設定的光環(huán)境中以設置好的成像參數(shù),獲取多張色塊圖像,并合并成一張色塊圖像,如此可減少以單張色塊圖像作為校準基礎的噪聲影響。
請參閱圖16,以圖16中的圖像像素單元Gr為例,其包括Gr1、Gr2、Gr3和Gr4,串擾補償目的在于將感光度可能存在差異的感光像素通過補償基本校準至同一水平。該圖像像素單元的平均像素值為Gr_avg=(Gr1+Gr2+Gr3+Gr4)/4,可基本表征這四個感光像素的感光度的平均水平,以此平均值作為基礎值,分別計算Gr1/Gr_avg,Gr2/Gr_avg,Gr3/Gr_avg和Gr4/Gr_avg,可以理解,通過計算每一個原始像素的像素值與該圖像像素單元的平均像素值的比值,可以基本反映每個原始像素與基礎值的偏差,記錄四個比值并作為補償參數(shù)記錄到相關裝置的存儲器中,以在成像時進行調(diào)取對每個原始像素進行補償,從而減少串擾,提高圖像質(zhì)量。
通常,在設定串擾補償參數(shù)后還應當驗證所設定的參數(shù)是否準確。
驗證過程中,首先以相同的光環(huán)境和成像參數(shù)獲取一張色塊圖像,依據(jù)計算得到的補償參數(shù)對該色塊圖像進行串擾補償,計算補償后的Gr’_avg、Gr’1/Gr’_avg、Gr’2/Gr’_avg、Gr’3/Gr’_avg和Gr’4/Gr’_avg。根據(jù)計算結果判斷補償參數(shù)是否準確,判斷可根據(jù)宏觀與微觀兩個角度考慮。微觀是指某一個原始像素在補償后仍然偏差較大,成像后易被使用者感知,而宏觀則從全局角度,也即是在補償后仍存在偏差的原始像素的總數(shù)目較多時,此時即便單獨的每一個原始像素的偏差不大,但作為整體仍然會被使用者感知。因此,針對微觀設置一個比例閾值即可,針對宏觀需設置一個比例閾值和一個數(shù)量閾值。如此,可對設置的串擾補償參數(shù)進行驗證,確保補償參數(shù)的正確,以減少串擾對圖像質(zhì)量的影響。
請參閱圖10和圖14,在某些實施方式中,步驟S46后還包括步驟:
S47b:對低亮圖像進行鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理。
在某些實施方式中,第二圖像處理模塊140包括處理單元147b。步驟S47b可以由處理單元147b實現(xiàn),或者說,處理單元147b用于對低亮圖像進行鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理。
可以理解,將色塊圖像轉(zhuǎn)化為低亮圖像后,低亮像素排布為典型的拜耳陣列,可采用處理單元147b進行處理,處理過程中包括鏡片陰影校正、去馬賽克、降噪和邊緣銳化處理,如此,處理后的圖像可用于與高亮圖像進行合成,從而得到HDR圖像。
在本發(fā)明的實施方式的描述中,需要理解的是,術語“中心”、“縱向”、“橫向”、“長度”、“寬度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“豎直”、“水平”、“頂”、“底”、“內(nèi)”、“外”、“順時針”、“逆時針”等指示的方位或位置關系為基于附圖所示的方位或位置關系,僅是為了便于描述本發(fā)明的實施方式和簡化描述,而不是指示或暗示所指的裝置或元件必須具有特定的方位、以特定的方位構造和操作,因此不能理解為對本發(fā)明的實施方式的限制。
此外,術語“第一”、“第二”僅用于描述目的,而不能理解為指示或暗示相對重要性或者隱含指明所指示的技術特征的數(shù)量。由此,限定有“第一”、“第二”的特征可以明示或者隱含地包括一個或者更多個所述特征。在本發(fā)明的實施方式的描述中,“多個”的含義是兩個或兩個以上,除非另有明確具體的限定。
在本發(fā)明的實施方式的描述中,需要說明的是,除非另有明確的規(guī)定和限定,術語“安裝”、“相連”、“連接”應做廣義理解,例如,可以是固定連接,也可以是可拆卸連接,或一體地連接;可以是機械連接,也可以是電連接或可以相互通訊;可以是直接相連,也可以通過中間媒介間接相連,可以是兩個元件內(nèi)部的連通或兩個元件的相互作用關系。對于本領域的普通技術人員而言,可以根據(jù)具體情況理解上述術語在本發(fā)明的實施方式中的具體含義。
在本發(fā)明的實施方式中,除非另有明確的規(guī)定和限定,第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接觸,也可以包括第一和第二特征不是直接接觸而是通過它們之間的另外的特征接觸。而且,第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方,或僅僅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方,或僅僅表示第一特征水平高度小于第二特征。
上文的公開提供了許多不同的實施方式或例子用來實現(xiàn)本發(fā)明的實施方式的不同結構。為了簡化本發(fā)明的實施方式的公開,上文中對特定例子的部件和設置進行描述。當然,它們僅僅為示例,并且目的不在于限制本發(fā)明。此外,本發(fā)明的實施方式可以在不同例子中重復參考數(shù)字和/或參考字母,這種重復是為了簡化和清楚的目的,其本身不指示所討論各種實施方式和/或設置之間的關系。此外,本發(fā)明的實施方式提供了的各種特定的工藝和材料的例子,但是本領域普通技術人員可以意識到其他工藝的應用和/或其他材料的使用。
在本說明書的描述中,參考術語“一個實施方式”、“一些實施方式”、“示意性實施方式”、“示例”、“具體示例”或“一些示例”等的描述意指結合所述實施方式或示例描述的具體特征、結構、材料或者特點包含于本發(fā)明的至少一個實施方式或示例中。在本說明書中,對上述術語的示意性表述不一定指的是相同的實施方式或示例。而且,描述的具體特征、結構、材料或者特點可以在任何的一個或多個實施方式或示例中以合適的方式結合。
流程圖中或在此以其他方式描述的任何過程或方法描述可以被理解為,表示包括一個或更多個用于實現(xiàn)特定邏輯功能或過程的步驟的可執(zhí)行指令的代碼的模塊、片段或部分,并且本發(fā)明的優(yōu)選實施方式的范圍包括另外的實現(xiàn),其中可以不按所示出或討論的順序,包括根據(jù)所涉及的功能按基本同時的方式或按相反的順序,來執(zhí)行功能,這應被本發(fā)明的實施例所屬技術領域的技術人員所理解。
在流程圖中表示或在此以其他方式描述的邏輯和/或步驟,例如,可以被認為是用于實現(xiàn)邏輯功能的可執(zhí)行指令的定序列表,可以具體實現(xiàn)在任何計算機可讀介質(zhì)中,以供指令執(zhí)行系統(tǒng)、裝置或設備(如基于計算機的系統(tǒng)、包括處理模塊的系統(tǒng)或其他可以從指令執(zhí)行系統(tǒng)、裝置或設備取指令并執(zhí)行指令的系統(tǒng))使用,或結合這些指令執(zhí)行系統(tǒng)、裝置或設備而使用。就本說明書而言,"計算機可讀介質(zhì)"可以是任何可以包含、存儲、通信、傳播或傳輸程序以供指令執(zhí)行系統(tǒng)、裝置或設備或結合這些指令執(zhí)行系統(tǒng)、裝置或設備而使用的裝置。計算機可讀介質(zhì)的更具體的示例(非窮盡性列表)包括以下:具有一個或多個布線的電連接部(電子裝置),便攜式計算機盤盒(磁裝置),隨機存取存儲器(RAM),只讀存儲器(ROM),可擦除可編輯只讀存儲器(EPROM或閃速存儲器),光纖裝置,以及便攜式光盤只讀存儲器(CDROM)。另外,計算機可讀介質(zhì)甚至可以是可在其上打印所述程序的紙或其他合適的介質(zhì),因為可以例如通過對紙或其他介質(zhì)進行光學掃描,接著進行編輯、解譯或必要時以其他合適方式進行處理來以電子方式獲得所述程序,然后將其存儲在計算機存儲器中。
應當理解,本發(fā)明的實施方式的各部分可以用硬件、軟件、固件或它們的組合來實現(xiàn)。在上述實施方式中,多個步驟或方法可以用存儲在存儲器中且由合適的指令執(zhí)行系統(tǒng)執(zhí)行的軟件或固件來實現(xiàn)。例如,如果用硬件來實現(xiàn),和在另一實施方式中一樣,可用本領域公知的下列技術中的任一項或他們的組合來實現(xiàn):具有用于對數(shù)據(jù)信號實現(xiàn)邏輯功能的邏輯門電路的離散邏輯電路,具有合適的組合邏輯門電路的專用集成電路,可編程門陣列(PGA),現(xiàn)場可編程門陣列(FPGA)等。
本技術領域的普通技術人員可以理解實現(xiàn)上述實施例方法攜帶的全部或部分步驟是可以通過程序來指令相關的硬件完成,所述的程序可以存儲于一種計算機可讀存儲介質(zhì)中,該程序在執(zhí)行時,包括方法實施例的步驟之一或其組合。
此外,在本發(fā)明的各個實施例中的各功能單元可以集成在一個處理模塊中,也可以是各個單元單獨物理存在,也可以兩個或兩個以上單元集成在一個模塊中。上述集成的模塊既可以采用硬件的形式實現(xiàn),也可以采用軟件功能模塊的形式實現(xiàn)。所述集成的模塊如果以軟件功能模塊的形式實現(xiàn)并作為獨立的產(chǎn)品銷售或使用時,也可以存儲在一個計算機可讀取存儲介質(zhì)中。
上述提到的存儲介質(zhì)可以是只讀存儲器,磁盤或光盤等。
盡管上面已經(jīng)示出和描述了本發(fā)明的實施例,可以理解的是,上述實施例是示例性的,不能理解為對本發(fā)明的限制,本領域的普通技術人員在本發(fā)明的范圍內(nèi)可以對上述實施例進行變化、修改、替換和變型。