必一運(yùn)動(dòng)科技:一種多傳感器融合定位方法與流程
1、多源數(shù)據(jù)融合技術(shù)是一種通過整合不同來源的信息,對其進(jìn)行統(tǒng)一評(píng)價(jià)并最終得到一致信息的技術(shù)。在許多領(lǐng)域,如智能交通、醫(yī)療、金融和導(dǎo)航定位中,都有廣泛的應(yīng)用。
2、在導(dǎo)航定位領(lǐng)域,多源數(shù)據(jù)通常是來自各類傳感器。為了提高定位定姿的精度和可靠性,多傳感器融合定位成為一種重要的方法。多傳感器融合定位可以將傳感器在空間和時(shí)間上的互補(bǔ)與冗余信息組合起來,依據(jù)某種優(yōu)化準(zhǔn)則進(jìn)行組合,從而產(chǎn)生對觀測環(huán)境或?qū)ο蟮囊恢滦越忉尯兔枋?,這樣可以提高整個(gè)傳感器系統(tǒng)的有效性和正確性。
1、基于此,有必要針對上述問題,提出了一種多傳感器融合定位方法,使得可以得到高精度的綜合融合定位結(jié)果,以提高整個(gè)傳感器系統(tǒng)的有效性和正確性。
2、為實(shí)現(xiàn)上述目的,本發(fā)明在第一方面提供一種多傳感器融合定位方法,所述方法包括:
3、獲取rtk的rtk數(shù)據(jù)、imu的imu數(shù)據(jù)、激光雷達(dá)的激光雷達(dá)數(shù)據(jù)和雙目視覺相機(jī)的雙目視覺數(shù)據(jù);
4、根據(jù)所述rtk數(shù)據(jù)確定rtk定位結(jié)果和rtk均方根誤差,根據(jù)所述imu數(shù)據(jù)確定imu定位結(jié)果和imu標(biāo)定參數(shù),根據(jù)所述雙目視覺數(shù)據(jù)確定視覺slam定位結(jié)果和視覺slam精度評(píng)估值,以及根據(jù)所述激光雷達(dá)數(shù)據(jù)確定激光slam定位結(jié)果和激光slam精度評(píng)估值;
5、將所述rtk均方根誤差、所述imu標(biāo)定參數(shù)、所述視覺slam精度評(píng)估值和所述激光slam精度評(píng)估值作為先驗(yàn)信息,確定各類觀測值的初始權(quán);根據(jù)各類觀測值的初始權(quán)、所述rtk定位結(jié)果、所述imu定位結(jié)果、所述視覺slam定位結(jié)果和所述激光slam定位結(jié)果確定各類觀測值的首次平差解算;根據(jù)各類觀測值的首次平差解算進(jìn)行迭代計(jì)算各類觀測值的單位權(quán)方差的估計(jì)值,在各類觀測值的單位權(quán)方差的估計(jì)值滿足預(yù)設(shè)迭代條件的情況下,根據(jù)當(dāng)次迭代計(jì)算得到的各類觀測值的單位權(quán)方差的估計(jì)值確定綜合融合定位結(jié)果。
7、從所述雙目視覺數(shù)據(jù)提取雙目視覺圖像,所述雙目視覺圖像包括左目圖像和右目圖像;
8、基于所述左目圖像與所述右目圖像進(jìn)行匹配,得到所述左目圖像與所述右目圖像之間的多對特征點(diǎn);
9、根據(jù)所述左目圖像與所述右目圖像之間的多對特征點(diǎn)的像素點(diǎn)坐標(biāo)計(jì)算單應(yīng)性矩陣;
12、可選地,所述基于所述左目圖像與所述右目圖像進(jìn)行匹配,得到所述左目圖像與所述右目圖像之間的多對特征點(diǎn),包括:
15、對去噪后的灰度左目圖像進(jìn)行角點(diǎn)提取,得到去噪后的灰度左目圖像的多個(gè)候選特征點(diǎn);
16、在去噪后的灰度左目圖像的第n個(gè)候選特征點(diǎn)周圍選取一組采樣點(diǎn)對,計(jì)算每個(gè)采樣點(diǎn)對的灰度差分值,將所有采樣點(diǎn)對的灰度差分值轉(zhuǎn)換為二進(jìn)制串,并將二進(jìn)制串作為去噪后的灰度左目圖像的第n個(gè)候選特征點(diǎn)的brief描述子;重復(fù)上述步驟,n依次取大于0的整數(shù),得到去噪后的灰度左目圖像的所有候選特征點(diǎn)的brief描述子;
19、對去噪后的灰度右目圖像進(jìn)行角點(diǎn)提取,得到去噪后的灰度右目圖像的多個(gè)候選特征點(diǎn);
20、在去噪后的灰度右目圖像的第m個(gè)候選特征點(diǎn)周圍選取一組采樣點(diǎn)對,計(jì)算每個(gè)采樣點(diǎn)對的灰度差分值,將所有采樣點(diǎn)對的灰度差分值轉(zhuǎn)換為二進(jìn)制串,并將二進(jìn)制串作為去噪后的灰度右目圖像的第m個(gè)候選特征點(diǎn)的brief描述子;重復(fù)上述步驟,m依次取大于0的整數(shù),得到去噪后的灰度右目圖像的所有候選特征點(diǎn)的brief描述子;
21、根據(jù)去噪后的灰度左目圖像的所有候選特征點(diǎn)的brief描述子和去噪后的灰度右目圖像的所有候選特征點(diǎn)的brief描述子,對去噪后的灰度左目圖像的多個(gè)候選特征點(diǎn)與去噪后的灰度右目圖像的多個(gè)候選特征點(diǎn)進(jìn)行特征點(diǎn)匹配,得到匹配后的特征點(diǎn)對;
22、將匹配后的特征點(diǎn)對進(jìn)行篩選,得到去噪后的灰度左目圖像與去噪后的灰度右目圖像之間的多對特征點(diǎn);
23、將去噪后的灰度左目圖像與去噪后的灰度右目圖像之間的多對特征點(diǎn)作為所述左目圖像與所述右目圖像之間的多對特征點(diǎn)。
25、根據(jù)所述左目圖像與所述右目圖像之間的多對特征點(diǎn)的像素點(diǎn)坐標(biāo)計(jì)算多對特征點(diǎn)的多個(gè)視差值;
26、根據(jù)多對特征點(diǎn)的多個(gè)視差值、所述雙目視覺相機(jī)的在x軸方向的焦距和所述雙目視覺相機(jī)的基線長度計(jì)算多對特征點(diǎn)對應(yīng)的多個(gè)深度信息;
27、根據(jù)多對特征點(diǎn)對應(yīng)的多個(gè)深度信息、所述旋轉(zhuǎn)矩陣、所述平移向量、所述雙目視覺相機(jī)的內(nèi)參數(shù)矩陣和所述左目圖像的多個(gè)特征點(diǎn)的像素點(diǎn)坐標(biāo)計(jì)算所述左目圖像的多個(gè)特征點(diǎn)在世界坐標(biāo)系的世界坐標(biāo);
28、根據(jù)所述左目圖像中第i個(gè)圖像幀的時(shí)間間隔、運(yùn)動(dòng)距離和視角變化與時(shí)間間隔閾值、運(yùn)動(dòng)距離閾值和視角變化閾值判斷第i個(gè)圖像幀是否為關(guān)鍵幀;
29、若第i個(gè)圖像幀為關(guān)鍵幀,則在所述第i個(gè)圖像幀的特征點(diǎn)的重投影誤差小于誤差閾值,且該特征點(diǎn)被兩個(gè)以上的其他關(guān)鍵幀對應(yīng)的圖像幀觀測到的情況下,根據(jù)該特征點(diǎn)的世界坐標(biāo)將該特征點(diǎn)和關(guān)鍵幀更新到slam地圖中;
31、重復(fù)上述步驟,i依次取大于0的整數(shù),直至i等于所述左目圖像中圖像幀的總個(gè)數(shù);
33、可選地,所述根據(jù)最新優(yōu)化后的slam地圖計(jì)算所述視覺slam精度評(píng)估值,包括:
34、在最新優(yōu)化后的slam地圖中均勻選取在所述左目圖像有對應(yīng)特征點(diǎn)的j個(gè)地圖點(diǎn);
35、根據(jù)最新優(yōu)化后的slam地圖的第j個(gè)地圖點(diǎn)的地圖坐標(biāo)、第j個(gè)地圖點(diǎn)在所述左目圖像對應(yīng)的特征點(diǎn)的像素點(diǎn)坐標(biāo)、所述旋轉(zhuǎn)矩陣、所述平移向量和所述雙目視覺相機(jī)的內(nèi)參數(shù)矩陣計(jì)算第j個(gè)地圖點(diǎn)到所述左目圖像的第一深度值;
36、根據(jù)第j個(gè)地圖點(diǎn)在所述左目圖像對應(yīng)的特征點(diǎn)的像素點(diǎn)坐標(biāo)和所述單應(yīng)性矩陣計(jì)算第j個(gè)地圖點(diǎn)在所述右目圖像對應(yīng)的特征點(diǎn)的像素點(diǎn)坐標(biāo);
37、根據(jù)最新優(yōu)化后的slam地圖的第j個(gè)地圖點(diǎn)的地圖坐標(biāo)、第j個(gè)地圖點(diǎn)在所述右目圖像對應(yīng)的特征點(diǎn)的像素點(diǎn)坐標(biāo)、所述旋轉(zhuǎn)矩陣、所述平移向量和所述雙目視覺相機(jī)的內(nèi)參數(shù)矩陣計(jì)算第j個(gè)地圖點(diǎn)到所述右目圖像的第二深度值;
40、重復(fù)上述步驟,j依次取大于0的整數(shù),得到所有地圖點(diǎn)的深度差值和深度權(quán)重;
41、根據(jù)所有地圖點(diǎn)的深度差值和深度權(quán)重計(jì)算第一方差累加值,以及根據(jù)所有地圖點(diǎn)的深度權(quán)重計(jì)算深度權(quán)重和值;
42、根據(jù)所述第一方差累加值和所述深度權(quán)重和值計(jì)算所述視覺slam精度評(píng)估值。
43、可選地,所述激光雷達(dá)數(shù)據(jù)包括相鄰兩次掃描幀激光雷達(dá)數(shù)據(jù),根據(jù)所述激光雷達(dá)數(shù)據(jù)確定激光slam定位結(jié)果,包括:
44、基于相鄰兩次掃描幀激光雷達(dá)數(shù)據(jù)中的點(diǎn)云數(shù)據(jù)進(jìn)行匹配,得到相鄰兩次掃描幀點(diǎn)云數(shù)據(jù)之間的多對特征點(diǎn)云;
45、基于構(gòu)建非線性優(yōu)化函數(shù),使用非線性優(yōu)化的列文伯格-馬夸爾特方法,根據(jù)相鄰兩次掃描幀點(diǎn)云數(shù)據(jù)之間的多對特征點(diǎn)云進(jìn)行迭代計(jì)算當(dāng)前狀態(tài)轉(zhuǎn)移矩陣;
47、可選地,所述第一次掃描幀激光雷達(dá)數(shù)據(jù)包括第一次掃描幀點(diǎn)云數(shù)據(jù)和第一時(shí)間戳信息,所述第二次掃描幀激光雷達(dá)數(shù)據(jù)包括第二次掃描幀點(diǎn)云數(shù)據(jù)和第二時(shí)間戳信息,所述基于相鄰兩次掃描幀激光雷達(dá)數(shù)據(jù)中的點(diǎn)云數(shù)據(jù)進(jìn)行匹配,得到相鄰兩次掃描幀點(diǎn)云數(shù)據(jù)之間的多對特征點(diǎn)云,包括:
48、根據(jù)所述第一時(shí)間戳信息對所述第一次掃描幀點(diǎn)云數(shù)據(jù)進(jìn)行運(yùn)動(dòng)補(bǔ)償?shù)玫窖a(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù);
49、計(jì)算補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)中每個(gè)點(diǎn)云的曲率,并將補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)中每個(gè)時(shí)刻的點(diǎn)云數(shù)據(jù)劃分為多個(gè)相同的子區(qū)域;
50、在每個(gè)子區(qū)域中,將曲率最高的多個(gè)點(diǎn)云均作為邊緣特征點(diǎn),將曲率最低的多個(gè)點(diǎn)云均作為平面特征點(diǎn),得到補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)邊緣特征點(diǎn)和多個(gè)平面特征點(diǎn);
51、根據(jù)所述第二時(shí)間戳信息對所述第二次掃描幀點(diǎn)云數(shù)據(jù)進(jìn)行運(yùn)動(dòng)補(bǔ)償?shù)玫窖a(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù);
52、計(jì)算補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)中每個(gè)點(diǎn)云的曲率,并將補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)中每個(gè)時(shí)刻的點(diǎn)云數(shù)據(jù)劃分為多個(gè)相同的子區(qū)域;
53、在每個(gè)子區(qū)域中,將曲率最高的多個(gè)點(diǎn)云均作為邊緣特征點(diǎn),將曲率最低的多個(gè)點(diǎn)云均作為平面特征點(diǎn),得到補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)邊緣特征點(diǎn)和多個(gè)平面特征點(diǎn);
54、根據(jù)補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)邊緣特征點(diǎn)與補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)邊緣特征點(diǎn)進(jìn)行邊緣點(diǎn)匹配,得到匹配后的邊緣特征點(diǎn)對;以及根據(jù)補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)平面特征點(diǎn)與補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)平面特征點(diǎn)進(jìn)行平面點(diǎn)匹配,得到匹配后的平面特征點(diǎn)對;
55、將匹配后的邊緣特征點(diǎn)對進(jìn)行篩選,得到補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)與補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)之間的多對邊緣特征點(diǎn);以及將匹配后的平面特征點(diǎn)對進(jìn)行篩選,得到補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)與補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)之間的多對平面特征點(diǎn);
56、將補(bǔ)償后的第一次掃描幀點(diǎn)云數(shù)據(jù)與補(bǔ)償后的第二次掃描幀點(diǎn)云數(shù)據(jù)之間的多對邊緣特征點(diǎn)和多對平面特征點(diǎn)作為相鄰兩次掃描幀點(diǎn)云數(shù)據(jù)之間的多對特征點(diǎn)云。
58、根據(jù)所述當(dāng)前狀態(tài)轉(zhuǎn)移矩陣和第一次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)特征點(diǎn)云的點(diǎn)云坐標(biāo),將第一次掃描幀點(diǎn)云數(shù)據(jù)的多個(gè)特征點(diǎn)云更新到slam地圖中;
60、可選地,所述根據(jù)更新后的slam地圖計(jì)算所述激光slam精度評(píng)估值,包括:
61、在更新后的slam地圖中均勻選取在第一次幀點(diǎn)云數(shù)據(jù)有對應(yīng)特征點(diǎn)云的k個(gè)地圖點(diǎn);
62、根據(jù)更新后的slam地圖的第k個(gè)地圖點(diǎn)的地圖坐標(biāo)和在第一次幀點(diǎn)云數(shù)據(jù)對應(yīng)的特征點(diǎn)云的點(diǎn)云坐標(biāo)計(jì)算第一激光距離值;
64、根據(jù)所述第一激光距離值和所述第二激光距離值計(jì)算第k個(gè)地圖點(diǎn)的距離差值;
65、根據(jù)所述第一激光距離值和所述第二激光距離值計(jì)算第k個(gè)地圖點(diǎn)的距離差值;
67、重復(fù)上述步驟,k依次取大于0的整數(shù),得到所有地圖點(diǎn)的距離差值和距離權(quán)重;
68、根據(jù)所有地圖點(diǎn)的距離差值和距離權(quán)重計(jì)算第二方差累加值,以及根據(jù)所有地圖點(diǎn)的距離權(quán)重計(jì)算距離權(quán)重和值;
69、根據(jù)所述第二方差累加值和所述距離權(quán)重和值計(jì)算所述激光slam精度評(píng)估值。
70、可選地,所述在各類觀測值的單位權(quán)方差的估計(jì)值滿足預(yù)設(shè)迭代條件的情況下,根據(jù)當(dāng)次迭代計(jì)算得到的各類觀測值的單位權(quán)方差的估計(jì)值確定綜合融合定位結(jié)果,包括:
71、在迭代計(jì)算的過程中,若兩兩類觀測值的單位權(quán)方差的估計(jì)值之間的估計(jì)差值均小于預(yù)設(shè)閾值,則根據(jù)當(dāng)次迭代計(jì)算得到的各類觀測值的單位權(quán)方差的估計(jì)值確定各類觀測值的目標(biāo)權(quán);
73、為實(shí)現(xiàn)上述目的,本發(fā)明在第二方面提供一種多傳感器融合定位裝置,所述裝置包括:
74、獲取模塊,用于獲取rtk的rtk數(shù)據(jù)、imu的imu數(shù)據(jù)、激光雷達(dá)的激光雷達(dá)數(shù)據(jù)和雙目視覺相機(jī)的雙目視覺數(shù)據(jù);
75、確定模塊,用于根據(jù)所述rtk數(shù)據(jù)確定rtk定位結(jié)果和rtk均方根誤差,根據(jù)所述imu數(shù)據(jù)確定imu定位結(jié)果和imu標(biāo)定參數(shù),根據(jù)所述雙目視覺數(shù)據(jù)確定視覺slam定位結(jié)果和視覺slam精度評(píng)估值,以及根據(jù)所述激光雷達(dá)數(shù)據(jù)確定激光slam定位結(jié)果和激光slam精度評(píng)估值;
76、融合定位模塊,用于將所述rtk均方根誤差、所述imu標(biāo)定參數(shù)、所述視覺slam精度評(píng)估值和所述激光slam精度評(píng)估值作為先驗(yàn)信息,確定各類觀測值的初始權(quán);根據(jù)各類觀測值的初始權(quán)、所述rtk定位結(jié)果、所述imu定位結(jié)果、所述視覺slam定位結(jié)果和所述激光slam定位結(jié)果確定各類觀測值的首次平差解算;根據(jù)各類觀測值的首次平差解算進(jìn)行迭代計(jì)算各類觀測值的單位權(quán)方差的估計(jì)值,在各類觀測值的單位權(quán)方差的估計(jì)值滿足預(yù)設(shè)迭代條件的情況下,根據(jù)當(dāng)次迭代計(jì)算得到的各類觀測值的單位權(quán)方差的估計(jì)值確定綜合融合定位結(jié)果。
77、為實(shí)現(xiàn)上述目的,本發(fā)明在第三方面提供一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí),使得所述處理器執(zhí)行如第一方面中任一項(xiàng)所述的方法。
78、為實(shí)現(xiàn)上述目的,本發(fā)明在第四方面提供一種計(jì)算機(jī)設(shè)備,包括存儲(chǔ)器和處理器,所述存儲(chǔ)器存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被所述處理器執(zhí)行時(shí),使得所述處理器執(zhí)行如第一方面中任一項(xiàng)所述的方法。
79、采用本發(fā)明實(shí)施例,具有如下有益效果:上述方法通過獲取rtk的rtk數(shù)據(jù)、imu的imu數(shù)據(jù)、激光雷達(dá)的激光雷達(dá)數(shù)據(jù)和雙目視覺相機(jī)的雙目視覺數(shù)據(jù);根據(jù)rtk數(shù)據(jù)確定rtk定位結(jié)果和rtk均方根誤差,根據(jù)imu數(shù)據(jù)確定imu定位結(jié)果和imu標(biāo)定參數(shù),根據(jù)雙目視覺數(shù)據(jù)確定視覺slam定位結(jié)果和視覺slam精度評(píng)估值,以及根據(jù)激光雷達(dá)數(shù)據(jù)確定激光slam定位結(jié)果和激光slam精度評(píng)估值;將rtk均方根誤差、imu標(biāo)定參數(shù)、視覺slam精度評(píng)估值和激光slam精度評(píng)估值作為先驗(yàn)信息,確定各類觀測值的初始權(quán);根據(jù)各類觀測值的初始權(quán)、rtk定位結(jié)果、imu定位結(jié)果、視覺slam定位結(jié)果和激光slam定位結(jié)果確定各類觀測值的首次平差解算;根據(jù)各類觀測值的首次平差解算進(jìn)行迭代計(jì)算各類觀測值的單位權(quán)方差的估計(jì)值,在各類觀測值的單位權(quán)方差的估計(jì)值滿足預(yù)設(shè)迭代條件的情況下,根據(jù)當(dāng)次迭代計(jì)算得到的各類觀測值的單位權(quán)方差的估計(jì)值確定綜合融合定位結(jié)果。即通過將rtk、imu、激光雷達(dá)和雙目視覺相機(jī)等多種傳感器的數(shù)據(jù)進(jìn)行上述方式的融合定位,從而得到高精度的綜合融合定位結(jié)果,該高精度的綜合融合定位結(jié)果可以提高整個(gè)傳感器系統(tǒng)的有效性和正確性。