一文讀懂海康機(jī)器人3D視覺(jué)引導(dǎo)拆碼垛系統(tǒng)

機(jī)器視覺(jué)不僅可以克服人眼標(biāo)準(zhǔn)的不一致性、非重復(fù)性和主觀性等問(wèn)題，為行業(yè)制定品質(zhì)管控的數(shù)字標(biāo)準(zhǔn)，還能在高速、高光譜、高分辨率、高可靠性以及工作持續(xù)性、環(huán)境適應(yīng)性等方面全面超越人眼極限。

背景介紹及案例概述

近些年，隨著工業(yè)自動(dòng)化與物流技術(shù)的不斷發(fā)展，如何使用自動(dòng)化設(shè)備提高物流效率，減少人工，成為目前物流行業(yè)最關(guān)心的問(wèn)題。機(jī)器視覺(jué)系統(tǒng)可以迅速獲取大量圖像信息，并進(jìn)行自動(dòng)處理，該特點(diǎn)使得機(jī)器視覺(jué)幫助物流行業(yè)快速向智能化、自動(dòng)化方向邁進(jìn)。目前在工業(yè)自動(dòng)化應(yīng)用中，機(jī)器視覺(jué)廣泛應(yīng)用于缺陷檢查、掃描識(shí)別、定位判斷和位置測(cè)量等領(lǐng)域。在節(jié)省人力成本提高整體作業(yè)效率的同時(shí)可以極大的提高空間利用率，從而降低運(yùn)輸成本。

隨著電商、物流行業(yè)的快速發(fā)展，分揀方式的發(fā)展迫在眉睫，人工分揀存在效率低，錯(cuò)誤率高，成本高等缺點(diǎn)，特別是在拆碼垛應(yīng)用中，由于作業(yè)強(qiáng)度大，工作內(nèi)容單一，人工作業(yè)的質(zhì)量及效率普遍低下，自動(dòng)化拆碼垛系統(tǒng)應(yīng)運(yùn)而生，而傳統(tǒng)自動(dòng)化拆碼垛應(yīng)用中，“拆”和“碼”的對(duì)象往往要求是規(guī)則且尺寸單一的貨物，這就限制了自動(dòng)化應(yīng)用的范圍，尤其是拆碼垛作業(yè)環(huán)節(jié)中，來(lái)料完全隨機(jī)的情況下。該情境下，用傳統(tǒng)的人工示教的方式難度大且效率低下，為了解決此問(wèn)題，海康機(jī)器人研發(fā)了一套基于機(jī)器視覺(jué)引導(dǎo)的機(jī)械臂拆碼垛方案，可以解決多SKU且來(lái)料無(wú)序的問(wèn)題。

海康機(jī)器人采用自主研發(fā)的高精度3D相機(jī)配合機(jī)器人運(yùn)動(dòng)控制平臺(tái)軟件同時(shí)搭配智能算法的方案，將AI算法，深度學(xué)習(xí)緊密結(jié)合，突破傳統(tǒng)自動(dòng)化拆碼垛的使用場(chǎng)景限制，可應(yīng)對(duì)垛形復(fù)雜多變，箱體種類繁多且隨機(jī)的場(chǎng)景。

方案介紹

該方案中，3D相機(jī)負(fù)責(zé)獲取作業(yè)范圍內(nèi)，如托盤(pán)或傳送帶上箱體的深度信息及高清2D圖像，并將深度信息及2D圖像信息發(fā)送給機(jī)器人控制平臺(tái)軟件，平臺(tái)軟件中內(nèi)置3D視覺(jué)算法和智能軌跡規(guī)劃算法，3D視覺(jué)算法通過(guò)AI深度學(xué)習(xí)+3D點(diǎn)云分割的方法將箱體在托盤(pán)或皮帶線上的位置快速且準(zhǔn)確的定位到，智能軌跡規(guī)劃算法提供準(zhǔn)確的抓取點(diǎn)位、放置點(diǎn)位和軌跡點(diǎn)位，引導(dǎo)機(jī)械臂快速抓取和碼放動(dòng)作。

3D視覺(jué)引導(dǎo)拆碼垛系統(tǒng)

方案中使用的3D相機(jī)為海康機(jī)器人最新推出的大視野雙目結(jié)構(gòu)光立體相機(jī)，兼具高精度、大景深、大視野的特點(diǎn)，相機(jī)檢測(cè)精度達(dá)到±3mm, 檢測(cè)范圍達(dá)到1800mm，近視場(chǎng)為1350mm×1200mm，遠(yuǎn)視場(chǎng)為3650mm×2750mm（如圖2所示），輕松適配1.2m*1m*1.8m等主流垛形。同時(shí)具備極高的檢測(cè)效率和穩(wěn)定性，從拍照到軌跡算法輸出抓取點(diǎn)位的時(shí)間小于1.5s。

3D相機(jī)視野示意圖

為了客戶更方便的自主搭建機(jī)械臂拆碼垛控制系統(tǒng)，海康機(jī)器人專門(mén)研發(fā)了一款機(jī)器人運(yùn)動(dòng)控制平臺(tái)軟件。軟件采用圖形化，無(wú)代碼式的編程界面，簡(jiǎn)單易用（如圖3所示）。軟件內(nèi)置軌跡規(guī)劃、碰撞檢測(cè)及抓取規(guī)劃等多種智能算法，同時(shí)軟件可適配國(guó)內(nèi)外各種主流品牌機(jī)器人。

拆碼垛視覺(jué)定位模塊采用AI深度學(xué)習(xí)+3D點(diǎn)云分割的方案。利用RGBD相機(jī)實(shí)時(shí)對(duì)堆垛進(jìn)行拍照，獲取包裹、托盤(pán)的三維數(shù)據(jù)（深度圖+RGB圖）。定位處理流程如圖4所示，首先利用深度學(xué)習(xí)網(wǎng)絡(luò)對(duì)RGB圖進(jìn)行包裹的粗定位；然后利用物體表面紋理特征和點(diǎn)云邊緣特征進(jìn)行包裹精定位，并基于包裹表面點(diǎn)云計(jì)算出最優(yōu)的抓取點(diǎn)坐標(biāo)；最后利用預(yù)先獲取到的手眼標(biāo)定關(guān)系將視覺(jué)位姿轉(zhuǎn)換到機(jī)械臂坐標(biāo)系下執(zhí)行抓取處理。

視覺(jué)定位技術(shù)路線

海康機(jī)器人3D相機(jī)擁有卓越的抗環(huán)境光能力，在典型廠房光照條件下（>20000lx），海康機(jī)器人3D相機(jī)的點(diǎn)云數(shù)據(jù)明顯優(yōu)于其他相機(jī)，對(duì)比圖片如圖5所示。同時(shí)海康機(jī)器人3D相機(jī)對(duì)高反光及黑色物體的點(diǎn)云呈現(xiàn)效果上也優(yōu)于其他相機(jī)，對(duì)比圖像如圖6所示。實(shí)際測(cè)試樣本中在高反光金屬和黑色紙箱處，其他3D相機(jī)在這部分區(qū)域的點(diǎn)云數(shù)據(jù)已有較大程度的損失，而海康機(jī)器人3D相機(jī)仍能保證相對(duì)完整的呈現(xiàn)。

抗環(huán)境光對(duì)比

高反光和黑色物體對(duì)比測(cè)試

本方案采用2D+3D聯(lián)合視覺(jué)定位處理，具有精度高、魯棒性強(qiáng)、抗環(huán)境光能力強(qiáng)、無(wú)懼深色物體的特點(diǎn)，能準(zhǔn)確適用于各種箱體、包裝盒、料盒、編織袋、工件等物件，且定位效果與精度不受物體擺放位姿的影響。

定位效果圖

智能軌跡規(guī)劃算法包含對(duì)拆垛流程及碼垛流程的點(diǎn)位規(guī)劃，如圖8所示，由拆垛分析/碼垛分析決策出路徑規(guī)劃的終點(diǎn)構(gòu)型，再依據(jù)感知信息、環(huán)境配置等進(jìn)行碰撞檢測(cè)，規(guī)劃出一條安全的拆/碼垛路徑，其中，拆跺分析及碼垛分析的大致流程如下：

拆垛分析是基于3D視覺(jué)分類好的點(diǎn)云，通過(guò)平面擬合并計(jì)算出其對(duì)應(yīng)的法向量、重心位置等信息，以獲得每類點(diǎn)云的拆垛點(diǎn)位置；同時(shí)由外接矩形確定物體尺寸，用以在路徑規(guī)劃過(guò)程中進(jìn)行碰撞檢測(cè)；隨后通過(guò)基坐標(biāo)/托盤(pán)變換關(guān)系、機(jī)器人狀態(tài)及拆垛方式等對(duì)拆垛位姿的代價(jià)進(jìn)行評(píng)估，最終確定最優(yōu)拆垛構(gòu)型。

碼垛分析是對(duì)由用戶編輯或自動(dòng)生成的垛型（如圖9所示）進(jìn)行解碼，并通過(guò)基坐標(biāo)/托盤(pán)變換關(guān)系計(jì)算等對(duì)各放置位姿的代價(jià)進(jìn)行評(píng)估排序，獲得放置構(gòu)型序列，并根據(jù)輸入的放置索引及機(jī)械臂逆運(yùn)動(dòng)學(xué)位姿獲得最終的放置構(gòu)型，同時(shí)內(nèi)部?jī)?chǔ)存已碼垛箱子信息用于路徑規(guī)劃過(guò)程中的碰撞檢測(cè)。

拆碼垛整體流程

碼垛規(guī)則定義示意圖

總結(jié)

海康機(jī)器人3D視覺(jué)引導(dǎo)拆碼垛系統(tǒng)旨在解決在非結(jié)構(gòu)化環(huán)境中對(duì)未知形狀物體無(wú)法抓取或抓取成功率低的問(wèn)題。基于高精度3D相機(jī)對(duì)抓取物和環(huán)境的2D彩色圖像信息，同時(shí)結(jié)合3D點(diǎn)云數(shù)據(jù)，精確提取抓取物邊緣輪廓，依靠智能算法，篩選最優(yōu)抓取點(diǎn)位，并基于軟件中設(shè)定的環(huán)境約束，輸出最優(yōu)軌跡點(diǎn)位，提高了整體系統(tǒng)的準(zhǔn)確性和可靠性。通過(guò)使用該系統(tǒng)，用戶可以輕松應(yīng)對(duì)多SKU且來(lái)料完全隨機(jī)的拆碼垛場(chǎng)景，在滿足自動(dòng)化拆碼垛需求的同時(shí)，進(jìn)一步提高生產(chǎn)效率，降低生產(chǎn)成本。