一種用於雨中自動駕駛的卷積神經網路單幅影象聯合去霧去雨方法

每天一分鐘,帶你讀遍機器人頂級會議文章

標題:A Convolutional Network for Joint Deraining and Dehazing from A Single Image for Autonomous Driving in Rain

作者:Hao Sun, Marcelo H。 Ang Jr。 and Daniela Rus

編譯:王靖淇

稽核:黃思宇,孫欽

這是泡泡一分鐘推送的第 534 篇文章,歡迎個人轉發朋友圈;其他機構或自媒體如需轉載,後臺留言申請授權

摘要

在該文中,作者關注利用單一街景影象,對雨中的自動駕駛車輛進行去雨的任務。作者開發了一個以雨天影象為輸入的卷積神經網路,並且可以從雨痕及雨痕積累造成的大氣遮擋效應(霾、霧、靄)中,直接恢復乾淨的影象。該文提出了一個包含不同雨強、方向和模糊程度的合成街景影象資料集,用於訓練和評估。作者根據合成數據集對該文方法進行了定性和定量的評價。實驗表明,該文模型優於現有方法的模型。同時還在真實資料上定性地測試了該文的方法。該模型速度較快,對於1024_512的影象只需要0。05s的時間,還可以與現有的基於影象用於雨中自動駕駛的高階感知演算法無縫整合。實驗結果表明,該方法可以很大程度上提升雨中自動駕駛的語義分割和目標檢測效能。

圖1 該文的去雨去霧方法的效果對比,左圖為原始影象,右圖為處理後圖像

一種用於雨中自動駕駛的卷積神經網路單幅影象聯合去霧去雨方法

圖2 該文方法的神經網路架構圖,左側為K1分支,右側為K2分支。

一種用於雨中自動駕駛的卷積神經網路單幅影象聯合去霧去雨方法

圖3 合成數據集上不同方法的效能對比,從左到右依次為:雨天輸入影象,Fu等人的方法,RESCAN,AOD-Net,該文方法,乾淨的真實影象。

一種用於雨中自動駕駛的卷積神經網路單幅影象聯合去霧去雨方法

圖4 該文方法在真實世界影象上的表現

一種用於雨中自動駕駛的卷積神經網路單幅影象聯合去霧去雨方法

圖5 語義分割表現,從左到右依次為:雨天輸入影象,對雨天影象進行PSPNet網路語義分割,對該文方法處理後圖像進行PSPNet網路語義分割,對真實影象進行PSPNet網路語義分割。

一種用於雨中自動駕駛的卷積神經網路單幅影象聯合去霧去雨方法

圖6 目標檢測表現,從左到右依次為:雨天輸入影象,對雨天影象進行YOLOv3網路目標檢測,對該文方法處理後圖像進行YOLOv3網路目標檢測,對真實影象進行YOLOv3網路目標檢測。

Abstract

In this paper, we focus on a rain removal task from a single image of the urban street scene for autonomous driving in rain。 We develop a Convolutional Neural Network which takes a rainy image as input, and directly recovers a clean image in the presence of rain streaks, atmospheric veiling effect (haze, fog, mist) caused by distant rain streak accumulation。 We propose a synthetic dataset containing images of urban street scenes with different rain intensities, orientations and haziness levels for training and evaluation。 We evaluate our method quantitatively and qualitatively on the synthetic data。 Experiments show that our model outperforms state-of-theart methods。 We also test our method qualitatively on the real-world data。 Our model is fast and it takes 0。05s for an image of 1024 _ 512。 Our model can be seamlessly integrated with existing image-based high-level perception algorithms for autonomous driving in rain。 Experiment results show that our deraining method improves semantic segmentation and object detection largely for autonomous driving in rain。