目标检测中的非最大值抑制算法
计算机视觉是人工智能的一个重要领域,它可以识别和理解图像和场景。它包括图像识别、目标检测、图像分割、图像生成、图像超分辨率等多个子领域。由于大量的实际用例,目标检测可能应用地最广。目标检测目标检测是指计算机系统定位图像中的目标并识别每个目标的能力
计算机视觉是人工智能的一个重要领域,它可以识别和理解图像和场景。
它包括图像识别、目标检测、图像分割、图像生成、图像超分辨率等多个子领域。由于大量的实际用例,目标检测可能应用地最广。
目标检测
目标检测是指计算机系统定位图像中的目标并识别每个目标的能力。目标检测已广泛应用于人脸检测、车辆检测、行人计数、安全系统和自动驾驶汽车。
目标检测模型从端到端学习范式的发展中受益匪浅:建议、特征和分类器成为一个神经网络,使一般目标检测的结果提高了两倍[1]通常,所有现代目标检测模型都遵循三个步骤:
1. 建议窗口的搜索空间(通过滑动窗口或使用建议的稀疏窗口)。
2. 使用分类器/回归器对窗口评分。
3. 组合可能属于同一对象的窗口。
最后一步称为“非最大抑制”
边界框
在目标检测中,我们通常使用边界框来描述目标在图像中的空间位置。
边界框是一个矩形,使用左上角和右下角坐标绘制。另一种常用的边界框表示法包含矩形的中心以及矩形的高度和宽度。
非最大值算法(NMS)
可以使用以下步骤解释该算法:
输入:边界框列表以及类名称和检测到的每个对象的输出概率。
1. 删除输出概率得分小于指定阈值的边界框。
2. 按输出概率的降序排列剩余边界框的列表。
3. 遍历已排序的边界框列表,直到至少剩下一个元素。
4. 从列表中删除第一个边界框,并将其标记为“当前元素”。此外,检查交并比(IOU)。如果IOU高于指定的阈值,则从列表中删除该元素,并将当前元素附加到“最终列表”中
5. 重复步骤3和4。
6. 返回“最终列表”
NMS算法试运行
假设下面的图像(图1)包含两条狗(左一条:Maya,右一条:Zoro),我们有一个对象检测模型,可以区分图像中的Maya和Zoro。
在使用上图对我们的目标检测模型(无NMS)进行推断时,我们将得到如图2所示的输出。在这里,我们可以看到,我们在单个对象上得到了多个具有各自概率分数的边界框。
我们的目标是为对象选择最合适的边界框。换句话说,我们必须从概率为0.94、0.68和0.47的三个框中选择一个Maya边界框。同样,我们也必须从概率为0.9和0.58的两个边界框中找到Zoro的最佳边界框。
根据算法,我们将首先丢弃所有概率分数低于指定阈值的边界框。例如,如果我们将阈值设置为0.5,我们将丢弃Maya概率为0.47的边界框。
此外,我们将找到概率得分最高的边界框,并将其IOU与同类的所有其他边界框进行检查。如果IOU高于阈值(表示相同的对象),则丢弃概率分数较低的边界框。
同样,我们将对图像中所有检测到的对象执行以下步骤。最终输出如图3所示。
代码
首先,我们将初始化概率置信阈值和IOU阈值。例如,如果一个边界框的概率低于概率置信阈值,那么我们将丢弃该边界框。同样,如果IOU分数高于定义的阈值,我们不会考虑输出概率低的边界框。
import cv2
class NMS:
def __init__(self) -> None:
self.conf = 0.5
self.iou_threshsold = 0.4
下面截取的代码中的IOU函数计算两个区域的IOU。IOU是两个区域的相交面积与两个区域的并集的比率。在IOU函数中,bboxes1和bboxes2是一个包含以下四个元素的列表:
[ X(top-left), Y(top-left), X(bottom-right), Y(bottom-right) ]
def IOU(self, bboxes1, bboxes2):
bboxes1 = [int(i) for i in bboxes1]
bboxes2= [int(i) for i in bboxes2]
xA = max(bboxes1[0], bboxes2[0])
yA = max(bboxes1[1], bboxes2[1])
xB = min(bboxes1[2], bboxes2[2])
yB = min(bboxes1[3], bboxes2[3])
intersection_area = max(0, xB - xA + 1) * max(0, yB - yA + 1)
box1_area = (bboxes1[2] - bboxes1[0] + 1) * (bboxes1[3] - bboxes1[1] + 1)
box2_area = (bboxes2[2] - bboxes2[0] + 1) * (bboxes2[3] - bboxes2[1] + 1)
iou = intersection_area / float(box1_area + box2_area - intersection_area)
return iou
下面的代码在图像上绘制边界框,并将概率分数放在框的顶部。参数“images”是图像对象,“bboxes_list”包含检测到的对象的坐标、类和概率输出。
bboxes_list = [class, X(top-left), Y(top-left), X(bottom-right), Y(bottom-right), output_probability]
Sample values:
0 187 90 586 607 0.94
0 120 116 600 370 0.68
1 511 185 961 418 0.58
0 340 145 568 478 0.47
1 524 70 920 565 0.92
def draw_overlay(self, image, bboxes_list):
overlay_color = {
'0' : (0, 255, 0),
'1' : (255, 0, 0)
}
overlay_thickness = 3
font = cv2.FONT_HERSHEY_SIMPLEX
for coord in bboxes_list:
class_name = coord[0]
start_point = (int(coord[1]), int(coord[2]))
end_point = (int(coord[3]), int(coord[4]))
prob = float(coord[5])
text_start_point = (int(coord[1]), int(coord[2]) - 10)
image = cv2.rectangle(image, start_point, end_point,
overlay_color[class_name], overlay_thickness)
image = cv2.putText(image, str(prob), text_start_point,
font, 0.8, overlay_color[class_name], overlay_thickness - 1, cv2.LINE_AA)
cv2.imshow("im", image)
cv2.waitKey(0)
cv2.destroyAllWindows()
以下函数是上述NMS算法的实现。此函数用于在应用非最大值抑制算法后返回所需的边界框。
def nms(self, image, bboxes_list):
req_bboxes, final_boxes = [], []
for coord in bboxes_list:
prob = float(coord[5])
if prob > self.conf:
req_bboxes.append(coord)
# sorting the bounding boxes based on probability score
bboxes_sorted = sorted(req_bboxes, reverse=True, key=lambda x: x[5])
while len(bboxes_sorted) > 0:
# removing the best probability bounding box
box = bboxes_sorted.pop(0)
for b in bboxes_sorted:
# comparing with the same class
if box[0] == b[0]:
iou = self.IOU(box[1:-1], b[1:-1])
if iou >= self.iou_threshsold:
# if IOU is large then discard the box with lowest probability
bboxes_sorted.remove(b)
print(len(bboxes_sorted))
final_boxes.append(box)
return final_boxes
以下是NMS类的驱动程序代码。我们首先读取coordinates.txt获取边界框的坐标和其他详细信息;然后,我们应用NMS算法来获得所需的边界框。
if __name__ == "__main__":
image = cv2.imread("zoraya.jpg")
with open("coordinates.txt", 'r') as f:
data = f.readlines()
data = [i[:-1].split(' ') for i in data]
obj = NMS()
obj.draw_overlay(image, data)
final_boxes = obj.nms(image, data)
obj.draw_overlay(image, final_boxes)
coordinates.txt
0 187 90 586 607 0.94
0 120 116 600 370 0.68
1 511 185 961 418 0.58
0 340 145 568 478 0.47
1 524 70 920 565 0.92
结论
本文概述了对非最大值抑制算法的需求以及python实现。此外,我们还使用一个图像示例解释了该算法。
原文标题 : 目标检测中的非最大值抑制算法