유해 조류 대발생(Harmful Algae Blooms, HABs)은 수체 내에서 일어나는 부영양화 현상으로, 영양염류를 주 영양소로 삼는 조류(algae)가 급성장하는 것이 원인이다. 환경부는 하천 및 호소에서의 주요 HABs 원인인 남조 4속(Microcystis, Anabaena, Ocillatoria, Aphanizomenon)을 지속적으로 관리하고 있다. 현재 유해 남조의 동정은 현장에서 채취한 조류를 연구자가 광학현미경으로 직접 관찰하고, 분류학적 특성에 근거하여 분석한다. 하지만 수천, 수만 개에 달하는 조류 세포를 수작업으로 동정하는 것은 많은 노동과 긴 분석 시간이 요구되는데, 현미경 분석은 실험자들의 숙련도에 따른 실험 결과의 차이가 발생하기 때문에 결과의 정확성 및 신뢰성에 대한 문제도 지속적으로 제기되고 있다. 또한, 유해 조류의 정확한 분류 및 현존량 산정을 위해서는 고도의 전문성을 가진 연구자가 필요한데 이에 부합하는 인적 자원의 수도 부족한 실정이다. 따라서 본 연구에서는 심층 합성곱 신경망 기반 이미지 분류 기법의 일종인 Mask R-CNN을 이용하여 유해 남조를 분류할 수 있는 모델을 구축하였다. 분류 대상은 유해 남조 5종으로, Microcystis aeruginosa, Microcystis wesenbergii, Anabaena circinalis, Oscillatoria tenuis, Aphanizomenon flos-aquae가 포함된다. Mask R-CNN기반 모델을 구축하기 위해 광학현미경으로 촬영한 490개의 유해 남조 이미지를 입력자료로 사용하였고, 이 중 400개를 학습에, 90개를 테스트에 사용하였다. 테스트에 사용된 90개의 이미지는 학습에 사용된 이미지와 완전히 독립된 이미지로 선별하였다. 분류 결과에 대한 평가 기준은 bounding box와 mask를 모두 고려하여, 종의 형태를 정확하게 분류한 것과 그렇지 못한 것으로 나누었다. 연구 결과, 전체 중 약 91.43%의 이미지를 정확하게 분류하였다. 정확하게 분류한 이미지 중에서, 각각의 종에 대한 bounding box의 정확도는 모두 90% 이상이었고, 전체 종에 대한 mask 정확도는 85.49%였다. 전반적으로 볼 때 모델의 분류 성능은 양호한 수준이었다. 400개의 이미지를 학습하는데 소요된 시간은 100회 반복 기준 약 1시간 30분이었다. 전체적으로 Mask R-CNN을 이용한 유해 조류 분류 모델을 이용했을 때 연구자가 직접 분류하는 것과 비교해 시간과 비용적인 측면에서 효율적인 방법이 될 수 있음을 알 수 었었다. 또한, 측정 이미지를 추가로 학습시켜 성능 개선이 가능하다는 점은 향후 분류 성능이 더욱 향상된 시스템으로 발전될 수 있음을 볼 수 있었다.