OpenCV在Android上的应用示例

2022-10-07,,

一. opencv 介绍

opencv是一个基于bsd许可(开源)发行的跨平台计算机视觉库,可以运行在linux、windows、android和mac os操作系统上。它轻量级而且高效——由一系列 c 函数和少量 c++ 类构成,同时提供了python、ruby、matlab等语言的接口,实现了图像处理和计算机视觉方面的很多通用算法。

在移动端上使用 opencv 可以完成一系列图像处理的工作。

二. opencv 在 android 上的配置

我在项目中使用的 opencv 版本是 4.x。

在 android studio 中创建一个 library,将官网下载的 opencv 导入后,就可以直接调用 opencv 中 java 类的方法。
如果想调用 c++ 的类,也可以使用 cmake 创建环境,然后通过 include 文件放入指定路径。
下面是项目中使用的 cmakelists.txt

cmake_minimum_required(version 3.6.0)

include_directories(
    ${cmake_source_dir}/src/main/cpp/include
)

add_library(libopencv_java4 shared imported)
set_target_properties(
    libopencv_java4
    properties imported_location
    ${cmake_source_dir}/src/main/jnilibs/libs/${android_abi}/libopencv_java4.so)

add_library(libc++_shared shared imported)
set_target_properties(
    libc++_shared
    properties imported_location
    ${cmake_source_dir}/src/main/jnilibs/libs/${android_abi}/libc++_shared.so)


add_library(
    detect

    shared

    src/main/cpp/detect-lib.cpp
    src/main/cpp/detect-phone.cpp
)


find_library(
    log-lib
    log
)

target_link_libraries(
    detect libopencv_java4 libc++_shared jnigraphics
    ${log-lib}
)

其中,detect-lib.cpp 和 detect-phone.cpp 是我创建的 c++ 类。打成 so 文件时,会包含这2个类。

三. 例子两则

3.1 作为二维码识别的兜底方案

在 android 原生开发中,二维码识别有老牌的 zxing 等开源库。为何还要使用 opencv 呢?
因为 opencv 有自己的优势,借助它可以定位到二维码的位置,一般识别不到二维码的内容大多是因为找不到它的位置。要是能够找到位置,就可以快速识别二维码的内容。
这样一来,识别二维码时需要先拍一张照,从图像中找出二维码的位置。当然,还可以对图像进行预处理,以便能够更好地找到二维码的位置。
下面的代码,展示了在应用层拍完照之后,将图片的路径传到 jni 层将其转换成对应的 mat 对象,再转换成灰度图像,然后找出二维码的位置,要是能够找到的话就识别出二维码的内容。

extern "c"
jniexport jstring jnicall
java_com_xxx_sdk_utils_detectutils_qrdetect(jnienv *env, jclass jc,jstring filepath) {

  const char *file_path_str = env->getstringutfchars(filepath, 0);
  string path = file_path_str;
  mat src = imread(path);

  mat gray, qrcode_roi;
  cvtcolor(src, gray, color_bgr2gray);
  qrcodedetector qrcode_detector;
  vector<point> pts;
  string detect_info;
  bool det_result = qrcode_detector.detect(gray, pts);
  if (det_result) {
    detect_info = qrcode_detector.decode(gray, pts, qrcode_roi);
    return env->newstringutf(detect_info.c_str());
  } else {
    detect_info = "";
    return env->newstringutf(detect_info.c_str());
  }
}

对应的 java 代码,方便应用层调用 jni 层的 qrdetect()

public class detectutils {

  static {
    system.loadlibrary("detect");
  }

  /**
   * 识别二维码
   * @param filepath
   * @return
   */
  public static native string qrdetect(string filepath);

  ......
}

最后是应用层的调用

// 使用 opencv 进行二维码识别
val result = detectutils.qrdetect(filepath)
l.d("opencvs识别二维码: $result")

3.2 比对图像的差异

在我们的实际开发中遇到一个应用场景:需要判断我们的手机回收机里面是否存放了物体。(手机回收机是一个触摸屏设备,可以通过 android 系统来操作内部的硬件设备。)

我们事先拍一张回收机内没有物体的图作为基准图像,等到需要判断是否存在物体时再拍一张图片。两幅图片对比看比例,比列超过阈值则认为回收机内存在着物体。

下面的代码,展示了在应用层拍完照之后,跟基准图片进行比对,并返回结果。

extern "c"
jniexport jboolean jnicall
java_com_xxx_sdk_utils_detectutils_checkphoneinmta(jnienv *env, jclass jc,jstring baseimgpath,jstring filepath) {

  jboolean tret = false;
  const char *file_path_str = env->getstringutfchars(filepath, 0);
  string path = file_path_str;
  mat src = imread(path);

  const char *base_img_path_str = env->getstringutfchars(baseimgpath, 0);
  string basepath = base_img_path_str;
  mat baseimg = imread(basepath);

  int result = checkphoneinbox(baseimg,src,40,0.1);

  logi("checkphoneinbox result = %d",result);
  if (result == 0) {
    tret = true;
  }

  return tret;
}

两张图片真正的比对是在 checkphoneinbox() 中完成的。其中,maxfilter() 是为了处理彩色的情况,然后使用高斯滤波进行降噪处理,再进行二值化处理,最后判断灰度差异区域占总图像的比列是否超过预先设定的阈值。

int checkphoneinbox(cv::mat baseimg, cv::mat snapimg, int diffthresh, double threshratio) {

  cv::mat basemaximg, snapmaximg,basegausimg, snapgausimg;
  if (baseimg.empty()|| snapimg.empty())
  {
    return -1;
  }

  try {
    maxfilter(baseimg, basemaximg);
    maxfilter(snapimg, snapmaximg);
  } catch (...) {
    return -1;
  }

  cv::gaussianblur(basemaximg, basegausimg, cv::size(5, 5),0);
  cv::gaussianblur(snapmaximg, snapgausimg, cv::size(5, 5),0);

  cv::mat diff,diffbin;
  cv::mat nomax;
  cv::absdiff(basegausimg, snapgausimg, diff);
  cv::threshold(diff, diffbin, diffthresh, 255, cv::thresh_binary);

  float ratio = (float)cv::countnonzero(diffbin) / (long)diffbin.total();

  logi("ratio = %f,%d,%ld",ratio,cv::countnonzero(diffbin),(long)diffbin.total());

  if (ratio > threshratio)
  {
    return 0;
  }
  else
  {
    return 1;
  }
}

int maxfilter(cv::mat baseimg, cv::mat &maximg)
{
  if (baseimg.channels() <3)
  {
    maximg = baseimg.clone();
  }
  else
  {
    maximg.create(baseimg.size(), cv_8uc1);
    for (int r=0;r<baseimg.rows;r++)
    {
      for (int c = 0; c < baseimg.cols; c++)
      {
        uchar maxtmp=0;
        cv::vec3b s = baseimg.at<cv::vec3b>(r, c);
        maxtmp = (std::max)(s[0],s[1]);
        maxtmp = (std::max)(maxtmp,s[2]);

        maximg.at<uchar>(r, c) = maxtmp;
      }
    }
  }
  return 0;
}

对应的 java 代码,方便应用层调用 jni 层的 checkphoneinmta()

public class detectutils {

  static {
    system.loadlibrary("detect");
  }

  /**
   * 判断mta中是否有手机
   * @param baseimagefilepath 基准的图片
   * @param filepath     拍摄的图片
   * @return
   */
  public static native boolean checkphoneinmta(string baseimagefilepath, string filepath);

  ......
}

最后是应用层的调用

val result = detectutils.checkphoneinmta(constants.opencv_photo_path, it.absolutepath)

四. 总结

opencv 是一款功能强大的图像处理库。但是它本身体积也较大,在移动端使用至少会增加 android apk 包 10 m+ 的体积(主要取决于 app 要支持多少个 cpu 架构)。如果很介意的话,可以考虑自行裁剪 opencv,然后再进行编译。
我所在的部门隶属于中台部门,主要输出接口和 sdk。在 sdk 中使用 opencv 的确会给业务方造成困扰,未来也会考虑如何减少 sdk 的体积,以及把 sdk 做成模块化。

到此这篇关于opencv在android上的应用示例的文章就介绍到这了,更多相关opencv android应用内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持!

《OpenCV在Android上的应用示例.doc》

下载本文的Word格式文档,以方便收藏与打印。