四、线程池Q: ThreadPoolExecutor线程池构造参数中，corePoolSize和maximumPoolSize有什么区别？A：当提交新线程到池中时如果当前线程数 < corePoolSize，则会创建新线程如果当前线程数=corePoolSize，则新线程被塞进一个队列中等待。如果队列也被塞满了，那么又会开始新建线程来运行任务，避免任务阻塞或者丢弃如果队列满了的情况下， 线程总数超过了maxinumPoolSize，那么就抛异常或者阻塞（取决于队列性质）。调用prestartCoreThread()可提前开启一个空闲的核心线程调用prestartAllCoreThreads()，可提前创建corePoolSize个核心线程。Q： 线程池的keepalive参数是干嘛的？A：当线程数量在corePoolSize到maxinumPoolSize之间时， 如果有线程已跑完，且空闲时间超过keepalive时，则会被清除（注意只限于corePoolSize到maxinumPoolsize之间的线程）Q： 线程池有哪三种队列策略？A：握手队列相当于不排队的队列。可能造成线程数量无限增长直到超过maxinumPoolSize（相当于corePoolSize没什么用了，只以maxinumPoolSize做上限）无界队列队列队长无限，即线程数量达到corePoolSize时，后面的线程只会在队列中等待。（相当于maxinumPoolSize没什么用了）缺陷： 可能造成队列无限增长以至于OOM有界队列Q： 线程池队列已满且maxinumPoolSize已满时，有哪些拒绝策略？A：AbortPolicy 默认策略：直接抛出RejectedExecutionException异常DiscardPolicy 丢弃策略： 直接丢了，什么错误也不报DiscardOldestPolicy 丢弃队头策略： 即把最先入队的人从队头扔出去，再尝试让该任务进入队尾（队头任务内心：不公平。。。。）CallerRunsPolicy 调用者处理策略： 交给调用者所在线程自己去跑任务（即谁调用的submit或者execute，他就自己去跑）也可以用实现自定义新的RejectedExecutionHandlerQ：有以下五种Executor提供的线程池，注意记忆一下他们的用途，就能理解内部的原理了。newCachedThreadPool： 缓存线程池corePoolSize=0, maxinumPoolSize=+∞，队列长度=0 ，因此线程数量会在corePoolSize到maxinumPoolSize之间一直灵活缓存和变动， 且不存在队列等待的情况，一来任务我就创建，用完了会释放。newFixedThreadPool ：定长线程池corePoolSize= maxinumPoolSize=构造参数值， 队列长度=+∞。因此不存在线程不够时扩充的情况newScheduledThreadPool :定时器线程池提交定时任务用的，构造参数里会带定时器的间隔和单位。 其他和FixedThreadPool相同，属于定长线程池。newSingleThreadExecutor : 单线程池corePoolSize=maxinumPoolSize=1， 队列长度=+∞，只会跑一个任务， 所以其他的任务都会在队列中等待，因此会严格按照FIFO执行newWorkStealingPool（继承自ForkJoinPool ）： 并行线程池如果你的任务执行时间很长，并且里面的任务运行并行跑的，那么他会把你的线程任务再细分到其他的线程来分治。ForkJoinPool介绍：https://blog.csdn.net/m0_37542889/article/details/92640903Q： submit和execute的区别是什么？A:execute只能接收Runnable类型的任务，而submit除了Runnable，还能接收Callable（Callable类型任务支持返回值）execute方法返回void， submit方法返回FutureTask。异常方面， submit方法因为返回了futureTask对象，而当进行future.get()时，会把线程中的异常抛出，因此调用者可以方便地处理异常。（如果是execute，只能用内部捕捉或者设置catchHandler）Q：线程池中， shutdown、 shutdownNow、awaitTermination的区别？A：shutdown: 停止接收新任务，等待所有池中已存在任务完成（ 包括等待队列中的线程 ）。异步方法，即调用后马上返回。shutdownNow: 停止接收新任务，并 停止所有正执行的task，返回还在队列中的task列表 。awaitTermination： 仅仅是一个判断方法，判断当前线程池任务是否全部结束。一般用在shutdown后面，因为shutdown是异步方法，你需要知道什么时候才真正结束。五、Thread状态转换Q： 线程的6种状态是：A：New： 新建了线程，但是还没调用startRUNNABLE： 运行， 就绪状态包括在运行态中BLOCKED： 阻塞，一般是因为想拿锁拿不到WAITING： 等待，一般是wait或者join之后TIMED_WAITING: 定时等待，即固定时间后可返回，一般是调用sleep或者wait(时间)的。TERMINATED： 终止状态。欣赏一幅好图，能了解调用哪些方法会进入哪些状态。Q： java线程什么时候会进入阻塞（可能按多选题考）：A：sleepwati()挂起， 等待获得别的线程发送的Notify（）消息等待IO等待锁六、Volatile用volatile修饰成员变量时， 一旦有线程修改了变量，其他线程可立即看到改变。Q： 不用volatile修饰成员变量时， 为什么其他线程会无法立即看到改变？A：线程可以把变量保存在本地内存（比如机器的寄存器）中，而不是直接在主存中进行读写。这就可能造成一个线程在主存中修改了一个变量的值，而另外一个线程还继续使用它在寄存器中的变量值。Q： 用了volatile是不是就可以不用加锁啦？A： 不行。锁并不是只保证1个变量的互斥， 有时候是要保证几个成员在连续变化时，让其他线程无法干扰、读取。而volatile保证1个变量可变， 保证不了几个变量同时变化时的原子性。Q:展示一段《Java并发编程实战》书里的一个经典例子，在科目二考试里也出现了，只是例子换了个皮。为什么下面这个例子可能会死循环，或者输出0？:首先理解一下java重排序，可以看一下这篇博文：https://www.cnblogs.com/coshaho/p/8093944.html然后分析后面那2个奇怪的情况是怎么发生的。永远不输出：经过程序的指令排序，出现了这种情况：ReaderThread在while里读取ready值， 此时是false， 于是存入了ReaderThread的寄存器。主线程修改ready和number。ReaderThread没有感知到ready的修改（对于ReaderThread线程，感知不到相关的指令，来让他更新ready寄存器的值），因此进入死循环。输出0经过程序的指令排序，出现了这种情况：1）主线程设置ready为true2）ReaderThread在while里读取ready值，是true，于是退出while循环ReaderThread读取到number值， 此时number还是初始化的值为0，于是输出0主线程这时候才修改number=42，此时ReaderThread已经结束了！上面这个问题，可以用volatile或者加锁。当你加了锁时， 如果变量被写了，会有指令去更新另一个寄存器的值，因此就可见了。七、线程群组为了方便管理一批线程，我们使用ThreadGroup来表示线程组，通过它对一批线程进行分类管理使用方法：Thread group = new ThreadGroup("group");Thread thread = new Thread(gourp, ()->{..});即thread除了Thread(Runable)这个构造方法外，还有个Thread(ThreadGroup, Runnable)构造方法Q：在线程A中创建线程B， 他们属于同一个线程组吗A：是的线程组的一大作用是对同一个组线程进行统一的异常捕捉处理，避免每次新建线程时都要重新去setUncaghtExceptionHandler。即线程组自身可以实现一个uncaughtException方法。ThreadGroup group = new ThreadGroup("group") {    @Override    public void uncaughtException(Thread thread, Throwable throwable) {        System.out.println(thread.getName() + throwable.getMessage());        }    };}线程如果抛出异常，且没有在线程内部被捕捉，那么此时线程异常的处理顺序是什么？相信很多人都看过下面这段话，好多讲线程组的博客里都这样写：（1）首先看看当前线程组（ThreadGroup）有没有父类的线程组，如果有，则使用父类的UncaughtException()方法。（2）如果没有，就看线程是不是调用setUncaughtExceptionHandler()方法建立Thread.setUncaughtExceptionHandler实例。如果建立，直接使用它的UncaughtException()方法处理异常。（3）如果上述都不成立就看这个异常是不是ThreadDead实例，如果是，什么都不做，如果不是，输出堆栈追踪信息（printStackTrace）。来源：https://blog.csdn.net/qq_43073128/article/details/90597006https://blog.csdn.net/qq_43073128/article/details/88280469好，别急着记，先看一下下面的题目，问输出什么：Q:// 父类线程组static class GroupFather extends ThreadGroup {    public GroupFather(String name) {        super(name);    }    @Override    public void uncaughtException(Thread thread, Throwable throwable) {        System.out.println("groupFather=" + throwable.getMessage());    }} public static void main(String[] args) {    // 子类线程组    GroupFather groupSon = new GroupFather("groupSon") {        @Override        public void uncaughtException(Thread thread, Throwable throwable) {            System.out.println("groupSon=" + throwable.getMessage());        }    };    Thread thread1 = new Thread(groupSon, ()->{        throw new RuntimeException("我异常了");    });    thread1.start();}A：一看（1），那是不是应该输出groupFather?错错错，输出的是groupSon这句话在很多地方能看到，但没有去实践过看过源码的人就会这句话被误导。实际上父线程组不是指类继承关系上的线程组，而是指下面这样的：即指的是构造关系的有父子关系。如果子类的threadGroup没有去实现uncaughtException方法，那么就会去构造参数里指定的父线程组去调用方法。Q： 那我改成构造关系上的父子关系，下面输出什么？public static void main(String[] args) {    // 父线程组    ThreadGroup groupFather = new ThreadGroup("groupFather") {        @Override        public void uncaughtException(Thread thread, Throwable throwable) {            System.out.println("groupFather=" + throwable.getMessage());        }    };     // 子线程组,把groupFather作为parent参数    ThreadGroup groupSon = new ThreadGroup(groupFather, "groupSon") {        @Override        public void uncaughtException(Thread thread, Throwable throwable) {            System.out.println("groupSon=" + throwable.getMessage());        }    };     Thread thread1 = new Thread(groupSon, ()->{        throw new RuntimeException("我异常了");    });     thread1.start();}A：答案输出即只要子线程组有实现过，则会用子线程组里的方法，而不是直接去找的父线程组！Q：如果我让自己做set捕捉器的操作呢？那下面这个输出什么？public static void main(String[] args) {    // 父线程组    ThreadGroup group = new ThreadGroup("group") {        @Override        public void uncaughtException(Thread thread, Throwable throwable) {            System.out.println("group=" + throwable.getMessage());        }    };     // 建一个线程，在线程组内    Thread thread1 = new Thread(group, () -> {        throw new RuntimeException("我异常了");    });     // 自己设置setUncaughtExceptionHandler方法    thread1.setUncaughtExceptionHandler((t, e) -> {        System.out.println("no gourp:" + e.getMessage());    });     thread1.start();}A:看之前的结论里，似乎是应该输出线程组的异常？但是结果却输出的是：也就是说，如果线程对自己特地执行过setUncaughtExceptionHandler，那么有优先对自己设置过的UncaughtExceptionHandler做处理。那难道第（2）点这个是错的吗？确实错了，实际上第二点应该指的是全局Thread的默认捕捉器，注意是全局的。实际上那段话出自ThreadGroup里uncaughtException的源码：这里就解释了之前的那三点，但是该代码中没考虑线程自身设置了捕捉器所以修改一下之前的总结一下线程的实际异常抛出判断逻辑：如果线程自身有进行过setUncaughtExceptionHandler,则使用自己设置的按个。如果没设置过，则看一下没有线程组。并按照以下逻辑判断:如果线程组有覆写过uncaughtException，则用覆写过的uncaughtException如果线程组没有覆写过，则去找父线程组（注意是构造体上的概念）的uncaughtException方法。如果线程组以及父类都没覆写过uncaughtException， 则判断是否用Thread.setDefaultUncaughtExceptionHandler(xxx)去设置全局的默认捕捉器，有的话则用全局默认如果不是ThreadDeath线程， 则只打印堆栈。如果是ThreadDeath线程，那么就什么也不处理。

二、synchronized关键字即可作为方法的修饰符，也可以作为代码块的修饰符注意修饰方法时，并不是这个方法上有锁， 而是调用该方法时，需要取该方法所在对象上的锁。class A{     synchroized f(){     }   }即调用这个f()， 并不是说f同一时刻只能进入一次，而是说进入f时，需要取到A上的锁。Q： 调用下面的f()时，会出现死锁吗？class A{     synchroized f(){        t()     }      synchroized t(){     }}A：不会。1个线程内， 可以重复进入1个对象的synchroized 块。原理：当线程请求自己的锁时。JVM会记下锁的持有者，并且给这个锁计数为1。如果该线程再次请求自己的锁，则可以再次进入，计数为2。退出时计数-1，直到全部退出时才会释放锁。Q:2个线程同时调用f1和f2会产生同步吗？class A{    private static synchronized void f1(){};    private synchronized void f2(){};}A:不会产生同步。二者不是1个锁。f1是类锁，等同于synchronized(A.class)f2是对象锁。三、其他的同步工具CountDownLatchfinal CountDownLatch latch = new CountDownLatch(2);2是计数器初始值。然后执行latch.await()时， 就会阻塞，直到其他线程中把这个latch进行latch.countDown()，并且计数器降低至0。和join的区别：join阻塞时，是只等待单个线程的完成而CountDownLatch可能是为了等待多个线程Q： countDownLatch的内部计数值能被重置吗？A：不能重置了。如果要重新计数必须重新new一个。毕竟他的类名就叫DownLatchFutureTask可以理解为一个支持有返回值的线程FutureTask<Integer> task = new FutureTask<>(runable);当调用task.get()时，就能能达到线程里的返回值Q：调用futrueTask.get()时，这个是阻塞方法吗？如果是阻塞，什么时候会结束？A：是阻塞方法。线程跑完并返回结果阻塞时间达到futrueTask.get(xxx)里设定的xxx时间线程出现异常InterruptedException或者ExecutionException线程被取消，抛出CancellationExceptionSemaphore信号量：就是操作系统里常见的那个概念，java实现，用于各线程间进行资源协调。用Semaphore(permits)构造一个包含permits个资源的信号量，然后某线程做了消费动作， 则执行semaphore.acquire()，则会消费一个资源，如果某线程做了生产动作，则执行semaphore.release()，则会释放一个资源（即新增一个资源）更详细的信号量方法说明：https://blog.csdn.net/hanchao5272/article/details/79780045Q： 信号量中，公平模式和非公平模式的区别？下面设成true就是公平模式//new Semaphore(permits,fair):初始化许可证数量和是否公平模式的构造函数semaphore = new Semaphore(5, true);A：其实就是使用哪种公平锁还是非公平锁。Java并发中的fairSync和NonfairSync主要区别为：如果当前线程不是锁的占有者,则NonfairSync并不判断是否有等待队列,直接使用compareAndSwap去进行锁的占用,即谁正好抢到，就给谁用！如果当前线程不是锁的占有者,则FairSync则会判断当前是否有等待队列,如果有则将自己加到等待队列尾，即严格的先到先得！CyclicBarrier栅栏，一般是在线程中去调用的。它的构造需要指定1个线程数量，和栅栏被破坏前要执行的操作，每当有1个线程调用barrier.await()，就会进入阻塞，同时barrier里的线程计数-1。当线程计数为0时， 调用栅栏里指定的那个操作后，然后破坏栅栏， 所有被阻塞在await上的线程继续往下走。Exchanger我理解为两方栅栏，用于交换数据。简单说就是一个线程在完成一定的事务后，想与另一个线程交换数据，则第一个先拿出数据的线程会一直等待第二个线程，直到第二个线程拿着数据到来时才能彼此交换对应数据。原子类AtomicXXX就是内部已实现了原子同步机制Q：下面输出什么？（考察getAndAdd的用法）AtomicInteger num = new AtomicInteger(1);System.out.println(num.getAndAdd(1));System.out.println(num.get());A：输出1、2顾名思义， getAndAdd(),那么就是先get，再加， 类似于num++。如果是addAndGet()，那么就是++numQ：AtomicReference和AtomicInteger的区别？A：AtomicInteger是对整数的封装，而AtomicReference则对应普通的对象引用。也就是它可以保证你在修改对象引用时的线程安全性。即可能会有多个线程修改atomicReference里包含的引用。经典用法：boolean exchanged = atomicStringReference.compareAndSet(initialReference, newReference)就是经典的CAS同步法compreAndSet它会将将引用与预期值（引用）进行比较，如果它们相等，则在AtomicReference对象内设置一个新的引用。类似于一个非负责的自旋锁。AtomicReferenceArray是原子数组， 可以进行一些原子的数组操作例如 set(index, value)，java中已实现的全部原子类：注意，没有float，没有short和byte。

Q： 上题的suspend和resume可以怎么替换，来解决死锁问题？A： 可以用wait和noitfy来处理（不过尽量不要这样设计，一般都是用run内部带1个while循环的）public class Test {    public static Object lockObject = new Object(); //拿来做临时锁对象    public static void main(String[] args) throws InterruptedException {         Thread thread = new MyThread();        thread.start();        Thread.sleep(1000);         System.out.println("主线程试图占用lockObject锁资源");        synchronized (Test.lockObject) {            // 用Test.lockObject做一些事            System.out.println("做一些事");        }        System.out.println("恢复");         synchronized (Test.lockObject) {            Test.lockObject.notify();        }     }} class MyThread extends Thread {    public void run() {        try {            synchronized (Test.lockObject) {                System.out.println("占用Test.lockObject");                Test.lockObject.wait();            }            System.out.println("MyThread释放TestlockObject锁资源");        }        catch (Exception e){}    }}如此执行，结果正常：Q： 下面这例子为什么会运行异常，抛出IllegalMonitorStateException错误？    public static void main(String[] args) throws InterruptedException {        Thread thread = new MyThread();        thread.start();        thread.notify();    }A： notify和wait的使用前提是必须持有这个对象的锁， 即main代码块 需要先持有thread对象的锁，才能使用notify去唤醒（wait同理）。改成下面就行了：        Thread thread = new MyThread();        thread.start();        synchronized (thread) {            thread.notify();        }Q： Thread.sleep()和Object.wait()的区别A：sleep不会释放对象锁， 而wait会释放对象锁。Q：Runnable接口和Callable的区别。A： Callable可以和Futrue配合，并且启动线程时用的时call，能够拿到线程结束后的返回值，call方法还能抛出异常。Q：thread.alive()表示线程当前是否处于活跃/可用状态。活跃状态： 线程已经启动且尚未终止。线程处于正在运行或准备开始运行的状态，就认为线程是“存活的thread.start()后，是否alive()一定返回true？public class Main {    public static void main(String[] args) {        TestThread tt = new TestThread();        System.out.println("Begin == " + tt.isAlive());        tt.start();        System.out.println("end == " + tt.isAlive());    }}A:不一定，有可能在打印时，线程已经运行结束了，或者start后，还未真正启动起来（就是还没进入到run中）Q: 线程A如下：public class A extends Thread {    @Override    public void run() {        System.out.println("this.isAlive()=" + this.isAlive());    }}把线程A作为构造参数，传给线程BA a = new A();Thread b = new Thread(a);b.start()此时会打印什么？A：此时会打印false!因为把a作为构造参数传入b中， b执行start时， 实际上是在B线程中去调用了 A对象的run方法，而不是启用了A线程。如果改成A a = new A();a.start()那么就会打印true了Q：把FutureTask放进Thread中，并start后，会正常执行callable里的内容吗？public static void main(String[] args) throws Exception {    Callable<Integer> callable = () -> {    System.out.println("call 100");    return 100;    };     FutureTask<Integer> task = new FutureTask<>(callable);    Thread thread = new Thread(task);    thread.start();}A：能正常打印

多线程可以理解为在同一个程序中能够同时运行多个不同的线程来执行不同的任务，这些线程可以同时利用CPU的多个核心运行。多线程编程能够最大限度的利用CPU的资源。本文将通过以下几个方向为大家讲解多线程的用法。1.Thread类基础2.synchronized关键字3.其他的同步工具CountDownLatchFutureTaskSemaphoreCyclicBarrierExchanger原子类AtomicXXX4.线程池5.Thread状态转换6.Volatile7.线程群组一、Thread类基础Q： Thread的deprecated过期方法是哪3个？作用是啥A：stop()， 终止线程的执行。suspend()， 暂停线程执行。resume()， 恢复线程执行。Q： 废弃stop的原因是啥？A：调用stop时，会直接终止线程并释放线程上已锁定的锁，线程内部无法感知，并且不会做线程内的catch操作！即线程内部不会处理stop后的烂摊子。如果其他线程等在等着上面的锁去取数据， 那么拿到的可能是1个半成品。变成题目的话应该是下面这样，问会输出什么？public class Test {     public static void main(String[] args) throws InterruptedException {         System.out.println("start");        Thread thread = new MyThread();        thread.start();        Thread.sleep(1000);        thread.stop();        // thread.interrupt();     }} class MyThread extends Thread {    public void run() {        try {            System.out.println("run");            Thread.sleep(5000);        } catch (Exception e) {            //处理烂摊子,清理资源            System.out.println("clear resource!");        }    }}Q： stop的替代方法是什么？A： interrupt()。调用thread.interrupt()终止时， 不会直接释放锁，可通过调用interrupt()或者捕捉sleep产生的中断异常，来判断是否被终止，并处理烂摊子。上题把thread.stop()改成thread.interrupt()，在Thread.sleep()过程中就会抛出interrupException（注意，InterrupExcetpion是sleep抛出的）因此就会输出clear resource。如果没有做sleep操作， 可以用isInterrupted()来判断自己这个线程是否被终止了，来做清理。另外注意一下interrupt和isInterrupted的区别：Q： suspend/resume的废弃原因是什么？A： ：调用suspend不会释放锁。如果线程A暂停后，他的resume是由线程B来调用的，但是线程B又依赖A里的某个锁，那么就死锁了。例如下面这个例子，就要知道会引发死锁：public class Test {    public static Object lockObject = new Object();    public static void main(String[] args) throws InterruptedException {         System.out.println("start");        Thread thread = new MyThread();        thread.start();        Thread.sleep(1000);         System.out.println("主线程试图占用lockObject锁资源");        synchronized (Test.lockObject) {            // 用Test.lockObject做一些事            System.out.println("做一些事");        }        System.out.println("恢复");        thread.resume();     }} class MyThread extends Thread {    public void run() {        try {            synchronized (Test.lockObject) {                System.out.println("占用Test.lockObject");                suspend();            }            System.out.println("MyThread释放TestlockObject锁资源");        }        catch (Exception e){}    }}答案输出MyThread内部暂停后，外部的main因为没法拿到锁，所以无法执行后面的resume操作。

【操作步骤&问题现象】MxStreamerManager支持多线程并发吗？pipeline的建立在硬件上有限制吗？我想充分利用当前所有device的性能，是否可以在每一个device上建立一个pipeline，即声明多个MxStreamerManager来达到效果呢？【截图信息】【日志信息】（可选，上传日志内容或者附件）

【功能模块】推理报错【操作步骤&问题现象】环境 : Atlas500pro 20.21 开启两个线程去在相同的device上加载同一个模型,利用标志位设置模型只加载一次,运行后出现这样的错误,两个线程下中只有一个线程可以正常的检测.另外一个线程报错[ERROR] RUNTIME(8208,Demo_ALL):2021-04-09-09:49:10.454.541 [../../../../../../runtime/feature/src/api_impl.cc:661]8210 DevMalloc:ctx is NULL![ERROR] RUNTIME(8208,Demo_ALL):2021-04-09-09:49:10.454.556 [../../../../../../runtime/feature/src/logger.cc:323]8210 DevMalloc:DevMalloc failed, size=786464, type=4096[ERROR] RUNTIME(8208,Demo_ALL):2021-04-09-09:49:10.454.575 [../../../../../../runtime/feature/src/api_c.cc:640]8210 rtMalloc:ErrCode=107002, desc=[null context pointer], InnerCode=0x7070001[ERROR] ASCENDCL(8208,Demo_ALL):2021-04-09-09:49:10.454.582 [../../../../../acl/runtime/memory.cpp:59]8210 aclrtMalloc: alloc device memory failed, runtime result = 107002[Error][2021-04-09 09:49:10:454595][AclProcess.cpp ModelInfer_Mat:280] Failed to aclrtMalloc output buffer of model on dev, ret = 107002【截图信息】  这个错误怎么排查【日志信息】（可选，上传日志内容或者附件）

问题来源：https://gitee.com/ascend/modelzoo/issues/I3B32Q?from=project-issue 问题描述：1.是否支持通过fork或者spawn的方式创建子进程实现多路运行acl接口2.如何在atlas200dk上实现多路运行，3.acl.rt.start_thread() 和 python 的 Thread 是否有区别？ acl 中的start_thread() 是否绕开了 python GIL 的限制？异步推理接口的含义解答：1.目前无论是通过fork或者spawn的方式创建一个子进程，都不支持调用acl具体进程、线程、Device、Context、Stream之间的关系看如下链接https://support.huaweicloud.com/aclcppdevg-cann330alphaXinfer/atlasdevelopment_01_0009.html2.对于c++而言是可以通过多线程实现多视频流、多任务的并行处理的，具体的样例我们将上在sample仓，请期待。对于python而言，目前无法实现，python语言特性决定了，他的的多线程是假的，实际还是串行，无法并行，同时我们的acl也不支持多进程。3.acl.rt.start_thread() 是用c语言创建的，但是只要他调用python对象就会被GIL限制，异步推理其实是对推理流程的优化，简单的把推理理解为三部分，预处理，推理，后处理，正常推理要到上一个后处理结束才可以开始新的预处理，异步推理的话只要上一个预处理结束就可以开始新的预处理，但是在同一时间段，推理阶段只有一个，所以实际上并未实现并行推理。

【功能模块】    执行环境：单芯片device（如deviceId=1）， 程序A初始化时事先调用底层sdk的每个模型创建句柄的接口——此接口会创建1个context以及此context下的多个stream（一般1-4个）， 同时针对每个模型，程序A会创建多个线程（线程数量与上述stream数量保持相同），每个线程绑定对应模型所创建的句柄——当每个线程执行推理阶段时，使用到的context相同，stream不同；    【操作步骤&问题现象】问题现象描述：当多个模型对应的多个线程执行推理阶段时，dvpp前处理过程中调用acldvppVpcCropAndPasteAsync（抠图贴图用）接口后，返回ok，接着执行aclrtSynchronizeStream同步流时返回出错，屏幕打印如下：同时：当出错后返回，下次再次执行推理阶段时，上次dvpp前处理过程可能正常也可能出现相同的错误；芯片device端提取的log信息部分截图如下，具体信息见附件【日志信息】见附件