在設定執行緒池佇列長度時，如果長度設定的不合理就無法發揮出多執行緒的威力。設定執行緒池的佇列長度取決於使用場景；比如全程非同步的系統，佇列可以設定為0，corePoolSize設定為cpu核數。研究tomcat、Dubbo等業界成熟的產品是如何設定執行緒佇列，分析如何合理設定執行緒池佇列長度。

1.JDK執行緒池策略

      先增加執行緒至corePoolSize，之後放入佇列，如果佇列滿則增加執行緒至maximumPoolSize。其實我們不難發現如果佇列長度設定無限長度，那麼執行緒池個數將只會增加到corePoolSize，如果corePoolSize個數設定又過小，這樣就會無法發揮出多執行緒的威力。

2.Tomcat執行緒池策略

Tomcat的執行緒池佇列是無限長度的，但是執行緒池會一直建立到maximumPoolSize，然後才把請求放入等待佇列中

tomcat 任務佇列org.apache.tomcat.util.threads.TaskQueue其繼承與LinkedBlockingQueue，覆寫offer方法。 

@Override
    public boolean offer(Runnable o) {
      //we can't do any checks
        if (parent==null) return super.offer(o);
        //we are maxed out on threads, simply queue the object
        if (parent.getPoolSize() == parent.getMaximumPoolSize()) return super.offer(o);
        //we have idle threads, just add it to the queue
        if (parent.getSubmittedCount()<(parent.getPoolSize())) return super.offer(o);
         //執行緒個數小於MaximumPoolSize會建立新的執行緒。
        //if we have less threads than maximum force creation of a new thread
        if (parent.getPoolSize()<parent.getMaximumPoolSize()) return false;
        //if we reached here, we need to add it to the queue
        return super.offer(o);
    }

3.Dubbo執行緒池策略

        Dubbo 提供3種執行緒池模型即：FixedThreadPool、CachedThreadPool（客戶端預設的）、LimitedThreadPool（服務端預設的），從原始碼可以看出，其預設的佇列長度都是0，當佇列長度為0 ，其使用是無緩衝的佇列SynchronousQueue，當執行執行緒超過maximumPoolSize則拒絕請求。 

/**
     * 此執行緒池啟動時即建立固定大小的執行緒數，不做任何伸縮，來源於：<code>Executors.newFixedThreadPool()</code>
     *
     * @author william.liangf
     * @see java.util.concurrent.Executors#newFixedThreadPool(int)
     */
    public class FixedThreadPool implements ThreadPool {

        public Executor getExecutor(URL url) {
            String name = url.getParameter(Constants.THREAD_NAME_KEY, Constants.DEFAULT_THREAD_NAME);
            int threads = url.getParameter(Constants.THREADS_KEY, Constants.DEFAULT_THREADS);
            //預設佇列長度為0
            int queues = url.getParameter(Constants.QUEUES_KEY, Constants.DEFAULT_QUEUES);
            return new ThreadPoolExecutor(threads, threads, 0, TimeUnit.MILLISECONDS,
                    queues == 0 ? new SynchronousQueue<Runnable>() :
                            (queues < 0 ? new LinkedBlockingQueue<Runnable>()
                                    : new LinkedBlockingQueue<Runnable>(queues)),
                    new NamedThreadFactory(name, true), new AbortPolicyWithReport(name, url));
        }

    }

    /**
     * 此執行緒池一直增長，直到上限，增長後不收縮。
     *
     * @author <a href="mailto:[email protected]">kimi</a>
     */
    public class LimitedThreadPool implements ThreadPool {

        public Executor getExecutor(URL url) {
            String name = url.getParameter(Constants.THREAD_NAME_KEY, Constants.DEFAULT_THREAD_NAME);
            int cores = url.getParameter(Constants.CORE_THREADS_KEY, Constants.DEFAULT_CORE_THREADS);
            int threads = url.getParameter(Constants.THREADS_KEY, Constants.DEFAULT_THREADS);
                 //預設佇列長度為0
            int queues = url.getParameter(Constants.QUEUES_KEY, Constants.DEFAULT_QUEUES);
            return new ThreadPoolExecutor(cores, threads, Long.MAX_VALUE, TimeUnit.MILLISECONDS,
                    queues == 0 ? new SynchronousQueue<Runnable>() :
                            (queues < 0 ? new LinkedBlockingQueue<Runnable>()
                                    : new LinkedBlockingQueue<Runnable>(queues)),
                    new NamedThreadFactory(name, true), new AbortPolicyWithReport(name, url));
        }

    }

    /**
     * 此執行緒池可伸縮，執行緒空閒一分鐘後回收，新請求重新建立執行緒，來源於：<code>Executors.newCachedThreadPool()</code>
     *
     * @author william.liangf
     * @see java.util.concurrent.Executors#newCachedThreadPool()
     */
    public class CachedThreadPool implements ThreadPool {

        public Executor getExecutor(URL url) {
            String name = url.getParameter(Constants.THREAD_NAME_KEY, Constants.DEFAULT_THREAD_NAME);
            int cores = url.getParameter(Constants.CORE_THREADS_KEY, Constants.DEFAULT_CORE_THREADS);
            int threads = url.getParameter(Constants.THREADS_KEY, Integer.MAX_VALUE);
                 //預設佇列長度為0
            int queues = url.getParameter(Constants.QUEUES_KEY, Constants.DEFAULT_QUEUES);
            int alive = url.getParameter(Constants.ALIVE_KEY, Constants.DEFAULT_ALIVE);
            return new ThreadPoolExecutor(cores, threads, alive, TimeUnit.MILLISECONDS,
                    queues == 0 ? new SynchronousQueue<Runnable>() :
                            (queues < 0 ? new LinkedBlockingQueue<Runnable>()
                                    : new LinkedBlockingQueue<Runnable>(queues)),
                    new NamedThreadFactory(name, true), new AbortPolicyWithReport(name, url));
        }

    }

總結

       執行緒池的任務佇列本來起緩衝作用，但是如果設定的不合理會導致執行緒池無法擴容至max，這樣無法發揮多執行緒的能力，導致一些服務響應變慢。

       佇列長度要看具體使用場景，取決服務端處理能力以及客戶端能容忍的超時時間等

       建議採用tomcat的處理方式，core與max一致，先擴容到max再放佇列，不過佇列長度要根據使用場景設定一個上限值，如果響應時間要求較高的系統可以設定為0。