有一個大List集合,遍歷進行一些耗時操作,不能達到性能要求,查詢日志,單個任務雖然有不少數據庫和第三方API請求,比較耗時,但返回效率尚可,所以優先采用多線程方式進行處理并行請求數據庫和第三方API,因為處理完還要對list所屬的數據進行操作,所以,線程池多線程處理要等待全部處理完。
相關的代碼如下:
@Test
publicvoidtestTB()
{
Listlist=newArrayList>();
for(inti=0;i900;i++)
{
list.add("a");
}
ExecutorServicetouchWorker=Executors.newFixedThreadPool(4,newThreadFactoryBuilder().setNameFormat("touch-send-worker-%d").build());
intsize=list.size();
if(size>100)
{
intbatch=size%100==0?size/100:size/100+1;
for(intj=0;jintend=(j+1)*100;
if(end>size)
{
end=size;
}
ListsubList=list.subList(j*100,end);
touchWorker.execute(()->sleepTest(subList));
}
touchWorker.shutdown();
while(true)
{
if(touchWorker.isTerminated())
{
break;
}
}
}
else
{
sleepTest(list);
}
}
privatevoidsleepTest(ListsubList)
{
for(Stringi:subList)
{
try
{
//耗時操作
System.out.println("######"+i+"######"+Thread.currentThread().getName());
//Thread.sleep(1000*30);
}
catch(Exceptione)
{
e.printStackTrace();
}
}
}
void shutdown()
啟動一次順序關閉,執行以前提交的任務,但不接受新任務。若已經關閉,則調用沒有其他作用。
拋出:SecurityException
- 如果安全管理器存在并且關閉,此 ExecutorService
可能操作某些不允許調用者修改的線程(因為它沒有保持RuntimePermission("modifyThread")
),或者安全管理器的 checkAccess
方法拒絕訪問。
boolean isTerminated()
若關閉后所有任務都已完成,則返回true。注意除非首先調用shutdown
或shutdownNow
,否則isTerminated
永不為true。返回:若關閉后所有任務都已完成,則返回true。
當然還有一種方法,是之前寫的,方法比上邊的臃腫了,不過會獲取返回結果進行處理:邏輯是獲取所有頁面的List,多線程遍歷List后,將所有頁面的違規詞查出發送郵件,代碼:
/**
*落地頁違規詞排查(多線程)。
*@return
*/
@Test
publicvoidgetViolationsLandpageByThreadPool(){
try{
landPageService.getViolationsLandpageByThreadPool("1年");
}catch(Exceptione){
e.printStackTrace();
}
}
//開始時間
longstart=System.currentTimeMillis();
/*Listlist=newArrayList();
for(inti=1;i<=?3000;?i++)?{
????list.add(i?+?"");
}*/
Listlist=landPageDao.getPageIdAndPath();
//初始化敏感詞庫對象
SensitiveWordInitsensitiveWordInit=newSensitiveWordInit();
//從數據庫中獲取敏感詞對象集合(目前先放在資源文件中,等以后比較多或者需要界面操作時再用數據庫)
//構建敏感詞庫
MapsensitiveWordMap=sensitiveWordInit.initKeyWord(vioKey);
//傳入SensitivewordEngine類中的敏感詞庫
SensitivewordEngine.sensitiveWordMap=sensitiveWordMap;
//每500條數據開啟一條線程
intthreadSize=11000;
//總數據條數
intdataSize=list.size();
//線程數
intthreadNum=dataSize/threadSize+1;
//定義標記,過濾threadNum為整數
booleanspecial=dataSize%threadSize==0;
/*list.parallelStream().forEach(url->{});*/
//創建一個線程池
ExecutorServiceexec=Executors.newFixedThreadPool(threadNum);
//定義一個任務集合
List>>tasks=newArrayList>>();
Callable>task=null;
ListcutList=null;
//確定每條線程的數據
for(inti=0;iif(i==threadNum-1){
if(special){
break;
}
cutList=list.subList(threadSize*i,dataSize);
}else{
cutList=list.subList(threadSize*i,threadSize*(i+1));
}
// System.out.println("第"+(i + 1)+"組:"+ cutList.toString());
finalListlistStr=cutList;
task=newCallable>(){
@Override
publicListcall()throwsException {
// System.out.println(Thread.currentThread().getName()+"線程:"+ listStr.get(0).getPageId());
Listresult=newArrayList();
for(LandPagelandPage:listStr){
LongpageId=landPage.getPageId();
Stringpath=landPage.getPath();
Integerversion=landPage.getVersion();
StringpageUrl=landPage.getPageUrl();
StringactualUser=landPage.getActualUser();
IntegerpageType=landPage.getPageType();
if(StringUtils.isNotBlank(path)){
//調用第一個方法,獲取html字符串
Stringhtml=httpRequest(path);
//調用第二個方法,獲取包含的違規詞
if(StringUtils.isNotBlank(html)){
html=html.replaceAll("","");
//Stringbuffer=htmlFiter2(html);
SetbufferSet=SensitivewordEngine.getSensitiveWord(html,1);//得到敏感詞有哪些,傳入2表示獲取所有敏感詞//sensitiveWordFiltering(html);
/*String[]word={"備案","錯過將延誤","僅需1980元"};
for(inti=0;i
String[]word={
"一年","1年學完","一年學完","1年內學完","一年內學完"
};
for(inti=0;iif (html.contains(word[i])){
bufferSet.add(word[i]);
}
}
if(null!=bufferSet&&bufferSet.size()>0){
StringsensitiveWord=bufferSet==null?null:bufferSet.toString();
if("[]".equals(sensitiveWord)){
sensitiveWord="";
}
LandPagepage=newLandPage();
page.setPageId(pageId);
page.setPath(path);
page.setVersion(version);
page.setDescription(sensitiveWord);
page.setPageUrl(pageUrl);
page.setActualUser(actualUser);
page.setPageType(pageType);
result.add(page);
System.out.println(pageUrl);
}
}
}
}
return(List)result;
}
};
//這里提交的任務容器列表和返回的Future列表存在順序對應的關系
tasks.add(task);
}
List>>results=exec.invokeAll(tasks);
Listresult=newArrayList();
for(Future>future:results){
result.addAll(future.get());
}
//關閉線程池
exec.shutdown();
System.out.println("線程任務執行結束");
System.err.println("執行任務消耗了:"+(System.currentTimeMillis()-start)+"毫秒");
System.out.println("共有###########"+list.size());
result就是需要發送郵件的相關結果了
審核編輯 :李倩
-
多線程
+關注
關注
0文章
279瀏覽量
20310 -
代碼
+關注
關注
30文章
4887瀏覽量
70266
原文標題:多線程快速處理 List 集合,你學會了嗎?
文章出處:【微信號:AndroidPush,微信公眾號:Android編程精選】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
工控一體機多線程任務調度優化:聚徽分享破解工業復雜流程高效協同密碼
一種實時多線程VSLAM框架vS-Graphs介紹

請問如何在Python中實現多線程與多進程的協作?
請問rt-thread studio如何進行多線程編譯?
探索字節隊列的魔法:多類型支持、函數重載與線程安全

socket 多線程編程實現方法
Python中多線程和多進程的區別

CPU線程和程序線程的區別
AMD銳龍9000系列處理器價格公布
LWIP多線程強烈建議開啟LWIP_ASSERT_CORE_LOCKED宏,這個在RTT里面要怎么實現?
從多線程設計模式到對 CompletableFuture 的應用

動態線程池思想學習及實踐

評論