性能提升 200% !SpringBoot 虛擬線程來(lái)了
時(shí)間:2023-06-23 07:54:08
在以往的項(xiàng)目中,我們面臨了這樣一種情況:我們收到了數(shù)千個(gè)認(rèn)證請(qǐng)求。為了確保安全性,我們依靠第三方系統(tǒng)發(fā)送短信 OTP 進(jìn)行驗(yàn)證。然而,有時(shí)候第三方系統(tǒng)花費(fèi)的時(shí)間比預(yù)期的要長(zhǎng),導(dǎo)致延遲。我們采用了每個(gè)請(qǐng)求一個(gè)線程的模型,這意味著許多線程處于等待狀態(tài),并且新請(qǐng)求都在隊(duì)列中。我們?cè)噲D通過(guò)微調(diào)線程數(shù)量來(lái)優(yōu)化性能,但當(dāng)時(shí)我們希望有虛擬線程功能。當(dāng)時(shí) Java 中沒(méi)有虛擬線程的概念,這就是 Project Loom 的作用。
(資料圖片)
什么是 Project Loom?這是 Oracle 的一個(gè)新項(xiàng)目,主要目標(biāo)是顯著減少編寫、維護(hù)和觀察高吞吐量并發(fā)應(yīng)用程序的工作量。換句話說(shuō),Project Loom 旨在支持和推進(jìn)一個(gè)高吞吐量、輕量級(jí)的 Java 并發(fā)模型,因?yàn)閭鹘y(tǒng)的操作系統(tǒng)線程(Java 并發(fā)模型的核心)有一些缺點(diǎn),并且在計(jì)算上相當(dāng)昂貴。反之,虛擬線程是更輕量級(jí)的線程,不與操作系統(tǒng)線程連接(由 JVM 管理)。這意味著虛擬線程是“每請(qǐng)求對(duì)應(yīng)一個(gè)線程”編程的理想選擇,可以創(chuàng)建大量的虛擬線程,而不會(huì)降低吞吐量。開發(fā)人員可以使用現(xiàn)有的 JDK 工具和技術(shù)快速排除故障、調(diào)試和分析并發(fā)應(yīng)用程序,在發(fā)布的 Spring Boot 3.1 中可用。作為 Spring 開發(fā)者,了解虛擬線程的概念并理解它們?cè)陂_發(fā)過(guò)程中的重要性非常關(guān)鍵。
如何使用虛擬線程Java 版本選擇Java 19 中引入的虛擬線程非常易于使用,筆者使用的 Mac M1 系列,這里選擇 Azul Zulu 發(fā)行版 20.30.11 版本[1]
使用 Spring Initializer 或 IDE 創(chuàng)建項(xiàng)目。添加 spring-web 依賴項(xiàng)并添加元數(shù)據(jù)。(注意版本選擇 SpringBoot 3.1 ,Java 20)
開啟虛擬線程功能默認(rèn)情況下, Java19 的虛擬線程功能是禁用狀態(tài)的,需要通過(guò)相關(guān) maven 編譯配置開啟。
通過(guò)配置 bean 啟用虛擬線程org.springframework.boot spring-boot-maven-plugin org.apache.maven.plugins maven-compiler-plugin --enable-preview
@Bean?TomcatProtocolHandlerCustomizer>threadExecutorCustomizer()?{??return?protocolHandler?->protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());?}這個(gè) Bean 是一個(gè)自定義的 Tomcat 協(xié)議處理器,負(fù)責(zé)處理 Spring Boot 應(yīng)用程序中傳入的請(qǐng)求。這個(gè)自定義程序的目的是配置協(xié)議處理器使用的執(zhí)行器。
在 threadExecutorCustomizer 方法內(nèi)部,使用 Lambda 表達(dá)式來(lái)自定義協(xié)議處理器。protocolHandler 參數(shù)代表正在自定義的 Tomcat 協(xié)議處理器的實(shí)例。
在 Lambda 表達(dá)式中,調(diào)用 protocolHandler 對(duì)象的 setExecutor() 方法,用于為協(xié)議處理器設(shè)置執(zhí)行器。執(zhí)行器負(fù)責(zé)執(zhí)行任務(wù),例如處理傳入的請(qǐng)求。
在這種情況下,使用 Executors.newVirtualThreadPerTaskExecutor() 方法創(chuàng)建一個(gè)新的使用虛擬線程的執(zhí)行器。虛擬線程是輕量級(jí)線程,可以在單個(gè)操作系統(tǒng)線程中并發(fā)執(zhí)行任務(wù)。這意味著可以同時(shí)執(zhí)行多個(gè)任務(wù),提高性能和資源利用率。
增加測(cè)試端點(diǎn)@Slf4j@RequestMapping@RestControllerpublic?class?DemoController?{????@GetMapping("/")????public?String?demo()?{????????try?{????????????TimeUnit.MILLISECONDS.sleep(300);????????}?catch?(InterruptedException?e)?{????????????log.error(e.getMessage());????????}????????return?"Current?Thread?Name:?"?+?Thread.currentThread();????}}上手使用我們可以通過(guò) Thread.currentThread() API 獲取當(dāng)前請(qǐng)求線程的元信息,以判斷虛擬線程是否已經(jīng)正確開啟。
性能測(cè)試對(duì)比100 線程測(cè)試不開啟虛擬線程通過(guò)以上我們發(fā)現(xiàn),在處理阻塞操作時(shí),虛擬線程特別有益。隨著并發(fā)請(qǐng)求數(shù)量的增加,虛擬線程的性能提升越來(lái)越明顯。上述測(cè)試都是在未對(duì) Spring Boot 項(xiàng)目進(jìn)行調(diào)優(yōu)和優(yōu)化的情況下進(jìn)行的。
參考資料[1]Azul Zulu 發(fā)行版 20.30.11 版本: https://www.azul.com/downloads/?version=java-20-sts&os=macos&architecture=arm-64-bit&package=jdk#zulu
相關(guān)稿件
性能提升 200% !SpringBoot 虛擬線程來(lái)了
環(huán)球關(guān)注:懸疑反轉(zhuǎn)爽片,好頂
天天熱資訊!Northgard DLC 將鼠族、矮人等帶到移動(dòng)版
聊一聊:羅永浩首次直播賣房:上架1分鐘就被訂下-全球動(dòng)態(tài)
數(shù)字文藝復(fù)興來(lái)了:英偉達(dá)造出「AI版」米開朗基羅,實(shí)現(xiàn)高保真3D重建-熱聞
安徽冶金科技職業(yè)學(xué)院開設(shè)專業(yè)有什么 安徽冶金科技職業(yè)學(xué)院優(yōu)勢(shì)專業(yè)是什么|短訊
重慶首個(gè)“高速公路+光伏”電站項(xiàng)目投運(yùn)|每日快播
世界微資訊!中國(guó)最長(zhǎng)深水油氣管道鋪設(shè)完工
每日觀點(diǎn):華僑大學(xué)境內(nèi)外學(xué)子共同體驗(yàn)端午民俗文化
“最深”海底救援進(jìn)入倒計(jì)時(shí),美國(guó)失聯(lián)潛水器氧氣儲(chǔ)備不足40小時(shí),水下傳來(lái)“砰砰聲”
展現(xiàn)羌族非遺魅力 四川茂縣舉行瓦爾俄足節(jié)
杭州蔣村“龍舟勝會(huì)”:闊別三年200余條龍舟競(jìng)渡迎端午
【小新的Vlog】火星旅游攻略 看這一篇就夠了 每日關(guān)注
豐田汽車(TM.US)推出新一代埃爾法和威爾法混合動(dòng)力車型
[快訊]航天發(fā)展公布2022年年度分紅實(shí)施方案
張良點(diǎn)金:1936做空暴跌抵達(dá)1920!后市反彈仍空!
天天看熱訊:一頓50的老鄉(xiāng)雞也是“料理包”?想吃點(diǎn)好的打工人破防了
東北證券國(guó)開證券平安證券招商證券被調(diào)出"白名單" 全球獨(dú)家
國(guó)中水務(wù):戰(zhàn)略轉(zhuǎn)型布新局,整合資源創(chuàng)未來(lái)
用S-Plus做金融數(shù)據(jù)統(tǒng)計(jì)分析_關(guān)于用S-Plus做金融數(shù)據(jù)統(tǒng)計(jì)分析介紹_全球快播
全球速看:時(shí)隔九年,北京再現(xiàn)40℃!高溫橙色預(yù)警生效中
海南專項(xiàng)行動(dòng):不動(dòng)產(chǎn)證兩個(gè)月內(nèi)“回家”
教育頻道
微速訊:傳輸速率翻倍!圓明園實(shí)現(xiàn)5G高速覆蓋
世界最新:在我的世界里怎么做末地傳送門(在我的世界里怎么做末地傳送門視頻)
天域生態(tài)于上海參設(shè)新能源科技公司,含電池銷售業(yè)務(wù)
聚焦:羅馬諾:國(guó)米將阿斯皮利奎塔列入今夏引援目標(biāo),已與切爾西談判
數(shù)字文藝復(fù)興來(lái)了:英偉達(dá)造出「AI版」米開朗基羅,實(shí)現(xiàn)高保真3D重建-熱聞
安徽冶金科技職業(yè)學(xué)院開設(shè)專業(yè)有什么 安徽冶金科技職業(yè)學(xué)院優(yōu)勢(shì)專業(yè)是什么|短訊
突發(fā)!700億A股賽道巨頭出手:要在歐洲這一國(guó)豪擲100億!
陳情令南京演唱會(huì)為什么有兩場(chǎng) 陳情令南京演唱會(huì)兩天內(nèi)容一樣嗎|當(dāng)前播報(bào)
世界新資訊:商貿(mào)零售行業(yè)2023年中期投資策略:消費(fèi)逐步復(fù)蘇 看好化妝品、黃金珠寶板塊


