搜狗開源其輕量級高性能C++服務器引擎,引入任務流概念

2022-10-10    分類: 網站建設

搜狗公司開源了其 C++ 服務器引擎 Sogou C++ Workflow,這一引擎實現了高性能、輕量級落地,還引入任務流概念,實現了計算任務與通信任務的統一和協同調度。

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

據介紹,目前該引擎支撐著搜狗幾乎所有后端 C++ 在線服務,包括所有搜索服務、云輸入法與在線廣告等,每日處理數百億請求。

Sogou C++ Workflow 在設計之初,就秉持著高性能與輕量級兩個核心理念。長久以來,業界中優化服務器性能都主要專注于如何跑滿 cpu、如何單獨地讓網絡請求極速響應等方面。而此次上線的搜狗 Workflow 則更專注于如何讓各種網絡資源被具體的調度器管理,使其盡可能地全部調度起來。

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

另一方面,對多通信計算資源融為一體的解決方案,進一步提升了 Workflow 引擎的性能。過去開發者在面臨選擇高吞吐網絡框架時,需要自己面對不同計算資源比例而劃分不同大小的線程池。然而每種計算具體資源需求比例是動態變化的,重要性也不一樣,后端響應時長也是動態變動。Sogou C++ Workflow 使得 C++ 服務器引擎也能像 Go 語言一樣,實現網絡資源異步調度,并且進一步打通計算與磁盤等資源。

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

此項目大的亮點可能是創新性引入了任務流的概念,Sogou C++ Workflow 將資源高度封裝,用戶再也接觸不到連接池、線程池,包括想要做 aio 時的文件 fd 與各種異步通知機制。這就意味著,在開發階段開發人員僅僅需要了解業務關系而不用關心內部細節,幫助開發者們實現自己復雜的業務邏輯。

開發人員可以利用 Sogou C++ Workflow 封裝好的各種任務來動態或靜態組建自己的業務邏輯,如下圖所示,不同類型的任務都可以被串行、并行到一起:

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

根據資料,除了各種創新設計以外,Sogou C++ Workflow 還擁有友好的用戶體驗。Sogou C++ Workflow 原生實現了對http、redis、mysql 和 kafka 等協議的支持,可以直接作為這些協議的客戶端使用。并且在其基礎上開發了一套更加易用的 Sogou RPC,實現了與 brpc 和 thrift 互通,并且可以通過 http+json 或 IDL 實現跨語言。

開發團隊透露,Sogou RPC 項目也會在不久的將來開源。

Http Server 性能實測:Sogou C++ Workflow VS nginx、brpc

搜狗團隊也提供了 Sogou C++ Workflow 和 nginx、brpc 兩個主流系統的 http server 性能對比。

測試環境:

選取了最基本的測試場景:wrk 或者 wrk2 跨機做 client,單 server,長連接,CPU:40 核 E5-2630 v4 @ 2.20GHz,內存:192GB,網卡:25000Mb/s。nginx 配置了 auto 的進程數(與核數一致),brpc 配置了 40 個 nthreads,workflow 配置了 16 個 poller 線程和 20 個 handler 線程。

測試一:不同并發數對 QPS 的影響(越高越好)

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

結論:

隨著壓測并發數的增加,server 的 QPS 會隨著增高。可以看到 Workflow 無論是低并發數還是高并發數的情況下,QPS 依然比 nginx 和 brpc 要高,尤其是并發數超過 128 的時候優勢更加明顯,Workfow 對于小包基本能保證 50w 的 QPS,說明內部對網絡資源的高并發調度做了很多優化。

測試二:不同數據大小對 QPS 的影響(越高越好)

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

結論:

此處的返回包大小是 http 請求的 body 大小,隨著返回包增大,QPS 會有所下降,我們希望 QPS 依然盡可能保持平穩不要下降得太快。Workflow 在同并發下的性能依然比其他兩個系統要好,說明網絡收發和其他調用之間的調度協調得更好。

測試三:固定 QPS 下的延遲分布 CDF 圖(越左越好,越直越好)

搜狗開源其輕量級高性能 C++ 服務器引擎,引入任務流概念

結論:

本測試由 wrk2 進行固定 QPS 的壓測,其中還有 1% 的長尾請求 Outiler,長尾請求不計入結果,因為我們關注的是模擬真實情況下普通請求能否被及時處理。由于 nginx 在其他測試中性能略差一截,因此沒有對其進行 CDF 對比。可以看到在不同比例的分布中,Workflow 的延遲更低、且最慢的那些(0.99 到 1.00 之間)延遲增長也相對緩慢,說明 Workflow 對長尾處理更及時。

網站名稱:搜狗開源其輕量級高性能C++服務器引擎,引入任務流概念
網頁鏈接:http://m.kartarina.com/news38/204088.html

成都網站建設公司_創新互聯,為您提供App開發搜索引擎優化全網營銷推廣域名注冊自適應網站軟件開發

廣告

聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯

網站建設網站維護公司
主站蜘蛛池模板: 成年免费a级毛片免费看无码| 国产精品无码无卡在线播放 | 人妻系列无码专区久久五月天 | 精品久久久无码人妻中文字幕豆芽| 无码人妻AⅤ一区二区三区| 日韩精品无码人妻一区二区三区| 国产高清无码视频| 人妻精品无码一区二区三区| 亚洲aⅴ无码专区在线观看| 亚洲精品天堂无码中文字幕| 国产午夜精品无码| 黑人无码精品又粗又大又长| 在人线av无码免费高潮喷水| 久久久久亚洲AV片无码| 无码国产亚洲日韩国精品视频一区二区三区| 国产亚洲精品无码成人| 国产做无码视频在线观看| 久久久无码一区二区三区 | 免费VA在线观看无码| 91精品无码久久久久久五月天| 中文字幕无码精品三级在线电影| 欧洲精品无码成人久久久| 精品多人p群无码| 无码欧精品亚洲日韩一区| 亚洲综合av永久无码精品一区二区| 永久免费无码网站在线观看| 亚洲成a∨人片在无码2023| 色综合久久久无码网中文| 亚洲精品无码不卡| 日韩精品无码一本二本三本| 丝袜无码一区二区三区| 东京无码熟妇人妻AV在线网址| heyzo专区无码综合| 精品久久久无码中文字幕| 精品无码中文视频在线观看| 国产日韩精品无码区免费专区国产 | 麻豆亚洲AV成人无码久久精品| 中文字幕日产无码| a级毛片无码免费真人| 精品无码av无码专区| YW尤物AV无码国产在线观看|