徐漢彬:Web系統(tǒng)大規(guī)模并發(fā)——電商秒殺與搶購(gòu)
當(dāng)前位置:點(diǎn)晴教程→知識(shí)管理交流
→『 企業(yè)管理交流 』
摘要:電商的秒殺和搶購(gòu),從技術(shù)的角度來(lái)說(shuō),會(huì)對(duì) Web 系統(tǒng)產(chǎn)生巨大的考驗(yàn)。本期《問(wèn)底》,徐漢彬?qū)Т蠹谊P(guān)注秒殺和搶購(gòu)的技術(shù)實(shí)現(xiàn)和優(yōu)化,同時(shí),從技術(shù)層面揭開(kāi),為什么我們總是不容易搶到火車(chē)票的原因。
【導(dǎo)讀】徐漢彬曾在阿里巴巴和騰訊從事 4 年多的技術(shù)研發(fā)工作,負(fù)責(zé)過(guò)日請(qǐng)求量過(guò)億的 Web 系統(tǒng)升級(jí)與重構(gòu),目前在小滿(mǎn)科技創(chuàng)業(yè),從事 SaaS 服務(wù)技術(shù)建設(shè)。 電商的秒殺和搶購(gòu),對(duì)我們來(lái)說(shuō),都不是一個(gè)陌生的東西。然而,從技術(shù)的角度來(lái)說(shuō),這對(duì)于 Web 系統(tǒng)是一個(gè)巨大的考驗(yàn)。當(dāng)一個(gè) Web 系統(tǒng),在一秒鐘內(nèi)收到數(shù)以萬(wàn)計(jì)甚至更多請(qǐng)求時(shí),系統(tǒng)的優(yōu)化和穩(wěn)定至關(guān)重要。這次我們會(huì)關(guān)注秒殺和搶購(gòu)的技術(shù)實(shí)現(xiàn)和優(yōu)化,同時(shí),從技術(shù)層面揭開(kāi),為什么我們總是不容易搶到火車(chē)票的原因? 一、大規(guī)模并發(fā)帶來(lái)的挑戰(zhàn) 在過(guò)去的工作中,我曾經(jīng)面對(duì)過(guò) 5w 每秒的高并發(fā)秒殺功能,在這個(gè)過(guò)程中,整個(gè) Web 系統(tǒng)遇到了很多的問(wèn)題和挑戰(zhàn)。如果 Web 系統(tǒng)不做針對(duì)性的優(yōu)化,會(huì)輕而易舉地陷入到異常狀態(tài)。我們現(xiàn)在一起來(lái)討論下,優(yōu)化的思路和方法哈。 1. 請(qǐng)求接口的合理設(shè)計(jì) 一個(gè)秒殺或者搶購(gòu)頁(yè)面,通常分為 2 個(gè)部分,一個(gè)是靜態(tài)的 HTML 等內(nèi)容,另一個(gè)就是參與秒殺的 Web 后臺(tái)請(qǐng)求接口。 通常靜態(tài) HTML 等內(nèi)容,是通過(guò) CDN 的部署,一般壓力不大,核心瓶頸實(shí)際上在后臺(tái)請(qǐng)求接口上。這個(gè)后端接口,必須能夠支持高并發(fā)請(qǐng)求,同時(shí),非常重要的一點(diǎn),必須盡可能 " 快 ",在最短的時(shí)間里返回用戶(hù)的請(qǐng)求結(jié)果。為了實(shí)現(xiàn)盡可能快這一點(diǎn),接口的后端存儲(chǔ)使用內(nèi)存級(jí)別的操作會(huì)更好一點(diǎn)。仍然直接面向 MySQL 之類(lèi)的存儲(chǔ)是不合適的,如果有這種復(fù)雜業(yè)務(wù)的需求,都建議采用異步寫(xiě)入。 當(dāng)然,也有一些秒殺和搶購(gòu)采用 " 滯后反饋 ",就是說(shuō)秒殺當(dāng)下不知道結(jié)果,一段時(shí)間后才可以從頁(yè)面中看到用戶(hù)是否秒殺成功。但是,這種屬于 " 偷懶 " 行為,同時(shí)給用戶(hù)的體驗(yàn)也不好,容易被用戶(hù)認(rèn)為是 " 暗箱操作 "。 2. 高并發(fā)的挑戰(zhàn):一定要 " 快 " 我們通常衡量一個(gè) Web 系統(tǒng)的吞吐率的指標(biāo)是 QPS(Query Per Second,每秒處理請(qǐng)求數(shù)),解決每秒數(shù)萬(wàn)次的高并發(fā)場(chǎng)景,這個(gè)指標(biāo)非常關(guān)鍵。舉個(gè)例子,我們假設(shè)處理一個(gè)業(yè)務(wù)請(qǐng)求平均響應(yīng)時(shí)間為 100ms,同時(shí),系統(tǒng)內(nèi)有 20 臺(tái) Apache 的 Web 服務(wù)器,配置 MaxClients 為 500 個(gè)(表示 Apache 的最大連接數(shù)目)。 那么,我們的 Web 系統(tǒng)的理論峰值 QPS 為(理想化的計(jì)算方式): 20*500/0.1 = 100000 (10 萬(wàn) QPS) 咦?我們的系統(tǒng)似乎很強(qiáng)大,1 秒鐘可以處理完 10 萬(wàn)的請(qǐng)求,5w/s 的秒殺似乎是 " 紙老虎 " 哈。實(shí)際情況,當(dāng)然沒(méi)有這么理想。在高并發(fā)的實(shí)際場(chǎng)景下,機(jī)器都處于高負(fù)載的狀態(tài),在這個(gè)時(shí)候平均響應(yīng)時(shí)間會(huì)被大大增加。 就 Web 服務(wù)器而言,Apache 打開(kāi)了越多的連接進(jìn)程,CPU 需要處理的上下文切換也越多,額外增加了 CPU 的消耗,然后就直接導(dǎo)致平均響應(yīng)時(shí)間增加。因此上述的 MaxClient 數(shù)目,要根據(jù) CPU、內(nèi)存等硬件因素綜合考慮,絕對(duì)不是越多越好??梢酝ㄟ^(guò) Apache 自帶的 abench 來(lái)測(cè)試一下,取一個(gè)合適的值。然后,我們選擇內(nèi)存操作級(jí)別的存儲(chǔ)的 Redis,在高并發(fā)的狀態(tài)下,存儲(chǔ)的響應(yīng)時(shí)間至關(guān)重要。網(wǎng)絡(luò)帶寬雖然也是一個(gè)因素,不過(guò),這種請(qǐng)求數(shù)據(jù)包一般比較小,一般很少成為請(qǐng)求的瓶頸。負(fù)載均衡成為系統(tǒng)瓶頸的情況比較少,在這里不做討論哈。 那么問(wèn)題來(lái)了,假設(shè)我們的系統(tǒng),在 5w/s 的高并發(fā)狀態(tài)下,平均響應(yīng)時(shí)間從 100ms 變?yōu)?nbsp;250ms(實(shí)際情況,甚至更多): 20*500/0.25 = 40000 (4 萬(wàn) QPS) 于是,我們的系統(tǒng)剩下了 4w 的 QPS,面對(duì) 5w 每秒的請(qǐng)求,中間相差了 1w。 然后,這才是真正的惡夢(mèng)開(kāi)始。舉個(gè)例子,高速路口,1 秒鐘來(lái) 5 部車(chē),每秒通過(guò) 5 部車(chē),高速路口運(yùn)作正常。突然,這個(gè)路口 1 秒鐘只能通過(guò) 4 部車(chē),車(chē)流量仍然依舊,結(jié)果必定出現(xiàn)大塞車(chē)。(5 條車(chē)道忽然變成 4 條車(chē)道的感覺(jué)) 同理,某一個(gè)秒內(nèi),20*500 個(gè)可用連接進(jìn)程都在滿(mǎn)負(fù)荷工作中,卻仍然有 1 萬(wàn)個(gè)新來(lái)請(qǐng)求,沒(méi)有連接進(jìn)程可用,系統(tǒng)陷入到異常狀態(tài)也是預(yù)期之內(nèi)。 其實(shí)在正常的非高并發(fā)的業(yè)務(wù)場(chǎng)景中,也有類(lèi)似的情況出現(xiàn),某個(gè)業(yè)務(wù)請(qǐng)求接口出現(xiàn)問(wèn)題,響應(yīng)時(shí)間極慢,將整個(gè) Web 請(qǐng)求響應(yīng)時(shí)間拉得很長(zhǎng),逐漸將 Web 服務(wù)器的可用連接數(shù)占滿(mǎn),其他正常的業(yè)務(wù)請(qǐng)求,無(wú)連接進(jìn)程可用。 更可怕的問(wèn)題是,是用戶(hù)的行為特點(diǎn),系統(tǒng)越是不可用,用戶(hù)的點(diǎn)擊越頻繁,惡性循環(huán)最終導(dǎo)致 " 雪崩 "(其中一臺(tái) Web 機(jī)器掛了,導(dǎo)致流量分散到其他正常工作的機(jī)器上,再導(dǎo)致正常的機(jī)器也掛,然后惡性循環(huán)),將整個(gè) Web 系統(tǒng)拖垮。 3. 重啟與過(guò)載保護(hù) 如果系統(tǒng)發(fā)生 " 雪崩 ",貿(mào)然重啟服務(wù),是無(wú)法解決問(wèn)題的。最常見(jiàn)的現(xiàn)象是,啟動(dòng)起來(lái)后,立刻掛掉。這個(gè)時(shí)候,最好在入口層將流量拒絕,然后再將重啟。如果是 redis/memcache 這種服務(wù)也掛了,重啟的時(shí)候需要注意 " 預(yù)熱 ",并且很可能需要比較長(zhǎng)的時(shí)間。 秒殺和搶購(gòu)的場(chǎng)景,流量往往是超乎我們系統(tǒng)的準(zhǔn)備和想象的。這個(gè)時(shí)候,過(guò)載保護(hù)是必要的。如果檢測(cè)到系統(tǒng)滿(mǎn)負(fù)載狀態(tài),拒絕請(qǐng)求也是一種保護(hù)措施。在前端設(shè)置過(guò)濾是最簡(jiǎn)單的方式,但是,這種做法是被用戶(hù) " 千夫所指 " 的行為。更合適一點(diǎn)的是,將過(guò)載保護(hù)設(shè)置在 CGI 入口層,快速將客戶(hù)的直接請(qǐng)求返回。 二、作弊的手段:進(jìn)攻與防守 秒殺和搶購(gòu)收到了 " 海量 " 的請(qǐng)求,實(shí)際上里面的水分是很大的。不少用戶(hù),為了 " 搶 " 到商品,會(huì)使用 " 刷票工具 " 等類(lèi)型的輔助工具,幫助他們發(fā)送盡可能多的請(qǐng)求到服務(wù)器。還有一部分高級(jí)用戶(hù),制作強(qiáng)大的自動(dòng)請(qǐng)求腳本。這種做法的理由也很簡(jiǎn)單,就是在參與秒殺和搶購(gòu)的請(qǐng)求中,自己的請(qǐng)求數(shù)目占比越多,成功的概率越高。 這些都是屬于 " 作弊的手段 ",不過(guò),有 " 進(jìn)攻 " 就有 " 防守 ",這是一場(chǎng)沒(méi)有硝煙的戰(zhàn)斗哈。 1. 同一個(gè)賬號(hào),一次性發(fā)出多個(gè)請(qǐng)求 部分用戶(hù)通過(guò)瀏覽器的插件或者其他工具,在秒殺開(kāi)始的時(shí)間里,以自己的賬號(hào),一次發(fā)送上百甚至更多的請(qǐng)求。實(shí)際上,這樣的用戶(hù)破壞了秒殺和搶購(gòu)的公平性。 這種請(qǐng)求在某些沒(méi)有做數(shù)據(jù)安全處理的系統(tǒng)里,也可能造成另外一種破壞,導(dǎo)致某些判斷條件被繞過(guò)。例如一個(gè)簡(jiǎn)單的領(lǐng)取邏輯,先判斷用戶(hù)是否有參與記錄,如果沒(méi)有則領(lǐng)取成功,最后寫(xiě)入到參與記錄中。這是個(gè)非常簡(jiǎn)單的邏輯,但是,在高并發(fā)的場(chǎng)景下,存在深深的漏洞。多個(gè)并發(fā)請(qǐng)求通過(guò)負(fù)載均衡服務(wù)器,分配到內(nèi)網(wǎng)的多臺(tái) Web 服務(wù)器,它們首先向存儲(chǔ)發(fā)送查詢(xún)請(qǐng)求,然后,在某個(gè)請(qǐng)求成功寫(xiě)入?yún)⑴c記錄的時(shí)間差內(nèi),其他的請(qǐng)求獲查詢(xún)到的結(jié)果都是 " 沒(méi)有參與記錄 "。這里,就存在邏輯判斷被繞過(guò)的風(fēng)險(xiǎn)。 應(yīng)對(duì)方案: 在程序入口處,一個(gè)賬號(hào)只允許接受 1 個(gè)請(qǐng)求,其他請(qǐng)求過(guò)濾。不僅解決了同一個(gè)賬號(hào),發(fā)送 N 個(gè)請(qǐng)求的問(wèn)題,還保證了后續(xù)的邏輯流程的安全。實(shí)現(xiàn)方案,可以通過(guò) Redis 這種內(nèi)存緩存服務(wù),寫(xiě)入一個(gè)標(biāo)志位(只允許 1 個(gè)請(qǐng)求寫(xiě)成功,結(jié)合 watch 的樂(lè)觀鎖的特性),成功寫(xiě)入的則可以繼續(xù)參加。 或者,自己實(shí)現(xiàn)一個(gè)服務(wù),將同一個(gè)賬號(hào)的請(qǐng)求放入一個(gè)隊(duì)列中,處理完一個(gè),再處理下一個(gè)。 2. 多個(gè)賬號(hào),一次性發(fā)送多個(gè)請(qǐng)求 很多公司的賬號(hào)注冊(cè)功能,在發(fā)展早期幾乎是沒(méi)有限制的,很容易就可以注冊(cè)很多個(gè)賬號(hào)。因此,也導(dǎo)致了出現(xiàn)了一些特殊的工作室,通過(guò)編寫(xiě)自動(dòng)注冊(cè)腳本,積累了一大批 " 僵尸賬號(hào) ",數(shù)量龐大,幾萬(wàn)甚至幾十萬(wàn)的賬號(hào)不等,專(zhuān)門(mén)做各種刷的行為(這就是微博中的 " 僵尸粉 " 的來(lái)源)。舉個(gè)例子,例如微博中有轉(zhuǎn)發(fā)抽獎(jiǎng)的活動(dòng),如果我們使用幾萬(wàn)個(gè) " 僵尸號(hào) " 去混進(jìn)去轉(zhuǎn)發(fā),這樣就可以大大提升我們中獎(jiǎng)的概率。 這種賬號(hào),使用在秒殺和搶購(gòu)里,也是同一個(gè)道理。例如,iPhone 官網(wǎng)的搶購(gòu),火車(chē)票黃牛黨。 這種場(chǎng)景,可以通過(guò)檢測(cè)指定機(jī)器 IP 請(qǐng)求頻率就可以解決,如果發(fā)現(xiàn)某個(gè) IP 請(qǐng)求頻率很高,可以給它彈出一個(gè)驗(yàn)證碼或者直接禁止它的請(qǐng)求: 彈出驗(yàn)證碼,最核心的追求,就是分辨出真實(shí)用戶(hù)。因此,大家可能經(jīng)常發(fā)現(xiàn),網(wǎng)站彈出的驗(yàn)證碼,有些是 " 鬼神亂舞 " 的樣子,有時(shí)讓我們根本無(wú)法看清。他們這樣做的原因,其實(shí)也是為了讓驗(yàn)證碼的圖片不被輕易識(shí)別,因?yàn)閺?qiáng)大的 " 自動(dòng)腳本 " 可以通過(guò)圖片識(shí)別里面的字符,然后讓腳本自動(dòng)填寫(xiě)驗(yàn)證碼。實(shí)際上,有一些非常創(chuàng)新的驗(yàn)證碼,效果會(huì)比較好,例如給你一個(gè)簡(jiǎn)單問(wèn)題讓你回答,或者讓你完成某些簡(jiǎn)單操作(例如百度貼吧的驗(yàn)證碼)。 直接禁止 IP,實(shí)際上是有些粗暴的,因?yàn)橛行┱鎸?shí)用戶(hù)的網(wǎng)絡(luò)場(chǎng)景恰好是同一出口 IP 的,可能會(huì)有 " 誤傷 "。但是這一個(gè)做法簡(jiǎn)單高效,根據(jù)實(shí)際場(chǎng)景使用可以獲得很好的效果。 3. 多個(gè)賬號(hào),不同 IP 發(fā)送不同請(qǐng)求 所謂道高一尺,魔高一丈。有進(jìn)攻,就會(huì)有防守,永不休止。這些 " 工作室 ",發(fā)現(xiàn)你對(duì)單機(jī) IP 請(qǐng)求頻率有控制之后,他們也針對(duì)這種場(chǎng)景,想出了他們的 " 新進(jìn)攻方案 ",就是不斷改變 IP。 有同學(xué)會(huì)好奇,這些隨機(jī) IP 服務(wù)怎么來(lái)的。有一些是某些機(jī)構(gòu)自己占據(jù)一批獨(dú)立 IP,然后做成一個(gè)隨機(jī)代理 IP 的服務(wù),有償提供給這些 " 工作室 " 使用。還有一些更為黑暗一點(diǎn)的,就是通過(guò)木馬黑掉普通用戶(hù)的電腦,這個(gè)木馬也不破壞用戶(hù)電腦的正常運(yùn)作,只做一件事情,就是轉(zhuǎn)發(fā) IP 包,普通用戶(hù)的電腦被變成了 IP 代理出口。通過(guò)這種做法,黑客就拿到了大量的獨(dú)立 IP,然后搭建為隨機(jī) IP 服務(wù),就是為了掙錢(qián)。 說(shuō)實(shí)話(huà),這種場(chǎng)景下的請(qǐng)求,和真實(shí)用戶(hù)的行為,已經(jīng)基本相同了,想做分辨很困難。再做進(jìn)一步的限制很容易 " 誤傷 " 真實(shí)用戶(hù),這個(gè)時(shí)候,通常只能通過(guò)設(shè)置業(yè)務(wù)門(mén)檻高來(lái)限制這種請(qǐng)求了,或者通過(guò)賬號(hào)行為的 " 數(shù)據(jù)挖掘 " 來(lái)提前清理掉它們。 僵尸賬號(hào)也還是有一些共同特征的,例如賬號(hào)很可能屬于同一個(gè)號(hào)碼段甚至是連號(hào)的,活躍度不高,等級(jí)低,資料不全等等。根據(jù)這些特點(diǎn),適當(dāng)設(shè)置參與門(mén)檻,例如限制參與秒殺的賬號(hào)等級(jí)。通過(guò)這些業(yè)務(wù)手段,也是可以過(guò)濾掉一些僵尸號(hào)。 4. 火車(chē)票的搶購(gòu) 看到這里,同學(xué)們是否明白你為什么搶不到火車(chē)票?如果你只是老老實(shí)實(shí)地去搶票,真的很難。通過(guò)多賬號(hào)的方式,火車(chē)票的黃牛將很多車(chē)票的名額占據(jù),部分強(qiáng)大的黃牛,在處理驗(yàn)證碼方面,更是 " 技高一籌 "。 高級(jí)的黃牛刷票時(shí),在識(shí)別驗(yàn)證碼的時(shí)候使用真實(shí)的人,中間搭建一個(gè)展示驗(yàn)證碼圖片的中轉(zhuǎn)軟件服務(wù),真人瀏覽圖片并填寫(xiě)下真實(shí)驗(yàn)證碼,返回給中轉(zhuǎn)軟件。對(duì)于這種方式,驗(yàn)證碼的保護(hù)限制作用被廢除了,目前也沒(méi)有很好的解決方案。 因?yàn)榛疖?chē)票是根據(jù)身份證實(shí)名制的,這里還有一個(gè)火車(chē)票的轉(zhuǎn)讓操作方式。大致的操作方式,是先用買(mǎi)家的身份證開(kāi)啟一個(gè)搶票工具,持續(xù)發(fā)送請(qǐng)求,黃牛賬號(hào)選擇退票,然后黃牛買(mǎi)家成功通過(guò)自己的身份證購(gòu)票成功。當(dāng)一列車(chē)廂沒(méi)有票了的時(shí)候,是沒(méi)有很多人盯著看的,況且黃牛們的搶票工具也很強(qiáng)大,即使讓我們看見(jiàn)有退票,我們也不一定能搶得過(guò)他們哈。 最終,黃牛順利將火車(chē)票轉(zhuǎn)移到買(mǎi)家的身份證下。 解決方案: 并沒(méi)有很好的解決方案,唯一可以動(dòng)心思的也許是對(duì)賬號(hào)數(shù)據(jù)進(jìn)行 " 數(shù)據(jù)挖掘 ",這些黃牛賬號(hào)也是有一些共同特征的,例如經(jīng)常搶票和退票,節(jié)假日異常活躍等等。將它們分析出來(lái),再做進(jìn)一步處理和甄別。 三、高并發(fā)下的數(shù)據(jù)安全 我們知道在多線(xiàn)程寫(xiě)入同一個(gè)文件的時(shí)候,會(huì)存現(xiàn) " 線(xiàn)程安全 " 的問(wèn)題(多個(gè)線(xiàn)程同時(shí)運(yùn)行同一段代碼,如果每次運(yùn)行結(jié)果和單線(xiàn)程運(yùn)行的結(jié)果是一樣的,結(jié)果和預(yù)期相同,就是線(xiàn)程安全的)。如果是 MySQL 數(shù)據(jù)庫(kù),可以使用它自帶的鎖機(jī)制很好的解決問(wèn)題,但是,在大規(guī)模并發(fā)的場(chǎng)景中,是不推薦使用 MySQL 的。秒殺和搶購(gòu)的場(chǎng)景中,還有另外一個(gè)問(wèn)題,就是 " 超發(fā) ",如果在這方面控制不慎,會(huì)產(chǎn)生發(fā)送過(guò)多的情況。我們也曾經(jīng)聽(tīng)說(shuō)過(guò),某些電商搞搶購(gòu)活動(dòng),買(mǎi)家成功拍下后,商家卻不承認(rèn)訂單有效,拒絕發(fā)貨。這里的問(wèn)題,也許并不一定是商家奸詐,而是系統(tǒng)技術(shù)層面存在超發(fā)風(fēng)險(xiǎn)導(dǎo)致的。 1. 超發(fā)的原因 假設(shè)某個(gè)搶購(gòu)場(chǎng)景中,我們一共只有 100 個(gè)商品,在最后一刻,我們已經(jīng)消耗了 99 個(gè)商品,僅剩最后一個(gè)。這個(gè)時(shí)候,系統(tǒng)發(fā)來(lái)多個(gè)并發(fā)請(qǐng)求,這批請(qǐng)求讀取到的商品余量都是 99 個(gè),然后都通過(guò)了這一個(gè)余量判斷,最終導(dǎo)致超發(fā)。(同文章前面說(shuō)的場(chǎng)景) 在上面的這個(gè)圖中,就導(dǎo)致了并發(fā)用戶(hù) B 也 " 搶購(gòu)成功 ",多讓一個(gè)人獲得了商品。這種場(chǎng)景,在高并發(fā)的情況下非常容易出現(xiàn)。 2. 悲觀鎖思路 解決線(xiàn)程安全的思路很多,可以從 " 悲觀鎖 " 的方向開(kāi)始討論。 悲觀鎖,也就是在修改數(shù)據(jù)的時(shí)候,采用鎖定狀態(tài),排斥外部請(qǐng)求的修改。遇到加鎖的狀態(tài),就必須等待。 雖然上述的方案的確解決了線(xiàn)程安全的問(wèn)題,但是,別忘記,我們的場(chǎng)景是 " 高并發(fā) "。也就是說(shuō),會(huì)很多這樣的修改請(qǐng)求,每個(gè)請(qǐng)求都需要等待 " 鎖 ",某些線(xiàn)程可能永遠(yuǎn)都沒(méi)有機(jī)會(huì)搶到這個(gè) " 鎖 ",這種請(qǐng)求就會(huì)死在那里。同時(shí),這種請(qǐng)求會(huì)很多,瞬間增大系統(tǒng)的平均響應(yīng)時(shí)間,結(jié)果是可用連接數(shù)被耗盡,系統(tǒng)陷入異常。 3. FIFO 隊(duì)列思路 那好,那么我們稍微修改一下上面的場(chǎng)景,我們直接將請(qǐng)求放入隊(duì)列中的,采用 FIFO(First Input First Output,先進(jìn)先出),這樣的話(huà),我們就不會(huì)導(dǎo)致某些請(qǐng)求永遠(yuǎn)獲取不到鎖??吹竭@里,是不是有點(diǎn)強(qiáng)行將多線(xiàn)程變成單線(xiàn)程的感覺(jué)哈。 然后,我們現(xiàn)在解決了鎖的問(wèn)題,全部請(qǐng)求采用 " 先進(jìn)先出 " 的隊(duì)列方式來(lái)處理。那么新的問(wèn)題來(lái)了,高并發(fā)的場(chǎng)景下,因?yàn)檎?qǐng)求很多,很可能一瞬間將隊(duì)列內(nèi)存 " 撐爆 ",然后系統(tǒng)又陷入到了異常狀態(tài)?;蛘咴O(shè)計(jì)一個(gè)極大的內(nèi)存隊(duì)列,也是一種方案,但是,系統(tǒng)處理完一個(gè)隊(duì)列內(nèi)請(qǐng)求的速度根本無(wú)法和瘋狂涌入隊(duì)列中的數(shù)目相比。也就是說(shuō),隊(duì)列內(nèi)的請(qǐng)求會(huì)越積累越多,最終 Web 系統(tǒng)平均響應(yīng)時(shí)候還是會(huì)大幅下降,系統(tǒng)還是陷入異常。 4. 樂(lè)觀鎖思路 這個(gè)時(shí)候,我們就可以討論一下 " 樂(lè)觀鎖 " 的思路了。樂(lè)觀鎖,是相對(duì)于 " 悲觀鎖 " 采用更為寬松的加鎖機(jī)制,大都是采用帶版本號(hào)(Version)更新。實(shí)現(xiàn)就是,這個(gè)數(shù)據(jù)所有請(qǐng)求都有資格去修改,但會(huì)獲得一個(gè)該數(shù)據(jù)的版本號(hào),只有版本號(hào)符合的才能更新成功,其他的返回?fù)屬?gòu)失敗。這樣的話(huà),我們就不需要考慮隊(duì)列的問(wèn)題,不過(guò),它會(huì)增大 CPU 的計(jì)算開(kāi)銷(xiāo)。但是,綜合來(lái)說(shuō),這是一個(gè)比較好的解決方案。 有很多軟件和服務(wù)都 " 樂(lè)觀鎖 " 功能的支持,例如 Redis 中的 watch 就是其中之一。通過(guò)這個(gè)實(shí)現(xiàn),我們保證了數(shù)據(jù)的安全。 四、小結(jié) 互聯(lián)網(wǎng)正在高速發(fā)展,使用互聯(lián)網(wǎng)服務(wù)的用戶(hù)越多,高并發(fā)的場(chǎng)景也變得越來(lái)越多。電商秒殺和搶購(gòu),是兩個(gè)比較典型的互聯(lián)網(wǎng)高并發(fā)場(chǎng)景。雖然我們解決問(wèn)題的具體技術(shù)方案可能千差萬(wàn)別,但是遇到的挑戰(zhàn)卻是相似的,因此解決問(wèn)題的思路也異曲同工。 更多《問(wèn)底》內(nèi)容 《問(wèn)底》是 CSDN 云計(jì)算頻道新建欄目,以實(shí)踐為本,分享個(gè)人對(duì)于新時(shí)代軟件架構(gòu)與研發(fā)的深刻見(jiàn)解。在含有 "【問(wèn)底】" 字樣標(biāo)題的文章中,你會(huì)看到某個(gè)國(guó)外 IT 巨頭的架構(gòu)分享,會(huì)看到國(guó)內(nèi)資深工程師對(duì)某個(gè)技術(shù)的實(shí)踐總結(jié),更會(huì)看到一系列關(guān)于某個(gè)新技術(shù)的探索。《問(wèn)底》邀請(qǐng)對(duì)技術(shù)具有獨(dú)特 / 深刻見(jiàn)解的你一起打造一片只屬于技術(shù)的天空,詳情可郵件至[email protected]。 CSDN 誠(chéng)邀您參加中國(guó)大數(shù)據(jù)有獎(jiǎng)大調(diào)查活動(dòng),只需回答 23 個(gè)問(wèn)題就有機(jī)會(huì)獲得最高價(jià)值 2700 元的大獎(jiǎng)(共 10 個(gè)), 速度參與進(jìn)來(lái)吧! 全國(guó)大數(shù)據(jù)創(chuàng)新項(xiàng)目評(píng)選活動(dòng)目前也在如火如荼進(jìn)行中,詳情點(diǎn)擊這里。 2014 中國(guó)大數(shù)據(jù)技術(shù)大會(huì)(Big Data Technology Conference 2014,BDTC 2014)將于 2014 年 12 月 12 日 -14 日在北京新云南皇冠假日酒店召開(kāi)。傳承自 2008 年,歷經(jīng)七屆沉淀," 中國(guó)大數(shù)據(jù)技術(shù)大會(huì) " 是目前國(guó)內(nèi)最具影響、規(guī)模最大的大數(shù)據(jù)領(lǐng)域技術(shù)盛會(huì)。本屆會(huì)議,你不僅可以了解到 Apache Hadoop 提交者 Uma Maheswara Rao G(兼項(xiàng)目管理委員會(huì)成員)、Yi Liu,以及 Apache Hadoop 和 Tez 項(xiàng)目管理委員會(huì)成員 Bikas Saha 等分享的通用大數(shù)據(jù)開(kāi)源項(xiàng)目的最新成果和發(fā)展趨勢(shì),還將斬獲來(lái)自騰訊、阿里、Cloudera、LinkedIn、網(wǎng)易等機(jī)構(gòu)的數(shù)十場(chǎng)干貨分享。當(dāng)下門(mén)票團(tuán)購(gòu)還有些許優(yōu)惠, 預(yù)購(gòu)從速。 原文地址:http://iphone.myzaker.com/l.php?l=547d1be81bc8e0ae578b4569 該文章在 2014/12/2 20:58:52 編輯過(guò) |
關(guān)鍵字查詢(xún)
相關(guān)文章
正在查詢(xún)... |