媒體公司加速並簡化向AWS CloudFront的遷移
概述
波蘭一家大型廣播公司(中歐最大的多媒體集團之一)正在將其數字內容交付和服務遷移到雲端，特別是AWS CloudFront。該公司想要確保在麵臨高峰負載流量時，向世界各地的訂戶提供最優質的內容——無論他們使用什麼平台或設備。
該公司的IT環境非常複雜。盡管他們擁有成熟的開發和QA流程，但QA團隊卻在尋找更現代的流程性能測試工具這將使他們能夠在預期的黃金時段流量峰值之前複製真實的、地理分布的、非常高的生產流量。它們需要確保:
- 由於遷移到AWS CloudFront，性能沒有下降。
- 對應用程序進行了優化，這樣流量峰值就不會導致雲生產成本的增加(例如，增加的容量對有問題的應用程序起到了抑製作用)。
此外,動態負載測試環境需要能夠支持多個雲供應商(AWS、Azure、Oktawave)分布在多個區域。
一家大型廣播公司能夠利用多雲供應商、多區域動態測試環境，將其高度複雜的遷移到AWS CloudFront，從而加速和簡化性能測試。
解決方案
該公司與Soflab技術該公司是波蘭領先的測試和QA服務提供商，推薦Tricentis NeoLoad解決客戶最重要的需求。
對於像這樣的大型遷移項目，有許多複雜的風險需要減輕:用戶體驗、成本、性能等。這就是為什麼重要的是比較性能基線雲遷移之前和雲遷移之後的情況。
加速並簡化向AWS CloudFront的遷移
正如Soflab Technology的技術測試主管Michal Figiel所指出的，“即使將部分解決方案遷移到雲端，也會帶來對現有係統相當大的重構。僅僅將應用服務器或數據庫遷移到雲上是不夠的。在大多數情況下，遷移到雲需要對部分或全部應用程序進行調整，以有效地獲得雲解決方案的所有好處．”
Figiel說，“實際上直到性能測試開始的那一天，”開發更改一直被引入到遷移到AWS CloudFront的平台上。“多虧了NeoLoad，我們可以非常有效地應對這些變化。在NeoLoad中完成這些任務已經比其他競爭工具容易得多，工作量也輕得多。”他補充道，不僅NeoLoad的拖放和點擊測試設計方法比“手工”編寫腳本要快得多，而且自動的腳本更新是一個真正的力量放大器。NeoLoad幾乎消除了手動腳本維護．NeoLoad隻更新了測試中更改的部分，並保持原始設計中的其他部分不變——所有繁重的工作都在幕後自動完成。Figiel說:“我們可以準備一個專門的框架來顯著加速隨後修改測試腳本的工作。”
挑戰
- 在遷移到AWS CloudFront時避免性能倒退
- 高速、高速、高度複雜的性能測試
- 需要使用多個雲解決方案(AWS, Azure, Oktawave)來生成負載
- 需要處理非常高的虛擬用戶量(200,000+)
“所有的測試迭代和配置修複都是在每晚5個小時的測試中完成的。”
- Soflab技術測試部門主管Michal Figiel
構建大規模、動態、多雲的測試環境
正如Soflab的Michal Figiel所言，“為雲性能測試定義和構建一個成本優化的負載環境並不是一項簡單的任務。不能假定單個負載生成器將支持500或1000個虛擬用戶。這取決於許多因素，例如測試腳本的複雜性、腳本下載/發送的數據量、流量特征和策略、預測錯誤數量，等等。”
該團隊對負載測試環境采用了混合方法。他們選擇NeoLoad的雲平台作為他們的主要解決方案易於管理、高可靠性、動態基礎設施功能和可預測的計費模式，菲吉爾說。但他們也需要一個基於其他三個雲提供商的備份環境——AWS、Azure和Oktawave。Figiel補充道:“我們還需要將可用的雲負載生成器劃分到不同的區域，這樣來自客戶環境的大量響應不會使單個負載生成器過載。”
它在全球有70多個站點，每個站點有數百台服務器，沒有單點故障，NeoLoad可以根據媒體公司的需要進行測試．NeoLoad是廠商不可知的——所有主要的雲提供商都在同一個平台上得到支持——這使得該公司能夠在具有實時反饋循環的多雲環境中運行高容量、高速度的性能測試。測試基礎結構是動態優化的，因此測試成本是可預測的，處於控製之下，並且與開發成本無關。
“我們不斷向遷移到AWS CloudFront的平台引入開發更改。多虧了NeoLoad，我們可以非常有效地應對這些變化。”
- Soflab技術測試部門主管Michal Figiel
以速度和規模運行複雜的性能測試
Michal Figiel的團隊為公司運行了幾十個大規模的性能測試周期，不僅是為了遷移到CloudFront，而且在任何可能導致用戶顯著增加的媒體事件之前。他們模擬了web、手機和SmartTV平台的流量。Figiel表示，現在“有了正確的雲配置和可用性，基於雲的服務幾乎不可能被消滅。”
他繼續解釋說，在遷移到雲的過程中，有許多陷阱隻有通過模擬現實生活中的流量才能識別出來。大規模測試周期發現了一些常見的問題，例如VM發放閾值和VM啟動和運行太晚，無法滿足急劇的流量增長(例如，在黃金時段或突發新聞廣播期間)。
“雖然理論上雲解決方案允許提供‘無限的’帶寬或計算能力，但在實踐中，為了正確地大規模執行性能測試，需要大量請求、排除某些保護機製或獲得適當的權限，”Figiel繼續說。“這就是為什麼我們使用NeoLoad的雲平台進行測試——所有的報告，保護排除，或權限都被覆蓋。從執行測試的角度來看，它可以歸結為僅僅預訂和運行測試會話。NeoLoad雲控製器和負載生成器經過預先配置，可以比任何雲解決方案中租用的一台機器處理更多的負載。這使得構建和維護大型負載環境變得異常容易。”
作為測試周期的一部分，執行了超過20個測試迭代。在每次迭代之後，團隊能夠精確定位任何問題(錯誤、係統性能緩慢或不可用性)，並實現配置或平台代碼更改．在最後的迭代中，流量顯著超過了假定的200,000並發用戶，傳輸速率超過90Gbps，吞吐量超過200,000 req/s，同時保持客戶端門戶的完全可用性，請求響應時間低於30 ms。
“最後——除了專業的技術和組織知識，NeoLoad作為市場上最好的工具，成功來自於人與人之間的緊密合作:客戶的IT團隊，Soflab Technology，以及一個優秀的支持Tricentis團隊，”Figiel總結道。“同樣值得指出的是，多虧了NeoLoad、精確的準備和緊密的協調，所有的測試迭代和配置修複都在每晚5個小時的測試中完成。”