Decentralized resource allocation for Beyond 5G era

Asia Pacific Advanced Netowrk 57th meeting (APAN57, 29th January to 2nd February 2024, Bangkok, Thailand)

Transcript

1. Decentralized resource allocation for Beyond 5G era Introduction to full decentralized Fairly-algorithm
2. BerneLab Cybernetics Laboratory B5G時代の資源配分問題 • 従来手法 ◦ 資源の需要と供給を計測し「適切な」割り当てを行う。 ◦ 全体の構成は固定的で、少なくとも供給の動的な変更 は行われない。 • B5G時代の問題 ◦ ネットワーク資源と計算機資源の民主化により、アドホックに需給の増減が発 生し得るだろう。トポロジも変化し得る。 ◦ トポロジーの変化と規模の増大に伴い、中央集権的な情報収集と適切な割り 当て手法は変化に追従できなくなることが想定される。 Challenges of resource distribution in B5G era
3. BerneLab Cybernetics Laboratory Resource allocation issues • Conventional method ◦ Measure demand and supply of resources then allocate 'appropriately' ◦ The overall composition is fixed, no dynamic change in supply at least. • Problems in the B5G era ◦ Due to the democratisation of network and computing resources, supply and demand could change on an ad-hoc basis. Topologies can also do. ◦ As topologies change, centralised information gathering and appropriate allocation methods will not be able to keep up with the changes. in the B5G era
4. BerneLab Cybernetics Laboratory クラスタ構成 • device (需要)とrelay、engine (供給) による3構成 ◦ 5Gネットワーク構成 ▪ device(s) - relay ◦ MEC構成 ▪ device(s) - relay - engine(s) ◦ クラウド構成 ▪ relay - engine(s) • relayは他relayと相互接続している。 ◦ deviceで発生したタスクは、任意のengineで処理可能。 Cluster with Device-Relay-Engine
5. BerneLab Cybernetics Laboratory Cluster composition • Three components based on device (demand), relay and engine (supply). ◦ 5G network configuration Device(s) - relay ◦ MEC configuration device(s) - relay - engine(s) ◦ Cloud configuration relay - engine(s) • Relay is interconnected with other relays. ◦ Tasks generated by device(s) can be processed by any engine(s). Cluster with Device-Relay-Engine
6. BerneLab Cybernetics Laboratory 免責事項 • まずは中央集権的なアプローチを提案する。 ◦ いきなし非中央集権的なアプローチでやるのはハードルが高かったという本音 と、今後できるであろう非中央集権的なアプローチと中央集権的なアプロー チと比較するため という名目のもと。 • Fairly-Algorithm (Fa-Al) サーバ ◦ 計算機資源を使用する需要に対して「適切な」割り当て先 (供給) を決定する 「資源配分 (resource allocation) サーバ」。a.k.a Fa-Alサーバ。 ◦ Relayが定期的にクラスタ内のengineの計算機空きリソース情報を収集し、 Fa-Alサーバに提供する。 Disclaimer
7. BerneLab Cybernetics Laboratory Disclaimer • First of all, we propose a centralised approach ◦ In fact, it was too hard to do it with a decentralised approach all of a sudden, and to compare the decentralised approach with the centralised approach that will be available in the future. • Fairly-Algorithm (Fa-Al) servers ◦ A 'resource allocation server' that determines the 'appropriate' allocation (supply) for a given demand for the use of computing resources. a.k.a Fa-Al server. ◦ Relay periodically collects information on the free computing resources of the engines in the cluster and provides it to the Fa-Al server.
8. BerneLab Cybernetics Laboratory Fa-Alサービス • 優先する評価値による 4つのアルゴリズムからなる。 ◦ 平均待ちタスク数優先 ◦ 通信遅延優先 ◦ タスク応答時間優先 ◦ 計算資源利用コスト優先 • ひとまず、それぞれのアルゴリズムの特性を評価する。 ◦ タスク発生間隔, タスクの重たさ, タスク総数, engineの計算処理能力, engine のキュー長, relay間遅延を収集し、意志決定する。 Detail explanation of Fa-Al
9. BerneLab Cybernetics Laboratory Fa-Al Services • It consists of four algorithms depending on the evaluation value to be prioritised. ◦ Average number of waiting tasks ◦ Communication delay ◦ Task response time ◦ Computational (resource usage) cost • Evaluation of the characteristics of each algorithm ◦ Collect the interval between task occurrences, task weight, total number of tasks, computational processing power of the engine, queue length of the engine and inter-relay delay, and make a decision. Detail explanation of Fa-Al
10. BerneLab Cybernetics Laboratory 平均待ちタスク数優先 • クラスタごとの engineキュー長の平均 ◦ ▪ : クラスタCのengine数 ▪ 　　: エンジン　 のキュー長 • タスク割り当て先選定基準 ◦ 　　　　となるクラスタ C を選定する。 prioritize average number of waiting tasks
11. BerneLab Cybernetics Laboratory Average number of waiting tasks • Average of engine queue length per cluster ◦ ▪ 　　: Number of engines in cluster C ▪ 　　: queue length of engine • Task allocation destination selection criteria ◦ Select cluster C to be the prioritize average number of waiting tasks
12. BerneLab Cybernetics Laboratory 通信遅延優先 • クラスタiのrelayを　 とする。 • 識別子AとBの間の遅延時間を　　　　とし、タスクを発生させ たクラスタの relayが　 であるとき、 ◦ 　　　　　　　 となるクラスタ j に割り当てる。 prioritize delay
13. BerneLab Cybernetics Laboratory Communication delay • 　 : the identifier of the relay of cluster i. ◦ Define　　　　　 as the delay between cluster A and B. ◦ When a task is generated in the cluster i, assign the task to the cluster j that has minimum delay from the cluster i: prioritize delay
14. BerneLab Cybernetics Laboratory タスク応答時間優先 • タスクを発生させた (デバイスが含まれる )クラスタi • クラスタjにそのタスクを実行させた時に期待される実行時間 RTjが算出できるとき、 ◦ min (Δ(Ri, Rj)×2 + RTj) なるクラスタ j に割り当てる。 prioritize task response time
15. BerneLab Cybernetics Laboratory Task response time • When a task is generated in Cluster i: • When the expected execution time RTj can be calculated when the task is executed in cluster j, ◦ Assign to cluster j such that min (Δ(Ri, Rj) × 2 + RTj). prioritize tasks response time
16. BerneLab Cybernetics Laboratory 計算資源利用コスト優先 • MEC、およびクラウドのそれぞれの engine Eiの1 FLOPS 処理あたりの価格 Ciを設定する。 ◦ 処理能力に応じて高額になる関数で設定する。 ◦ これを用いて「コストが最小になるようなEjに…」となると最小Ciとなるengine i に集中する結果になるので、混雑ペナルティP (キュー長を変数とする指数関 数) を与え、処理能力F×PをCiとする。 ◦ min Ciなるengine iを含むクラスタに割り当てる。 prioritize computational resource usage cost
17. BerneLab Cybernetics Laboratory Computational cost • Set the price Ci per FLOPS processed for each engine Ei in the MEC and in the cloud. ◦ Set the price by a function that becomes more expensive according to processing capacity. ◦ Congestion penalty P (exponential function with queue length as a variable) is given and the processing capacity F x P is set to Ci. ◦ Assign to the cluster i that satisfies min(Ci). prioritize computational resource usage cost
18. BerneLab Cybernetics Laboratory シミュレーション環境 比較的強くて高い (クラウド) 比較的弱くて安い (MEC) タスクの 総数N 比較的弱くて安い (MEC)
19. BerneLab Cybernetics Laboratory Simulation environment Relatively powerful and expensive (cloud) Relatively poor and inexpensive (MEC) Total number of tasks: N Relatively poor and inexpensive (MEC)
20. BerneLab Cybernetics Laboratory 評価結果
21. BerneLab Cybernetics Laboratory Evaluation Results
22. BerneLab Cybernetics Laboratory Average number of waiting tasks Changes of response time and its standard deviation for increment of N Total number of tasks: N Response time (ms)
23. BerneLab Cybernetics Laboratory Task response time Changes of response time and its standard deviation for increment of N Total number of tasks: N Response time (ms)
24. BerneLab Cybernetics Laboratory 通信遅延優先
25. BerneLab Cybernetics Laboratory 議論と発展 • ここまでの議論 ◦ トポロジ (G(V, E)) は不変。重みをランダムに変化させている。 ◦ 1タスクが処理に要する時間 ▪ 500ms〜1.5sec (クラウド), 1.6〜15sec (MEC) • このシミュレータでもっと絞りたいところ ◦ トポロジを、パラメトリックに変化させる (後述) 。 ◦ タスク処理時間の分散を大きく (通信遅延がnegligibleにならない程度に) Discussion and development
26. BerneLab Cybernetics Laboratory Discussions • Topology (G(V, E)) is invariant. Weights are varied randomly. ◦ Time taken by one task to process: 500 ms to 1.5 sec (cloud), 1.6 to 15 sec (MEC) • More simulation in the future ◦ Vary the topology parametrically (will explain in next page). ◦ Increase the task processing time variance (so that communication delays are not negligible).
27. BerneLab Cybernetics Laboratory Barabasi-Albertモデル • クラスタがフルメッシュで接続されている ◦ タスクの平均実行時間が十分に長いうちは通信遅延はnegligible。 ◦ 翻して、平均実行時間が短くなるとトポロジの影響を受けやすくなる。 • Barabasi-Albert (BA) モデル ◦ 係数の変更によりランダムネットワーク→スケールフリーネットワークを連続的 に生成することができるモデル。 ◦ 修正BAモデルでは係数の変更により ツリー→スケールフリーを生成できる。
28. BerneLab Cybernetics Laboratory Barabasi-Albert model • The cluster is connected in full mesh in this evaluation ◦ If execution time of tasks is sufficiently long, communication delay can be NEGLIGIBLE. ◦ Meanwhile, as the average execution time decreases, the topology becomes more susceptible. • Barabasi-Albert (BA) model. ◦ A model in which a random network → scale-free network can be continuously generated by changing the coefficients. ◦ In the modified BA model, changing the coefficients ◦ Tree → Scale-free can be generated by changing the coefficients.