Nội dung được dịch bởi AI, chỉ mang tính chất tham khảo
Hệ Thống Đa Tác Nhân cho Suy Diễn Hợp Tác Dựa trên Mạng Q-Suy Diễn Chính Sách Sâu
Tóm tắt
Nghiên cứu này giải quyết vấn đề tăng cường hiệu suất và khả năng mở rộng trong các hệ thống mạng nơ-ron sâu (DNN) bằng cách áp dụng suy diễn hợp tác, một phương pháp ngày càng phổ biến nhờ khả năng tối ưu hóa tài nguyên tính toán. Nó bao gồm việc phân chia một mô hình DNN đã được đào tạo trước thành hai phần và thực hiện chúng riêng biệt trên thiết bị người dùng (UE) và máy chủ biên. Phương pháp này có lợi vì nó dẫn đến suy diễn nhanh hơn và tiết kiệm năng lượng hơn, khi tính toán có thể được chuyển tải đến các máy chủ biên thay vì chỉ phụ thuộc vào các UE. Tuy nhiên, một thách thức lớn của suy diễn hợp tác là sự liên kết động của các lớp DNN, điều này làm cho việc tách rời và vận hành các lớp một cách độc lập trở nên khó khăn. Để giải quyết thách thức này, chúng tôi đã đề xuất một phương pháp mới để tối ưu hóa suy diễn hợp tác trong một kịch bản đa tác nhân, nơi một máy chủ biên duy nhất điều phối việc giả định của nhiều UE. Phương pháp mà chúng tôi đề xuất khuyến nghị sử dụng kỹ thuật dựa trên autoencoder để giảm kích thước của các đặc trưng trung gian và xây dựng các nhiệm vụ sử dụng chi phí tính toán của mạng suy diễn chính sách sâu Q-inference (DPIQN). Để tối ưu hóa suy diễn hợp tác, sử dụng kỹ thuật Mạng Q-Suy Diễn Chính Sách Tái Hồi Sâu (DRPIQN), cho phép một không gian hành động lai. Kết quả của các bài kiểm tra cho thấy phương pháp này có thể giảm đáng kể độ trễ suy diễn lên tới 56% và mức tiêu thụ năng lượng lên tới 72% trên nhiều mạng khác nhau. Tổng thể, phương pháp đề xuất này cung cấp một phương pháp hiệu quả và hiệu suất cho việc thực hiện suy diễn hợp tác trong các kịch bản đa tác nhân, có thể có những tác động quan trọng đối với việc phát triển các hệ thống DNN.
Từ khóa
#hệ thống đa tác nhân #suy diễn hợp tác #mạng nơ-ron sâu #tối ưu hóa #tính toán #hiệu suất #năng lượngTài liệu tham khảo
Hao, Z., Xu, G., Luo, Y., Hu, H., An, J. Mao, S.: Multi-agent collaborative inference via dnn decoupling: Intermediate feature compression and edge learning. IEEE Trans. Mob. Comput. (2022)
He, K., Zhang, X., Ren, S. Sun, J.: Deep residual learning for image recognition. In: Proceedings of the IEEE conference on computer vision and pattern recognition 770–778 (2016)
Zou, W., Sun, Y., Zhou, Y., Lu, Q., Nie, Y., Sun, T., Peng, L.: Limited Sensing and Deep Data Mining: A New Exploration of Developing City-Wide Parking Guidance Systems. IEEE Intell. Transp. Syst. Mag. 14(1), 198–215 (2022)
Li, T., Xia, T., Wang, H., Tu, Z., Tarkoma, S., Han, Z., Hui, P.: Smartphone App Usage Analysis: Datasets, Methods, and Applications. IEEE Communications Surveys & Tutorials 24(2), 937–966 (2022)
Shan, N., Ye, Z., Cui, X.: Collaborative intelligence: Accelerating deep neural network inference via device-edge synergy. Security and Communication Networks 2020, 1–10 (2020)
Shlezinger, N., Farhan, E., Morgenstern, H. Eldar, Y.C.: June. Collaborative inference via ensembles on the edge. In ICASSP 2021–2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP) 8478–8482 IEEE (2021)
Li, H., Huang, Q., Huang, J., Susilo, W.: Public-Key Authenticated Encryption With Keyword Search Supporting Constant Trapdoor Generation and Fast Search. IEEE Trans. Inf. Forensics Secur. 18, 396–410 (2023)
Sun, G., Li, Y., Liao, D., Chang, V.: Service Function Chain Orchestration Across Multiple Domains: A Full Mesh Aggregation Approach. IEEE Trans. Netw. Serv. Manage. 15(3), 1175–1191 (2018)
Rodriguez-Conde, I., Campos, C., Fdez-Riverola, F.: Horizontally Distributed Inference of Deep Neural Networks for AI-Enabled IoT. Sensors 23(4), 1911 (2023)
Dai, M., Sun, G., Yu, H., Niyato, D.: Maximize the Long-Term Average Revenue of Network Slice Provider via Admission Control Among Heterogeneous Slices. IEEE/ACM Trans. Netw. (2023)
Li, T., Li, Y., Hoque, M.A., Xia, T., Tarkoma, S., Hui, P.: To What Extent We Repeat Ourselves? Discovering Daily Activity Patterns Across Mobile App Usage. IEEE Trans. Mob. Comput. 21(4), 1492–1507 (2022)
Liu, X., Zhou, G., Kong, M., Yin, Z., Li, X., Yin, L., Zheng, W.: Developing Multi-Labelled Corpus of Twitter Short Texts: A Semi-Automatic Method. Systems 11(8), 390 (2023)
Li, X., Sun, Y.: Stock intelligent investment strategy based on support vector machine parameter optimization algorithm. Neural Comput. Appl. 32(6), 1765–1775 (2020)
Li, X., Sun, Y.: Application of RBF neural network optimal segmentation algorithm in credit rating. Neural Comput. Appl. 33(14), 8227–8235 (2021)
Hong, Z.W., Su, S.Y., Shann, T.Y., Chang, Y.H., Lee, C.Y.: A deep policy inference q-network for multi-agent systems. arXiv preprint (2017) arXiv:1712.07893
Liu, X., Wang, S., Lu, S., Yin, Z., Li, X., Yin, L., Zheng, W.: Adapting Feature Selection Algorithms for the Classification of Chinese Texts. Systems 11(9), 483 (2023)
Dai, W., Zhou, X., Li, D., Zhu, S., Wang, X.: Hybrid Parallel Stochastic Configuration Networks for Industrial Data Analytics. IEEE Trans. Industr. Inf. 18(4), 2331–2341 (2022)
Chen, Z., Wang, X.: Decentralized computation offloading for multi-user mobile edge computing: A deep reinforcement learning approach. EURASIP J. Wirel. Commun. Netw. 2020(1), 1–21 (2020)
Wang, Q., Dai, W., Zhang, C., Zhu, J., Ma, X.: A Compact Constraint Incremental Method for Random Weight Networks and Its Application. IEEE Trans. Neural. Netw. Learn Syst. (2023)
He, W., Guo, S., Guo, S., Qiu, X., Qi, F.: Joint DNN partition deployment and resource allocation for delay-sensitive deep learning inference in IoT. IEEE Internet Things J. 7(10), 9241–9254 (2020)
Li, L., Yao, L.: Fault Tolerant Control of Fuzzy Stochastic Distribution Systems With Packet Dropout and Time Delay. IEEE Trans. Autom. Sci. Eng. (2023)
Guo, Y., Zhang, C., Wang, C.: Jia, X, Towards Public Verifiable and Forward-Privacy Encrypted Search by Using Blockchain. IEEE Trans. Dependable Secure Comput. 20(3), 2111–2126 (2023)
Levchuk, G., Pattipati, K., Serfaty, D., Fouse, A., McCormack, R.: Active inference in multiagent systems: context-driven collaboration and decentralized purpose-driven team adaptation. In Artificial Intelligence for the Internet of Everything, pp. 67–85. Academic Press (2019)
Li, C., Dong, M., Xin, X., Li, J., Chen, X., Ota, K.: Efficient Privacy-preserving in IoMT with Blockchain and Lightweight Secret Sharing. IEEE Internet of Things Journal (2023)
Cheng, B., Zhu, D., Zhao, S.: Chen, J, Situation-Aware IoT Service Coordination Using the Event-Driven SOA Paradigm. IEEE Trans. Netw. Serv. Manage. 13(2), 349–361 (2016)
Dai, X., Xiao, Z., Jiang, H., Alazab, M., Lui, J.C.S., Dustdar, S.: Liu, J, Task Co-Offloading for D2D-Assisted Mobile Edge Computing in Industrial Internet of Things. IEEE Trans. Industr. Inf. 19(1), 480–490 (2023)
Chen, Y., Zhang, N., Zhang, Y., Chen, X., Wu, W., Shen, X.: Energy efficient dynamic offloading in mobile edge computing for internet of things. IEEE Transactions on Cloud Computing 9(3), 1050–1060 (2019)
Jiang, H., Dai, X., Xiao, Z., Iyengar, A. K.: Joint Task Offloading and Resource Allocation for Energy-Constrained Mobile Edge Computing. IEEE Trans. Mob. Comput. (2022)
Dai, X., Xiao, Z., Jiang, H., Lui, J. C. S.: UAV-Assisted Task Offloading in Vehicular Edge Computing Networks. IEEE Trans. Mob. Comput. (2023)
Wang, Q., Hu, J., Wu, Y., Zhao, Y.: Output synchronization of wide-area heterogeneous multi-agent systems over intermittent clustered networks. Inf. Sci. 619, 263–275 (2023)
Peivandizadeh, A., Molavi, B.: Compatible Authentication and Key Agreement Protocol for Low Power and Lossy Network in Iot Environment. Available at SSRN 4454407 (2023)
Aghakhani, S., Larijani, A., Sadeghi, F., Martín, D., Shahrakht, A.A.: A Novel Hybrid Artificial Bee Colony-Based Deep Convolutional Neural Network to Improve the Detection Performance of Backscatter Communication Systems. Electronics 12(10), 2263 (2023)
Wang, Y., Wang, X., Ariffin, M.M., Abolfathi, M., Alqhatani, A., Almutairi, L.: Attack detection analysis in software-defined networks using various machine learning method. Comput. Electr. Eng. 108, 108655 (2023)
Darabi, N., Hashem, M.B., Bandyopadhyay, S., Trivedi, A.R.: April. Exploiting Programmable Dipole Interaction in Straintronic Nanomagnet Chains for Ising Problems. In 2023 24th International Symposium on Quality Electronic Design (ISQED) 1–1 IEEE (2023)
Tayebati, S., Cho, K.T.: A hybrid machine learning framework for clad characteristics prediction in metal additive manufacturing. (2023). arXiv preprint arXiv:2307.01872
Mokari, H., Firouzmand, E., Sharifi, I., Doustmohammadi, A.: May. Deception attack detection and resilient control in platoon of smart vehicles. In 2022 30th International Conference on Electrical Engineering (ICEE) 29–35 IEEE (2022)
Ghadermazi, P., Chan, S.H.J.: Microbial Interactions from a New Perspective: Reinforcement Learning Reveals New Insights into Microbiome Evolution. bioRxiv 2023–05 (2023)
Mou, J., Gao, K., Duan, P., Li, J., Garg, A., Sharma, R, A.: Machine Learning Approach for Energy-Efficient Intelligent Transportation Scheduling Problem in a Real-World Dynamic Circumstances. IEEE Trans. Intell. Transp. Syst. (2022)
Zhang, L., Sun, C., Cai, G., Koh, L. H.: Charging and discharging optimization strategy for electric vehicles considering elasticity demand response. eTransportation, 18, 100262 (2023)
Liu, Z., Feng, J., Uden, L.: Technology opportunity analysis using hierarchical semantic networks and dual link prediction. Technovation 128, 102872 (2023)
Liu, J., Fan, C., Peng, Y., Du, J., Wang, Z., Chu, C.: Emergent Leader-follower Relationship in Networked Multiagent Systems. SCIENCE CHINA Information Sciences (2023)
Lu, J., Osorio, C.: A Probabilistic Traffic-Theoretic Network Loading Model Suitable for Large-Scale Network Analysis. Transportation Science 52(6), 1509–1530 (2018)
Gao, J., Wu, D., Yin, F., Kong, Q., Xu, L., Cui, S.: MetaLoc: Learning to Learn Wireless Localization. IEEE J. Sel. Areas Commun. (2023)
Wu, Q., Fang, J., Zeng, J., Wen, J.: Luo, F, Monte Carlo Simulation-Based Robust Workflow Scheduling for Spot Instances in Cloud Environments. Tsinghua Science and Technology 29(1), 112–126 (2024)
Luo, R., Peng, Z., Hu, J., Ghosh, B.: K, Adaptive optimal control of affine nonlinear systems via identifier–critic neural network approximation with relaxed PE conditions. Neural Netw. 167, 588–600 (2023)
Chen, J., Xu, M., Xu, W., Li, D., Peng, W., Xu, H.: A Flow Feedback Traffic Prediction Based on Visual Quantified Features. IEEE Trans. Intell. Transp. Syst. 24(9), 10067–10075 (2023)
Chen, J., Wang, Q., Peng, W., Xu, H., Li, X., Xu, W.: Disparity-Based Multiscale Fusion Network for Transportation Detection. IEEE Trans. Intell. Transp. Syst. 23(10), 18855–18863 (2022)
Li, K., Ji, L., Yang, S., Li, H., Liao, X.: Couple-Group Consensus of Cooperative-Competitive Heterogeneous Multiagent Systems: A Fully Distributed Event-Triggered and Pinning Control Method. IEEE Transactions on Cybernetics 52(6), 4907–4915 (2022)