VHCSoft Techy · Telecom AI Architecture

AI as a Service trong mạng viễn thông

Ngày nay các nhà mạng không chỉ sử dụng AI để tối ưu hóa mạng lưới, mà còn đóng gói các mô hình, dữ liệu, MLOps, QoS và ngữ cảnh mạng thành những dịch vụ có thể được sử dụng thông qua các API.

AIaaS

5G-Advanced / 6G

MLOps-aaS

Network Exposure

QoS APIs

Edge AI

VHCSoft Techy AI as a Service
AI
as a
Service
ML MLOps
API Exposure
EDGE Inference
QoS Network Quality
DATA Network
Insights
Compute
Offload

01 · Context

Trong 5G, AI chủ yếu được dùng bên trong mạng. Trong tầm nhìn hướng tới 6G, một bước tiến quan trọng là biến các năng lực AI thành dịch vụ cho ứng dụng bên ngoài.

AI đã được ứng dụng vào việc dự đoán khả năng di chuyển của người dùng (user mobility prediction), tối ưu hóa năng lượng MIMO (MIMO energy optimization), phát hiện bất thường, phân tích tải và tự động hóa vận hành. Tuy nhiên, phần lớn các chức năng này vẫn nằm trong phạm vi nội bộ của các nhà mạng (internal domain of network operators).

AI-as-a-Service (AI dưới dạng dịch vụ) đặt ra một mục tiêu khác: đóng gói mô hình, công cụ, dữ liệu và khả năng điều khiển mạng thành một nền tảng AI dùng chung, để doanh nghiệp và ứng dụng truy cập qua API ở mức cao hơn.

Technical insight

AIaaS trong telecom không chỉ là thuê GPU hoặc gọi các model API. Khác biệt nằm ở việc kết hợp AI với mobility, location, sensing, QoS, compute offload và dữ liệu vận hành mạng.

02 · Concept

Trong góc nhìn nghiên cứu được Ericsson trình bày, AIaaS là tập hợp dịch vụ AI mà mạng có thể cung cấp cho ứng dụng qua API. Nó có thể bao gồm mô hình dựng sẵn, dữ liệu, thuật toán, công cụ MLOps, inference, quản lý vòng đời mô hình và các năng lực mạng hỗ trợ.

Ở mức kiến trúc, AIaaS tạo lớp trừu tượng giữa ứng dụng và các miền RAN, Core Network, management, edge, cloud, data platform và MLOps. Ứng dụng gửi yêu cầu ở mức mục tiêu thay vì điều khiển từng miền riêng lẻ.

AI Capability

Mô hình, inference, training, feature pipeline và công cụ phát triển AI.

Network Context

Mobility, sensing, tải mạng, vị trí, hiệu năng, năng lượng và QoS.

Programmable Exposure

API orchestration, xác thực, phân quyền và đóng gói dịch vụ.

03 · Phạm vi dịch vụ

Trong góc nhìn nghiên cứu được Ericsson trình bày, AIaaS là tập hợp dịch vụ AI mà mạng có thể cung cấp cho ứng dụng qua API. Nó có thể bao gồm mô hình dựng sẵn, dữ liệu, thuật toán, công cụ MLOps, inference, quản lý vòng đời mô hình và các năng lực mạng hỗ trợ.

Ở mức kiến trúc, AIaaS tạo lớp trừu tượng giữa ứng dụng và các miền RAN, Core Network, management, edge, cloud, data platform và MLOps. Ứng dụng gửi yêu cầu ở mức mục tiêu thay vì điều khiển từng miền riêng lẻ.

MLOps-aaS

  • Chuẩn bị dữ liệu và feature
  • Huấn luyện, kiểm thử và model registry
  • Triển khai inference endpoint
  • Monitoring, drift và retraining

Telco AIaaS

  • Bao gồm toàn bộ MLOps-aaS
  • Kết hợp dữ liệu và dịch vụ mạng
  • QoS, sensing và compute offload
  • API orchestration đa miền

Architecture note

MLOps-aaS giải quyết vòng đời mô hình. AIaaS giải quyết bài toán rộng hơn: làm thế nào để mô hình, dữ liệu, compute và mạng phối hợp thành một dịch vụ đầu cuối có thể cam kết chất lượng.

06 · Reference architecture

Business Applications

Cobot

Smart Factory

Connected Vehicle

XR

Enterprise Agent

AIaaS Exposure

API Gateway

Authentication

Authorization

Catalog

Metering

SLA

AI Orchestration

Intent Translation

API Composition

Policy

Workflow

Service Assurance

AI & MLOps Services

Training

Model Registry

Inference

Monitoring

Customer Models

Network Capabilities

RAN

Core

Mobility

QoS

Sensing

Analytics

Compute & Data

Device

Edge

Regional Cloud

Hyperscaler

Data Platform

Sơ đồ là mô hình phân tích độc lập của VHCSoft, không phải sơ đồ sản phẩm chính thức của Ericsson.

05 · API families

MLOps APIs

Training, deployment, monitoring, retraining và quản lý artefact mô hình.

Network Service APIs

Sensing, compute offload, edge execution và cấu hình tài nguyên mạng.

Network Data APIs

Mobility event, tải mạng, performance insight và dữ liệu năng lượng.

Customer Model Lifecycle

Training, versioning, deployment và inference cho mô hình riêng của khách hàng.

Quality APIs

Yêu cầu độ trễ, băng thông, độ tin cậy hoặc điều kiện inference.

Orchestration APIs

Phối hợp API từ RAN, Core, management, edge và cloud theo intent.

06 · Lợi thế của CSP

Hyperscaler đã có AI platform, MLOps và GPU ở quy mô lớn. Vì vậy, AIaaS của nhà mạng chỉ có ý nghĩa khi khai thác những lợi thế gắn với mạng: locality, mobility, QoS, sensing, assurance và trust.

Network Insight

Thông tin mobility, tải, chất lượng và bối cảnh mạng mà cloud bên ngoài khó quan sát trực tiếp.

Edge Proximity

Đặt inference gần thiết bị để giảm độ trễ, lưu lượng backhaul và phụ thuộc cloud trung tâm.

QoS Control

Kết hợp placement với điều khiển RAN/Core để bảo đảm trải nghiệm đầu cuối.

Điểm mấu chốt

AIaaS trong lĩnh vực viễn thông không nên chỉ đơn thuần sao chép AI trên nền tảng đám mây. Giá trị bền vững nằm ở việc kết hợp AI cấp độ đám mây với ngữ cảnh, khả năng kiểm soát, tính cục bộ và sự đảm bảo ở cấp độ mạng.

07 · Use case

Cobot cần nhận biết môi trường xung quanh, tương tác an toàn với con người, học hỏi từ các phản hồi và thực hiện bảo trì dự đoán. Một số quy trình xử lý AI có thể diễn ra ngay trên robot, trong khi các tác vụ phức tạp hơn có thể được chuyển sang xử lý tại biên (edge) hoặc trên đám mây (cloud).

Một ứng dụng có thể đòi hỏi việc tạo hoặc triển khai một mô hình tùy chỉnh kết hợp dữ liệu cảm biến với các sự kiện di động, khả năng cảm biến mạng hoặc thông tin vị trí. Nếu yêu cầu suy luận với độ trễ thấp, AIaaS có thể đồng thời triển khai các tài nguyên tính toán tại biên và đảm bảo chất lượng dịch vụ (QoS) phù hợp.

Cobot gửi yêu cầu
AIaaS phân tích intent
Chọn model & dữ liệu
Đặt workload tại edge
Thiết lập QoS
Giám sát inference

Safety note

AIaaS không thay thế xử lý safety-critical tại thiết bị hoặc PLC. Nó phù hợp hơn với perception, optimization, collaborative intelligence và các tác vụ có thể phân tầng.

08 · Triển khai thực tế

API Productization

Catalog, versioning, entitlement, charging, SLA và developer experience.

Federated MLOps

Pipeline và model hoạt động qua edge, cloud và nhiều miền quản trị.

Policy & Trust

Kiểm soát truy cập, chủ quyền dữ liệu, audit và bảo vệ model artefact.

Service Assurance

Theo dõi accuracy, latency, QoS, resource và trải nghiệm đầu cuối.

Cross-domain Orchestration

Phối hợp RAN, Core, edge, cloud, data và MLOps theo một intent.

Commercial Model

Tính phí theo API call, model usage, compute, data, QoS hoặc outcome.

09 · VHCSoft Perspective

Để AIaaS tạo giá trị, nhà mạng phải chuyển từ việc “có nhiều chức năng AI” sang khả năng đóng gói chúng thành sản phẩm API có thể khám phá, kết hợp, bảo đảm chất lượng và vận hành xuyên miền.

— Góc nhìn kiến trúc của VHCSoft Techy

Với OSS/NMS thế hệ mới, AIaaS có thể được áp dụng theo hai hướng: AI nội bộ sử dụng telemetry và network analytics; và exposure có kiểm soát một số insight hoặc năng lực AI cho hệ thống doanh nghiệp, ứng dụng công nghiệp hoặc AI agents.

Khi kết hợp với Agentic OSS, MCP, policy engine và closed-loop automation, AIaaS có thể trở thành lớp dịch vụ để agent yêu cầu dữ liệu, inference, compute và QoS theo mục tiêu vận hành. Quyền tự động hóa phải được giới hạn bằng guardrail, approval workflow, audit trail và rollback.

Trong ngắn hạn, hướng khả thi nhất là các API có giá trị rõ ràng: mobility prediction, anomaly insight, edge inference, QoS-on-demand, private AI workspace hoặc customer-specific model lifecycle.

10 · References

Bài viết là phân tích kỹ thuật độc lập của VHCSoft, tham khảo từ tài liệu công khai. Nội dung không phải bản dịch, không đại diện cho tuyên bố sản phẩm chính thức và không có quan hệ chứng thực từ Ericsson.

Scroll to Top