Từ notebook đến sản phẩm AI: Hành trình với AWS

I. Vì sao cần hạ tầng mạnh mẽ và MLOps để hiện thực hóa AI?

Trí tuệ nhân tạo (AI) đang trở thành một phần tất yếu trong cuộc sống hiện đại. Từ trợ lý ảo, chatbot, đến hệ thống nhận diện khuôn mặt, dự đoán hành vi khách hàng, hay thậm chí xe tự lái – AI đã và đang dần len lỏi vào mọi lĩnh vực, mọi ngành nghề. Chưa bao giờ AI dễ tiếp cận đến vậy, nhờ vào sự phát triển của thuật toán, mã nguồn mở và tài liệu sẵn có.

Tuy nhiên, xây dựng một mô hình AI trên notebook và đưa nó vào sử dụng thực tế là hai việc hoàn toàn khác nhau. Trong môi trường học thuật hay thử nghiệm, bạn có thể huấn luyện mô hình đơn giản bằng CPU hoặc GPU cá nhân. Nhưng để phát triển một hệ thống AI hiện đại – có khả năng huấn luyện trên hàng triệu mẫu dữ liệu, triển khai phục vụ hàng ngàn người dùng, giám sát, cập nhật và mở rộng liên tục – bạn cần nhiều hơn là một mô hình tốt. Bạn cần một nền tảng hạ tầng đủ mạnh, linh hoạt và dễ kiểm soát.

Đây chính là lúc mà điện toán đám mây (cloud computing) đóng vai trò tối quan trọng. Cloud giúp bạn tiếp cận tài nguyên tính toán mạnh mẽ, lưu trữ không giới hạn, tự động scale khi cần và triển khai toàn cầu chỉ với vài cú click chuột – điều mà một cá nhân hoặc nhóm nhỏ khó có thể tự xây dựng bằng hạ tầng vật lý.

Cloud không chỉ giải quyết vấn đề tài nguyên. Nó còn là cầu nối để biến các mô hình trong notebook thành dịch vụ AI thực tế – có API, có monitoring, có logging, có bảo mật và có khả năng update liên tục. Và để làm được điều đó một cách bài bản, bạn không thể thiếu MLOps – một nhánh mở rộng của DevOps dành riêng cho lĩnh vực học máy.

MLOps (Machine Learning Operations) là tập hợp các quy trình và công cụ giúp bạn tự động hóa toàn bộ vòng đời của mô hình AI: từ thu thập và xử lý dữ liệu, đến huấn luyện, đóng gói, triển khai, giám sát và tái huấn luyện. Nói cách khác, MLOps giúp bạn đưa AI từ ý tưởng thành sản phẩm vận hành được ngoài đời thực.

Figure 1: Toàn cảnh pipeline MLOps [1]

Thực tế cho thấy: huấn luyện mô hình chỉ chiếm khoảng 20% khối lượng công việc AI. 80% còn lại là những gì MLOps giúp bạn xử lý. Và nếu bạn cần một nền tảng để thực hành MLOps một cách thực tế, chuyên nghiệp và dễ mở rộng – thì Amazon Web Services (AWS) chính là lựa chọn hàng đầu. AWS cung cấp gần như đầy đủ tất cả các dịch vụ cần thiết cho một pipeline AI/MLOps hoàn chỉnh, từ lưu trữ (S3), tính toán (EC2, SageMaker), triển khai (ECS, Lambda), cho tới giám sát (CloudWatch), và tự động mở rộng (Auto Scaling).

Trong phần tiếp theo, chúng ta sẽ cùng khám phá chi tiết cách từng dịch vụ AWS có thể hỗ trợ bạn trong từng bước của vòng đời MLOps – từ dữ liệu đến inference, từ training đến deployment – để bạn có thể xây dựng hệ thống AI mạnh mẽ của riêng mình ngay cả khi chỉ mới bắt đầu.

II. Mapping AWS vào từng bước trong vòng đời MLOps

Giờ bạn đã hiểu rằng:

• MLOps là cách đưa AI vào môi trường thực tế một cách chuyên nghiệp,

• Và AWS là công cụ mạnh mẽ hỗ trợ toàn bộ quá trình đó.

Vậy, cụ thể thì từng bước trong MLOps sẽ tương ứng với những dịch vụ AWS nào?

Dưới đây là một bản đồ (mapping) chi tiết từ đầu đến cuối – giúp bạn dễ hình dung và ứng dụng vào dự án thực tế.

1. Lưu trữ và quản lý dữ liệu – Amazon S3

Trong bất kỳ dự án AI nào, dữ liệu luôn là nền tảng cốt lõi. Không có dữ liệu, sẽ không có mô hình. Và khi dữ liệu càng nhiều, càng phức tạp, việc quản lý, truy xuất và chia sẻ dữ liệu hiệu quả lại càng trở nên quan trọng. Đó là lý do vì sao Amazon S3 (Simple Storage Service) trở thành lựa chọn hàng đầu để lưu trữ mọi thứ liên quan đến vòng đời AI: từ tập dữ liệu ban đầu, file tiền xử lý, mô hình huấn luyện cho tới các bản ghi log, kết quả dự đoán và checkpoint.

Figure 2: Amazon S3 [1]
Amazon S3 cung cấp một dịch vụ lưu trữ dạng "object storage", có thể mở rộng gần như không giới hạn. Bạn có thể tạo các “bucket” để lưu file, chia thư mục logic, đặt quyền truy cập, thậm chí bật versioning để quản lý thay đổi theo thời gian. Các file (object) trong S3 có thể là ảnh, video, JSON, CSV, thậm chí cả model .pt, .pkl, .onnx – tất cả đều được truy cập qua đường link hoặc thông qua thư viện boto3 trong Python một cách dễ dàng. Ngoài ra, S3 hỗ trợ truy cập song song từ nhiều server, kết nối với EC2, SageMaker, Lambda, ECS, giúp bạn xây dựng pipeline AI liền mạch và hiệu quả.

2. Huấn luyện mô hình – Amazon EC2 hoặc SageMaker

Huấn luyện là bước quan trọng nhất trong bất kỳ pipeline học máy nào – nơi mô hình được “học” từ dữ liệu để đưa ra dự đoán chính xác. Tuy nhiên, quá trình này cũng tiêu tốn nhiều tài nguyên nhất, cả về thời gian và phần cứng. Bạn có thể mất hàng giờ, thậm chí hàng ngày chỉ để train một mô hình deep learning nếu thiếu GPU hoặc RAM đủ mạnh. Và đó là lúc Amazon EC2 và Amazon SageMaker xuất hiện như hai lựa chọn lý tưởng trong hệ sinh thái AWS.

Figure 3: Quy trình huấn luyện mô hình AI trên AWS

Dùng Amazon EC2 nếu bạn muốn:

• Toàn quyền kiểm soát môi trường làm việc: Bạn có thể tự chọn OS (Ubuntu, Amazon Linux…), thiết lập cài đặt riêng (CUDA, cuDNN, Jupyter, Conda, PyTorch, HuggingFace, v.v.)

• Chủ động cấu hình phần cứng: EC2 cho phép bạn thuê các loại máy khác nhau (từ CPU nhỏ đến GPU mạnh như P3, G5...) tùy theo quy mô mô hình.

• Mô phỏng môi trường production thực tế: Bạn có thể tạo AMI (Amazon Machine Image) để sao chép cấu hình huấn luyện, phục vụ deploy sau này.

EC2 là lựa chọn phù hợp nếu bạn là developer, thích kiểm soát chi tiết, hoặc cần tối ưu hiệu suất với script và môi trường riêng

Dùng Amazon SageMaker nếu bạn muốn:

• Huấn luyện dễ dàng hơn, không cần lo cài đặt: SageMaker cung cấp sẵn notebook instance với môi trường Python/ML được cài sẵn (TensorFlow, PyTorch, XGBoost...).

• Tự động hoá huấn luyện và theo dõi mô hình: SageMaker hỗ trợ cả distributed training, hyperparameter tuning, model tracking.

• Chạy mọi thứ trên giao diện web: Bạn có thể khởi chạy, train, stop chỉ bằng vài click – cực kỳ tiện cho người mới hoặc giảng dạy.

SageMaker phù hợp cho người muốn tập trung vào mô hình hơn là setup, hoặc các nhóm cần huấn luyện nhanh với quy trình tiêu chuẩn.

3. Đóng gói mô hình – Amazon ECR

Sau khi hoàn tất quá trình huấn luyện mô hình, bạn cần một cách để chuẩn hóa và đóng gói toàn bộ mô hình đó lại trước khi đưa vào môi trường triển khai thực tế. Mô hình AI không chỉ đơn giản là một file .pt hay .pkl, mà còn bao gồm các đoạn mã phục vụ inference (như predict.py, app.py), các thư viện phụ thuộc (torch, numpy, transformers, v.v.) và môi trường chạy cụ thể. Nếu triển khai trực tiếp mà không đóng gói kỹ, rất dễ phát sinh lỗi như “chạy được máy tôi nhưng không chạy được production”. Đó là lý do tại sao Docker trở thành giải pháp phổ biến để đóng gói mô hình AI dưới dạng container – đảm bảo rằng mọi thứ bạn cần đều nằm trong một Docker image duy nhất, sẵn sàng triển khai ở bất kỳ đâu.

Trong hệ sinh thái của AWS, nơi lưu trữ chính cho các Docker image chính là Amazon ECR (Elastic Container Registry). ECR là một dịch vụ lưu trữ container riêng tư, có chức năng tương tự như DockerHub, nhưng được tích hợp chặt chẽ với các dịch vụ khác như Amazon ECS, AWS Lambda, CodePipeline, và SageMaker. Thay vì đẩy image lên DockerHub công khai, bạn có thể đẩy Docker image mô hình của mình lên ECR và từ đó, các dịch vụ khác có thể lấy image xuống để triển khai. Việc này không chỉ giúp tăng cường bảo mật, kiểm soát truy cập theo từng tài khoản, mà còn phù hợp với các hệ thống cần CI/CD tự động và nội bộ hóa quy trình MLOps.

Ví dụ, nếu bạn đã huấn luyện xong một mô hình phân loại hình ảnh bằng PyTorch, bạn có thể viết một Dockerfile để định nghĩa môi trường chạy, build image bằng Docker, và sau đó push image đó lên ECR. Sau này, bạn có thể triển khai nó qua ECS để tạo API online, hoặc qua SageMaker để phục vụ infer trực tiếp. Toàn bộ quy trình này đảm bảo rằng: model + code + môi trường đều được giữ nguyên vẹn, nhất quán và có thể scale lên nhiều server khi cần.

Tóm lại, Amazon ECR chính là mắt xích quan trọng giúp bạn chuyển đổi từ "mô hình vừa train xong" sang "mô hình sẵn sàng chạy thực tế". Nó giúp bạn đóng gói, chuẩn hóa và tái sử dụng mô hình một cách an toàn, hiệu quả và hoàn toàn phù hợp với quy trình MLOps hiện đại.

4. Triển khai mô hình – Amazon ECS / Lambda

Khi mô hình đã được huấn luyện và đóng gói thành Docker image, bước tiếp theo là triển khai (deploy) để người dùng có thể tương tác với mô hình thông qua API hoặc ứng dụng. Trong hệ sinh thái AWS, bạn có hai lựa chọn phổ biến để triển khai mô hình: Amazon ECS và AWS Lambda, tùy thuộc vào độ phức tạp và tải xử lý của tác vụ infer.

Với các mô hình có endpoint API như Flask hoặc FastAPI (ví dụ: phân loại văn bản, dự đoán giá, nhận diện hình ảnh…), bạn nên sử dụng Amazon ECS (Elastic Container Service). ECS cho phép bạn triển khai trực tiếp Docker image đã lưu trên Amazon ECR, sau đó tạo Task → Service → Cluster để chạy mô hình dưới dạng container. Bạn có thể kết hợp với API Gateway để mở cổng truy cập từ bên ngoài (client, website, app...), và sử dụng Load Balancer để tự động phân phối request đến các container đang hoạt động, đảm bảo hệ thống luôn sẵn sàng và ổn định kể cả khi có nhiều người truy cập cùng lúc.

Ngược lại, nếu bạn triển khai một tác vụ đơn giản, nhẹ như rule-based logic, lọc thông tin, xử lý đầu vào đơn giản (lookup model), thì bạn có thể dùng AWS Lambda. Đây là dịch vụ serverless – không cần khởi tạo máy chủ hay container, chỉ cần viết hàm xử lý và AWS sẽ tự động scale theo lưu lượng truy cập.

Tùy vào tính chất của mô hình và quy mô hệ thống, bạn có thể linh hoạt chọn giữa ECS (độ ổn định và kiểm soát cao hơn) và Lambda (nhẹ, tiện, tối ưu chi phí cho tác vụ nhỏ). Cả hai đều có thể tích hợp mượt mà với các thành phần khác trong pipeline MLOps như ECR, API Gateway, IAM và CloudWatch.

5. Giám sát, cảnh báo – CloudWatch, CloudTrail

Sau khi triển khai mô hình AI, việc theo dõi hiệu năng và cảnh báo sớm khi có sự cố là điều không thể thiếu. Amazon CloudWatch giúp bạn giám sát các chỉ số quan trọng như CPU, GPU, bộ nhớ, thời gian phản hồi và cả log của ứng dụng. Bạn có thể dễ dàng thiết lập các cảnh báo (alert) khi mô hình gặp lỗi, sử dụng tài nguyên quá cao, hoặc khi hệ thống không phản hồi như mong đợi.

Bên cạnh đó, CloudTrail ghi lại toàn bộ các thao tác được thực hiện trên tài khoản AWS của bạn. Điều này rất hữu ích để phục vụ công việc điều tra lỗi (debugging), kiểm tra bảo mật, hoặc khôi phục lại các thao tác đã xảy ra. Sự kết hợp giữa CloudWatch và CloudTrail giúp bạn luôn kiểm soát được hệ thống AI đang vận hành, tránh các sự cố ngoài ý muốn.

6. Tự động hóa mở rộng – Auto Scaling Group

Khi hệ thống AI đi vào thực tế, số lượng người dùng có thể tăng bất ngờ – và việc tự động mở rộng tài nguyên là yếu tố quan trọng để đảm bảo hiệu suất. Với Auto Scaling Group (ASG), bạn có thể cấu hình để AWS tự động tăng số lượng container hoặc máy chủ khi lưu lượng truy cập tăng lên, và giảm khi nhu cầu thấp – giúp tiết kiệm chi phí.

ASG hoạt động mượt mà khi kết hợp với ECS (container) hoặc EC2 (máy ảo), đảm bảo hệ thống luôn sẵn sàng phục vụ người dùng mà không cần can thiệp thủ công. Đây chính là yếu tố biến một mô hình AI thử nghiệm trở thành một sản phẩm có khả năng phục vụ quy mô lớn.

III. Những ý tưởng thực tế để bạn áp dụng MLOps trên AWS

Thay vì đọc lý thuyết khô khan, bạn có thể chọn một trong những gợi ý sau để tự học MLOps thông qua thực hành trên AWS. Những ý tưởng này đều đơn giản, dễ triển khai, nhưng đủ mạnh để áp dụng toàn bộ pipeline đã học — từ lưu trữ, huấn luyện, đóng gói đến triển khai và giám sát mô hình. Mỗi project có thể được thực hiện cá nhân hoặc theo nhóm nhỏ trong hackathon, đồ án, hoặc bài tập lớn.

1. Phân loại cảm xúc từ đánh giá văn bản (Text Classification)

• Dữ liệu: IMDB hoặc Yelp Review.

• Model: BERT, LSTM hoặc logistic regression đơn giản.

Pipeline AWS:

• Dữ liệu đánh giá được lưu trên Amazon S3.

• EC2 hoặc SageMaker dùng để huấn luyện mô hình.

• Mô hình và code được đóng gói thành Docker image, push lên Amazon ECR.

• ECS triển khai mô hình như một API — nhận input là câu đánh giá → trả về "Positive" hoặc "Negative".

• CloudWatch theo dõi số lượng request và cảnh báo khi lỗi hoặc quá tải.

💡 Phù hợp để học pipeline cơ bản từ text → model → API. Có thể mở rộng bằng cách thêm tính năng phân tích nhiều cảm xúc (multi-label).

2. Nhận diện hình ảnh (Image Classification)

• Dữ liệu: Bộ ảnh hoa, chó/mèo, traffic sign,...

• Model: ResNet, MobileNet hoặc ViT.

Pipeline AWS:

• Ảnh được upload lên S3 và chia folder theo class.

• EC2 huấn luyện mô hình với PyTorch hoặc TensorFlow.

• Docker image chứa model và inference script được đẩy lên ECR.

• ECS chạy API nhận input là ảnh base64 → trả về tên class dự đoán.

• CloudWatch log lại thời gian xử lý từng ảnh để tối ưu hiệu suất.

💡 Dự án phù hợp để hiểu quy trình huấn luyện với dữ liệu ảnh, augmentation và phục vụ infer online.

3. Hệ thống chatbot trả lời câu hỏi đơn giản (Retrieval-based QA)

• Dữ liệu: FAQ của nhà hàng, công ty, hoặc tài liệu nội bộ (file txt, CSV).

• Model: Sentence Transformers hoặc embedding + cosine similarity.

Pipeline AWS:

• Dữ liệu câu hỏi – trả lời được lưu trên S3 và indexed bằng OpenSearch hoặc FAISS.

• EC2 thực hiện bước embed và lưu vector truy vấn.

• Docker image chứa API embedding + tìm câu trả lời → đẩy lên ECR.

• ECS triển khai chatbot API → nhận câu hỏi người dùng → trả về câu gần đúng.

• Lambda có thể dùng cho tác vụ nhỏ như lọc trước câu hỏi.

💡 Dự án này giúp bạn kết hợp NLP + vector database + API để tạo một chatbot mini đơn giản nhưng thực tế.

IV. Kết luận

Trong hành trình xây dựng hệ thống AI hiện đại, mô hình học máy chỉ là phần nổi của tảng băng. Phần lớn thách thức nằm ở việc làm sao để mô hình đó có thể hoạt động ổn định, phục vụ được người dùng thật, dễ bảo trì và có thể mở rộng khi cần.

Chính vì thế, MLOps không còn là tùy chọn – mà là yếu tố bắt buộc nếu bạn muốn đưa AI ra khỏi phòng thí nghiệm và biến nó thành sản phẩm thực tế. Và trong toàn bộ hệ sinh thái MLOps đó, AWS đóng vai trò như một “chiếc hộp công cụ đầy đủ” – nơi mỗi dịch vụ tương ứng với một bước trong pipeline: từ lưu trữ dữ liệu (S3), huấn luyện (EC2, SageMaker), đóng gói (ECR), triển khai (ECS, Lambda), đến giám sát và tự động mở rộng (CloudWatch, Auto Scaling Group).

Dù bạn là sinh viên mới học AI, kỹ sư muốn theo MLOps chuyên nghiệp, hay startup đang thử nghiệm sản phẩm đầu tiên, việc hiểu cách kết hợp các dịch vụ AWS trong quy trình MLOps sẽ giúp bạn:

• Tăng tốc quá trình phát triển, thử nghiệm và triển khai sản phẩm AI.

• Chuẩn hóa quy trình làm việc, giúp team cộng tác tốt hơn.

• Tối ưu chi phí và sẵn sàng scale hệ thống bất cứ khi nào cần.

Điều quan trọng là: bạn không cần làm tất cả mọi thứ ngay từ đầu. Hãy bắt đầu nhỏ — một dự án phân loại văn bản, một mô hình nhận diện ảnh — và từ từ mở rộng pipeline theo đúng những gì bạn đã học ở đây.

Học AWS không chỉ để thi chứng chỉ, mà là để bạn:

• Tự tay triển khai hệ thống AI của mình,

• Tạo ra sản phẩm thật,

• Và hiểu được thế giới sản xuất AI hoạt động như thế nào.

References

[1] Ảnh được lấy từ tài liệu khóa học AIO 2025 Module 05 Tuần 03