Trí tuệ nhân tạo, đặc biệt là các mô hình học sâu, ngày càng trở nên phức tạp và mạnh mẽ. Tuy nhiên, sự phức tạp này cũng đi kèm với một thách thức lớn: chúng thường hoạt động như những hộp đen. Chúng ta đưa dữ liệu vào và nhận lại kết quả đầu ra, nhưng quá trình ra quyết định bên trong lại là một ẩn số. Điều này đặt ra những câu hỏi quan trọng về độ tin cậy, tính công bằng và khả năng gỡ lỗi của mô hình.

Đây là lúc AI có thể diễn giải, hay Explainable AI (XAI), phát huy vai trò của mình. LIME là một trong những kỹ thuật XAI phổ biến và hiệu quả nhất hiện nay, giúp chúng ta mở chiếc hộp đen đó.

XAI 1.jpg

Nhiều bên liên quan đặt câu hỏi về quyết định của các mô hình AI hộp đen.

Tại sao chúng ta cần AI có thể diễn giải?

Vấn đề cốt lõi của các mô hình hộp đen là sự thiếu minh bạch. Khi một mô hình AI đưa ra một quyết định quan trọng, chẳng hạn như từ chối một đơn xin vay vốn hoặc chẩn đoán một căn bệnh, việc không hiểu được lý do đằng sau có thể gây ra nhiều hệ quả tiêu cực.

AI có thể diễn giải giúp chúng ta:

  • Xây dựng niềm tin: Người dùng và các bên liên quan sẽ tin tưởng hơn vào một hệ thống nếu họ hiểu được cách nó đưa ra quyết định.

  • Gỡ lỗi và cải thiện mô hình: Khi mô hình mắc lỗi, việc hiểu nguyên nhân sẽ giúp các nhà khoa học dữ liệu xác định và khắc phục vấn đề hiệu quả hơn.

  • Đảm bảo tính công bằng: Chúng ta có thể kiểm tra xem mô hình có đang đưa ra quyết định dựa trên những thành kiến không mong muốn hay không.

  • Tuân thủ quy định: Nhiều ngành công nghiệp yêu cầu các quyết định tự động phải có khả năng giải trình.

XAI.jpg

Quy trình học máy có thể diễn giải cho phép con người tham gia kiểm tra và cải thiện mô hình.

Giới thiệu về LIME

LIME là viết tắt của Local Interpretable Model-agnostic Explanations. Hãy cùng phân tích từng thành phần trong tên gọi này để hiểu rõ hơn về cơ chế hoạt động của nó.

  • Local (Cục bộ): LIME không cố gắng giải thích toàn bộ hoạt động phức tạp của mô hình. Thay vào đó, nó tập trung vào việc giải thích một quyết định cụ thể cho một đầu vào duy nhất. Nó trả lời câu hỏi Tại sao mô hình lại đưa ra dự đoán này cho trường hợp này?

  • Interpretable (Có thể diễn giải): LIME cung cấp lời giải thích dưới dạng một mô hình đơn giản, dễ hiểu đối với con người, chẳng hạn như một mô hình hồi quy tuyến tính.

  • Model-agnostic (Bất biến với mô hình): Đây là một trong những ưu điểm lớn nhất của LIME. Nó có thể hoạt động với bất kỳ loại mô hình hộp đen nào, từ mạng nơ-ron sâu đến máy học tăng cường gradient, mà không cần biết cấu trúc bên trong của chúng.

XAI - LIME.jpg

LIME hoạt động bằng cách tập trung vào một vùng cục bộ xung quanh điểm dữ liệu cần giải thích.

Cách LIME hoạt động: Ví dụ với Dữ liệu Hình ảnh

Hãy tưởng tượng chúng ta có một mô hình hộp đen được huấn luyện để phân loại hình ảnh và nó dự đoán một bức ảnh chứa một con mèo Xiêm. Làm thế nào LIME giải thích được quyết định này?

Bước 1: Phân vùng ảnh (Segmentation)

Thay vì làm việc với từng pixel, LIME chia hình ảnh thành các vùng có ý nghĩa hơn gọi là siêu pixel (superpixels). Đây là những nhóm pixel liền kề có màu sắc và kết cấu tương tự nhau.

XAI - LIME 1.jpg

Hình ảnh gốc được chia thành các siêu pixel.

Bước 2: Tạo ra các biến thể (Perturbation)

LIME tạo ra hàng trăm phiên bản nhiễu của hình ảnh gốc bằng cách tắt ngẫu nhiên một số siêu pixel (thay thế chúng bằng màu xám hoặc đen).

Bước 3: Lấy dự đoán từ mô hình hộp đen

Mỗi phiên bản nhiễu này sẽ được đưa vào mô hình hộp đen để nhận dự đoán. Ví dụ, mô hình có thể dự đoán xác suất là mèo Xiêm cho mỗi ảnh.

Bước 4: Gán trọng số cho các biến thể

Các phiên bản nhiễu giống với ảnh gốc hơn (tức là có ít siêu pixel bị tắt hơn) sẽ được gán trọng số cao hơn. Ý tưởng là chúng ta quan tâm nhiều hơn đến những thay đổi nhỏ xung quanh hình ảnh gốc.

Bước 5: Huấn luyện một mô hình đơn giản có thể diễn giải

LIME sử dụng tập dữ liệu mới gồm các biến thể nhiễu, dự đoán của chúng và các trọng số tương ứng để huấn luyện một mô hình đơn giản, ví dụ như Hồi quy tuyến tính. Trong mô hình này, các đặc trưng đầu vào là sự hiện diện hay vắng mặt của các siêu pixel.

Bước 6: Trích xuất lời giải thích

Các hệ số của mô hình Hồi quy tuyến tính vừa được huấn luyện sẽ cho chúng ta biết tầm quan trọng của mỗi siêu pixel. Siêu pixel có hệ số dương lớn nhất chính là phần của hình ảnh mà mô hình hộp đen đã dựa vào nhiều nhất để đưa ra quyết định là mèo Xiêm.

XAI - LIEM 2.jpg

Kết quả giải thích của LIME cho thấy các siêu pixel quan trọng nhất (khu vực cơ thể con ếch) đã góp phần vào quyết định của mô hình.

Đây là một đoạn code minh họa cách tải mô hình và chuẩn bị hình ảnh:

# Tải mô hình phức tạp cần giải thích
import torch
from torchvision import models, transforms
from PIL import Image
import requests
from io import BytesIO
import numpy as np

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
resnet_model = models.resnet50(pretrained=True).to(device)
resnet_model.eval()

# Hàm để tải và tiền xử lý ảnh
def load_and_preprocess_image(image_path):
    # Các bước biến đổi ảnh cho mô hình ResNet
    resnet_transform = transforms.Compose([
        transforms.Resize(256),
        transforms.CenterCrop(224),
        transforms.ToTensor(),
        transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
    ])
    img = Image.open(image_path)
    img_tensor = resnet_transform(img).unsqueeze(0).to(device)
    return img_tensor, np.array(img)

LIME với Dữ liệu Văn bản

Nguyên tắc tương tự cũng được áp dụng cho dữ liệu văn bản. Giả sử một mô hình dự đoán câu "The movie was absolutely wonderful and the acting was superb" có cảm xúc tích cực.

  1. Tạo biến thể: LIME tạo ra các câu mới bằng cách loại bỏ ngẫu nhiên các từ trong câu gốc.

  2. Lấy dự đoán: Các câu mới này được đưa vào mô hình để dự đoán cảm xúc.

  3. Gán trọng số và huấn luyện mô hình đơn giản: Tương tự như với hình ảnh, các câu giống câu gốc hơn sẽ có trọng số cao hơn. Một mô hình đơn giản được huấn luyện để liên kết sự hiện diện của các từ với dự đoán cảm xúc.

  4. Giải thích: Các từ có trọng số dương cao nhất trong mô hình đơn giản (như "wonderful", "superb") được xác định là những từ đóng góp nhiều nhất vào dự đoán cảm xúc tích cực.

XAI - LIME 3.jpg

LIME làm nổi bật các từ có ảnh hưởng lớn nhất đến dự đoán của mô hình.

Ưu và Nhược điểm của LIME

Ưu điểm:

  • Phổ biến và dễ hiểu.

  • Linh hoạt, có thể áp dụng cho nhiều loại dữ liệu và mô hình.

  • Cung cấp lời giải thích cục bộ, hữu ích cho việc hiểu từng trường hợp cụ thể.

Nhược điểm:

  • Các giải thích có thể không ổn định; những thay đổi nhỏ trong đầu vào có thể dẫn đến những giải thích khác nhau.

  • Quá trình tạo biến thể có thể tốn kém về mặt tính toán.

  • Việc định nghĩa vùng lân cận cục bộ đôi khi không rõ ràng.

Kết luận

LIME là một công cụ mạnh mẽ trong bộ công cụ XAI, giúp thu hẹp khoảng cách giữa khả năng dự đoán của các mô hình phức tạp và nhu cầu minh bạch của con người. Bằng cách cung cấp những lời giải thích cục bộ và dễ hiểu, LIME cho phép chúng ta kiểm tra, tin tưởng và cải thiện các hệ thống AI, mở đường cho việc ứng dụng trí tuệ nhân tạo một cách có trách nhiệm và hiệu quả hơn.