Làm sao biết xe tự lái sắp phạm sai lầm?

Một xe tự lái bỗng phanh và chắn đường xe cấp cứu đang đi tới. Tài xế an toàn ngồi sau vô-lăng không chỉ cần biết xe đã dừng, mà còn phải đoán được quyết định bất thường tiếp theo để kịp can thiệp. Vấn đề khó ở chỗ “bộ não” học sâu điều khiển xe thường hoạt động như một hộp đen: nó nhận dữ liệu, chọn quỹ đạo, nhưng không trình bày lý do theo cách con người dễ hiểu. [1]

CW-Net, viết tắt của Concept-Wrapper Network, được các nhà nghiên cứu tại MIT và công ty công nghệ xe tự lái Motional phát triển để thu hẹp khoảng cách đó. Hệ thống chuyển quá trình ra quyết định thành những khái niệm như “đang tới gần xe dừng” hoặc “ở sát người đi xe đạp”. Quan trọng hơn, các khái niệm này được đưa vào chính quá trình tạo quyết định, nhờ vậy chúng có thể giúp con người dự đoán hành vi của xe thay vì chỉ cung cấp một câu giải thích nghe hợp lý. [1]

Vì sao nhìn hành động của xe vẫn chưa đủ?

Camera và lidar, loại cảm biến dùng ánh sáng để đo khoảng cách, cung cấp dữ liệu về môi trường quanh xe. Bộ lập kế hoạch dựa trên học máy xử lý dữ liệu ấy, tạo bản tóm tắt cấp cao về tình huống rồi xuất ra quỹ đạo xe cần đi. Con người có thể quan sát kết quả cuối cùng, chẳng hạn giảm tốc hoặc đổi hướng, nhưng các phép biến đổi ở giữa phức tạp đến mức khó lần ngược nguyên nhân của một quyết định bất thường. [1]

Có thể hình dung một người chỉ nhìn thấy đáp án của bài toán mà không thấy các bước tính. Nếu đáp án đúng, khoảng trống ấy ít được chú ý. Khi đáp án sai trong tình huống cần phản ứng nhanh, việc không biết hệ thống đang chú ý tới điều gì khiến người giám sát khó đoán sai lầm kế tiếp. Đây là khác biệt giữa nhận ra xe vừa hành động lạ và biết đủ sớm rằng cách hiểu tình huống của nó đang có vấn đề. [1]

CW-Net biến suy luận thành khái niệm như thế nào?

CW-Net là một bộ phân loại khái niệm được gắn vào phần giữa của bộ lập kế hoạch. Nó dự đoán những ý niệm cấp cao có mặt trong dữ liệu đầu vào, rồi chuyển chúng tới phần cuối để tạo quyết định lái. Nhóm nghiên cứu huấn luyện hệ thống bằng tập dữ liệu gồm 130 triệu mẫu cảnh xe tự lái, trong đó mỗi cảnh có nhiều khái niệm được gắn nhãn. Quy mô này giúp mô-đun nhận diện khái niệm trong nhiều hoàn cảnh khác nhau. [1]

Ví dụ minh họa, thay vì trình bày một chuỗi con số khó đọc, hệ thống có thể nêu rằng xe đang phản ứng với một phương tiện dừng phía trước. Cách trình bày này giống việc đặt tên cho các ý chính trong một phép tính dài: người giám sát không cần đọc toàn bộ hoạt động bên trong, nhưng có được những điểm tựa để so sánh với cảnh đang thấy. Ví dụ này chỉ giải thích vai trò của khái niệm, không mô tả một giao diện cụ thể của CW-Net.

Lời giải thích dễ hiểu có thể sai ở đâu?

Một hệ thống giải thích có thể kể lại quyết định bằng câu chữ rất thuyết phục nhưng vẫn không phản ánh nguyên nhân thật. Chẳng hạn, nếu xe dừng gần người đi xe đạp, người quan sát dễ suy ra rằng nó đã nhận diện người đó và chủ động nhường đường. Hành động bên ngoài phù hợp với câu chuyện ấy, song sự trùng khớp không chứng minh bộ lập kế hoạch thực sự đã suy luận như vậy. [1]

CW-Net được thiết kế để tránh khoảng cách này bằng cách buộc phần tạo quyết định sử dụng các khái niệm mà mô-đun đã phân loại. Nói cách khác, khái niệm không chỉ là lời chú giải được viết thêm sau khi xe hành động. Nó nằm trên đường dẫn tới đầu ra của bộ lập kế hoạch. Nhóm phát triển đồng thời cho CW-Net mô phỏng quyết định của bộ lập kế hoạch học máy để việc bổ sung mô-đun không làm thay đổi hiệu năng lái ban đầu. [1]

Sự khác biệt có thể được minh họa bằng hai bản báo cáo. Bản thứ nhất quan sát một người mở ô rồi đoán rằng trời đang mưa. Bản thứ hai ghi nhận chính tín hiệu “trời mưa” đã được dùng khi quyết định mở ô. Cả hai đều dễ đọc, nhưng chỉ bản thứ hai liên hệ lời giải thích với nguyên nhân tạo ra hành động. Đây là phép so sánh khái niệm, không phải một thử nghiệm của nhóm nghiên cứu.

Một lần dừng đúng đã để lộ lỗi gì?

Trong thử nghiệm trên đường chạy riêng với xe robotaxi của Motional, xe liên tục dừng khi tới gần một người đi xe đạp. Tài xế an toàn ban đầu cho rằng hệ thống đã phát hiện người này. Giải thích từ CW-Net cho thấy bộ lập kế hoạch chưa được cấu hình đúng để nhận diện người đi xe đạp và đã chọn quỹ đạo lẽ ra sẽ dẫn tới va chạm. Xe chỉ dừng vì quy trình phanh khẩn cấp được kích hoạt khi khoảng cách trở nên quá gần. [1]

Chi tiết đáng chú ý là kết quả quan sát được vẫn là xe dừng, tức bề ngoài có vẻ an toàn. Tuy nhiên, nguyên nhân thật cho thấy lớp lập kế hoạch đã thất bại và một cơ chế dự phòng phải cứu tình huống. Khi biết điều này, tài xế an toàn có thể giảm tốc hoặc chuyển sang lái thủ công sớm hơn trong hoàn cảnh tương tự; kỹ sư cũng có manh mối cụ thể để sửa cách hệ thống xử lý người đi xe đạp. [1]

Con người có thực sự dự đoán xe tốt hơn không?

Trên đường chạy riêng, lời giải thích của CW-Net giúp tài xế an toàn dự đoán chính xác hơn cách xe sẽ hành xử trong các tình huống gây bất ngờ. Một nghiên cứu mô phỏng trực tuyến lớn hơn, sử dụng các tình huống lái xe thực được ghi lại trên đường phố Las Vegas, cũng ghi nhận người không chuyên cải thiện đáng kể khả năng dự đoán hành vi của xe. Kết quả được báo cáo theo hướng cải thiện khả năng phán đoán, không có nghĩa người tham gia đã hiểu toàn bộ mô hình học sâu. [1]

Vai trò thực tế của giải thích vì thế không phải biến hành khách thành kỹ sư AI. Nó giúp người giám sát xây dựng một hình dung sát hơn về quy luật hành động của xe: khi nào xe đang phản ứng đúng đối tượng, khi nào một lần dừng có vẻ hợp lý thực chất đến từ cơ chế dự phòng. Hình dung này càng sát, con người càng ít phải dựa vào phỏng đoán từ hành động bề ngoài. [1]

Công cụ này chưa giải quyết điều gì?

CW-Net hiện phụ thuộc vào tập khái niệm mà nó đã được huấn luyện để nhận biết. Nhóm nghiên cứu dự định mở rộng số khái niệm, đồng thời khảo sát các cách huấn luyện và thiết kế khác để cải thiện hiệu năng cũng như khả năng diễn giải. Vì vậy, hệ thống không đồng nghĩa với việc mọi suy luận của xe đều đã được chuyển thành ngôn ngữ con người; nó tạo một lớp khái niệm có cấu trúc cho những nội dung nằm trong phạm vi được xây dựng. [1]

Giá trị đáng chú ý của phát minh này nằm ở cách đặt câu hỏi. Một quyết định đúng chưa chắc xuất phát từ cách hiểu đúng, còn một lời giải thích trôi chảy chưa chắc trung thành với nguyên nhân. Với xe tự lái, điều con người cần không chỉ là câu trả lời cho “xe vừa làm gì”, mà còn là dấu hiệu đủ đáng tin để dự đoán “với cách hiểu hiện tại, xe có thể làm gì tiếp theo”. [1]