Ứng dụng AI trong nền tảng số

Ba nhóm ứng dụng nổi bật là đề xuất, tự động hóa và kiểm soát. Hệ thống đề xuất lựa chọn nội dung hoặc sản phẩm phù hợp với từng ngữ cảnh. Hệ thống tự động hóa xử lý những công việc có đầu vào số hóa như tài liệu, câu hỏi và yêu cầu dịch vụ. Hệ thống kiểm soát nhận diện nội dung vi phạm, giao dịch bất thường hoặc hành vi có dấu hiệu rủi ro.

AI không phải một chức năng hoạt động độc lập. Nó thường được đặt trong một chuỗi gồm thu thập dữ liệu, xử lý tín hiệu, chạy mô hình, áp dụng quy tắc nghiệp vụ, trả kết quả và tiếp nhận phản hồi. Vì vậy, chất lượng của một nền tảng có AI không chỉ phụ thuộc vào độ chính xác của mô hình mà còn phụ thuộc vào dữ liệu, mục tiêu tối ưu, quy trình kiểm tra và cơ chế can thiệp của con người.

AI trở thành một lớp ra quyết định trong nền tảng số

Nền tảng số thông thường vận hành dựa trên cơ sở dữ liệu, giao diện và các quy tắc được lập trình sẵn. Khi tích hợp AI, nền tảng có thêm một lớp xử lý có khả năng nhận diện mẫu, dự đoán kết quả và tạo nội dung từ dữ liệu.

Một quy tắc cố định có thể quy định rằng mọi yêu cầu chứa một từ khóa nhất định sẽ được chuyển đến một bộ phận cụ thể. Mô hình AI có thể phân tích toàn bộ câu, nhận diện ý định, đánh giá mức độ khẩn cấp và chuyển yêu cầu đến nhóm phù hợp hơn. Điểm khác biệt nằm ở khả năng xử lý những trường hợp không hoàn toàn giống dữ liệu đã xuất hiện trước đó.

Quá trình này thường gồm năm bước:

1.    Thu nhận tín hiệu từ hành vi, nội dung, giao dịch, thiết bị hoặc hồ sơ người dùng

2.    Chuyển tín hiệu thành dữ liệu mà mô hình có thể xử lý

3.    Dùng mô hình để dự đoán, phân loại, xếp hạng hoặc tạo kết quả

4.    Kết hợp kết quả của mô hình với quy tắc nghiệp vụ và giới hạn an toàn

5.    Ghi nhận phản hồi để đánh giá và điều chỉnh hệ thống

Một mô hình có thể dự đoán xác suất người dùng quan tâm đến một nội dung, nhưng nền tảng vẫn phải quyết định có nên hiển thị nội dung đó hay không. Quyết định cuối cùng có thể còn phụ thuộc vào độ mới, mức độ đa dạng, giới hạn quảng cáo, chính sách nội dung và quyền riêng tư.

Do đó, AI chủ yếu cung cấp tín hiệu hỗ trợ quyết định. Cách nền tảng sử dụng tín hiệu ấy mới quyết định trải nghiệm thực tế của người dùng.

AI hỗ trợ đề xuất và cá nhân hóa nội dung

Hệ thống đề xuất giúp nền tảng lựa chọn nội dung, sản phẩm, khóa học, bài hát, video hoặc dịch vụ phù hợp từ một tập lựa chọn rất lớn. Thay vì hiển thị cùng một danh sách cho mọi người, nền tảng có thể điều chỉnh thứ tự dựa trên hành vi và ngữ cảnh của từng phiên sử dụng.

Một kiến trúc đề xuất phổ biến gồm ba giai đoạn:

1.    Tạo tập ứng viên

2.    Chấm điểm và xếp hạng

3.    Sắp xếp lại kết quả

Ở giai đoạn tạo ứng viên, hệ thống rút gọn hàng nghìn hoặc hàng triệu mục xuống một tập nhỏ có khả năng liên quan. Giai đoạn chấm điểm dự đoán mức độ phù hợp của từng mục. Giai đoạn sắp xếp lại có thể bổ sung các điều kiện như độ mới, tính đa dạng, giới hạn lặp lại và chính sách an toàn. Kiến trúc ba giai đoạn này được Google mô tả trong tài liệu về hệ thống đề xuất bằng học máy.

AI có thể tạo đề xuất theo hai cơ chế chính. Lọc dựa trên nội dung sử dụng đặc điểm của những mục mà người dùng từng quan tâm để tìm các mục tương tự. Lọc cộng tác khai thác mối quan hệ giữa người dùng và các mục để tìm ra sở thích chung giữa những nhóm có hành vi gần nhau.

Ngoài lịch sử sử dụng, mô hình có thể tiếp nhận nhiều tín hiệu khác:

·         Thời gian người dùng tương tác với nội dung

·         Lượt nhấp, lưu, bỏ qua hoặc hoàn thành

·         Thời điểm và thiết bị truy cập

·         Đặc điểm của nội dung

·         Phản hồi trực tiếp của người dùng

·         Tình trạng còn hàng, vị trí hoặc thời hạn của dịch vụ

Tuy nhiên, nhiều tín hiệu không đồng nghĩa với đề xuất tốt hơn. Nếu nền tảng chỉ tối ưu lượt nhấp hoặc thời gian sử dụng, hệ thống có thể ưu tiên nội dung dễ thu hút sự chú ý thay vì nội dung hữu ích. Vì vậy, chỉ số đánh giá cần phản ánh nhiều mục tiêu như độ chính xác, mức độ đa dạng, tỷ lệ hoàn thành, phản hồi tiêu cực và kết quả dài hạn.

Cá nhân hóa cũng cần có giới hạn. Người dùng nên được biết những yếu tố chính ảnh hưởng đến nội dung họ nhìn thấy và có cách điều chỉnh hoặc tắt một số hình thức cá nhân hóa. Tại Liên minh châu Âu, Đạo luật Dịch vụ Kỹ thuật số yêu cầu mức minh bạch cao hơn đối với hệ thống đề xuất; các nền tảng trực tuyến rất lớn còn phải cung cấp lựa chọn đề xuất không dựa trên hồ sơ cá nhân.

AI tự động hóa quy trình và hỗ trợ người dùng

AI có thể tự động hóa những công việc mà phần mềm dựa trên quy tắc khó xử lý, đặc biệt khi đầu vào là văn bản, hình ảnh, giọng nói hoặc tài liệu không có cấu trúc cố định.

Trong xử lý tài liệu, AI có thể nhận diện loại tài liệu, đọc nội dung, trích xuất trường dữ liệu và chuyển kết quả sang dạng có cấu trúc. Chẳng hạn, một hóa đơn có thể được chuyển thành các trường như mã hóa đơn, ngày phát hành, đơn vị bán, tổng tiền và thuế. Dữ liệu sau đó được đưa vào quy trình kiểm tra hoặc phê duyệt. Google mô tả Document AI là nền tảng chuyển dữ liệu phi cấu trúc trong tài liệu thành các trường dữ liệu có thể lưu trữ, phân tích và sử dụng trong ứng dụng.

Trong hỗ trợ khách hàng, AI có thể:

·         Nhận diện mục đích của câu hỏi

·         Tìm thông tin trong kho tri thức

·         Soạn phản hồi ban đầu

·         Tóm tắt lịch sử trao đổi

·         Phân loại và chuyển yêu cầu

·         Đề xuất bước xử lý cho nhân viên

Tự động hóa hiệu quả không nhất thiết loại bỏ hoàn toàn sự tham gia của con người. Một thiết kế phù hợp thường phân chia công việc theo mức độ rủi ro. Những yêu cầu lặp lại và ít ảnh hưởng có thể được xử lý tự động. Những trường hợp thiếu dữ liệu, có giá trị lớn, liên quan đến quyền lợi hoặc có độ tin cậy thấp nên được chuyển sang người có trách nhiệm.

Cơ chế này được gọi là “con người trong vòng kiểm soát”. Hệ thống phải xác định rõ khi nào AI được tự thực hiện, khi nào chỉ được đề xuất và khi nào bắt buộc phải có người phê duyệt.

Để đánh giá tự động hóa, nền tảng không nên chỉ đo số nhiệm vụ AI đã xử lý. Các chỉ số cần thiết còn gồm:

·         Tỷ lệ xử lý đúng ngay lần đầu

·         Tỷ lệ phải chuyển cho con người

·         Thời gian xử lý trung bình

·         Tỷ lệ người dùng phải liên hệ lại

·         Số lỗi gây ảnh hưởng đến quy trình sau

·         Mức độ hài lòng sau khi hoàn tất yêu cầu

Nếu AI xử lý nhanh nhưng tạo ra nhiều lỗi hoặc khiến người dùng phải bắt đầu lại, quy trình đó chưa thực sự hiệu quả.

AI kiểm soát nội dung, giao dịch và hành vi bất thường

Các nền tảng có lượng dữ liệu lớn không thể chỉ dựa vào kiểm tra thủ công. AI được sử dụng để sàng lọc nội dung, nhận diện giao dịch bất thường, phát hiện tài khoản giả và ưu tiên các trường hợp cần xem xét.

Trong kiểm soát nội dung, mô hình có thể phân loại văn bản, hình ảnh, âm thanh hoặc video theo các nhóm chính sách. Kết quả thường là một điểm rủi ro thay vì một kết luận tuyệt đối. Nền tảng kết hợp điểm này với quy tắc để quyết định cho phép hiển thị, hạn chế phân phối, yêu cầu bổ sung thông tin hoặc chuyển đến người kiểm duyệt.

Trong phát hiện gian lận, hệ thống có thể phân tích:

·         Tần suất và giá trị giao dịch

·         Thay đổi bất thường về thiết bị hoặc vị trí

·         Mối liên hệ giữa các tài khoản

·         Chuỗi thao tác khác với hành vi thông thường

·         Sự không nhất quán giữa hồ sơ và hoạt động thực tế

AI có lợi thế ở khả năng xử lý khối lượng lớn và phát hiện mối quan hệ phức tạp giữa nhiều tín hiệu. Tuy nhiên, một hành vi khác thường không đồng nghĩa với hành vi vi phạm. Người dùng đi du lịch, đổi thiết bị hoặc thay đổi thói quen cũng có thể bị mô hình đánh dấu.

Hai chỉ số quan trọng trong hệ thống kiểm soát là tỷ lệ phát hiện đúng và tỷ lệ cảnh báo sai. Tăng độ nhạy có thể giúp phát hiện thêm rủi ro nhưng đồng thời làm tăng số trường hợp hợp lệ bị chặn. Giảm cảnh báo sai quá mức lại có thể khiến hệ thống bỏ sót vi phạm. Đây là một đánh đổi cần được lựa chọn theo mức độ nghiêm trọng của từng loại rủi ro.

Vì quyết định kiểm soát có thể ảnh hưởng đến quyền truy cập và quyền lợi của người dùng, nền tảng cần có lý do rõ ràng, quy trình khiếu nại và cơ chế xem xét lại. Đạo luật Dịch vụ Kỹ thuật số của Liên minh châu Âu nhấn mạnh nghĩa vụ minh bạch và trách nhiệm giải trình đối với hoạt động kiểm duyệt nội dung của các dịch vụ trung gian.

AI tạo nội dung và giao diện tương tác

AI tạo sinh mở rộng cách người dùng tương tác với nền tảng số. Thay vì chỉ chọn lệnh hoặc điền biểu mẫu, người dùng có thể mô tả nhu cầu bằng ngôn ngữ tự nhiên. Hệ thống sau đó tìm kiếm thông tin, tóm tắt dữ liệu, tạo văn bản hoặc hỗ trợ hoàn thành một chuỗi tác vụ.

Trong nền tảng nội bộ, AI tạo sinh có thể hỗ trợ tìm tài liệu, soạn báo cáo và giải thích dữ liệu. Trong nền tảng thương mại, AI có thể trả lời câu hỏi về sản phẩm hoặc hỗ trợ người dùng thu hẹp lựa chọn. Trong nền tảng giáo dục, AI có thể tạo gợi ý và điều chỉnh phần giải thích theo tiến độ học tập.

Các tác nhân AI còn có thể kết hợp lập kế hoạch, bộ nhớ và công cụ phần mềm để thực hiện nhiệm vụ thay cho người dùng. Tuy nhiên, mức tự chủ càng cao thì yêu cầu kiểm soát càng lớn, bởi một kết quả sai có thể được chuyển thành hành động thực tế trước khi con người kiểm tra.

AI tạo sinh có ba giới hạn đáng chú ý.

Thứ nhất, mô hình có thể tạo ra thông tin nghe hợp lý nhưng không chính xác. Vì vậy, câu trả lời liên quan đến hồ sơ, giá, chính sách hoặc quyền lợi nên được đối chiếu với nguồn dữ liệu xác định.

Thứ hai, nội dung đầu vào có thể chứa dữ liệu cá nhân hoặc dữ liệu nội bộ. Nền tảng phải kiểm soát việc lưu trữ, truy cập và sử dụng dữ liệu này.

Thứ ba, phản hồi có thể không đồng nhất giữa những lần yêu cầu. Những nghiệp vụ cần kết quả chính xác và có thể kiểm toán không nên phụ thuộc hoàn toàn vào văn bản do mô hình tự tạo.

AI tạo sinh phù hợp nhất khi được kết hợp với dữ liệu đã kiểm chứng, giới hạn công cụ, quy tắc nghiệp vụ và bước xác nhận trước những hành động quan trọng.

Dữ liệu quyết định phạm vi và chất lượng của AI

Mô hình không hiểu người dùng theo cách con người hiểu nhau. Nó suy luận từ dữ liệu và tín hiệu mà nền tảng cung cấp. Nếu dữ liệu thiếu, sai, lỗi thời hoặc phản ánh thiên lệch trong quá khứ, kết quả của AI cũng có thể thiếu chính xác hoặc thiếu công bằng.

Dữ liệu trong nền tảng thường thuộc ba nhóm:

·         Dữ liệu trực tiếp do người dùng cung cấp

·         Dữ liệu quan sát từ hành vi sử dụng

·         Dữ liệu suy luận do mô hình tạo ra

Dữ liệu suy luận cần được phân biệt với dữ liệu thực tế. Việc mô hình dự đoán một người quan tâm đến chủ đề nào đó không có nghĩa đó là sở thích ổn định hoặc chính xác của họ. Nếu nền tảng liên tục sử dụng dự đoán cũ để tạo đề xuất mới, hệ thống có thể tự củng cố một nhận định sai.

Ngoài chất lượng dữ liệu, nền tảng phải kiểm soát tình trạng thay đổi theo thời gian. Sở thích người dùng, nội dung và thủ đoạn gian lận đều có thể thay đổi. Mô hình từng hoạt động tốt có thể suy giảm khi dữ liệu thực tế không còn giống dữ liệu dùng để huấn luyện.

Vì thế, việc triển khai AI cần theo dõi đồng thời:

·         Chất lượng và độ đầy đủ của dữ liệu đầu vào

·         Hiệu suất mô hình trên từng nhóm trường hợp

·         Sự thay đổi của dữ liệu theo thời gian

·         Phản hồi tiêu cực từ người dùng

·         Tác động của quyết định AI đến kết quả thực tế

Thu thập thêm dữ liệu không phải lúc nào cũng là giải pháp tốt nhất. Nền tảng chỉ nên thu thập dữ liệu phục vụ mục đích xác định, giới hạn quyền truy cập và duy trì thời gian lưu trữ phù hợp.

Kiểm soát AI cần bao phủ toàn bộ vòng đời

Một hệ thống AI đáng tin cậy không thể được bảo đảm chỉ bằng việc kiểm tra mô hình trước khi ra mắt. Rủi ro có thể xuất hiện ở dữ liệu, cách tích hợp, hành vi người dùng, thay đổi môi trường hoặc mục tiêu kinh doanh.

Khung Quản trị rủi ro AI của NIST tổ chức hoạt động quản trị theo bốn nhóm chức năng: quản trị, xác định bối cảnh, đo lường và quản lý. Khung này được thiết kế để đưa các yếu tố đáng tin cậy vào quá trình thiết kế, phát triển, sử dụng và đánh giá hệ thống AI.

Khi áp dụng vào nền tảng số, bốn nhóm hoạt động có thể được hiểu như sau:

1.    Quản trị: Xác định trách nhiệm, chính sách và quyền phê duyệt

2.    Xác định bối cảnh: Làm rõ người dùng, mục đích, tác động và điều kiện vận hành

3.    Đo lường: Kiểm tra độ chính xác, độ ổn định, thiên lệch, bảo mật và tác động

4.    Quản lý: Giảm thiểu rủi ro, giám sát hệ thống và xử lý sự cố

Đối với AI tạo sinh, NIST cũng công bố hồ sơ rủi ro chuyên biệt nhằm hỗ trợ tổ chức nhận diện và quản lý các rủi ro đặc thù của công nghệ này.

Nền tảng nên xác định trước các ngưỡng vận hành, chẳng hạn mức độ tin cậy tối thiểu để tự động xử lý hoặc điều kiện bắt buộc chuyển sang con người. Nhật ký cần ghi lại phiên bản mô hình, dữ liệu đầu vào phù hợp, kết quả và hành động đã thực hiện để phục vụ kiểm tra.

Người dùng cũng cần có quyền kiểm soát tương xứng với tác động của AI. Quyền này có thể gồm khả năng chỉnh sửa sở thích, từ chối cá nhân hóa, yêu cầu xem xét lại và báo cáo kết quả không phù hợp.

Đánh giá hiệu quả phải dựa trên kết quả cuối cùng

AI chỉ tạo giá trị khi cải thiện kết quả mà nền tảng cần đạt được. Độ chính xác của mô hình là điều cần thiết nhưng chưa đủ để chứng minh hiệu quả kinh doanh hoặc trải nghiệm người dùng.

Một hệ thống đề xuất có thể tăng tỷ lệ nhấp nhưng giảm mức độ đa dạng. Một chatbot có thể giảm số yêu cầu đến nhân viên nhưng làm tăng tỷ lệ liên hệ lại. Một hệ thống phát hiện gian lận có thể chặn thêm giao dịch đáng ngờ nhưng đồng thời từ chối nhiều giao dịch hợp lệ.

Do đó, nền tảng cần đánh giá theo ba lớp chỉ số:

Chỉ số của mô hình

Các chỉ số này đo khả năng dự đoán, phân loại hoặc tạo kết quả, chẳng hạn độ chính xác, độ bao phủ, tỷ lệ phát hiện đúng và tỷ lệ cảnh báo sai.

Chỉ số của quy trình

Các chỉ số này đo tác động đến hoạt động, chẳng hạn thời gian xử lý, số bước thủ công, tỷ lệ chuyển cho nhân viên và chi phí cho mỗi nhiệm vụ.

Chỉ số kết quả

Các chỉ số này phản ánh giá trị cuối cùng, chẳng hạn mức độ hoàn thành mục tiêu, tỷ lệ khiếu nại, sự hài lòng, tỷ lệ giữ chân và mức giảm tổn thất.

Nền tảng nên so sánh hệ thống AI với một mốc tham chiếu, chẳng hạn quy trình cũ, mô hình đơn giản hơn hoặc nhóm người dùng không áp dụng tính năng mới. Nếu không có mốc tham chiếu, rất khó xác định thay đổi quan sát được có thực sự do AI tạo ra hay không.

Việc đo lường cũng cần được phân tách theo loại người dùng và loại tình huống. Kết quả trung bình có thể che khuất việc mô hình hoạt động tốt với nhóm này nhưng kém với nhóm khác.

AI được ứng dụng trong nền tảng số như một lớp phân tích và hỗ trợ quyết định. Công nghệ này giúp xếp hạng đề xuất, tự động hóa quy trình, kiểm soát rủi ro và tạo giao diện tương tác bằng ngôn ngữ tự nhiên.

Tuy nhiên, giá trị của AI không đến từ việc tích hợp một mô hình riêng lẻ. Nó đến từ toàn bộ hệ thống gồm dữ liệu phù hợp, mục tiêu rõ ràng, chỉ số đo lường, quy tắc nghiệp vụ, giám sát liên tục và cơ chế con người can thiệp khi cần thiết.

Một nền tảng ứng dụng AI hiệu quả phải trả lời được bốn câu hỏi: AI đang hỗ trợ quyết định nào, dữ liệu nào được sử dụng, kết quả được đo bằng gì và ai chịu trách nhiệm khi hệ thống sai. Khi bốn câu hỏi này được giải quyết rõ ràng, AI mới có thể vừa nâng cao hiệu suất vừa duy trì tính minh bạch và khả năng kiểm soát.