AI local: chạy nội bộ vẫn cần kiểm đường đi dữ liệu

Nhân viên kéo một bản hợp đồng vào ứng dụng AI trên máy công ty rồi hỏi về điều khoản thanh toán. Cửa sổ chat nằm ngay trước mặt, tài liệu cũng lấy từ thư mục nội bộ, nên rất dễ nghĩ mọi việc đều diễn ra trong công ty. Nhưng để biết AI local có giữ dữ liệu trong phạm vi doanh nghiệp muốn hay không, cần xem cả những bước phía sau nút gửi.

Ứng dụng có thể dùng máy chủ nội bộ để tạo câu trả lời nhưng nhờ một dịch vụ khác đọc chữ trong bản scan. Nếu dịch vụ đó ở bên ngoài, tài liệu đã đi qua thêm một nơi trước khi câu trả lời xuất hiện. Điều cần hỏi vì thế rất cụ thể: ai đang đọc hồ sơ, đọc ở đâu và có lưu lại bản nào không?

AI local nói về nơi AI chạy, chưa nói hết cách ứng dụng làm việc

AI local là cách cho phần xử lý AI chạy trên thiết bị hoặc máy chủ trong phạm vi tổ chức kiểm soát. Có thể hiểu đơn giản là doanh nghiệp chọn nơi đặt phần xử lý đó và cách vận hành nó. Tuy nhiên, một ứng dụng còn có nhiều việc khác ngoài bước tạo câu trả lời: nhận file, đọc nội dung, tìm đoạn liên quan và lưu kết quả.

Điều này giống gửi tài liệu qua lễ tân: lễ tân ngồi ngay trong văn phòng nhưng vẫn có thể giao gói hồ sơ cho một đơn vị chuyển phát bên ngoài. Việc lễ tân ngồi trong công ty chưa cho biết tài liệu sẽ đi tới đâu. Với AI cũng vậy, nơi chạy mô hình cần được xem cùng những nơi tài liệu được chuyển tới, xử lý hoặc lưu thêm.

Một cách gọi khác là Private AI, thường gắn với môi trường hoặc quyền sử dụng riêng. Doanh nghiệp vẫn cần hỏi rõ phần xử lý đặt ở đâu và bên nào vận hành. Chữ “riêng” chưa tự cho biết dữ liệu chỉ được xử lý trong công ty, cũng chưa trả lời được mọi câu hỏi về quyền sử dụng dữ liệu.

Đi theo một bản hợp đồng từ lúc gửi đến lúc nhận câu trả lời

Khi làm việc với bản hợp đồng đã scan, ứng dụng có thể cần đọc chữ trong ảnh trước. Bước này gọi là OCR, tức nhận dạng ký tự từ hình ảnh. Sau đó, hệ thống tìm các đoạn liên quan đến câu hỏi và đưa thông tin cần thiết cho mô hình AI để soạn câu trả lời.

Để dễ trao đổi với đội kỹ thuật, doanh nghiệp có thể theo dõi bốn việc:

• Nhận tài liệu: File được tải lên máy chủ nào và ai được mở?
• Đọc chữ: Bước đọc bản scan chạy trong nội bộ hay gửi sang dịch vụ khác?
• Trả lời: Mô hình dùng những đoạn nào và có gọi thêm công cụ bên ngoài không?
• Lưu lại: File, nội dung câu hỏi và câu trả lời còn được giữ ở đâu sau khi dùng?

Không phải ứng dụng nào cũng đi qua đúng các bước như nhau. Danh sách này giúp người dùng hỏi đúng chỗ cần hiểu; đội triển khai phải giải thích đường đi thực tế của giải pháp được đề xuất. Nếu có bước gọi API, có thể hiểu đó là lúc phần mềm gửi yêu cầu sang một chương trình hoặc dịch vụ khác để nhờ xử lý.

Giữ file gốc chưa đủ nếu nội dung đã được chép sang nơi khác

Khi nhân viên không gửi toàn bộ hợp đồng mà chỉ chép một điều khoản vào ô chat, thông tin vẫn đã được đưa vào hệ thống. Tương tự, sau khi ứng dụng đọc bản scan, phần chữ vừa nhận dạng có thể được lưu để phục vụ tìm kiếm. Vì vậy, việc quản lý cần nhìn vào nội dung được sử dụng, thay vì chỉ nhìn chiếc file ban đầu.

Những phần cần hỏi gồm tài liệu gốc, chữ được đọc ra, câu hỏi, câu trả lời và nhật ký hoạt động. Nhật ký là phần ghi lại việc hệ thống đã làm để người vận hành có thể kiểm tra khi cần. Mỗi phần có thể có nơi lưu và người được truy cập khác nhau, tùy thiết kế của ứng dụng.

Một số tài liệu kỹ thuật phân biệt chế độ chạy trong nội bộ với các tính năng dùng dịch vụ bên ngoài. Khi chọn giải pháp, doanh nghiệp cần yêu cầu giải thích tương tự trên đúng hệ thống mình định dùng.

Chủ quyền dữ liệu cần được thể hiện bằng những quyền rõ ràng

Với người quản lý, chủ quyền dữ liệu có thể bắt đầu từ những việc rất gần: quyết định tài liệu nào được đưa vào AI, ai được đọc và khi nào phải ngừng sử dụng. Các quyền đó cần được thể hiện trong cách tổ chức vận hành hệ thống. Một câu giới thiệu “dữ liệu được kiểm soát” sẽ khó đánh giá nếu chưa biết ai thực hiện việc kiểm soát ấy.

Khi nhân viên chuyển bộ phận, người quản trị cần biết có phải đổi quyền đọc tài liệu không. Khi doanh nghiệp dừng một dịch vụ, hai bên cần biết dữ liệu đã lưu sẽ được xử lý thế nào. Nếu muốn thêm công cụ tìm kiếm web hoặc dịch vụ đọc file, cũng phải có người xem xét trước khi cho dùng với tài liệu nội bộ.

AI local vẫn cần tài khoản được bảo vệ, quyền truy cập phù hợp và người phụ trách cập nhật, sao lưu. Đặt máy chủ ở nơi doanh nghiệp lựa chọn giúp giải quyết một phần yêu cầu triển khai; chất lượng bảo vệ dữ liệu còn phụ thuộc cách quản lý những phần việc này hằng ngày. Không nên hiểu local là một lời bảo đảm an toàn tuyệt đối.

Nhờ đội triển khai chỉ đường đi của dữ liệu ngay trên một tác vụ

Doanh nghiệp có thể chọn một nhóm hướng dẫn nội bộ được phép sử dụng và một câu hỏi thường gặp để thử. Người phụ trách nghiệp vụ xác nhận câu trả lời cần dựa vào tài liệu nào. Đội kỹ thuật chỉ rõ từng bước xử lý diễn ra ở đâu, bên nào tham gia và thông tin nào được lưu lại.

Nếu một bước dự kiến dùng dịch vụ bên ngoài, cần làm rõ phần dữ liệu phải chuyển sang trước khi đưa tài liệu thật vào. Khi chưa được phép, nhóm thử có thể dùng dữ liệu không chứa thông tin nội bộ hoặc tạm bỏ bước đó. Công việc hiện tại vẫn cần có cách tiếp tục trong lúc hai bên xử lý phần còn vướng.

Người dùng nên kiểm cả hai mặt: câu trả lời có giúp làm việc được không và tài liệu có đi đúng phạm vi đã thống nhất không. Một câu trả lời đúng không tự chứng minh đường xử lý dữ liệu đã phù hợp. Ngược lại, giữ dữ liệu đúng nơi mà người dùng vẫn phải tìm lại mọi thứ cũng là điều cần cải thiện.

Mang yêu cầu công việc đến buổi tư vấn, không cần thuộc mọi thuật ngữ

Doanh nghiệp không cần tự vẽ một sơ đồ kỹ thuật phức tạp trước khi trao đổi. Hãy bắt đầu bằng ba điều: nhân viên đang cần AI giúp việc gì, họ phải dùng tài liệu nào và phần thông tin nào doanh nghiệp muốn giữ trong phạm vi mình kiểm soát. Từ đó, đội triển khai có thể giải thích các lựa chọn bằng chính luồng công việc ấy.

Khi xem đề xuất, nên yêu cầu chỉ rõ ai cung cấp phần mềm, ai kết nối các hệ thống và ai vận hành sau bàn giao. Các phần này có thể do nhiều bên phụ trách. Biết rõ trách nhiệm giúp doanh nghiệp tìm đúng đầu mối khi cần đổi quyền, thêm công cụ hoặc xử lý một vấn đề phát sinh.

Nếu đang cân nhắc AI local, doanh nghiệp có thể trao đổi với [Lạc Hồng Tech](https://lachongtech.vn/) tại lachongtech.vn hoặc hotline 1900 68 24 từ một công việc đang làm và nhóm tài liệu liên quan. Cuộc trao đổi sẽ cụ thể hơn khi cả hai bên cùng nhìn vào nơi dữ liệu cần đi qua và cách người dùng kiểm lại kết quả.