Gần đây tôi đã xem một khảo sát thị trường về ứng dụng kỹ thuật AI Agent, khá thú vị, xin chia sẻ những phát hiện cốt lõi.

Xét về ứng dụng thực tế, dịch vụ khách hàng thực sự trở thành lĩnh vực phổ biến nhất, chiếm tỷ lệ 26.5%, tiếp theo là nghiên cứu và phân tích dữ liệu (24.4%), sau đó là hợp tác nội bộ và công cụ năng suất (17.7%), tạo mã chỉ đứng thứ tư, chiếm 9.8%. Điều này có thể khác xa với dự đoán của nhiều người.

Nhưng để nói về trở ngại lớn nhất, vẫn là vấn đề chất lượng. 32% các chuyên gia xem đó là trở ngại hàng đầu, bao gồm độ chính xác, liên quan, nhất quán và nhiều khía cạnh khác — điều này phù hợp với điểm đau của năm ngoái. Ngược lại, lo lắng về chi phí năm nay rõ ràng không còn nổi bật như trước.

Điều thú vị là, 89% công ty đã trang bị cho Agent của mình một số công cụ quan sát, trong đó 62% còn thực hiện theo dõi chi tiết hơn. Điều này cho thấy mọi người đã nhận thức rõ tầm quan trọng của việc theo dõi khả năng suy luận nhiều bước và gọi API của công cụ, đã không còn là tùy chọn nữa.

Về lựa chọn mô hình, mặc dù tỷ lệ sử dụng mô hình của OpenAI vượt quá hai phần ba, nhưng phối hợp nhiều mô hình mới là xu hướng chính — hơn 75% tổ chức cùng lúc chạy nhiều mô hình khác nhau. Tuy nhiên, điều thú vị là một phần ba tổ chức vẫn đang đầu tư xây dựng hạ tầng mô hình riêng, cho thấy ngoài sự tiện lợi của API, triển khai tại chỗ vẫn rất hấp dẫn đối với doanh nghiệp.

Về tinh chỉnh nhỏ (微调), lĩnh vực này vẫn khá ít phổ biến. 57% tổ chức hoàn toàn không thực hiện tinh chỉnh, thay vào đó, hầu hết có thể đáp ứng hầu hết các nhu cầu bằng cách sử dụng mô hình cơ bản kết hợp tối ưu hóa prompt và RAG (truy xuất tăng cường sinh generation).

Dữ liệu này chủ yếu lấy từ các doanh nghiệp B2B, phản ánh phần lớn tình hình thực tế hiện nay.