5 cách sử dụng tác nhân AI hiệu quả nhất trong kinh doanh

Vào tháng 10/2024, Microsoft đã công bố rằng 100.000 tổ chức bao gồm Standard Bank, Thomson Reuters, Virgin Money và Zurich Insurance đang sử dụng Copilot Studio, gấp đôi con số chỉ vài tháng trước đó. Copilot Studio cho phép các doanh nghiệp xây dựng các tác nhân tự chủ cũng như các tác nhân khác kết nối các hệ thống CRM, hệ thống HR và các nền tảng doanh nghiệp khác với Copilot.

Trong suốt cuối năm 2024, Microsoft tiếp tục mở rộng các dịch vụ đại lý của mình với các đại lý được xây dựng có mục đích cho các trường hợp sử dụng cụ thể. Sau đó, vào tháng 11, công ty đã tiết lộ Azure AI Agent Service, một dịch vụ được quản lý hoàn toàn cho phép các doanh nghiệp xây dựng, triển khai và mở rộng quy mô đại lý một cách nhanh chóng. Và trên AWS, Amazon Bedrock Agents đã có sẵn từ năm 2023, nhưng vào tháng 12, Amazon đã bổ sung thêm các khả năng cộng tác đa đại lý.

Tuy nhiên, trước đó, ServiceNow đã công bố dịch vụ AI Agents vào tháng 9, với những trường hợp sử dụng đầu tiên cho quản lý dịch vụ khách hàng và quản lý dịch vụ CNTT có sẵn vào tháng 11.

Ngoài ra còn có các nhà cung cấp nền tảng AI chuyên biệt như CrewAI và các nhà cung cấp tự động hóa thông minh như UiPath. Và đó chỉ là khởi đầu. Trong một báo cáo được công bố vào đầu tháng 1, Accenture dự đoán rằng các tác nhân AI sẽ thay thế con người trở thành người dùng chính của hầu hết các hệ thống doanh nghiệp vào năm 2030. Và trong một cuộc khảo sát vào tháng 1 của KPMG đối với 100 giám đốc điều hành cấp cao tại các doanh nghiệp lớn, 12% công ty đã triển khai các tác nhân AI, 37% đang trong giai đoạn thử nghiệm và 51% khác đang khám phá cách sử dụng chúng. Nhưng không phải mọi thứ đều diễn ra suôn sẻ vì bản thân AI thế hệ mới không hề hoàn hảo.

Tuy nhiên, các doanh nghiệp đã báo cáo thành công khi triển khai tác nhân AI cho một số trường hợp sử dụng.

1. Phát triển phần mềm và CNTT

Cognition đã phát hành Devin, được coi là kỹ sư phần mềm AI đầu tiên trên thế giới, vào tháng 3 năm ngoái. Vào thời điểm đó, các AI tốt nhất không thể vượt qua mốc 5% trên SWE-bench, một chuẩn mực đầy thách thức được thiết kế để xem AI có thể giải quyết các vấn đề mã hóa trong thế giới thực tốt như thế nào. Devin đã đạt gần 14%. Đến tháng 8, các hệ thống AI đại lý đã đạt gần 40% và ngày nay, chúng đã vượt qua mốc 60%.

Nhưng đã có một số công việc cụ thể trong vòng đời phát triển phần mềm được hỗ trợ bởi các tác nhân AI.

Charles Clancy, CTO tại Mitre cho biết: “Chúng tôi đã phát triển AI đại lý của riêng mình để quản lý mã”. “Trường hợp sử dụng tốt nhất có vẻ hiệu quả là trong quản lý kho lưu trữ, nơi nó sẽ đi qua và sửa lỗi các kho lưu trữ mã”.

Ông cho biết: “Trình AI sẽ tải xuống, thử xây dựng và nếu không chạy, nó sẽ sửa các tập lệnh xây dựng và mã nếu cần, kiểm tra lại mã trong kho lưu trữ và đánh dấu rằng mã đó được thực hiện bởi trình AI”.

Clancy cho biết Mitre phải tạo ra hệ thống riêng của mình vì hầu hết các công cụ hiện có đều sử dụng cơ sở hạ tầng đám mây do nhà cung cấp quản lý cho phần suy luận AI. Ông nói: “Chúng tôi không thể làm điều đó vì lý do bảo mật”.

Ông cho biết: “Mục tiêu của chúng tôi là hiện đại hóa các hệ thống CNTT phức tạp, quan trọng trong mọi tổ chức chính phủ”.

Có hàng triệu dòng mã trong các hệ thống này, được viết bằng ngôn ngữ COBOL, MUMPS hoặc thậm chí là Assembly gắn liền với phần cứng gốc. “Chúng tôi đang phát triển các mô hình AI của riêng mình được tùy chỉnh để cải thiện khả năng hiểu mã trên các nền tảng hiếm”, ông nói thêm.

Clancy cho biết: “Chúng tôi cũng phát hiện ra rằng AI agentic có thể làm việc với các công cụ được phát triển cho các kỹ sư phần mềm để tăng đáng kể tỷ lệ thành công của việc xác thực và biên dịch mã”. Điều đó mở ra các con đường tiềm năng để đào tạo AI mới nhằm giảm nhu cầu giám sát. “Ngay cả khi tính đến sự giám sát cần thiết của con người, quá trình này vẫn diễn ra nhanh hơn mỗi ngày”.

Vào tháng 12, Langbase đã công bố báo cáo về tình hình các tác nhân AI, dựa trên hơn 3.400 phản hồi từ các giám đốc điều hành và chuyên gia công nghệ. Trường hợp sử dụng hàng đầu cho các tác nhân AI là phát triển phần mềm, được 87% số người trả lời trích dẫn. Ngoài ra, 48% cho biết họ đang sử dụng LLM trong CNTT và hoạt động.

Vì các tác nhân AI có thể tác động đến nhiều hệ thống, nên tự động hóa quy trình làm việc và năng suất là những trường hợp sử dụng hàng đầu cho các doanh nghiệp. Theo báo cáo của KPMG, các nhiệm vụ hành chính là trường hợp sử dụng chính cho các tác nhân AI, được 60% số người được hỏi trích dẫn. Lấy Avantia làm ví dụ, một công ty luật toàn cầu, sử dụng cả AI thương mại và AI nguồn mở để hỗ trợ các tác nhân của mình. CTO Paul Gaskell cho biết: “Thách thức chính trong lĩnh vực của chúng tôi là có hàng trăm nhiệm vụ có thể không được tự động hóa tốt”. “Và chúng không phù hợp với giải pháp SaaS. Có quá nhiều nhiệm vụ riêng biệt ở quá nhiều nơi”.

Hiện nay với Microsoft, các tác nhân AI có thể hoạt động như người bạn đồng hành bên trong Word hoặc Outlook, sẵn sàng thực hiện các nhiệm vụ.

“Nếu khách hàng yêu cầu chúng tôi thực hiện giao dịch hoặc quy trình làm việc, và Outlook hoặc Word đang mở, thì tác nhân AI có thể truy cập tất cả dữ liệu của công ty”, ông nói. “Và vì đây là những luật sư đang làm việc trên các tài liệu của chúng tôi, nên chúng tôi có hồ sơ lịch sử về những gì họ thường làm”.

Gaskell kỳ vọng sẽ thấy biên lợi nhuận được cải thiện tới 45% vào giữa năm 2025. Ông cho biết: “Chúng tôi đã thực hiện các nghiên cứu về thời gian và chuyển động đối với những gì chúng tôi đã làm. Tôi thấy khó có thể thấy đây sẽ không phải là tương lai của ngành dịch vụ chuyên nghiệp”.

Gaskell cho biết công ty của ông không phụ thuộc vào LLM, nghĩa là các tác nhân AI có thể được hỗ trợ bởi các LLM khác nhau, tùy thuộc vào loại nào phù hợp nhất. Ông cho biết điều đó bao gồm một vài mô hình nguồn mở chính, vì chúng cung cấp quyền riêng tư, lợi thế về chi phí và độ trễ thấp hơn. Các tác nhân AI hiện đang chạy trong một hyperscaler, nhưng công ty đang cân nhắc đầu tư vào GPU của riêng mình và thuê không gian trong một cơ sở đồng định vị để giảm chi phí hơn nữa.

“Chúng tôi nhận được rất nhiều tài liệu từ 20.000 khách hàng, ở đủ mọi định dạng”, Brian Halpin, giám đốc điều hành cấp cao về tự động hóa của công ty cho biết. Chúng có thể là PDF, biểu mẫu kỹ thuật số, email và thông tin quan trọng có thể được tìm thấy ở bất kỳ đâu và được trình bày theo nhiều cách khác nhau. Điều đó cộng lại thành hàng triệu tài liệu mỗi tháng cần được xử lý. “Khả năng hiểu bối cảnh của một tài liệu là điều cơ bản”, ông nói thêm, và trong quá khứ, đây là điều cản trở tự động hóa nhiều nhất và AI thế hệ mới có thể giúp ích.

“Vì vậy, ngày nay, chúng tôi có 20 trường hợp sử dụng sản xuất xung quanh các tài liệu với các tác nhân AI”, Halpin cho biết. “Điều đó thật tích cực và mạnh mẽ”. Dữ liệu được lưu trữ trong một đám mây riêng để bảo mật và LLM cũng được lưu trữ nội bộ. SS&C sử dụng Llama của Meta cũng như các mô hình khác, Halpin cho biết.

Với tự động hóa truyền thống, con người phải xem hầu hết mọi tài liệu, ông nói. Với AI, tỷ lệ phần trăm đó bị đảo ngược. Ví dụ, với các loại tài liệu cho vay, tỷ lệ phần trăm tự động ở mức thấp 90, chỉ có một vài phần trăm tài liệu cần được xem xét thủ công.

3. Dịch vụ & Hỗ trợ khách hàng

Tại Dun & Bradstreet, các tác nhân AI giúp khách hàng tương tác với thông tin mà công ty nghiên cứu thu thập về 500 triệu doanh nghiệp trên thế giới.

“Đối với chúng tôi, các tác nhân đóng vai trò thiết yếu trong việc tương tác với dữ liệu của chúng tôi”, ông nói. “Họ cho phép khách hàng đặt câu hỏi liên quan đến một công ty và một tác nhân AI sẽ đảm bảo dữ liệu là thông tin chính xác nhất liên quan đến công ty đó”. Điều này không phải lúc nào cũng dễ dàng vì nhiều công ty có tên và địa chỉ tương tự nhau. “Đó là lúc các tác nhân vào cuộc. Tác nhân của chúng tôi nói, ‘Hãy để tôi đảm bảo rằng công ty này là công ty thực tế mà họ đang hỏi đến.' Họ có thể hiểu được những câu hỏi được đặt ra”.

4. Tạo nội dung

Viết văn bản và tạo hình ảnh là hai trong số những trường hợp sử dụng phổ biến đầu tiên của AI thế hệ mới. Hiện nay, các tác nhân AI có thể tăng tốc quá trình tạo nội dung. Theo khảo sát của Langbase, tạo và tóm tắt văn bản là trường hợp sử dụng phổ biến thứ hai, được 59% người trả lời trích dẫn, tiếp theo là tiếp thị và truyền thông với 50%. Và EY sử dụng các tác nhân AI trong dịch vụ quản lý rủi ro của bên thứ ba.

Đó là cách mọi việc thường được thực hiện cho đến khi AI thế hệ mới xuất hiện.

“Bây giờ chúng ta có thể cung cấp cho AI tất cả các tài liệu liên lạc và công khai, và nó có thể tạo ra một báo cáo trong vài phút thay vì nhiều ngày với độ chính xác và chi tiết cực kỳ cao”, ông nói. Sau đó, các chuyên gia con người sẽ cải thiện các báo cáo đó. “AI cộng với chuyên môn của con người là sự thúc đẩy to lớn về chất lượng”, ông nói.

Hiện nay, với sự hỗ trợ của AI, quá trình này lại một lần nữa thay đổi.

Đây là điều mà các công ty thường bỏ qua khi nghĩ về các tác nhân AI, ông nói. “Nhiều người đã tập trung vào các trường hợp sử dụng tối ưu hóa”, ông nói. “Nhưng giá trị thực sự là sự mở rộng thị trường và mở rộng các cơ hội doanh thu”.

5. Hỗ trợ nhân sự và nhân viên

Một trường hợp sử dụng khác có rủi ro tương đối thấp, giá trị cao cho các tác nhân AI là trả lời các câu hỏi của nhân viên và xử lý các nhiệm vụ đơn giản thay mặt họ. Một cuộc khảo sát của IBM vào tháng 1 về phát triển AI thế hệ mới, trên thực tế, đã kết luận rằng 43% các công ty sử dụng các tác nhân AI cho HR.

Ví dụ, Indicium, một công ty dịch vụ dữ liệu toàn cầu, đã bắt đầu triển khai các tác nhân AI vào giữa năm 2024, khi công nghệ này bắt đầu phát triển.

Daniel Avancini, CDO của công ty cho biết: “Bạn sẽ bắt đầu thấy các ứng dụng có sẵn — cả mã nguồn mở và độc quyền — giúp việc xây dựng chúng trở nên dễ dàng hơn”.

Các tác nhân được sử dụng để giúp HR làm mọi thứ dễ dàng hơn, ông nói, bao gồm các nhiệm vụ như truy xuất kiến ​​thức nội bộ, gắn thẻ và lập tài liệu, cũng như các quy trình kinh doanh khác. Mỗi tác nhân giống như một dịch vụ vi mô, chuyên về một việc cụ thể. “Và tất cả chúng đều nói chuyện với nhau trong một hệ thống đa tác nhân”, ông nói. Và những cuộc trò chuyện dựa trên lời nhắc này có thể trở nên kỳ lạ. Điều khó khăn là có khả năng xảy ra ảo giác và tất cả các vấn đề khác đi kèm với AI thế hệ mới. “Vì vậy, có rất nhiều điều chỉnh đối với mô hình để chúng không làm sai điều gì hoặc truy cập sai thông tin”, ông nói.

Về mặt tích cực, các tác nhân AI có thể xử lý nhiều câu hỏi một cách tự động, do đó có lợi ích kinh doanh ở đó. “Và chúng tôi đang tìm ra những thứ không được ghi chép chính xác, do đó giúp chúng tôi cải thiện các quy trình”, ông nói thêm.

Tin tưởng nhưng phải xác minh

An toàn là nền tảng của quá trình phát triển tác nhân AI ngay từ ngày đầu tiên. Trên thực tế, một trong những khuôn khổ tác nhân đầu tiên là BabyAGI, được phát hành vào đầu năm 2023, kết hợp ChatGPT với cơ sở dữ liệu vectơ Pinecone để lưu trữ và LangChain để điều phối. Nhà phát triển đã tạo ra nó đã đùa rằng hãy tạo ra càng nhiều kẹp giấy càng tốt — ám chỉ đến ngày tận thế của kẹp giấy giả định do AI không được kiểm soát gây ra — và hệ thống ngay lập tức nhận ra khả năng xảy ra vấn đề và bắt đầu bằng cách tạo ra một giao thức an toàn cho chính nó trước. Nhưng hầu hết các nhà phát triển AI tác nhân không sẵn sàng đặt nhiều niềm tin vào AI.

Trong một cuộc khảo sát của LangChain vào tháng 11 với hơn 1.300 chuyên gia, 55% số người được hỏi cho biết các công cụ theo dõi và quan sát là biện pháp kiểm soát bắt buộc đối với các tác nhân AI, giúp họ có được khả năng hiển thị về hành vi và hiệu suất của tác nhân. Ngoài ra, 44% đã có các rào cản tại chỗ và 40% sử dụng đánh giá ngoại tuyến.

Virginia Dignum, chủ tịch hội đồng chính sách công nghệ tại Hiệp hội Máy tính và là giáo sư tại Đại học Umeå của Thụy Điển, cho biết: “Các mô hình AI rất rủi ro và có thể mắc đủ loại lỗi”.

Nhưng bà cho biết có thể tạo ra các hệ thống để phát hiện lỗi, do đó nếu một tác nhân không thể hoàn thành nhiệm vụ, nó sẽ thừa nhận rằng mình đã thất bại thay vì cố gắng tạo ra điều gì đó.

“Có rất nhiều nghiên cứu về vấn đề này và nó có trên lý thuyết”, cô nói. “Nhưng theo như tôi biết, thực sự không có giao diện tác nhân nào phù hợp. Và một khi bạn bắt đầu phát triển các hệ thống này, bạn sẽ cần phải giải quyết hậu quả và điều gì sẽ xảy ra nếu một trong số chúng làm sai điều gì đó”.

Điều đó có nghĩa là cần có sự quản lý và điều chỉnh. Và các khuôn khổ agentic không chỉ cần giải quyết các tác động thực tế và kinh doanh của các lỗi AI có thể xảy ra mà còn cả các tác động pháp lý nữa.

Bà nói: “Nếu những vấn đề đó không được giải quyết thì tôi không nghĩ các tác nhân doanh nghiệp sẽ có nhiều tác dụng”.

Sau đó, có thêm một rủi ro nữa mà các doanh nghiệp cần phải giải quyết khi triển khai các tác nhân AI: sự gián đoạn và những kết quả tiêu cực do quy mô tự động hóa do AI cung cấp mà các tác nhân AI tạo ra. Pushpa Ramachandran, Phó chủ tịch kiêm giám đốc AI toàn cầu tại Wipro cho biết, quy trình quản lý thay đổi rất quan trọng khi triển khai các hệ thống này. Ông cho biết: “Đây là nơi tôi thấy nhiều khách hàng mất nhiều thời gian hơn một chút”. Và việc dành thêm thời gian ngay từ đầu có nghĩa là công ty có thể tiến xa hơn trong tương lai. Ông cho biết: “Những người chu đáo về quy trình quản lý thay đổi có thể mở rộng quy mô nhanh hơn”.