Search
By
Đại lý là nhân tố quan trọng tiếp theo trong AI. Một số định nghĩa những “tác nhân” khác với những công cụ khác, nhưng ý tưởng chung là chúng là những công cụ được hỗ trợ bởi AI có thể thực hiện các nhiệm vụ một cách tự động.
Sự cường điệu về đại lý đã lên đến đỉnh điểm, nhưng một công ty khởi nghiệp đã tham gia trò chơi này khá sớm: LlamaIndex. Được thành lập bởi cựu nhà khoa học nghiên cứu Uber Jerry Liu và Simon Suo vào năm 2023, LlamaIndex cho phép các nhà phát triển xây dựng các tác nhân tùy chỉnh trên dữ liệu phi cấu trúc.
“LlamaIndex bắt đầu như một dự án nguồn mở đồ chơi vào tháng 11 năm 2022,” Liu nói với TechCrunch. “Tôi bắt đầu quan tâm sâu sắc đến việc tìm hiểu cách sử dụng các mô hình ngôn ngữ lớn (LLM) dựa trên dữ liệu độc quyền bên ngoài tập huấn luyện của họ và xây dựng một bộ công cụ ban đầu cho phép các nhà phát triển lập chỉ mục và đưa dữ liệu vào ứng dụng LLM của họ.”
Bằng cách sử dụng phần mềm nguồn mở LlamaIndex, phần mềm đã đạt được hàng triệu lượt tải xuống trên GitHub, các nhà phát triển có thể tạo các tác nhân tùy chỉnh có thể trích xuất thông tin, tạo báo cáo và thông tin chi tiết cũng như thực hiện các hành động cụ thể. LlamaIndex cung cấp các trình kết nối dữ liệu và tiện ích như LlamaParse, giúp chuyển đổi dữ liệu phi cấu trúc thành định dạng có cấu trúc có thể được sử dụng cho các ứng dụng AI cụ thể.
Mặc dù có các khung nguồn mở khác để xây dựng các tác nhân AI, LlamaIndex khác biệt bởi bộ dữ liệu nhập vào, quản lý dữ liệu cũng như các giải pháp truy xuất và lập chỉ mục dữ liệu, Liu nói. Nó có thể kết nối dữ liệu từ các tệp như bản trình bày PDF và PowerPoint cũng như các ứng dụng như Notion và Slack với một tác nhân.
Salesforce, KPMG và Carlyle nằm trong số những công ty sử dụng LlamaIndex hiện nay, Liu cho biết.
“Tất cả các giải pháp cạnh tranh này đều giải quyết các vấn đề cụ thể ở các phần khác nhau của nhóm AI tổng hợp, nhưng sau đó, trách nhiệm của nhà phát triển là ghép các giải pháp phân mảnh lại với nhau để tạo ra một tác nhân hoạt động," Lưu nói thêm. “Đây là một điểm yếu đáng kể cản trở việc sản xuất của các đại lý vận chuyển. LlamaIndex thực hiện sứ mệnh của mình là cung cấp nền tảng an toàn, chính xác và dễ sử dụng nhất để xây dựng các tác nhân tri thức toàn diện.”
Chương tiếp theo của LlamaIndex là một dịch vụ doanh nghiệp được xây dựng dựa trên các dịch vụ nguồn mở của công ty. Được gọi là LlamaCloud, nó cho phép khách hàng tạo các tác nhân được lưu trữ trên đám mây có thể làm việc và thao tác với dữ liệu phi cấu trúc ở nhiều định dạng khác nhau.
LlamaCloud có thể được triển khai thông qua cài đặt phần mềm dưới dạng dịch vụ hoặc trên đám mây riêng ảo và đi kèm với các tính năng bao gồm kiểm soát quyền truy cập dựa trên vai trò và đăng nhập một lần, Liu cho biết.
Một phần để giúp tài trợ cho sự phát triển của LlamaCloud, LlamaIndex gần đây đã huy động được 19 triệu USD trong vòng cấp vốn Series A do Norwest Venture Partners dẫn đầu và cũng có sự tham gia của Greylock. Khoản tiền mới này nâng tổng số vốn huy động được của LlamaIndex lên 27,5 triệu USD và Liu nói rằng số tiền này sẽ được sử dụng để mở rộng đội ngũ 20 người của LlamaIndex và phát triển sản phẩm.
“Chúng tôi có đủ đường băng để thực hiện quá trình mở rộng thương mại ban đầu cho nền tảng của mình,” Lưu nói. “Chúng tôi đang đặt cược vào một tương lai nơi các nhà phát triển đóng vai trò quan trọng trong việc cung cấp các ứng dụng GenAI trong doanh nghiệp.”
