Chuyển tiếp tiêu đề gốc: Khung tác nhân AI có phải là mảnh ghép cuối cùng của câu đố không? Làm thế nào để giải thích “lưỡng tính sóng-hạt” của các khung?
Khung AI Agent, như một phần quan trọng trong sự phát triển của ngành, có thể nuôi dưỡng tiềm năng kép để thúc đẩy cả việc triển khai công nghệ và sự trưởng thành của hệ sinh thái. Một số framework được thảo luận nhiều nhất trên thị trường bao gồm Eliza, Rig, Swarms và ZerePy. Các framework này thu hút các nhà phát triển thông qua kho lưu trữ GitHub của họ, xây dựng danh tiếng. Thông qua việc phát hành mã thông báo thông qua “thư viện”, các khung này, giống như ánh sáng, thể hiện cả đặc điểm sóng và hạt. Tương tự, các khung Agent sở hữu cả ngoại ứng nghiêm trọng và đặc điểm Memecoin. Bài viết này sẽ tập trung vào việc giải thích “lưỡng tính sóng-hạt” của các khung này và khám phá lý do tại sao khung tác nhân có thể là mảnh ghép cuối cùng trong câu đố.
Kể từ khi GOAT xuất hiện, câu chuyện về đại lý đã thu hút sự chú ý của thị trường ngày càng tăng, tương tự như một chiêu thức võ thuật mạnh mẽ - với cú đấm trái đại diện cho “Memecoin” và bàn tay phải tượng trưng cho “hy vọng của ngành công nghiệp”, bạn có thể bị đánh bại bởi bất kỳ một trong những cú đánh này. Trong thực tế, các kịch bản ứng dụng của AI đại lý không được phân biệt chặt chẽ, và ranh giới giữa các nền tảng, khung công việc và các ứng dụng cụ thể bị mờ nhạt. Tuy nhiên, chúng vẫn có thể được phân loại theo sở thích về mã thông báo hoặc giao thức. Dựa trên sở thích phát triển của mã thông báo hoặc giao thức, chúng có thể được phân loại chung thành các nhóm sau đây:
Khi thảo luận thêm về khung Agent, có thể thấy rằng nó có những ngoại ứng đáng kể. Không giống như các nhà phát triển trên các chuỗi và giao thức công khai lớn, những người chỉ có thể chọn từ các môi trường ngôn ngữ lập trình khác nhau, quy mô tổng thể của cộng đồng nhà phát triển trong ngành không cho thấy tốc độ tăng trưởng tương ứng về vốn hóa thị trường. Kho lưu trữ GitHub là nơi các nhà phát triển Web2 và Web3 xây dựng sự đồng thuận. Xây dựng một cộng đồng nhà phát triển ở đây hấp dẫn và có ảnh hưởng hơn nhiều đối với các nhà phát triển Web2 so với bất kỳ gói “plug-and-play” nào được phát triển riêng lẻ bởi một giao thức.
Các khung việc được đề cập trong bài viết này đều là mã nguồn mở:
Hiện tại, khung Eliza được sử dụng rộng rãi trong các ứng dụng Điều phối khác nhau và là khung được sử dụng rộng rãi nhất. Việc phát triển của ZerePy chưa phát triển cao, và hướng phát triển chính của nó chủ yếu nằm ở X. Nó vẫn chưa hỗ trợ LLM cục bộ và bộ nhớ tích hợp. RIG có độ khó phát triển tương đối cao nhất nhưng cung cấp cho các nhà phát triển sự tự do lớn nhất để đạt được tối ưu hóa hiệu suất. Swarms, ngoài việc ra mắt mcs của nhóm, hiện chưa có các trường hợp sử dụng khác. Tuy nhiên, Swarms có thể tích hợp với các khung khác nhau, mang lại tiềm năng lớn.
Hơn nữa, trong phân loại nói trên, việc tách công cụ Agent và framework có thể gây nhầm lẫn. Nhưng tôi tin rằng hai điều này là khác nhau. Đầu tiên, tại sao nó được gọi là động cơ? Sự tương tự với các công cụ tìm kiếm trong cuộc sống thực là tương đối thích hợp. Không giống như các ứng dụng Agent đồng nhất, hiệu suất của công cụ Agent ở mức cao hơn, nhưng nó được đóng gói hoàn toàn và các điều chỉnh được thực hiện thông qua các giao diện API như hộp đen. Người dùng có thể trải nghiệm hiệu suất của công cụ Agent bằng cách phân nhánh nó, nhưng họ không thể kiểm soát bức tranh đầy đủ hoặc tự do tùy chỉnh như họ có thể làm với khung cơ bản. Công cụ của mỗi người dùng giống như tạo ra một tấm gương trên một Tác nhân được đào tạo và tương tác với gương đó. Mặt khác, framework được thiết kế cơ bản để thích ứng với chuỗi, bởi vì khi một Agent xây dựng một Agent framework, mục tiêu cuối cùng là tích hợp với chuỗi tương ứng. Cách xác định phương thức tương tác dữ liệu, cách xác định phương pháp xác thực dữ liệu, cách xác định kích thước khối và cách cân bằng giữa sự đồng thuận và hiệu suất — đây là những điều mà framework cần xem xét. Đối với động cơ, nó chỉ cần tinh chỉnh mô hình và điều chỉnh mối quan hệ giữa tương tác dữ liệu và bộ nhớ theo một hướng. Hiệu suất là tiêu chuẩn đánh giá duy nhất, trong khi khuôn khổ không giới hạn ở điều này.
Quy trình hoạt động đầu vào-đầu ra của một Đại lý yêu cầu ba phần. Đầu tiên, mô hình cơ bản xác định độ sâu và phương pháp suy nghĩ. Sau đó, bộ nhớ là nơi thực hiện tùy chỉnh. Sau khi mô hình cơ bản tạo ra một đầu ra, nó được sửa đổi dựa trên bộ nhớ. Cuối cùng, hoạt động đầu ra được hoàn thành trên các khách hàng khác nhau.
Nguồn:@SuhailKakar
Để xác nhận rằng Framework Đại lý có “tính chất song nguyên tử,” “sóng” đại diện cho đặc điểm của “Memecoin,” mô tả văn hóa cộng đồng và hoạt động phát triển, nhấn mạnh sự hấp dẫn và khả năng lan truyền của Đại lý. “Hạt” đại diện cho đặc điểm của “kỳ vọng từ ngành công nghiệp,” mô tả hiệu suất cơ bản, các trường hợp sử dụng thực tế và sâu sắc kỹ thuật. Tôi sẽ giải thích điều này bằng cách kết hợp hai khía cạnh, sử dụng hướng dẫn phát triển của ba Frameworks làm ví dụ:
Nguồn: @SuhailKakar
Nguồn: @SuhailKakar
Nguồn:@SuhailKakar
4. Đặt tính cách Đại lý
Nguồn:@SuhailKakar
Khung Eliza khá dễ bắt đầu. Nó dựa trên TypeScript, một ngôn ngữ mà hầu hết các nhà phát triển Web và Web3 đều quen thuộc. Khung là đơn giản và tránh quá trình trừu tượng quá mức, cho phép nhà phát triển dễ dàng thêm các tính năng mà họ muốn. Từ bước 3, chúng ta có thể thấy rằng Eliza hỗ trợ tích hợp đa khách hàng và có thể hiểu là một trình lắp ráp cho tích hợp đa khách hàng. Eliza hỗ trợ các nền tảng như DC, TG và X, cũng như các mô hình ngôn ngữ lớn khác nhau. Nó cho phép đầu vào thông qua các phương tiện truyền thông xã hội đã đề cập ở trên và đầu ra thông qua các mô hình LLM, và nó cũng hỗ trợ quản lý bộ nhớ tích hợp, cho phép bất kỳ nhà phát triển nào với thói quen khác nhau triển khai nhanh chóng một AI Agent.
Do vì sự đơn giản của khung cảnh và sự phong phú của các giao diện của nó, Eliza giảm đáng kể ngưỡng truy cập và đạt được một tiêu chuẩn giao diện tương đối đồng nhất.
1. Sao chép kho lưu trữ của ZerePy
Nguồn:https://replit.com/
Nguồn:https://replit.com/
3. Đặt tính cách đại lý
Nguồn:https://replit.com/
Lấy việc xây dựng một RAG (Retrieval-Augmented Generation) Agent làm ví dụ:
nguồn:https://dev.to/0thtachi/build-a-rag-system-with-rig-in-under-100-lines-of-code-4422
nguồn:https://dev.to/0thtachi/build-a-rag-system-with-rig-in-under-100-lines-of-code-4422
nguồn:https://dev.to/0thtachi/xay-dung-he-thong-rag-voi-rig-trong-duoi-100-dong-code-4422
nguồn:https://dev.to/0thtachi/build-a-rag-system-with-rig-in-under-100-lines-of-code-4422
Rig (ARC) là một khung xây dựng hệ thống trí tuệ nhân tạo dựa trên ngôn ngữ Rust cho các bộ máy LLM. Nó giải quyết các vấn đề tối ưu hiệu suất ở mức độ thấp hơn. Nói cách khác, ARC là một bộ dụng cụ trí tuệ nhân tạo cung cấp các cuộc gọi trí tuệ nhân tạo và tối ưu hiệu suất, lưu trữ dữ liệu, xử lý ngoại lệ và các dịch vụ hỗ trợ nền khác.
Điều mà Rig muốn giải quyết là vấn đề “gọi” để giúp các nhà phát triển lựa chọn LLM tốt hơn, tối ưu hóa từ gợi ý tốt hơn, quản lý token hiệu quả hơn và cách xử lý đồng thời, quản lý tài nguyên, giảm độ trễ, v.v. Trọng tâm của nó là về mô hình AI LLM Làm thế nào để “sử dụng tốt” khi hợp tác với hệ thống AI Agent.
Riglà một thư viện Rust mã nguồn mở được thiết kế để đơn giản hóa việc phát triển các ứng dụng LLM, bao gồm RAG Agents. Bởi vì Rig mở rộng hơn, nó đòi hỏi yêu cầu cao hơn cho các nhà phát triển và sự hiểu biết cao hơn về Rust và Agent. Hướng dẫn ở đây là quy trình cấu hình RAG Agent cơ bản nhất. RAG tăng cường LLM bằng cách kết hợp LLM với việc truy xuất kiến thức bên ngoài. Trong các DEMO khác trên trang web chính thức, bạn có thể thấy rằng Rig có những đặc điểm sau:
Có thể thấy rằng so với Eliza, Rig cung cấp cho nhà phát triển thêm không gian để tối ưu hóa hiệu suất, giúp nhà phát triển gỡ rối cuộc gọi và tối ưu hóa sự hợp tác của LLM và Agent tốt hơn. Rig cung cấp hiệu suất được điều khiển bằng Rust, tận dụng các trừu tượng không tốn phí và hoạt động LLM an toàn bộ nhớ, hiệu suất cao và thời gian chậm thấp của Rust. Nó có thể cung cấp một mức độ tự do phong phú hơn ở mức độ cơ bản.
Swarms nhằm cung cấp một khung môi trường triển khai đa tác nhân cấp doanh nghiệp. Trang web chính thức cung cấp hàng chục quy trình công việc và kiến trúc tuần tự/đồng thời cho các nhiệm vụ của Tác nhân. Dưới đây là một giới thiệu ngắn gọn về một phần nhỏ của chúng.
Luồng công việc tuần tự
Nguồn:https://docs.swarms.world
Kiến trúc Swarm tuần tự xử lý các nhiệm vụ theo chuỗi tuyến tính. Mỗi Đại lý hoàn thành nhiệm vụ của mình trước khi chuyển kết quả cho Đại lý tiếp theo trong chuỗi. Kiến trúc này đảm bảo xử lý theo trình tự và hữu ích khi các nhiệm vụ có phụ thuộc.
Use case:
Kiến trúc phân cấp:
Nguồn: https://docs.swarms.world
Kiến trúc này thực hiện điều khiển từ trên xuống, trong đó một Đại lý cấp cao điều phối các nhiệm vụ giữa các Đại lý cấp thấp. Các Đại lý thực thi các nhiệm vụ đồng thời và đưa kết quả của họ trở lại vòng lặp để tổng hợp cuối cùng. Điều này đặc biệt hữu ích cho các nhiệm vụ có khả năng song song cao.
Nguồn:https://docs.swarms.world
Kiến trúc này được thiết kế để quản lý các nhóm đại lý làm việc cùng nhau trên quy mô lớn. Nó có thể quản lý hàng ngàn Đại lý, mỗi Đại lý chạy trên luồng riêng của nó. Đây là lựa chọn lý tưởng để giám sát kết quả của các hoạt động Đại lý quy mô lớn.
Swarms không chỉ là một khung nhân vật mà còn tương thích với các khung như Eliza, ZerePy và Rig đã được đề cập trước đó. Với một cách tiếp cận theo mô-đun, nó tối đa hóa hiệu suất của nhân vật qua các luồng công việc và kiến trúc khác nhau để giải quyết các vấn đề tương ứng. Sự hình thành và phát triển của Swarms, cùng với cộng đồng phát triển của nó, đang tiến triển tốt.
Nói chung, Eliza và ZerePy có những lợi thế về sử dụng dễ dàng và phát triển nhanh, trong khi Rig và Swarms thích hợp hơn cho các nhà phát triển chuyên nghiệp hoặc ứng dụng doanh nghiệp đòi hỏi hiệu suất cao và xử lý quy mô lớn.
Đây là lý do tại sao framework Agent có đặc tính ‘hy vọng của ngành công nghiệp’. Các framework được đề cập ở trên vẫn đang ở giai đoạn đầu, và ưu tiên ngay lúc này là giành lợi thế người đi trước và thiết lập cộng đồng nhà phát triển sôi nổi. Hiệu suất của framework và việc nó có đuổi kịp các ứng dụng phổ biến Web2 không phải là ưu tiên hàng đầu. Những framework duy nhất sẽ thành công cuối cùng là những framework có thể liên tục thu hút nhà phát triển bởi vì ngành công nghiệp Web3 luôn cần thu hút sự chú ý của thị trường. Cho dù hiệu suất của framework có mạnh mẽ đến đâu hay nền tảng của nó có vững chắc đến đâu, nếu khó sử dụng và không thu hút người dùng, thì nó sẽ không đạt hiệu quả. Miễn là framework chính có thể thu hút nhà phát triển, những framework có mô hình kinh tế token trưởng thành và hoàn chỉnh hơn sẽ nổi bật.
Đặc tính “Memecoin” của Agent framework khá dễ hiểu. Các token của các framework được đề cập ở trên không có thiết kế kinh tế token hợp lý, thiếu các trường hợp sử dụng hoặc có các trường hợp rất hạn chế và chưa xác thực các mô hình kinh doanh. Không có bánh đà mã thông báo hiệu quả. Các framework chỉ đơn thuần là các framework và không có sự tích hợp hữu cơ giữa framework và token. Sự tăng trưởng về giá token, ngoài FOMO, có rất ít để hỗ trợ nó từ các nguyên tắc cơ bản và thiếu một con hào mạnh mẽ để đảm bảo tăng trưởng giá trị ổn định và lâu dài. Đồng thời, bản thân các khuôn khổ vẫn còn hơi thô sơ và giá trị thực tế của chúng không phù hợp với giá trị thị trường hiện tại của chúng, do đó thể hiện các đặc điểm “Memecoin” mạnh mẽ.
Lưu ý rằng “đa dạng sóng-hạt” của khung việc làm của Agent không phải là một bất lợi và không nên được diễn giải một cách cẩu thả là một khung việc không phải là Memecoin thuần túy hoặc một giải pháp nửa chừng không có trường hợp sử dụng mã thông báo. Như tôi đã đề cập trong bài viết trước đó, các đại lý nhẹ được bao phủ bởi tấm màn Memecoin không rõ ràng. Văn hóa cộng đồng và cơ sở vật chất sẽ không còn là mâu thuẫn, và một con đường phát triển tài sản mới đang dần hiện ra. Mặc dù khung việc Agent ban đầu có bong bóng và sự bất định, tiềm năng của chúng trong việc thu hút các nhà phát triển và thúc đẩy việc áp dụng ứng dụng không nên bị bỏ qua. Trong tương lai, các khung việc với mô hình nền kinh tế mã thông báo được phát triển tốt và hệ sinh thái nhà phát triển mạnh mẽ có thể trở thành các trụ cột chính của ngành này.
Chuyển tiếp tiêu đề gốc: Khung tác nhân AI có phải là mảnh ghép cuối cùng của câu đố không? Làm thế nào để giải thích “lưỡng tính sóng-hạt” của các khung?
Khung AI Agent, như một phần quan trọng trong sự phát triển của ngành, có thể nuôi dưỡng tiềm năng kép để thúc đẩy cả việc triển khai công nghệ và sự trưởng thành của hệ sinh thái. Một số framework được thảo luận nhiều nhất trên thị trường bao gồm Eliza, Rig, Swarms và ZerePy. Các framework này thu hút các nhà phát triển thông qua kho lưu trữ GitHub của họ, xây dựng danh tiếng. Thông qua việc phát hành mã thông báo thông qua “thư viện”, các khung này, giống như ánh sáng, thể hiện cả đặc điểm sóng và hạt. Tương tự, các khung Agent sở hữu cả ngoại ứng nghiêm trọng và đặc điểm Memecoin. Bài viết này sẽ tập trung vào việc giải thích “lưỡng tính sóng-hạt” của các khung này và khám phá lý do tại sao khung tác nhân có thể là mảnh ghép cuối cùng trong câu đố.
Kể từ khi GOAT xuất hiện, câu chuyện về đại lý đã thu hút sự chú ý của thị trường ngày càng tăng, tương tự như một chiêu thức võ thuật mạnh mẽ - với cú đấm trái đại diện cho “Memecoin” và bàn tay phải tượng trưng cho “hy vọng của ngành công nghiệp”, bạn có thể bị đánh bại bởi bất kỳ một trong những cú đánh này. Trong thực tế, các kịch bản ứng dụng của AI đại lý không được phân biệt chặt chẽ, và ranh giới giữa các nền tảng, khung công việc và các ứng dụng cụ thể bị mờ nhạt. Tuy nhiên, chúng vẫn có thể được phân loại theo sở thích về mã thông báo hoặc giao thức. Dựa trên sở thích phát triển của mã thông báo hoặc giao thức, chúng có thể được phân loại chung thành các nhóm sau đây:
Khi thảo luận thêm về khung Agent, có thể thấy rằng nó có những ngoại ứng đáng kể. Không giống như các nhà phát triển trên các chuỗi và giao thức công khai lớn, những người chỉ có thể chọn từ các môi trường ngôn ngữ lập trình khác nhau, quy mô tổng thể của cộng đồng nhà phát triển trong ngành không cho thấy tốc độ tăng trưởng tương ứng về vốn hóa thị trường. Kho lưu trữ GitHub là nơi các nhà phát triển Web2 và Web3 xây dựng sự đồng thuận. Xây dựng một cộng đồng nhà phát triển ở đây hấp dẫn và có ảnh hưởng hơn nhiều đối với các nhà phát triển Web2 so với bất kỳ gói “plug-and-play” nào được phát triển riêng lẻ bởi một giao thức.
Các khung việc được đề cập trong bài viết này đều là mã nguồn mở:
Hiện tại, khung Eliza được sử dụng rộng rãi trong các ứng dụng Điều phối khác nhau và là khung được sử dụng rộng rãi nhất. Việc phát triển của ZerePy chưa phát triển cao, và hướng phát triển chính của nó chủ yếu nằm ở X. Nó vẫn chưa hỗ trợ LLM cục bộ và bộ nhớ tích hợp. RIG có độ khó phát triển tương đối cao nhất nhưng cung cấp cho các nhà phát triển sự tự do lớn nhất để đạt được tối ưu hóa hiệu suất. Swarms, ngoài việc ra mắt mcs của nhóm, hiện chưa có các trường hợp sử dụng khác. Tuy nhiên, Swarms có thể tích hợp với các khung khác nhau, mang lại tiềm năng lớn.
Hơn nữa, trong phân loại nói trên, việc tách công cụ Agent và framework có thể gây nhầm lẫn. Nhưng tôi tin rằng hai điều này là khác nhau. Đầu tiên, tại sao nó được gọi là động cơ? Sự tương tự với các công cụ tìm kiếm trong cuộc sống thực là tương đối thích hợp. Không giống như các ứng dụng Agent đồng nhất, hiệu suất của công cụ Agent ở mức cao hơn, nhưng nó được đóng gói hoàn toàn và các điều chỉnh được thực hiện thông qua các giao diện API như hộp đen. Người dùng có thể trải nghiệm hiệu suất của công cụ Agent bằng cách phân nhánh nó, nhưng họ không thể kiểm soát bức tranh đầy đủ hoặc tự do tùy chỉnh như họ có thể làm với khung cơ bản. Công cụ của mỗi người dùng giống như tạo ra một tấm gương trên một Tác nhân được đào tạo và tương tác với gương đó. Mặt khác, framework được thiết kế cơ bản để thích ứng với chuỗi, bởi vì khi một Agent xây dựng một Agent framework, mục tiêu cuối cùng là tích hợp với chuỗi tương ứng. Cách xác định phương thức tương tác dữ liệu, cách xác định phương pháp xác thực dữ liệu, cách xác định kích thước khối và cách cân bằng giữa sự đồng thuận và hiệu suất — đây là những điều mà framework cần xem xét. Đối với động cơ, nó chỉ cần tinh chỉnh mô hình và điều chỉnh mối quan hệ giữa tương tác dữ liệu và bộ nhớ theo một hướng. Hiệu suất là tiêu chuẩn đánh giá duy nhất, trong khi khuôn khổ không giới hạn ở điều này.
Quy trình hoạt động đầu vào-đầu ra của một Đại lý yêu cầu ba phần. Đầu tiên, mô hình cơ bản xác định độ sâu và phương pháp suy nghĩ. Sau đó, bộ nhớ là nơi thực hiện tùy chỉnh. Sau khi mô hình cơ bản tạo ra một đầu ra, nó được sửa đổi dựa trên bộ nhớ. Cuối cùng, hoạt động đầu ra được hoàn thành trên các khách hàng khác nhau.
Nguồn:@SuhailKakar
Để xác nhận rằng Framework Đại lý có “tính chất song nguyên tử,” “sóng” đại diện cho đặc điểm của “Memecoin,” mô tả văn hóa cộng đồng và hoạt động phát triển, nhấn mạnh sự hấp dẫn và khả năng lan truyền của Đại lý. “Hạt” đại diện cho đặc điểm của “kỳ vọng từ ngành công nghiệp,” mô tả hiệu suất cơ bản, các trường hợp sử dụng thực tế và sâu sắc kỹ thuật. Tôi sẽ giải thích điều này bằng cách kết hợp hai khía cạnh, sử dụng hướng dẫn phát triển của ba Frameworks làm ví dụ:
Nguồn: @SuhailKakar
Nguồn: @SuhailKakar
Nguồn:@SuhailKakar
4. Đặt tính cách Đại lý
Nguồn:@SuhailKakar
Khung Eliza khá dễ bắt đầu. Nó dựa trên TypeScript, một ngôn ngữ mà hầu hết các nhà phát triển Web và Web3 đều quen thuộc. Khung là đơn giản và tránh quá trình trừu tượng quá mức, cho phép nhà phát triển dễ dàng thêm các tính năng mà họ muốn. Từ bước 3, chúng ta có thể thấy rằng Eliza hỗ trợ tích hợp đa khách hàng và có thể hiểu là một trình lắp ráp cho tích hợp đa khách hàng. Eliza hỗ trợ các nền tảng như DC, TG và X, cũng như các mô hình ngôn ngữ lớn khác nhau. Nó cho phép đầu vào thông qua các phương tiện truyền thông xã hội đã đề cập ở trên và đầu ra thông qua các mô hình LLM, và nó cũng hỗ trợ quản lý bộ nhớ tích hợp, cho phép bất kỳ nhà phát triển nào với thói quen khác nhau triển khai nhanh chóng một AI Agent.
Do vì sự đơn giản của khung cảnh và sự phong phú của các giao diện của nó, Eliza giảm đáng kể ngưỡng truy cập và đạt được một tiêu chuẩn giao diện tương đối đồng nhất.
1. Sao chép kho lưu trữ của ZerePy
Nguồn:https://replit.com/
Nguồn:https://replit.com/
3. Đặt tính cách đại lý
Nguồn:https://replit.com/
Lấy việc xây dựng một RAG (Retrieval-Augmented Generation) Agent làm ví dụ:
nguồn:https://dev.to/0thtachi/build-a-rag-system-with-rig-in-under-100-lines-of-code-4422
nguồn:https://dev.to/0thtachi/build-a-rag-system-with-rig-in-under-100-lines-of-code-4422
nguồn:https://dev.to/0thtachi/xay-dung-he-thong-rag-voi-rig-trong-duoi-100-dong-code-4422
nguồn:https://dev.to/0thtachi/build-a-rag-system-with-rig-in-under-100-lines-of-code-4422
Rig (ARC) là một khung xây dựng hệ thống trí tuệ nhân tạo dựa trên ngôn ngữ Rust cho các bộ máy LLM. Nó giải quyết các vấn đề tối ưu hiệu suất ở mức độ thấp hơn. Nói cách khác, ARC là một bộ dụng cụ trí tuệ nhân tạo cung cấp các cuộc gọi trí tuệ nhân tạo và tối ưu hiệu suất, lưu trữ dữ liệu, xử lý ngoại lệ và các dịch vụ hỗ trợ nền khác.
Điều mà Rig muốn giải quyết là vấn đề “gọi” để giúp các nhà phát triển lựa chọn LLM tốt hơn, tối ưu hóa từ gợi ý tốt hơn, quản lý token hiệu quả hơn và cách xử lý đồng thời, quản lý tài nguyên, giảm độ trễ, v.v. Trọng tâm của nó là về mô hình AI LLM Làm thế nào để “sử dụng tốt” khi hợp tác với hệ thống AI Agent.
Riglà một thư viện Rust mã nguồn mở được thiết kế để đơn giản hóa việc phát triển các ứng dụng LLM, bao gồm RAG Agents. Bởi vì Rig mở rộng hơn, nó đòi hỏi yêu cầu cao hơn cho các nhà phát triển và sự hiểu biết cao hơn về Rust và Agent. Hướng dẫn ở đây là quy trình cấu hình RAG Agent cơ bản nhất. RAG tăng cường LLM bằng cách kết hợp LLM với việc truy xuất kiến thức bên ngoài. Trong các DEMO khác trên trang web chính thức, bạn có thể thấy rằng Rig có những đặc điểm sau:
Có thể thấy rằng so với Eliza, Rig cung cấp cho nhà phát triển thêm không gian để tối ưu hóa hiệu suất, giúp nhà phát triển gỡ rối cuộc gọi và tối ưu hóa sự hợp tác của LLM và Agent tốt hơn. Rig cung cấp hiệu suất được điều khiển bằng Rust, tận dụng các trừu tượng không tốn phí và hoạt động LLM an toàn bộ nhớ, hiệu suất cao và thời gian chậm thấp của Rust. Nó có thể cung cấp một mức độ tự do phong phú hơn ở mức độ cơ bản.
Swarms nhằm cung cấp một khung môi trường triển khai đa tác nhân cấp doanh nghiệp. Trang web chính thức cung cấp hàng chục quy trình công việc và kiến trúc tuần tự/đồng thời cho các nhiệm vụ của Tác nhân. Dưới đây là một giới thiệu ngắn gọn về một phần nhỏ của chúng.
Luồng công việc tuần tự
Nguồn:https://docs.swarms.world
Kiến trúc Swarm tuần tự xử lý các nhiệm vụ theo chuỗi tuyến tính. Mỗi Đại lý hoàn thành nhiệm vụ của mình trước khi chuyển kết quả cho Đại lý tiếp theo trong chuỗi. Kiến trúc này đảm bảo xử lý theo trình tự và hữu ích khi các nhiệm vụ có phụ thuộc.
Use case:
Kiến trúc phân cấp:
Nguồn: https://docs.swarms.world
Kiến trúc này thực hiện điều khiển từ trên xuống, trong đó một Đại lý cấp cao điều phối các nhiệm vụ giữa các Đại lý cấp thấp. Các Đại lý thực thi các nhiệm vụ đồng thời và đưa kết quả của họ trở lại vòng lặp để tổng hợp cuối cùng. Điều này đặc biệt hữu ích cho các nhiệm vụ có khả năng song song cao.
Nguồn:https://docs.swarms.world
Kiến trúc này được thiết kế để quản lý các nhóm đại lý làm việc cùng nhau trên quy mô lớn. Nó có thể quản lý hàng ngàn Đại lý, mỗi Đại lý chạy trên luồng riêng của nó. Đây là lựa chọn lý tưởng để giám sát kết quả của các hoạt động Đại lý quy mô lớn.
Swarms không chỉ là một khung nhân vật mà còn tương thích với các khung như Eliza, ZerePy và Rig đã được đề cập trước đó. Với một cách tiếp cận theo mô-đun, nó tối đa hóa hiệu suất của nhân vật qua các luồng công việc và kiến trúc khác nhau để giải quyết các vấn đề tương ứng. Sự hình thành và phát triển của Swarms, cùng với cộng đồng phát triển của nó, đang tiến triển tốt.
Nói chung, Eliza và ZerePy có những lợi thế về sử dụng dễ dàng và phát triển nhanh, trong khi Rig và Swarms thích hợp hơn cho các nhà phát triển chuyên nghiệp hoặc ứng dụng doanh nghiệp đòi hỏi hiệu suất cao và xử lý quy mô lớn.
Đây là lý do tại sao framework Agent có đặc tính ‘hy vọng của ngành công nghiệp’. Các framework được đề cập ở trên vẫn đang ở giai đoạn đầu, và ưu tiên ngay lúc này là giành lợi thế người đi trước và thiết lập cộng đồng nhà phát triển sôi nổi. Hiệu suất của framework và việc nó có đuổi kịp các ứng dụng phổ biến Web2 không phải là ưu tiên hàng đầu. Những framework duy nhất sẽ thành công cuối cùng là những framework có thể liên tục thu hút nhà phát triển bởi vì ngành công nghiệp Web3 luôn cần thu hút sự chú ý của thị trường. Cho dù hiệu suất của framework có mạnh mẽ đến đâu hay nền tảng của nó có vững chắc đến đâu, nếu khó sử dụng và không thu hút người dùng, thì nó sẽ không đạt hiệu quả. Miễn là framework chính có thể thu hút nhà phát triển, những framework có mô hình kinh tế token trưởng thành và hoàn chỉnh hơn sẽ nổi bật.
Đặc tính “Memecoin” của Agent framework khá dễ hiểu. Các token của các framework được đề cập ở trên không có thiết kế kinh tế token hợp lý, thiếu các trường hợp sử dụng hoặc có các trường hợp rất hạn chế và chưa xác thực các mô hình kinh doanh. Không có bánh đà mã thông báo hiệu quả. Các framework chỉ đơn thuần là các framework và không có sự tích hợp hữu cơ giữa framework và token. Sự tăng trưởng về giá token, ngoài FOMO, có rất ít để hỗ trợ nó từ các nguyên tắc cơ bản và thiếu một con hào mạnh mẽ để đảm bảo tăng trưởng giá trị ổn định và lâu dài. Đồng thời, bản thân các khuôn khổ vẫn còn hơi thô sơ và giá trị thực tế của chúng không phù hợp với giá trị thị trường hiện tại của chúng, do đó thể hiện các đặc điểm “Memecoin” mạnh mẽ.
Lưu ý rằng “đa dạng sóng-hạt” của khung việc làm của Agent không phải là một bất lợi và không nên được diễn giải một cách cẩu thả là một khung việc không phải là Memecoin thuần túy hoặc một giải pháp nửa chừng không có trường hợp sử dụng mã thông báo. Như tôi đã đề cập trong bài viết trước đó, các đại lý nhẹ được bao phủ bởi tấm màn Memecoin không rõ ràng. Văn hóa cộng đồng và cơ sở vật chất sẽ không còn là mâu thuẫn, và một con đường phát triển tài sản mới đang dần hiện ra. Mặc dù khung việc Agent ban đầu có bong bóng và sự bất định, tiềm năng của chúng trong việc thu hút các nhà phát triển và thúc đẩy việc áp dụng ứng dụng không nên bị bỏ qua. Trong tương lai, các khung việc với mô hình nền kinh tế mã thông báo được phát triển tốt và hệ sinh thái nhà phát triển mạnh mẽ có thể trở thành các trụ cột chính của ngành này.