Manus đã đạt được điểm SOTA (State-of-the-Art) trong điểm chuẩn GAIA, cho thấy hiệu suất của nó vượt trội so với các mô hình lớn cùng cấp độ của Open AI. Nói cách khác, nó có thể hoàn thành các nhiệm vụ phức tạp một cách độc lập, chẳng hạn như đàm phán kinh doanh xuyên biên giới, liên quan đến việc chia nhỏ các điều khoản hợp đồng, dự đoán chiến lược, tạo ra giải pháp và thậm chí điều phối các nhóm pháp lý và tài chính. So với các hệ thống truyền thống, Manus có ưu điểm là khả năng tháo rời đối tượng động, khả năng suy luận đa phương thức và khả năng học tập tăng cường trí nhớ. Nó có thể chia nhỏ các tác vụ lớn thành hàng trăm tác vụ con có thể thực thi, xử lý nhiều loại dữ liệu cùng một lúc và sử dụng học tăng cường để liên tục cải thiện hiệu quả ra quyết định và giảm tỷ lệ lỗi.
Ngoài việc ngạc nhiên trước sự phát triển nhanh chóng của công nghệ, Manus đã một lần nữa gây ra sự bất đồng trong vòng tròn về con đường tiến hóa của AI: AGI sẽ thống trị thế giới trong tương lai, hay MAS sẽ thống trị hiệp đồng?
Điều này bắt đầu với triết lý thiết kế của Manus, ngụ ý hai khả năng:
Một là con đường AGI. Bằng cách liên tục nâng cao mức độ thông minh cá nhân, nó gần với khả năng ra quyết định toàn diện của con người.
Ngoài ra còn có con đường MAS. Với tư cách là một siêu điều phối, chỉ huy hàng ngàn đặc vụ dọc làm việc cùng nhau.
Nhìn bề ngoài, chúng ta đang thảo luận về những con đường khác nhau, nhưng trên thực tế, chúng ta đang thảo luận về mâu thuẫn cơ bản của sự phát triển AI: hiệu quả và bảo mật nên được cân bằng như thế nào? Trí thông minh nguyên khối càng gần với AGI thì nguy cơ ra quyết định hộp đen càng cao. Mặc dù cộng tác nhiều tác nhân có thể lan truyền rủi ro, nhưng nó có thể bỏ lỡ các cửa sổ ra quyết định quan trọng do sự chậm trễ trong giao tiếp.
Sự phát triển của Manus đã phóng đại vô hình những rủi ro vốn có của sự phát triển AI. Ví dụ: lỗ đen về quyền riêng tư dữ liệu: trong các tình huống y tế, Manus cần truy cập theo thời gian thực vào dữ liệu bộ gen của bệnh nhân; Trong quá trình đàm phán tài chính, nó có thể chạm đến thông tin tài chính không được tiết lộ của công ty; Ví dụ, bẫy thiên vị thuật toán, trong các cuộc đàm phán tuyển dụng, Manus đưa ra các khuyến nghị về mức lương dưới mức trung bình cho các ứng viên thuộc một dân tộc cụ thể; Khi xem xét các hợp đồng pháp lý, tỷ lệ đánh giá sai về các điều khoản ngành mới nổi là gần một nửa. Một ví dụ khác là lỗ hổng tấn công đối thủ, nơi tin tặc cấy các tần số giọng nói cụ thể để cho phép Manus đánh giá sai phạm vi đề nghị của đối thủ trong quá trình đàm phán.
Chúng ta phải đối mặt với một vấn đề khủng khiếp đối với các hệ thống AI: hệ thống càng thông minh, bề mặt tấn công càng rộng.
Tuy nhiên, bảo mật là một từ đã được nhắc đến rất nhiều trong web3 và có nhiều phương pháp mã hóa bắt nguồn từ khuôn khổ tam giác bất khả thi V (mạng blockchain không thể đạt được bảo mật, phi tập trung và khả năng mở rộng cùng một lúc):
Ý tưởng cốt lõi của Zero Trust Security Model :* là "không tin tưởng ai, luôn xác minh", tức là các thiết bị không nên được tin cậy theo mặc định, bất kể chúng có nằm trên mạng nội bộ hay không. Mô hình này nhấn mạnh vào việc xác thực và ủy quyền nghiêm ngặt cho từng yêu cầu truy cập để đảm bảo bảo mật hệ thống.
Danh tính phi tập trung (DID): DID là một tập hợp các tiêu chuẩn định danh cho phép các thực thể được xác định một cách có thể xác minh và bền vững mà không cần đăng ký tập trung. Điều này cho phép một mô hình nhận dạng kỹ thuật số phi tập trung mới, thường được so sánh với danh tính tự chủ, là một phần thiết yếu của Web3.
Mã hóa đồng hình hoàn toàn (FHE) là một kỹ thuật mã hóa tiên tiến cho phép thực hiện tính toán tùy ý trên dữ liệu được mã hóa mà không cần giải mã dữ liệu đó. Điều này có nghĩa là bên thứ ba có thể hoạt động trên văn bản mật mã và kết quả thu được sau khi giải mã giống như kết quả của cùng một thao tác trên văn bản thuần túy. Tính năng này rất quan trọng đối với các tình huống yêu cầu tính toán mà không hiển thị dữ liệu thô, chẳng hạn như điện toán đám mây và thuê ngoài dữ liệu.
Các mô hình bảo mật Zero Trust và DID có một số dự án nhất định trong nhiều vòng thị trường tăng giá, và chúng đã thành công hoặc chết đuối trong làn sóng mã hóa, và là phương pháp mã hóa trẻ nhất: Mã hóa đồng hình hoàn toàn (FHE) cũng là một sát thủ lớn để giải quyết các vấn đề bảo mật trong kỷ nguyên AI. Mã hóa đồng hình hoàn toàn (FHE) là một công nghệ cho phép tính toán diễn ra trên dữ liệu được mã hóa.
Làm thế nào để khắc phục nó?
Đầu tiên, ở cấp độ dữ liệu. Tất cả thông tin do người dùng nhập (bao gồm sinh trắc học, giọng nói) đều được xử lý ở trạng thái mã hóa và ngay cả bản thân Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong trường hợp chẩn đoán y tế, dữ liệu bộ gen của bệnh nhân được phân tích dưới dạng văn bản mật mã để tránh rò rỉ thông tin sinh học.
Cấp độ thuật toán. "Đào tạo mô hình mật mã" đạt được thông qua FHE khiến các nhà phát triển không thể nhìn vào con đường ra quyết định của AI.
Ở cấp độ sức mạnh tổng hợp. Mã hóa ngưỡng được sử dụng cho nhiều giao tiếp tác nhân và một nút duy nhất có thể bị vi phạm mà không gây rò rỉ dữ liệu toàn cầu. Ngay cả trong các cuộc tập trận tấn công và phòng thủ chuỗi cung ứng, những kẻ tấn công xâm nhập vào nhiều tác nhân để có được cái nhìn đầy đủ về doanh nghiệp.
Do những hạn chế về kỹ thuật, bảo mật web3 có thể không liên quan trực tiếp đến hầu hết người dùng, nhưng nó có mối liên hệ chặt chẽ với các lợi ích gián tiếp.
Ra mắt trên mainnet Ethereum vào năm 2017, uPort có lẽ là dự án nhận dạng phi tập trung (DID) đầu tiên được phát hành trên mainnet.
Về mô hình bảo mật Zero Trust, NKN đã phát hành mainnet của mình vào năm 2019.
Mind Network là dự án FHE đầu tiên được ra mắt trên mainnet và nó đã đi đầu trong việc hợp tác với ZAMA, Google, DeepSeek, v.v.
uPort và NKN đã là những dự án mà tôi chưa từng nghe nói đến, và có vẻ như các dự án bảo mật thực sự không được các nhà đầu cơ quan tâm, vì vậy hãy cùng chờ xem liệu Mind network có thể thoát khỏi lời nguyền này và trở thành người dẫn đầu trong lĩnh vực bảo mật hay không.
Tương lai là ở đây. AI càng gần với trí thông minh của con người, nó càng cần nhiều khả năng phòng thủ không phải con người. Giá trị của FHE không chỉ là giải quyết các vấn đề hiện nay mà còn mở đường cho kỷ nguyên AI mạnh. Trên con đường nguy hiểm đến AGI này, FHE không phải là một lựa chọn, mà là một điều cần thiết để tồn tại.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Manus mang đến bình minh của AGI và bảo mật AI cũng đáng để suy ngẫm
Manus đã đạt được điểm SOTA (State-of-the-Art) trong điểm chuẩn GAIA, cho thấy hiệu suất của nó vượt trội so với các mô hình lớn cùng cấp độ của Open AI. Nói cách khác, nó có thể hoàn thành các nhiệm vụ phức tạp một cách độc lập, chẳng hạn như đàm phán kinh doanh xuyên biên giới, liên quan đến việc chia nhỏ các điều khoản hợp đồng, dự đoán chiến lược, tạo ra giải pháp và thậm chí điều phối các nhóm pháp lý và tài chính. So với các hệ thống truyền thống, Manus có ưu điểm là khả năng tháo rời đối tượng động, khả năng suy luận đa phương thức và khả năng học tập tăng cường trí nhớ. Nó có thể chia nhỏ các tác vụ lớn thành hàng trăm tác vụ con có thể thực thi, xử lý nhiều loại dữ liệu cùng một lúc và sử dụng học tăng cường để liên tục cải thiện hiệu quả ra quyết định và giảm tỷ lệ lỗi.
! Manus mang đến bình minh của AGI, bảo mật AI cũng đáng để suy ngẫm
Ngoài việc ngạc nhiên trước sự phát triển nhanh chóng của công nghệ, Manus đã một lần nữa gây ra sự bất đồng trong vòng tròn về con đường tiến hóa của AI: AGI sẽ thống trị thế giới trong tương lai, hay MAS sẽ thống trị hiệp đồng?
Điều này bắt đầu với triết lý thiết kế của Manus, ngụ ý hai khả năng:
Một là con đường AGI. Bằng cách liên tục nâng cao mức độ thông minh cá nhân, nó gần với khả năng ra quyết định toàn diện của con người.
Ngoài ra còn có con đường MAS. Với tư cách là một siêu điều phối, chỉ huy hàng ngàn đặc vụ dọc làm việc cùng nhau.
Nhìn bề ngoài, chúng ta đang thảo luận về những con đường khác nhau, nhưng trên thực tế, chúng ta đang thảo luận về mâu thuẫn cơ bản của sự phát triển AI: hiệu quả và bảo mật nên được cân bằng như thế nào? Trí thông minh nguyên khối càng gần với AGI thì nguy cơ ra quyết định hộp đen càng cao. Mặc dù cộng tác nhiều tác nhân có thể lan truyền rủi ro, nhưng nó có thể bỏ lỡ các cửa sổ ra quyết định quan trọng do sự chậm trễ trong giao tiếp.
Sự phát triển của Manus đã phóng đại vô hình những rủi ro vốn có của sự phát triển AI. Ví dụ: lỗ đen về quyền riêng tư dữ liệu: trong các tình huống y tế, Manus cần truy cập theo thời gian thực vào dữ liệu bộ gen của bệnh nhân; Trong quá trình đàm phán tài chính, nó có thể chạm đến thông tin tài chính không được tiết lộ của công ty; Ví dụ, bẫy thiên vị thuật toán, trong các cuộc đàm phán tuyển dụng, Manus đưa ra các khuyến nghị về mức lương dưới mức trung bình cho các ứng viên thuộc một dân tộc cụ thể; Khi xem xét các hợp đồng pháp lý, tỷ lệ đánh giá sai về các điều khoản ngành mới nổi là gần một nửa. Một ví dụ khác là lỗ hổng tấn công đối thủ, nơi tin tặc cấy các tần số giọng nói cụ thể để cho phép Manus đánh giá sai phạm vi đề nghị của đối thủ trong quá trình đàm phán.
Chúng ta phải đối mặt với một vấn đề khủng khiếp đối với các hệ thống AI: hệ thống càng thông minh, bề mặt tấn công càng rộng.
Tuy nhiên, bảo mật là một từ đã được nhắc đến rất nhiều trong web3 và có nhiều phương pháp mã hóa bắt nguồn từ khuôn khổ tam giác bất khả thi V (mạng blockchain không thể đạt được bảo mật, phi tập trung và khả năng mở rộng cùng một lúc):
Ý tưởng cốt lõi của Zero Trust Security Model :* là "không tin tưởng ai, luôn xác minh", tức là các thiết bị không nên được tin cậy theo mặc định, bất kể chúng có nằm trên mạng nội bộ hay không. Mô hình này nhấn mạnh vào việc xác thực và ủy quyền nghiêm ngặt cho từng yêu cầu truy cập để đảm bảo bảo mật hệ thống. Danh tính phi tập trung (DID): DID là một tập hợp các tiêu chuẩn định danh cho phép các thực thể được xác định một cách có thể xác minh và bền vững mà không cần đăng ký tập trung. Điều này cho phép một mô hình nhận dạng kỹ thuật số phi tập trung mới, thường được so sánh với danh tính tự chủ, là một phần thiết yếu của Web3. Mã hóa đồng hình hoàn toàn (FHE) là một kỹ thuật mã hóa tiên tiến cho phép thực hiện tính toán tùy ý trên dữ liệu được mã hóa mà không cần giải mã dữ liệu đó. Điều này có nghĩa là bên thứ ba có thể hoạt động trên văn bản mật mã và kết quả thu được sau khi giải mã giống như kết quả của cùng một thao tác trên văn bản thuần túy. Tính năng này rất quan trọng đối với các tình huống yêu cầu tính toán mà không hiển thị dữ liệu thô, chẳng hạn như điện toán đám mây và thuê ngoài dữ liệu.
Các mô hình bảo mật Zero Trust và DID có một số dự án nhất định trong nhiều vòng thị trường tăng giá, và chúng đã thành công hoặc chết đuối trong làn sóng mã hóa, và là phương pháp mã hóa trẻ nhất: Mã hóa đồng hình hoàn toàn (FHE) cũng là một sát thủ lớn để giải quyết các vấn đề bảo mật trong kỷ nguyên AI. Mã hóa đồng hình hoàn toàn (FHE) là một công nghệ cho phép tính toán diễn ra trên dữ liệu được mã hóa.
Làm thế nào để khắc phục nó?
Đầu tiên, ở cấp độ dữ liệu. Tất cả thông tin do người dùng nhập (bao gồm sinh trắc học, giọng nói) đều được xử lý ở trạng thái mã hóa và ngay cả bản thân Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong trường hợp chẩn đoán y tế, dữ liệu bộ gen của bệnh nhân được phân tích dưới dạng văn bản mật mã để tránh rò rỉ thông tin sinh học.
Cấp độ thuật toán. "Đào tạo mô hình mật mã" đạt được thông qua FHE khiến các nhà phát triển không thể nhìn vào con đường ra quyết định của AI.
Ở cấp độ sức mạnh tổng hợp. Mã hóa ngưỡng được sử dụng cho nhiều giao tiếp tác nhân và một nút duy nhất có thể bị vi phạm mà không gây rò rỉ dữ liệu toàn cầu. Ngay cả trong các cuộc tập trận tấn công và phòng thủ chuỗi cung ứng, những kẻ tấn công xâm nhập vào nhiều tác nhân để có được cái nhìn đầy đủ về doanh nghiệp.
Do những hạn chế về kỹ thuật, bảo mật web3 có thể không liên quan trực tiếp đến hầu hết người dùng, nhưng nó có mối liên hệ chặt chẽ với các lợi ích gián tiếp.
Ra mắt trên mainnet Ethereum vào năm 2017, uPort có lẽ là dự án nhận dạng phi tập trung (DID) đầu tiên được phát hành trên mainnet. Về mô hình bảo mật Zero Trust, NKN đã phát hành mainnet của mình vào năm 2019. Mind Network là dự án FHE đầu tiên được ra mắt trên mainnet và nó đã đi đầu trong việc hợp tác với ZAMA, Google, DeepSeek, v.v.
uPort và NKN đã là những dự án mà tôi chưa từng nghe nói đến, và có vẻ như các dự án bảo mật thực sự không được các nhà đầu cơ quan tâm, vì vậy hãy cùng chờ xem liệu Mind network có thể thoát khỏi lời nguyền này và trở thành người dẫn đầu trong lĩnh vực bảo mật hay không.
Tương lai là ở đây. AI càng gần với trí thông minh của con người, nó càng cần nhiều khả năng phòng thủ không phải con người. Giá trị của FHE không chỉ là giải quyết các vấn đề hiện nay mà còn mở đường cho kỷ nguyên AI mạnh. Trên con đường nguy hiểm đến AGI này, FHE không phải là một lựa chọn, mà là một điều cần thiết để tồn tại.