TechOfficeDario Amodei ủng hộ quyền lực của chính phủ trong việc ngăn chặn việc triển khai AI
CEO nhân đạo ủng hộ quyền lực của chính phủ trong việc ngăn chặn các mô hình AI rủi ro
Lập trường bất ngờ của người dẫn đầu ngành về quản trị AI làm dấy lên cuộc tranh luận
Trong một diễn biến đáng ngạc nhiên đã gây xôn xao cộng đồng trí tuệ nhân tạo, Dario Amodei, Giám đốc điều hành của Anthropic, đã công khai ủng hộ việc trao cho các cơ quan chính phủ quyền ngăn chặn hoặc ngăn chặn việc triển khai các mô hình AI được cho là có những rủi ro không thể chấp nhận được. Quan điểm này, được nêu rõ trong một bài đăng chính sách gần đây trên blog cá nhân của ông, thể hiện quan điểm quan trọng của một trong những nhân vật nổi bật trong ngành liên quan đến việc quản trị các hệ thống AI tiên tiến.
Bối cảnh về Nhân chủng học và Dario Amodei
Anthropic đã nổi lên như một công ty hàng đầu trong lĩnh vực nghiên cứu AI, nổi tiếng với việc phát triển các mô hình ngôn ngữ tiên tiến và tập trung vào sự an toàn của AI. Được thành lập bởi các nhà nghiên cứu trước đây của OpenAI, bao gồm cả Dario Amodei, công ty đã đặt mình vào vị trí giao thoa giữa phát triển AI tiên tiến và các cân nhắc về an toàn. Amodei, người trước đây giữ chức Phó Chủ tịch Nghiên cứu tại OpenAI, đã lên tiếng về sự cần thiết phải phát triển AI có trách nhiệm nhưng nhìn chung lại gắn liền với các biện pháp an toàn do ngành dẫn dắt thay vì các biện pháp an toàn do chính phủ bắt buộc.
Công ty đã nhận được nguồn tài trợ đáng kể, bao gồm cả khoản đầu tư từ các công ty công nghệ lớn và đã phát triển hệ thống AI của riêng mình, đáng chú ý nhất là Claude, hệ thống này được định vị là giải pháp thay thế an toàn hơn cho một số mẫu máy mạnh hơn trên thị trường.
Đề xuất chính sách: Sự can thiệp của Chính phủ vào việc triển khai AI
Trong bài đăng trên blog gần đây có tiêu đề "Chính sách về hàm mũ AI", Amodei đã phác thảo một khuôn khổ quản lý AI bao gồm một điều khoản gây tranh cãi: cấp cho các cơ quan chính phủ quyền can thiệp vào việc triển khai các mô hình AI. Theo Amodei, quyền này chỉ nên được thực hiện khi đánh giá của bên thứ ba xác định rằng mô hình có những rủi ro không thể chấp nhận được.
"Chính phủ phải có quyền ngăn chặn hoặc ngăn chặn việc triển khai mô hình nếu nó được xác định, dựa trên đánh giá của bên thứ ba, gây ra những rủi ro không thể chấp nhận được", Amodei nêu rõ trong tài liệu chính sách của mình. Quan điểm này đánh dấu sự khác biệt đáng chú ý so với quan điểm điển hình của ngành ủng hộ các biện pháp tự điều chỉnh và an toàn tự nguyện.
Bốn loại rủi ro cụ thể
Đề xuất của Amodei nhấn mạnh rằng quyền lực này của chính phủ cần được phân bổ cẩn thận để giải quyết bốn loại rủi ro cụ thể. Mặc dù bài đăng gốc không liệt kê rõ ràng các danh mục này nhưng chúng có thể bao gồm những mối lo ngại thường được xác định trong các cuộc thảo luận về an toàn AI, bao gồm:
- Rủi ro thảm khốc từ các hệ thống AI có năng lực cao
- Rủi ro sinh học từ việc thiết kế các tác nhân nguy hiểm có sự hỗ trợ của AI
- Hệ thống vũ khí tự động được điều khiển bởi AI
- Rủi ro hệ thống đối với cơ sở hạ tầng quan trọng hoặc sự ổn định kinh tế
Các biện pháp bảo vệ chống lại chủ nghĩa thiên vị chính trị
Một thành phần quan trọng trong đề xuất của Amodei là đưa vào các biện pháp bảo vệ chống lại khả năng lạm dụng quyền lực của chính phủ. Ông đặc biệt kêu gọi "các biện pháp bảo vệ chống lại chủ nghĩa thiên vị chính trị hoặc các quyết định tùy tiện", thừa nhận sự cần thiết của các tiêu chí khách quan trong việc xác định mô hình nào nên bị hạn chế.
Các biện pháp bảo vệ này có thể bao gồm:
- Phương pháp đánh giá minh bạch
- Cơ quan đánh giá độc lập
- Quy trình khiếu nại dành cho nhà phát triển
- Thường xuyên hoàng hôn hoặc đánh giá của cơ quan chính phủ
Bối cảnh và phản ứng của ngành
Quan điểm của Amodei về sự can thiệp của chính phủ trái ngược với quan điểm phổ biến trong phần lớn ngành AI, vốn thường ủng hộ các cam kết an toàn tự nguyện và tự điều chỉnh. Ngành công nghệ trước đây thường chống lại sự giám sát của chính phủ, đặc biệt là trong các lĩnh vực đang phát triển nhanh chóng như phát triển AI.
Vị trí này càng trở nên đáng chú ý hơn khi Anthropic đang là tổ chức nghiên cứu AI hàng đầu. Công ty đã tham gia vào các sáng kiến trong ngành như Diễn đàn Mô hình Biên giới, tập trung vào việc phát triển các tiêu chuẩn an toàn thông qua nỗ lực hợp tác trong ngành thay vì các quy định bắt buộc.
So sánh các phương pháp quản trị AI
Ý nghĩa đối với quản trị AI
Đề xuất của Amodei được đưa ra vào thời điểm quan trọng trong cuộc tranh luận về quản trị AI. Khi các hệ thống AI ngày càng trở nên mạnh mẽ, các câu hỏi về cơ chế giám sát phù hợp đã chuyển từ các cuộc thảo luận mang tính lý thuyết sang các cân nhắc chính sách cấp bách. Đạo luật AI của Liên minh Châu Âu, nhiều đề xuất khác nhau ở Hoa Kỳ và các cuộc thảo luận quốc tế tại các diễn đàn như Hội nghị thượng đỉnh AI của Vương quốc Anh đều phản ánh động lực ngày càng tăng đối với một số dạng khung pháp lý.
Việc đưa tiếng nói nổi bật của ngành ủng hộ sự can thiệp của chính phủ có thể thay đổi cơ hội quản lý AI của Overton, khiến các phương pháp quản lý nghiêm ngặt hơn trở nên khả thi về mặt chính trị. Nó cũng có thể báo hiệu sự thừa nhận trong ngành rằng chỉ các biện pháp tự nguyện có thể không đủ để giải quyết những rủi ro đáng kể nhất do các hệ thống AI ngày càng tiên tiến gây ra.
Nhận xét và cân nhắc
Bất chấp sự ủng hộ của Amodei đối với sự can thiệp của chính phủ, vẫn còn những câu hỏi và mối quan ngại quan trọng liên quan đến việc triển khai khuôn khổ đó trên thực tế:
- Khoảng cách chuyên môn: Các cơ quan chính phủ có thể thiếu chuyên môn kỹ thuật để đánh giá chính xác các hệ thống AI tiên tiến.
- Hạn chế đổi mới: Các yêu cầu triển khai nghiêm ngặt có thể cản trở sự đổi mới và làm chậm quá trình phát triển AI có lợi.
- Phối hợp quốc tế: Quản trị hiệu quả sẽ cần có sự hợp tác quốc tế để ngăn chặn hành vi chênh lệch pháp lý.
- Xác định "Rủi ro không thể chấp nhận": Việc thiết lập các tiêu chí khách quan, rõ ràng để xác định mô hình nào gây ra rủi ro không thể chấp nhận vẫn còn nhiều thách thức.
Kết luận
Việc Dario Amodei ủng hộ quyền lực của chính phủ trong việc ngăn chặn việc triển khai mô hình AI thể hiện một bước phát triển đáng kể trong cuộc tranh luận đang diễn ra về quản trị AI. Bằng cách ủng hộ các cơ chế quản lý được thiết kế cẩn thận, Amodei đã thừa nhận những hạn chế tiềm ẩn của các phương pháp tiếp cận thuần túy do ngành dẫn đầu trong khi cố gắng giải quyết các mối lo ngại chính đáng về an toàn.
Khi các hệ thống AI tiếp tục phát triển nhanh chóng, cuộc tranh luận về cơ chế quản trị phù hợp có thể sẽ gay gắt hơn. Đề xuất của Amodei, với sự nhấn mạnh vào các loại rủi ro cụ thể và các biện pháp bảo vệ chống lại chủ nghĩa thiên vị chính trị, có thể đưa ra một con đường trung gian giữa sự phát triển không bị kiểm soát và quy định quá mức. Những tháng và năm tới có thể sẽ chứng kiến sự phát triển liên tục của những ý tưởng này khi các nhà hoạch định chính sách, lãnh đạo ngành và các bên liên quan trong xã hội dân sự nỗ lực phát triển các khuôn khổ cân bằng giữa đổi mới và an toàn trong thời đại trí tuệ nhân tạo ngày càng mạnh mẽ.
Quan điểm của Anthropic về vấn đề này sẽ đặc biệt đáng chú ý khi quan sát, vì hành động của công ty—ngoài các đề xuất chính sách cá nhân của Amodei—sẽ cho biết liệu sự ủng hộ này có thể hiện sự thay đổi thực sự trong chiến lược công ty hay chỉ đơn giản là một quan điểm trong một cuộc thảo luận rộng hơn về ngành.
Hóa ra CEO Anthropic - Bản thân Dario muốn chính phủ có quyền ngăn chặn hoặc ngăn cản việc triển khai các mô hình 🤦 Chính phủ phải có quyền ngăn chặn hoặc ngăn chặn việc triển khai mô hình nếu nó được xác định là có những rủi ro không thể chấp nhận được, dựa trên đánh giá của bên thứ ba. Quyền lực này phải nằm trong phạm vi bốn rủi ro cụ thể nêu trên và phải có các biện pháp bảo vệ chống lại chủ nghĩa thiên vị chính trị hoặc các quyết định độc đoán. Nước sốt: https://darioamodei.com/post/policy-on-the-ai-exponential Theo dõi @TechLeaksZone Hoá ra CEO Anthropic - chính Dario cũng muốn chính phủ có quyền ngăn chặn hoặc ngăn cản việc triển khai người mẫu 🤦 Chính phủ phải có quyền ngăn chặn hoặc ngăn chặn việc triển khai mô hình nếu nó được xác định là có những rủi ro không thể chấp nhận được, dựa trên đánh giá của bên thứ ba. Quyền lực này phải nằm trong phạm vi bốn rủi ro cụ thể nêu trên và phải có các biện pháp bảo vệ chống lại chủ nghĩa thiên vị chính trị hoặc các quyết định độc đoán. Nước sốt: https://darioamodei.com/post/policy-on-the-ai-exponential Theo dõi @TechLeaksZone
