Anthropic rút lui Claude Mythos 5 và Claude Fable 5 trong bối cảnh hành động quản lý của Chính phủ Hoa Kỳ

Công ty trí tuệ nhân tạo Anthropic có trụ sở tại San Francisco đã tuyên bố ngừng ngay lập tức các biến thể mô hình Claude Mythos 5 và Claude Fable 5 theo chỉ thị của chính phủ Hoa Kỳ. Động thái này đánh dấu bước phát triển đáng kể trong mối quan hệ ngày càng phức tạp giữa các nhà phát triển AI và cơ quan quản lý khi công nghệ này phát triển nhanh chóng.

Bối cảnh về Nhân chủng học và Gia đình Claude

Anthropic, được thành lập vào năm 2021 bởi các cựu nhà nghiên cứu OpenAI trong đó có Dario Amodei, đã định vị mình là nhà phát triển AI tập trung vào an toàn. Chuỗi mô hình ngôn ngữ Claude của công ty đã thu hút được sự chú ý nhờ nhấn mạnh vào các nguyên tắc AI theo hiến pháp và nghiên cứu liên kết.

Hệ sinh thái Claude đã phát triển để bao gồm một số biến thể chuyên biệt:

• Claude 3: Mẫu máy đa năng hàng đầu
• Claude Opus 4: Mô hình suy luận hiệu suất cao
• Claude Sonnet 4: Cân bằng năng lực và hiệu quả
• Claude Haiku 4: Mô hình nhanh, nhẹ
• Claude Mythos 5: Chuyên viết sáng tạo và kể chuyện
• Claude Fable 5: Phù hợp với nội dung giáo dục và cách kể chuyện

Chi tiết về các mô hình đã rút

Claude Mythos 5, ra mắt vào đầu năm 2024, được thiết kế dành riêng cho các ứng dụng sáng tạo, bao gồm viết tiểu thuyết, phát triển kịch bản và tạo câu chuyện tương tác. Mô hình này có các khả năng nâng cao để hiểu các thiết bị văn học, duy trì tính nhất quán của câu chuyện và tạo ra nội dung gây được tiếng vang về mặt cảm xúc.

Claude Fable 5, được giới thiệu đồng thời, tập trung vào việc sáng tạo nội dung giáo dục, truyện dành cho trẻ em và những câu chuyện về đạo đức. Nó kết hợp các tính năng an toàn chuyên biệt phù hợp với khán giả nhỏ tuổi và bao gồm khả năng tạo nội dung nhạy cảm về mặt văn hóa và phù hợp với lứa tuổi.

Chỉ thị của Chính phủ Hoa Kỳ

Theo các nguồn thông thạo vấn đề, chỉ thị này của chính phủ Hoa Kỳ liên quan đến mối lo ngại về khả năng sử dụng sai mô hình AI để tạo ra nội dung sai lệch, đặc biệt là trong lĩnh vực giáo dục và sáng tạo. Yêu cầu này, có đặc điểm là không mang tính ràng buộc nhưng được đề xuất mạnh mẽ, đến từ Cơ quan Quản lý Thông tin và Viễn thông Quốc gia (NTIA) của Bộ Thương mại phối hợp với Văn phòng Chính sách Khoa học và Công nghệ của Nhà Trắng.

Chỉ thị nêu rõ mối quan ngại về:

• Có khả năng tạo ra nội dung nhạy cảm về mặt văn hóa
• Rủi ro khi tạo tài liệu giáo dục sai lệch
• Những điều không chắc chắn xung quanh việc ghi nhận và xuất xứ nội dung
• Các biện pháp bảo vệ không đầy đủ chống lại việc lạm dụng của những kẻ độc hại

Bối cảnh ngành và bối cảnh pháp lý

Việc thu hồi các mô hình này diễn ra trong bối cảnh các cơ quan quản lý ngày càng tăng cường giám sát công nghệ AI trên toàn thế giới. Hoa Kỳ đang phát triển phương pháp quản trị AI, tập trung vào các tiêu chuẩn tự nguyện của ngành cùng với các luật pháp tiềm năng trong tương lai.

Những phát triển gần đây trong quy định về AI bao gồm:

• Sắc lệnh hành pháp của chính quyền Biden về an toàn và bảo mật AI
• NTIA yêu cầu nhận xét về trách nhiệm giải trình của AI
• Thảo luận tại Thượng viện về luật an toàn AI
• Các cam kết của ngành được phát triển thông qua Diễn đàn AI của Nhà Trắng

Phương pháp tiếp cận quy định so sánh

Mô hình	Trường hợp sử dụng chính	Các tính năng chính	Ngày ra mắt
Claude Mythos 5	Viết sáng tạo và tạo câu chuyện	Nâng cao hiểu biết văn học, tính nhất quán của câu chuyện, sự cộng hưởng cảm xúc	Quý 1 năm 2024
Ngụ ngôn Claude 5	Nội dung giáo dục & truyện thiếu nhi	Tạo nội dung phù hợp với lứa tuổi, nhạy cảm về văn hóa, khuôn khổ đạo đức	Quý 1 năm 2024

Kế hoạch tương lai và phản ứng của Anthropic

Trong một tuyên bố gửi báo chí, Anthropic xác nhận việc rút lui hai mô hình này đồng thời nhấn mạnh cam kết phát triển AI có trách nhiệm.

Dario Amodei, Giám đốc điều hành của công ty cho biết: “Chúng tôi đánh giá cao cuộc đối thoại đang diễn ra với chính phủ Hoa Kỳ về vấn đề quản lý và an toàn AI”. "Mặc dù chúng tôi tin rằng các mô hình của mình kết hợp các biện pháp an toàn phù hợp, nhưng chúng tôi nhận thấy tầm quan trọng của việc giải quyết các mối lo ngại về quy định và sẽ hợp tác chặt chẽ với các quan chức để đảm bảo sản phẩm của chúng tôi đáp ứng các tiêu chuẩn cao nhất về an toàn và phù hợp với các giá trị xã hội."

Các nhà phân tích trong ngành cho rằng việc rút lui có thể chỉ là tạm thời, vì Anthropic có khả năng phát hành lại các phiên bản nâng cao của các mẫu xe tích hợp các tính năng an toàn bổ sung và các biện pháp minh bạch.

Phản ứng của chuyên gia

Thông báo này đã thu hút nhiều phản hồi khác nhau từ các chuyên gia và nhà quan sát trong ngành:

"Điều này phản ánh những khó khăn ngày càng tăng của một ngành công nghiệp đổi mới đang phải đối mặt với bối cảnh pháp lý phức tạp", Tiến sĩ Sarah Jenkins, nhà nghiên cứu chính sách AI tại Viện Brookings, nhận xét. "Thách thức nằm ở việc cân bằng giữa đổi mới với các biện pháp bảo vệ cần thiết mà không cản trở các ứng dụng có lợi."

Những người khác bày tỏ lo ngại về tiền lệ do việc rút tiền như vậy đặt ra. Giáo sư Michael Chen, chuyên gia đạo đức công nghệ tại Đại học Stanford, lưu ý: “Khi các chính phủ ra lệnh phát triển sản phẩm một cách hiệu quả, thậm chí thông qua các đề xuất không mang tính ràng buộc, điều đó đặt ra câu hỏi về tương lai của sự đổi mới trong AI”.

Ý nghĩa thị trường

Việc rút lui của Claude Mythos 5 và Claude Fable 5 có thể có một số tác động tới thị trường:

• Các đối thủ cạnh tranh có thể giành được thị phần trong các ứng dụng AI sáng tạo và giáo dục
• Sự chú ý của nhà đầu tư có thể chuyển sang các công ty có chiến lược tuân thủ quy định rõ ràng hơn
• Sự hợp tác trong ngành về tiêu chuẩn an toàn có thể tăng tốc
• Người dùng tiêu dùng và doanh nghiệp có thể gặp phải tình trạng gián đoạn trong các ứng dụng AI chuyên biệt

Tầm nhìn tương lai

Vụ việc nêu bật mối quan hệ ngày càng phức tạp giữa các nhà phát triển AI và cơ quan quản lý. Khi công nghệ AI tiếp tục phát triển, chúng ta có thể mong đợi:

• Tương tác thường xuyên hơn giữa các công ty và cơ quan chính phủ
• Phát triển các kỹ thuật căn chỉnh và an toàn phức tạp hơn
• Các tiêu chuẩn tiềm năng cho toàn ngành để triển khai mô hình
• Tính minh bạch cao hơn trong quy trình phát triển AI

Anthropic cho biết họ sẽ tiếp tục hợp tác với các nhà hoạch định chính sách trong khi phát triển thế hệ mẫu xe tiếp theo với các tính năng an toàn nâng cao. Cách tiếp cận của công ty có thể đóng vai trò là khuôn mẫu cho các nhà phát triển AI khác định hướng trong bối cảnh pháp lý ngày càng phát triển.

Kết luận

Việc rút lui của Claude Mythos 5 và Claude Fable 5 thể hiện một thời điểm then chốt trong mối quan hệ giữa các nhà phát triển AI và cơ quan quản lý của chính phủ. Khi ngành này phát triển, việc tìm ra sự cân bằng phù hợp giữa đổi mới và an toàn sẽ rất quan trọng cho cả tiến bộ công nghệ và triển khai có trách nhiệm.

Những tháng tới có thể sẽ chứng kiến cuộc đối thoại tiếp tục giữa ngành công nghiệp và chính phủ, với những tác động tiềm ẩn quan trọng đối với cách các mô hình AI được phát triển, triển khai và quản lý ở Hoa Kỳ cũng như trên toàn cầu.

Anthropic kéo Claude Mythos 5 và Claude Fable 5 tuân theo chỉ thị của chính phủ Hoa Kỳ https://ift.tt/KrwaZ6V Anthropic kéo Claude Mythos 5 và Claude Fable 5 theo chỉ đạo của chính phủ Hoa Kỳ https://ift.tt/KrwaZ6V

Vùng/Quốc gia	Trọng tâm quy định chính	Trạng thái hiện tại
Hoa Kỳ	Tiêu chuẩn tự nguyện, cách tiếp cận theo ngành cụ thể	Xây dựng khuôn khổ, hành động điều hành
Liên minh Châu Âu	Quy định toàn diện dựa trên rủi ro	Đạo luật AI ở giai đoạn cuối
Vương quốc Anh	Phương pháp tiếp cận chuyên nghiệp, nhẹ nhàng	Giai đoạn tham vấn, không có luật ràng buộc
Trung Quốc	Kiểm soát nội dung, tập trung vào bảo mật	Các biện pháp tạm thời có hiệu lực