CSO của Microsoft cảnh báo con người đang cố gắng theo kịp sự tiến bộ nhanh chóng của AI

CSO của Microsoft đưa ra cảnh báo rõ ràng: Cánh cửa thu hẹp của nhân loại để hiểu về AI trước khi 'Quá muộn'

Khi đánh giá thẳng thắn về bối cảnh trí tuệ nhân tạo hiện tại, Giám đốc An ninh của Microsoft đã thừa nhận một thực tế đáng lo ngại: nhân loại đang phải vật lộn để theo kịp sự tiến bộ nhanh chóng của công nghệ AI. Cảnh báo của giám đốc điều hành được đưa ra trong bối cảnh năng lực AI đang tăng tốc chưa từng có, cho thấy rằng chúng ta có "cửa sổ thu hẹp để hiểu về AI" trước khi có thể trở nên quá muộn để thiết lập các biện pháp quản trị và an toàn phù hợp.

Nhận xét nêu bật mối lo ngại ngày càng tăng của các nhà lãnh đạo công nghệ rằng việc phát triển AI đang vượt xa khả năng chung của chúng ta trong việc hiểu, kiểm soát và điều chỉnh các hệ thống mạnh mẽ này. Khi công nghệ AI ngày càng trở nên phức tạp và tự chủ, cơ hội thiết lập các khuôn khổ vững chắc, nguyên tắc đạo đức và giao thức an toàn có thể đóng lại nhanh hơn nhiều người nhận ra.

Quan điểm của CSO: Chạy đua với thời gian

Giám đốc bảo mật của Microsoft nhấn mạnh rằng quỹ đạo phát triển AI hiện tại đặt ra những thách thức đặc biệt đối với các chuyên gia bảo mật, nhà hoạch định chính sách và xã hội nói chung. Vị giám đốc điều hành này chỉ ra rằng các phương pháp tiếp cận truyền thống để hiểu và kiểm soát công nghệ là không đủ khi xử lý các hệ thống AI có thể học hỏi, thích ứng và phát triển theo cấp số nhân.

"Chúng tôi đang phải đối mặt với một sự thay đổi mô hình trong đó bản thân công nghệ đang vượt quá khả năng của chúng tôi trong việc nắm bắt đầy đủ các tác động của nó", CSO cho biết trong một hội nghị ngành gần đây. "Điều này tạo ra một cơ hội quan trọng, nơi chúng ta phải tăng cường hiểu biết và thiết lập các biện pháp bảo vệ thích hợp trước khi các hệ thống này trở nên quá phức tạp và tự chủ để con người có thể giám sát một cách có ý nghĩa."

Tại sao con người phải vật lộn để theo kịp

Thách thức bắt nguồn từ một số yếu tố liên kết với nhau đặc trưng cho bối cảnh AI hiện tại:

• Tăng trưởng theo cấp số nhân: Năng lực AI đang phát triển với tốc độ theo đường cong cấp số nhân, khiến các phương pháp tiếp cận thích ứng tuyến tính của con người trở nên không còn hiệu quả.
• Độ phức tạp: Các hệ thống AI hiện đại, đặc biệt là các mô hình ngôn ngữ lớn và mạng lưới thần kinh, hoạt động với độ phức tạp vượt quá trực giác của con người và các phương pháp gỡ lỗi truyền thống.
• Bản chất hộp đen: Nhiều hệ thống AI tiên tiến hoạt động như "hộp đen" mà ngay cả người tạo ra chúng cũng không thể giải thích đầy đủ cách đưa ra các quyết định cụ thể.
• Cạnh tranh toàn cầu: Bối cảnh cạnh tranh giữa các quốc gia và tập đoàn tạo ra áp lực phải ưu tiên tốc độ hơn là cân nhắc về an toàn.
• Khoảng trống kiến thức: Hiện đang thiếu chuyên gia hiểu rõ cả công nghệ AI và ý nghĩa xã hội của nó trên nhiều lĩnh vực khác nhau.

Giải thích về "Cửa sổ thu hẹp"

Khái niệm "cửa sổ thu hẹp" đề cập đến khung thời gian quan trọng mà trong đó nhân loại vẫn có thể tác động đến quỹ đạo phát triển của các hệ thống AI. Theo CSO, khoảng thời gian này được xác định bởi một số yếu tố chính:

Phương pháp tiếp cận của Microsoft đối với Quản trị và An toàn AI

Là một trong những nhà phát triển công nghệ AI hàng đầu, Microsoft đã tích cực làm việc để thiết lập các khuôn khổ cho việc phát triển và triển khai AI có trách nhiệm. Công ty đã triển khai một số sáng kiến nhằm giải quyết những thách thức mà CSO của mình nêu ra:

• Hội đồng đánh giá đạo đức AI: Ủy ban nội bộ đánh giá các sản phẩm AI để cân nhắc về mặt đạo đức và các rủi ro tiềm ẩn.
• Tiêu chuẩn AI có trách nhiệm: Một khuôn khổ toàn diện để thiết kế, phát triển và triển khai các hệ thống AI có trách nhiệm.
• Các nguyên tắc cơ bản về an toàn AI: Các nguyên tắc cốt lõi hướng dẫn cách tiếp cận của Microsoft đối với an toàn AI, bao gồm sự công bằng, độ tin cậy, quyền riêng tư và sự hòa nhập.
• Các biện pháp minh bạch: Nỗ lực tăng cường tính minh bạch trong hệ thống AI, bao gồm tài liệu về nguồn dữ liệu, các giới hạn của mô hình và mục đích sử dụng.
• Hợp tác về An toàn AI: Hợp tác với các tổ chức học thuật, cơ quan chính phủ và các nhóm ngành để thúc đẩy nghiên cứu về an toàn AI.

Phản ứng của ngành trước thách thức AI

Cảnh báo của CSO phản ánh sự đồng thuận ngày càng tăng trong toàn ngành công nghệ về nhu cầu có các phương pháp tiếp cận chủ động hơn trong quản trị AI. Gần đây, một số công ty công nghệ và tổ chức nghiên cứu lớn đã công bố các sáng kiến nhằm giải quyết những mối lo ngại này:

• OpenAI đã thành lập một nhóm hệ thống an toàn tập trung vào việc ngăn chặn việc lạm dụng các hệ thống AI tiên tiến.
• Google đã công bố các nguyên tắc AI và thành lập một ban cố vấn bên ngoài để giám sát.
• Anthropic đã nhấn mạnh các phương pháp tiếp cận "AI theo hiến pháp" giúp đưa sự an toàn trực tiếp vào thiết kế hệ thống.
• Quan hệ đối tác về AI đã tập hợp nhiều bên liên quan để phát triển các phương pháp hay nhất để phát triển AI.

Khuyến nghị dành cho Tổ chức và Cá nhân

Trước những thách thức đã nêu, CSO đã đề xuất một số phương pháp tiếp cận mà các tổ chức và cá nhân có thể thực hiện để điều hướng tốt hơn trong bối cảnh AI đang phát triển:

Yếu tố	Trạng thái hiện tại	Ý nghĩa
Ngưỡng khả năng AI	Tiếp cận các điểm quan trọng nơi hệ thống có thể vượt quá khả năng giám sát của con người	Sau khi vượt qua, các ngưỡng này có thể khiến một số hình thức kiểm soát nhất định không thể thực hiện được
Phát triển quy định	Tụt hậu so với tiến bộ công nghệ	Các quy định được thực hiện quá muộn có thể không hiệu quả hoặc không thể thực thi được
Sự hiểu biết của công chúng	Hạn chế và thường không chính xác	Diễn ngôn công khai có đầy đủ thông tin là điều cần thiết cho việc quản trị AI một cách dân chủ
Phối hợp quốc tế	Mảnh ghép và cạnh tranh	Rủi ro toàn cầu đòi hỏi các giải pháp toàn cầu hiện đang thiếu

Tầm nhìn tương lai: Cân bằng đổi mới và an toàn

Trong tương lai, thách thức sẽ là thúc đẩy sự đổi mới liên tục trong AI đồng thời thiết lập các cơ chế quản lý và biện pháp bảo vệ phù hợp. Cảnh báo của CSO cho thấy sự cân bằng này đòi hỏi sự quan tâm ngay lập tức và hành động phối hợp giữa nhiều thành phần trong xã hội.

"Mục tiêu không phải là ngăn chặn sự tiến bộ mà là để đảm bảo nó tiến hành theo hướng có lợi cho nhân loại", giám đốc điều hành kết luận. "Điều này đòi hỏi chúng tôi phải thừa nhận những hạn chế trong các phương pháp tiếp cận hiện tại của mình và sẵn sàng điều chỉnh các khuôn khổ quản trị của mình khi công nghệ phát triển."

Kết luận

CSO của Microsoft đã đưa ra cảnh báo kịp thời về những thách thức mà nhân loại phải đối mặt trong việc theo kịp sự tiến bộ của AI. Việc thừa nhận rằng chúng ta có "cửa sổ thu hẹp để hiểu về AI" trước khi quá muộn nhấn mạnh tính cấp thiết của việc thiết lập các khuôn khổ quản trị mạnh mẽ, các giao thức an toàn và nguyên tắc đạo đức.

Khi AI tiếp tục biến đổi mọi khía cạnh của xã hội, nhu cầu giám sát có hiểu biết ngày càng trở nên quan trọng. Ngành công nghệ, các nhà hoạch định chính sách, nhà nghiên cứu và công chúng phải hợp tác để đảm bảo quá trình phát triển AI diễn ra theo cách phù hợp với các giá trị của con người và phục vụ lợi ích chung.

Những năm tới có thể sẽ quyết định liệu nhân loại có thể điều hướng thành công giai đoạn chuyển tiếp này và thiết lập mối quan hệ bền vững với các hệ thống AI ngày càng mạnh mẽ hay không. Cơ hội cho sự can thiệp có ý nghĩa có thể đang thu hẹp nhưng vẫn chưa đóng lại.

CSO của Microsoft thừa nhận rằng con người đang phải vật lộn để theo kịp sự tiến bộ của AI, đồng thời cho rằng chúng ta đã có 'cánh cửa thu hẹp để hiểu về AI' trước khi quá muộn https://www.techradar.com/pro/microsoft-cso-acknows-that-humans-are-struggles-to-keep-up-with-ai-advancement-reckons-weve-got-a-narrowing-window-to-hiểu-ai-b Before-its-well-too-late CSO của Microsoft thừa nhận rằng con người đang phải vật lộn để theo kịp sự tiến bộ của AI, cho rằng chúng ta đã có 'cửa sổ thu hẹp để hiểu về AI' trước khi quá muộn https://www.techradar.com/pro/microsoft-cso-acknows-that-humans-are-struggles-to-keep-up-with-ai-advancement-reckons-weve-got-a-narrowing-window-to-hiểu-ai-b Before-its-well-too-late

Các bên liên quan	Hành động được đề xuất	Kết quả mong đợi
Tổ chức	Thiết lập khung quản trị AI Đầu tư vào các chương trình nâng cao kiến thức về AI Tạo các nhóm giám sát AI đa chức năng Ưu tiên tính minh bạch trong triển khai AI	Giảm rủi ro hoạt động Cải thiện niềm tin của các bên liên quan Sự liên kết tốt hơn với các giá trị xã hội Nâng cao khả năng dự đoán các thách thức
Cá nhân	Phát triển kỹ năng đọc viết về AI Luôn cập nhật thông tin về sự phát triển của AI Tham gia vào các cuộc thảo luận công khai về quản trị AI Áp dụng tư duy phản biện vào kết quả đầu ra của AI	Trao quyền cá nhân Ra quyết định tốt hơn Góp phần giám sát dân chủ Giảm khả năng nhạy cảm với thông tin sai lệch