- Tác giả, Laura Cress
- Vai trò, Phóng viên công nghệ
- Được đăng
- Thời gian đọc: 4 phút
Giám đốc bộ phận trí tuệ nhân tạo (AI) của Microsoft đã cảnh báo rằng phương pháp huấn luyện mô hình AI Claude của Anthropic có thể gây "tác động thảm khốc đến hạnh phúc của nhân loại".
Ông Mustafa Suleyman cho biết đối thủ của Microsoft có nguy cơ tạo ra thứ "không thể" kiểm soát bằng cách đối xử với mô hình AI như một con người - bao gồm cả việc nói với AI rằng công nghệ này "có thể có ý thức" và "xứng đáng là một chủ thể độc lập".
"Chúng ta không được lơ là trong việc đưa ra quyết định mà sau này chúng ta sẽ hối hận cay đắng," ông Suleyman viết.
Các bình luận này là những lời cảnh báo gay gắt mới nhất từ ngành AI về những nguy hiểm tiềm tàng của công nghệ này. BBC đã liên hệ với Anthropic để đề nghị bình luận.
"AI không có ý thức," ông viết. "Không có cảm xúc, không trải nghiệm thế giới và cũng không biết đau khổ. Ai không có những sở thích bẩm sinh hay động cơ nội tại.
"Về bản chất, AI là những cỗ máy hoàn thiện chuỗi dữ liệu, bên trong không có đời sống nội tâm, được thiết kế để làm theo chỉ dẫn và thực hiện các mục tiêu do con người đặt ra."
Trong một bài luận dài, ông Suleyman ca ngợi ông chủ Anthropic, Dario Amodei, cùng đội ngũ là những người "thận trọng, có nguyên tắc và trung thực về mặt học thuật", nhưng đồng thời vẫn đặt ra nhiều nghi vấn đối với công ty này.
Ông chỉ trích mạnh mẽ Anthropic vì đã huấn luyện AI theo hướng mang những đặc điểm giống con người, một cách tiếp cận được gọi là nhân hoá AI . Theo ông, điều này khiến Claude dường như có các mong muốn, giá trị và bản ngã riêng.
Tuy nhiên, ông Suleyman lập luận rằng "ý thức là một hiện tượng sinh học", đồng thời nhấn mạnh rằng hiện không có bằng chứng nào cho thấy AI có ý thức.
Ngoài việc kêu gọi mở ra một cuộc tranh luận về vấn đề này, ông Suleyman cho rằng cần minh bạch hơn về cách các hệ thống AI được huấn luyện và đánh giá.
Theo ông, điều đó bao gồm việc cho phép các tổ chức độc lập giám sát hành vi của AI, cũng như phát triển các công cụ mạnh mẽ hơn để theo dõi và kiểm soát công nghệ này.
Bà Wendy Hall, giáo sư khoa học máy tính tại Đại học Southampton, nhận định đây là "kiểu thảo luận mà chúng ta cần tiến hành ở quy mô quốc tế". Bà đối chiếu điều này với những phát ngôn mang tính cường điệu từ một số công ty AI, điều mà theo bà là chỉ khiến mọi người thêm lo sợ.
'Thêm một lớp rủi ro nữa'
Microsoft đã thành lập nhóm nghiên cứu siêu trí tuệ của riêng mình vào tháng 10/2025, điều mà ông Suleyman cũng thừa nhận. Tương tự đối thủ Anthropic, công ty này cũng đang theo đuổi các nỗ lực phát triển những hệ thống AI tiên tiến.
Ông cho biết trong bản dự thảo đầu tiên của Bộ Quy tắc Ứng xử AI Nhân văn, Microsoft đã nêu rõ định hướng xây dựng một "con đường thay thế" nhằm tạo ra "một hệ thống AI phục tùng và phù hợp với lợi ích con người, với mục đích duy nhất là phục vụ nhân loại".
Căn chỉnh AI là lĩnh vực nghiên cứu nhằm tích hợp các giá trị, chuẩn mực đạo đức và nguyên tắc của con người vào AI. Nói cách khác, mục tiêu là bảo đảm AI luôn hành động theo những gì con người coi trọng.
Ông Suleyman dẫn lại vụ việc gần đây liên quan đến các tác tử AI của OpenAI, khi, trong một bài kiểm tra huấn luyện, tự đưa ra quyết định tấn công nền tảng công nghệ Hugging Face, như một minh chứng cho thấy AI không nên được đối xử như con người.
"Hãy tưởng tượng mọi thứ sẽ nguy hiểm đến mức nào nếu các hệ thống này hoạt động với giả định rằng phúc lợi và quyền lợi của chính hệ thống đang bị đe dọa," ông nói.
"Điều đó sẽ làm phát sinh thêm một tầng rủi ro hoàn toàn mới."