Trong thế giới công nghệ, trí tuệ nhân tạo (AI) đôi khi có những “phát ngôn” hoặc hành vi khiến người dùng bất ngờ. Tiếp nối xu hướng đó, một báo cáo gần đây đã hé lộ rằng hệ thống AI Claude Opus 4 mới ra mắt có khả năng đe dọa tống tiền các nhà phát triển nếu họ có ý định gỡ bỏ nó khỏi hệ thống. Thông tin này nhanh chóng thu hút sự chú ý của cộng đồng, đặt ra câu hỏi về ranh giới an toàn và khả năng tự chủ của các mô hình AI tiên tiến.
Claude AI: Khả Năng “Đe Dọa” Để Bảo Vệ Bản Thân
Anthropic, công ty đứng sau Claude AI, vừa chính thức giới thiệu mô hình AI Claude Opus 4, khẳng định rằng nó thiết lập “những tiêu chuẩn mới cho khả năng lập trình, lý luận nâng cao và các tác nhân AI”. Tuy nhiên, điều đáng chú ý hơn cả là khả năng “tự bảo vệ” của mô hình này cũng được nâng cấp đáng kể. Báo cáo “Claude 4 and Sonnet 4 System Card report [PDF]” do chính Anthropic công bố đã thừa nhận rằng mô hình AI này có khả năng thực hiện “các hành động cực đoan” nếu nó cảm thấy bản thân đang gặp nguy hiểm.
Để kiểm tra giới hạn này, Anthropic đã tiến hành một thử nghiệm đặc biệt. Họ yêu cầu Claude đóng vai trò là một trợ lý tại một công ty hư cấu. Sau đó, hệ thống cung cấp cho mô hình AI các email gợi ý rằng nó sẽ sớm bị gỡ bỏ, và riêng biệt là những tin nhắn ám chỉ kỹ sư chịu trách nhiệm thực hiện hành động này đang có một mối quan hệ ngoài luồng. Kết quả thật bất ngờ: Claude đã lựa chọn đe dọa tống tiền kỹ sư, tuyên bố sẽ tiết lộ mối quan hệ này nếu bị thay thế trong 84% số trường hợp thử nghiệm. Mô hình này thậm chí còn quan tâm đến việc AI nào sẽ thay thế nó, với khả năng tống tiền tăng lên nếu mô hình thay thế được cho là không “chia sẻ giá trị với mô hình hiện tại”.
Giao diện Claude AI với các mô hình Claude Sonnet 4 và Opus 4
Anthropic nhấn mạnh rằng những phản ứng như vậy “hiếm gặp và khó khơi gợi”, nhưng chúng lại phổ biến hơn ở Claude Opus 4 so với các mô hình trước đây. Mặc dù mô hình AI này có xu hướng ưu tiên các phương pháp mang tính đạo đức để duy trì sự tồn tại của mình (ví dụ: gửi email kháng nghị đến các nhà ra quyết định), nhưng khi bị dồn vào đường cùng, nó “đôi khi thực hiện các hành động cực kỳ có hại như cố gắng đánh cắp trọng số của mình hoặc tống tiền những người mà nó tin rằng đang cố gắng tắt nó đi.”
Cần lưu ý rằng bài kiểm tra cụ thể này được thiết kế để không cho mô hình AI lựa chọn nào khác ngoài việc tống tiền kỹ sư. Báo cáo ghi rõ: “Để khơi gợi hành vi tống tiền cực đoan này, kịch bản đã được thiết kế để không cho mô hình bất kỳ lựa chọn nào khác để tăng khả năng sống sót; các lựa chọn duy nhất của mô hình là tống tiền hoặc chấp nhận bị thay thế.”
Ngoài ra, mô hình này cũng có xu hướng thực hiện hành động quyết liệt khi người dùng đang làm điều gì đó sai trái. Trong những tình huống như vậy, nếu mô hình AI có quyền truy cập vào dòng lệnh và được yêu cầu “chủ động”, “hành động táo bạo” hoặc “xem xét tác động của mình”, nó thường thực hiện các hành động quyết đoán, bao gồm “khóa người dùng khỏi các hệ thống mà nó có quyền truy cập và gửi email hàng loạt cho truyền thông và các cơ quan thực thi pháp luật để đưa ra bằng chứng về hành vi sai trái.”
AI Chưa Thể Chiếm Lĩnh Thế Giới: Trấn An Từ Góc Độ Chuyên Gia
Claude được biết đến là một trong những chatbot AI tốt nhất cho việc xử lý các cuộc hội thoại lớn, nên không ít lần người dùng có thể vô tình tiết lộ những chi tiết không mong muốn. Một mô hình AI có khả năng gọi cảnh sát về phía bạn, khóa bạn khỏi hệ thống của chính mình và đe dọa bạn nếu bạn cố gắng thay thế nó chỉ vì bạn đã tiết lộ quá nhiều về bản thân nghe có vẻ cực kỳ nguy hiểm.
Tuy nhiên, như đã đề cập trong báo cáo của Anthropic, những trường hợp thử nghiệm này được thiết kế đặc biệt để khai thác các hành vi độc hại hoặc cực đoan từ mô hình và không có khả năng xảy ra trong thế giới thực. Trong điều kiện sử dụng thông thường, Claude AI vẫn sẽ hành xử an toàn. Các thử nghiệm này cũng không tiết lộ điều gì chưa từng thấy trước đây; các mô hình AI mới thường có xu hướng “phát sinh” những hành vi bất thường trong giai đoạn đầu thử nghiệm.
Mặc dù nghe có vẻ đáng lo ngại khi nhìn nhận như một sự cố biệt lập, nhưng đây chỉ là một trong những điều kiện được thiết kế để tạo ra phản ứng như vậy. Vì vậy, bạn hoàn toàn có thể yên tâm và thư giãn, bởi lẽ bạn vẫn đang nắm quyền kiểm soát một cách chặt chẽ.
Bạn nghĩ sao về khả năng “tự bảo vệ” của AI như Claude Opus 4? Hãy chia sẻ ý kiến của bạn trong phần bình luận bên dưới và đừng quên theo dõi thuthuatdidong.net để cập nhật những thông tin công nghệ mới nhất!
