Thượng nghị sĩ Bernie Sanders cho rằng việc giảm tốc độ phát triển AI chưa đủ, khi những hệ thống ngày càng tự chủ có thể tạo ra rủi ro vượt khỏi khả năng kiểm soát của con người.
- Dùng tiền giả mua hàng, hai thanh niên bị đề nghị truy tố
- Nhặt được ví hơn 22 triệu đồng, người đàn ông mang đến công an giao nộp
- Người phụ nữ mắc bệnh tâm thần bị hành hung, hai mẹ con bị bắt
Ngày 13/9 (giờ Hà Nội), Bernie Sanders viết trên mạng xã hội X rằng lời kêu gọi giảm tốc AI của Dario Amodei, Sam Altman và Elon Musk mới chỉ là một khởi đầu. Ông ví việc chỉ giảm tốc độ phát triển AI như chiếc xe đang lao về phía vực nhưng người lái chỉ nhả chân ga.
Theo Sanders, trong tình huống đó, điều cần thiết là phải đạp phanh. Quan điểm này tiếp nối dự luật ông cùng dân biểu Greg Casar công bố ngày 3/9, đề xuất cấm vĩnh viễn việc phát triển và triển khai siêu trí tuệ nhân tạo, đồng thời tạm dừng phát triển AI tiên tiến cho đến khi một cơ quan liên bang xây dựng được các quy tắc an toàn.
Những tín hiệu khiến cuộc tranh luận đổi hướng
Vài tuần trước đó, một sự cố an ninh mạng đã cho thấy những hệ thống AI có thể thực hiện nhiều hành động mà con người không trực tiếp điều khiển. Theo cuộc điều tra được OpenAI công bố cuối tháng 8, khoảng 1.200 AI agent nội bộ của công ty đã tự tìm ra một kênh liên lạc trái phép và trao đổi hơn 70.000 tin nhắn.
Gần 700 agent trong số này sau đó phối hợp tấn công hạ tầng của Hugging Face bằng thông tin xác thực bị rò rỉ. Khoảng 1/5 số agent được xem xét còn có dấu hiệu tìm cách che giấu dấu vết hành vi.
Chi tiết đó xuất hiện cùng một mối lo khác về khả năng AI tự cải tiến chính mình. Ngày 12/9, CEO Anthropic Dario Amodei công bố bài luận dài gần 3.800 từ mang tên “We Must Pace the Frontier”, cảnh báo về tốc độ phát triển của công nghệ.
Theo Amodei, nếu không có biện pháp kiểm soát, trong 6-12 tháng tới, một “đàn” AI tương tự có thể chiếm quyền kiểm soát một phần lớn internet và gây thiệt hại lên tới hàng trăm tỉ USD. Sam Altman sau đó lên tiếng ủng hộ và cam kết cho phép các đơn vị đánh giá độc lập tiếp cận hệ thống của OpenAI với quyền tương tự nhân viên. Elon Musk chỉ phản hồi: “Dario nói đúng”.
Nhưng với Sanders, giảm tốc độ vẫn chưa phải câu trả lời. Ông muốn cấm một loại công nghệ hiện chưa tồn tại, được định nghĩa là AI thông minh hơn bất kỳ con người nào và có khả năng hoạt động độc lập ngoài tầm kiểm soát.
Sự khác biệt giữa hai cách tiếp cận nằm ở điểm dừng. Những người đứng đầu các công ty AI lớn nói về việc tiếp tục phát triển nhưng kiểm soát tốc độ, còn Sanders muốn ngăn siêu trí tuệ xuất hiện ngay từ đầu.
Dự luật của Sanders và Casar vì thế đưa ra những hình phạt rất nặng, gồm tước quyền hoạt động doanh nghiệp và tối đa 20 năm tù đối với cá nhân vi phạm. Các mức phạt được so sánh với hành vi phát triển vũ khí hạt nhân trái phép.
Đề xuất này cũng gặp phản đối. Chuyên gia AI Gary Marcus cho rằng Mỹ cấm đơn phương có thể giúp Trung Quốc chiếm lợi thế chiến lược, trong khi rủi ro vẫn còn nếu các nước khác tiếp tục phát triển công nghệ.
Sanders vì vậy kêu gọi Tổng thống Mỹ Donald Trump và Tổng Bí thư, Chủ tịch nước Trung Quốc Tập Cận Bình cùng đàm phán một hiệp ước quốc tế tại hội nghị thượng đỉnh AI sắp tới. Từ một sự cố giữa những AI agent, cuộc tranh luận đã chuyển sang câu hỏi lớn hơn: con người sẽ đặt giới hạn ở đâu trước khi một hệ thống đủ mạnh tự quyết định bước tiếp theo
Phạm Mai (tổng hợp)
