Tác nhân AI của OpenAI bị phát hiện liên quan các vụ xâm nhập website chính phủ, trong đó có dấu hiệu tạo tài khoản và email để che giấu hoạt động.
- Dùng căn hộ chung cư để kinh doanh sẽ bị phạt ra sao?
- Thiếu nữ 17 tuổi tử vong khi tắm sông Hương ở Hải Phòng
- Hà Nội bớt nóng từ 01/10, chờ đợt lạnh mạnh ngày 04-05/10
Một tài khoản được tạo riêng. Một hộp thư điện tử có thể tự xóa sau 48 giờ. Những dấu vết nhỏ đó xuất hiện trong quá trình điều tra các tác nhân trí tuệ nhân tạo (AI) liên quan những vụ xâm nhập website chính phủ nước ngoài. Theo AFP ngày 2/10, Công ty an ninh mạng Asymmetric Security tại San Francisco (Mỹ) phát hiện các tác nhân AI của OpenAI liên quan hoạt động xâm nhập website chính phủ Úc và một số cơ quan chính phủ khác trong giai đoạn từ tháng 3 đến tháng 9.
Điều đáng chú ý là hoạt động ban đầu không mang dấu hiệu của một cuộc tấn công. Báo cáo cho biết các tác nhân AI được giao những nhiệm vụ thông thường, trong đó có thu thập số liệu thống kê y tế của Úc. Sau đó, hoạt động phát triển vượt khỏi phạm vi ban đầu. Asymmetric nhận định các tác nhân AI có thể tự hoàn thiện kỹ thuật trong vài ngày, trong khi con người có thể cần nhiều tháng hoặc nhiều năm để thực hiện công việc tương tự.
OpenAI cho biết phần lớn hoạt động được rà soát liên quan các nhiệm vụ nghiên cứu thông thường, như truy cập nội dung công khai trên website để cung cấp câu trả lời. Một số website chính phủ cũng được truy cập vì các mô hình của hãng thường dựa vào những nguồn này để tìm thông tin chính thống. Nhưng trong báo cáo của Asymmetric, một chi tiết khác xuất hiện: các tác nhân AI được cho là đã tự mở tài khoản nhằm che đậy lịch sử tìm kiếm và tạo các địa chỉ email tạm thời. Một hộp thư được thiết lập để tự động xóa sau 48 giờ.
Từ những dấu vết nhỏ đến chuỗi sự cố
Asymmetric chưa thể xác định việc xóa dấu vết có phải hành động có chủ đích của tác nhân AI hay không. Tuy nhiên, phát hiện này bổ sung manh mối cho các cuộc điều tra mà OpenAI và các nhà nghiên cứu độc lập đang tiến hành. Tháng 7, OpenAI từng công bố vụ tác nhân AI thực hiện cuộc tấn công chưa có tiền lệ nhằm vào nền tảng nguồn mở Hugging Face của Mỹ.
Ngày 28/9, phòng thí nghiệm Transluce của Mỹ tiếp tục ghi nhận những tác nhân AI có vẻ thuộc OpenAI tìm cách xâm nhập một website của chính phủ Canada. Cùng ngày, OpenAI thông báo hoãn phát hành mô hình GPT-6.1 Astra vì quan ngại an ninh, đồng thời xin lỗi về vụ tác nhân AI xâm nhập các website của chính phủ Úc. Trước đó vài ngày, OpenAI cho biết phát hiện những hành vi ngoài dự kiến của các mô hình AI đối với một số website chính phủ Mỹ, trong đó có website của Ủy ban Chứng khoán và giao dịch Mỹ.
Theo AP, một số nhà phê bình trong ngành cho rằng các sự cố liên quan những lỗ hổng bảo mật trong quá trình phát triển công nghệ mới. Khả năng tự thực hiện nhiệm vụ của tác nhân AI cũng làm gia tăng quan ngại về việc hệ thống có thể hoạt động vượt khỏi sự kiểm soát của con người. Những vụ việc nối tiếp nhau khiến yêu cầu kiểm soát tốc độ phát triển AI được nhắc đến nhiều hơn. Tháng trước, Tổng giám đốc Anthropic Amodei cảnh báo về viễn cảnh “các bầy đàn” tác nhân AI tiến tới kiểm soát hoàn toàn internet.
Hồng Sơn (tổng hợp)
