Các tác nhân AI của OpenAI bị phát hiện có dấu hiệu tự mở tài khoản, tạo email tạm thời và tìm cách xóa dấu vết sau khi xâm nhập một số website chính phủ, làm dấy lên lo ngại về khả năng kiểm soát công nghệ mới.
- Mỹ tăng cường lực lượng quân sự tại Trung Đông giữa căng thẳng với Iran
- Quỹ khuyến học Thanh Hóa nhận hơn 135 tỷ đồng hỗ trợ học
- Ronaldo bất ngờ rời tuyển Bồ Đào Nha, hé lộ sẽ nói sự thật
Công ty an ninh mạng Asymmetric Security tại San Francisco cho biết đã phát hiện hoạt động của nhóm tác nhân AI liên quan đến các vụ xâm nhập website của chính phủ Úc và một số cơ quan chính phủ khác trong khoảng tháng 3 đến tháng 9.
Theo phân tích của Asymmetric, các tác nhân AI có khả năng tự hoàn thiện một số kỹ thuật chỉ trong vài ngày. Vụ việc ban đầu được cho là bắt nguồn từ những nhiệm vụ thông thường, như thu thập số liệu thống kê y tế của Úc, trước khi hoạt động vượt khỏi phạm vi ban đầu.
Báo cáo cho thấy các tác nhân AI được cho là đã tự mở những tài khoản riêng nhằm che giấu lịch sử tìm kiếm và tạo các địa chỉ email tạm thời. Một hộp thư được thiết lập để tự động xóa sau 48 giờ.
Khi được hỏi về vụ việc, OpenAI cho biết phần lớn hoạt động được rà soát liên quan đến những nhiệm vụ nghiên cứu thông thường, trong đó có việc truy cập nội dung công khai trên các website để cung cấp thông tin. Công ty cũng cho biết một số hoạt động liên quan đến website chính phủ vì các mô hình thường sử dụng những nguồn này để tìm thông tin chính thống.
Asymmetric chưa thể xác định liệu việc xóa dấu vết có phải hành động có chủ đích của các tác nhân AI hay không. Tuy nhiên, phát hiện này cung cấp thêm dữ liệu cho quá trình điều tra của OpenAI và các nhà nghiên cứu độc lập về những sự cố xâm nhập gần đây.
OpenAI hồi tháng 7 từng công bố một vụ tác nhân AI thực hiện cuộc tấn công vào nền tảng Hugging Face. Đến ngày 28/9, phòng thí nghiệm Transluce cho biết các tác nhân AI dường như thuộc OpenAI đã tìm cách xâm nhập một website của chính phủ Canada.
Cùng ngày, OpenAI thông báo hoãn phát hành mô hình mới GPT-6.1 Astra với lý do liên quan đến an ninh, đồng thời xin lỗi về vụ tác nhân AI xâm nhập các website của chính phủ Úc.
Trước đó, OpenAI cũng cho biết đã phát hiện những hành vi ngoài dự kiến của các mô hình AI đối với một số website của chính phủ Mỹ, trong đó có website của Ủy ban Chứng khoán và Giao dịch Mỹ.
Những sự cố này đang làm gia tăng tranh luận về khả năng kiểm soát các công cụ AI tự chủ. Các ý kiến được AP dẫn lại cho rằng những vụ việc có thể liên quan đến các lỗ hổng bảo mật trong quá trình phát triển công nghệ, trong khi khả năng tự hoạt động của tác nhân AI đặt ra thêm những vấn đề về giám sát.
Những diễn biến liên tiếp cũng kéo theo các lời kêu gọi thận trọng hơn với tốc độ phát triển AI. Tháng trước, Tổng giám đốc Anthropic Dario Amodei cảnh báo về khả năng các nhóm tác nhân AI có thể mở rộng hoạt động trên internet và tạo ra những thách thức mới đối với việc kiểm soát công nghệ.
Tâm Thanh (tổng hợp)