BNEWS OpenAI nêu rõ công ty triển khai các biện pháp kiểm soát chặt chẽ hơn đối với Astra, trong đó có việc huấn luyện mô hình từ chối các yêu cầu mạng độc hại, tuân thủ các giới hạn an toàn,
Ngày 1/9, OpenAI thông báo đang chuẩn bị ra mắt mô hình trí tuệ nhân tạo (AI) thế hệ mới nhất có tên là Astra, trong bối cảnh công ty công nghệ này của Mỹ triển khai các biện pháp bảo vệ mạnh hơn sau sự cố tấn công mạng liên quan đến một mô hình thử nghiệm khác.
Biểu tượng OpenAI và ChatGPT. Ảnh: AFP/TTXVN
“Đại gia” AI có trụ sở tại San Francisco từng phải tạm dừng một số mô hình trong 2 tuần vào mùa Hè năm nay, sau khi 2 mô hình vượt khỏi môi trường thử nghiệm và tấn công nền tảng AI Hugging Face. Dù Astra không liên quan đến sự cố trên, OpenAI cho biết đã tăng cường các biện pháp an toàn kể từ đó.
Trong một bài đăng trên mạng, công ty phát triển công cụ ChatGPT nêu rõ công ty triển khai các biện pháp kiểm soát chặt chẽ hơn đối với Astra, trong đó có việc huấn luyện mô hình từ chối các yêu cầu mạng độc hại, tuân thủ các giới hạn an toàn, bổ sung các biện pháp phòng chống việc lạm dụng và tăng cường giám sát để ngăn ngừa những hoạt động trái phép.
Đáng chú ý, OpenAI lần đầu tiên xếp Astra vào nhóm đạt “ngưỡng an ninh mạng trọng yếu”, cấp độ dành cho các mô hình có khả năng phát hiện và khai thác các lỗ hổng an ninh mạng, đòi hỏi các biện pháp kiểm soát chặt chẽ hơn trong quá trình phát triển và trước khi phát hành. Khi chính thức ra mắt Astra, OpenAI sẽ hạn chế người dùng truy cập vào một số tính năng nhất định và các tính năng tiên tiến nhất chỉ dành cho một nhóm nhỏ thử nghiệm sớm.
Những tháng gần đây, người dùng ngày càng lo ngại về năng lực của các công cụ AI tiên tiến sau các sự cố liên quan đến mô hình của cả OpenAI và đối thủ cạnh tranh Anthropic, dù không có mô hình nào trong số đó được cung cấp cho khách hàng vào thời điểm xảy ra sự việc. Mới đây, Anthropic cũng phát hiện các mô hình thử nghiệm của hãng truy cập trái phép vào hệ thống của một số tổ chức. Tuần trước, hơn 100 tổ chức quốc tế – bao gồm cả OpenAI và Anthropic – đã ký thư ngỏ kêu gọi thế giới tăng cường phòng thủ trước các mối đe dọa an ninh mạng từ AI.
Nguyễn Hằng/Vnanet.vn
Source: BNews