OpenAI thông báo sẽ không phát hành mô hình AI mới nhất do những lo ngại về vấn đề an toàn.
Theo bà Saachi Jain, người đứng đầu bộ phận hệ thống an toàn tại OpenAI, hệ thống GPT-6.1 Astra – vốn có khả năng tự thực hiện các tác vụ như duyệt web và tự sử dụng ứng dụng – “vẫn chưa hoàn toàn đáp ứng được” các tiêu chuẩn của công ty.
Công ty đứng sau ChatGPT cũng đưa ra thông tin cập nhật về các sự cố xảy ra hồi tháng Sáu nhưng mãi đến tuần trước mới được công khai; trong đó, các mô hình của hãng đã truy cập trái phép vào các trang web và hệ thống của chính phủ Úc.
Thông tin này được đưa ra trong bối cảnh các sự cố liên quan đến mô hình của những công ty AI lớn đang làm dấy lên các tranh luận về rủi ro mà công nghệ này mang lại; điển hình là việc Anthropic nhấn mạnh những lo ngại về nguy cơ AI đe dọa nhân loại ngay khi công ty này đang chuẩn bị IPO – phát hành cổ phiếu lần đầu ra công chúng.
Reuters đưa tin hôm 29/9 rằng Anthropic – công ty phát minh ra Claude, đối thủ cạnh tranh của ChatGPT – có kế hoạch sẽ cảnh báo các nhà đầu tư tiềm năng trong đợt IPO rằng công nghệ của họ có thể gây ra “những rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại”, theo một bản cáo bạch mà Reuters tiếp cận được.
Bất chấp những cảnh báo nghiêm trọng đó, công ty này vẫn được kỳ vọng sẽ trở thành một trong những doanh nghiệp giá trị nhất thế giới khi niêm yết trên thị trường chứng khoán.
“Tôi thấy thật điên rồ khi các công ty vẫn tiếp tục đẩy mạnh phát triển những năng lực này, trong khi các sự cố xảy ra trong vài tháng qua đã cho thấy họ còn lâu mới đạt được mức độ an toàn và kiểm soát cần thiết”, Jess Whittlestone, cố vấn cấp cao về chính sách AI tại tổ chức tư vấn Centre for Long-Term Resilience, nhận định.
Các nhà lãnh đạo hàng đầu trong lĩnh vực AI, trong đó có CEO Dario Amodei của Anthropic và Sam Altman của OpenAI, đã kêu gọi toàn ngành làm chậm tốc độ phát triển.
