red-teaming

GPT-Red: Siêu hacker AI mà OpenAI tạo ra để tự bảo vệ các mô hình của mình

OpenAI vừa giới thiệu GPT-Red, một mô hình ngôn ngữ lớn được huấn luyện để trở thành 'siêu hacker' nhằm kiểm tra và cải thiện bảo mật cho các mô hình khác. Công cụ này đã giúp GPT-5.6 trở thành phiên bản an toàn nhất từ trước đến nay, đồng thời phát hiện ra kiểu tấn công tiêm lệnh mới chưa từng thấy. Dù vậy, OpenAI khẳng định con người vẫn đóng vai trò quan trọng trong quy trình kiểm thử bảo mật.