💡 Theo đánh giá của RetroLab, đây là một minh chứng rõ ràng cho thấy việc áp dụng AI một cách thiếu chiến lược có thể gây ra hậu quả tài chính nghiêm trọng. Đội ngũ RetroLab cho rằng các doanh nghiệp cần cân bằng giữa khuyến khích sử dụng AI và kiểm soát chi phí, thay vì chỉ chạy theo phong trào.
Amazon đã âm thầm loại bỏ một bảng xếp hạng nội bộ dành cho nhân viên đang làm việc trên nền tảng phát triển AI tác nhân (agentic AI) mang tên Kiro. Động thái này diễn ra sau khi bảng xếp hạng bị lạm dụng, khiến chi phí token tăng vọt ngoài tầm kiểm soát.
Theo thông tin từ Financial Times, bảng xếp hạng này ban đầu được thiết kế để theo dõi mức độ sử dụng nền tảng Kiro của nhân viên Amazon. Tuy nhiên, thay vì tạo ra các tác nhân AI hữu ích, nhiều nhân viên đã 'spam' bằng cách tạo ra vô số tác nhân vô nghĩa chỉ để leo hạng, tiêu tốn một lượng lớn token – đơn vị dữ liệu nhỏ mà các mô hình AI sử dụng để xử lý thông tin.
Token, trong thế giới AI, là những mảnh dữ liệu nhỏ. Khi thuật toán xử lý văn bản hay hình ảnh, chúng không hoạt động trên toàn bộ câu, từ hay bức ảnh; thay vào đó, dữ liệu được chuyển đổi và chia nhỏ thành các token, sau đó được GPU tính toán. Các công ty AI hàng đầu như OpenAI và Anthropic trước đây thường áp dụng mô hình đăng ký phẳng, nhưng khi chi phí leo thang, họ đã chuyển sang mô hình trả tiền theo token. Điều này đồng nghĩa với việc Amazon phải gánh những hóa đơn đau đớn.
Bảng xếp hạng nội bộ và vấn đề token
Amazon từng áp dụng một 'chính sách ba dòng' (three-line whip) yêu cầu nhân viên sử dụng AI càng nhiều càng tốt, với thông điệp ngầm: 'Hãy dùng AI cho công việc của bạn, nếu không công việc của bạn sẽ bị AI thay thế.' Điều này vô tình tạo ra một cuộc đua 'tokenmaxxing' – một số nhân viên làm vì sợ mất việc, số khác có thể làm để thể hiện tinh thần 'chấp hành' hoặc thậm chí là phản ứng tiêu cực.
Kết quả là bảng xếp hạng trở thành công cụ khuyến khích hành vi lãng phí. Nhân viên tạo ra các tác nhân AI vô dụng chỉ để tăng số token tiêu thụ, qua đó leo lên top đầu. Amazon nhanh chóng nhận ra vấn đề và quyết định 'khai tử' bảng xếp hạng này. Theo tuyên bố chính thức từ Amazon: 'Bảng điều khiển beta không phải là công cụ chính thức hay được phê duyệt, và đã bị ngừng sử dụng (deprecated).'
Bài học về chi phí AI trong doanh nghiệp
Sự việc này cho thấy một nghịch lý: khi doanh nghiệp ép buộc nhân viên sử dụng AI mà không có kiểm soát chặt chẽ, chi phí có thể vượt xa lợi ích. Với các mô hình trả phí theo token ngày càng phổ biến, nhiều công ty có thể sẽ phải xem xét lại chiến lược AI của mình. Amazon, dù là một trong những 'tay chơi' AI mạnh nhất, cũng không tránh khỏi cú sốc hóa đơn.
Trong bối cảnh AI chưa tạo ra lợi nhuận rõ rệt, những bài học như thế này chắc chắn sẽ khiến nhiều doanh nghiệp thận trọng hơn khi triển khai các chính sách AI nội bộ.
Nguồn: PC Gamer - https://www.pcgamer.com/software/ai/amazon-bins-an-internal-ai-leaderboard-for-its-kiro-employees-because-they-were-burning-through-too-many-costly-tokens/
