OpenAI và Broadcom đã công bố Jalapeño, một con chip mới được thiết kế riêng cho việc suy luận mô hình ngôn ngữ lớn trong các trung tâm dữ liệu. ASIC này được phát triển từ đầu trong chín tháng dựa trên những hiểu biết từ các nhà nghiên cứu của OpenAI và tham khảo lộ trình sản phẩm của công ty.
Broadcom cho biết Jalapeño chuyên biệt hơn cho nhu cầu LLM hiện tại so với phần cứng suy luận hiện có. OpenAI tuyên bố thử nghiệm ban đầu cho thấy con chip mang lại hiệu suất trên mỗi watt tốt hơn đáng kể so với các giải pháp hiện tại, mặc dù các kết quả kỹ thuật chi tiết sẽ được công bố trong những tháng tới.