Gần đây, startup Etched, có trụ sở tại San Francisco, đã công bố mẫu chip AI mới mang tên Sohu, với hiệu năng vượt trội gấp 20 lần so với H100 của Nvidia. Chip Sohu, được thiết kế đặc biệt cho ứng dụng AI, có khả năng suy luận trong các mô hình ngôn ngữ lớn (LLM) và hứa hẹn mang đến hiệu suất đáng kinh ngạc cho các hệ thống AI hiện đại. Nếu bạn cần hỗ trợ về công nghệ hoặc dịch vụ máy tính Đà Nẵng, hãy tìm đến các chuyên gia để được tư vấn và phục vụ kịp thời.
Theo công ty Etched, Sohu là một loại mạch tích hợp dành riêng cho ứng dụng (ASIC) và có khả năng vượt trội hơn GPU H100 của Nvidia về khả năng suy luận trong các mô hình ngôn ngữ lớn (LLM). Một hệ thống với 8 chip Sohu có thể đạt hiệu suất tương đương với 160 H100.
Etched cũng cho biết, các hệ thống tăng tốc AI hiện nay, bao gồm cả CPU và GPU, đều được thiết kế để làm việc với nhiều kiến trúc AI khác nhau như Mạng bộ nhớ ngắn hạn (Short-term Memory Network), Mạng thần kinh tích chập (Convolution Neural Network), hay mô hình không gian trạng thái (State Space Model).
Công ty Etched ước tính rằng chỉ có 3,3% số bóng bán dẫn trên GPU H100 của Nvidia được sử dụng cho tác vụ chính, trong khi 96,7% còn lại được dành cho các tác vụ khác. Điều này là cần thiết đối với các chip AI đa năng nhưng lại gây ra sự lãng phí tài nguyên đáng kể.
Do đó, startup Etched đã tích hợp Kiến trúc AI biến áp (Transformer architecture) vào chip Sohu nhằm phân bổ một lượng lớn bóng bán dẫn hơn cho các tính toán AI trên chip. Họ tập trung vào việc tạo ra chip tối ưu hóa cho một loại mô hình AI cụ thể, thay vì phục vụ cho tất cả các kiến trúc AI riêng lẻ. Trên thực tế, kiến trúc Transformer cũng là nền tảng của GPT (Generative Pre-trained Transformer), giống như các hệ thống AI của các công ty công nghệ lớn như Sora, Gemini, Stable Diffusion và Dall-E.
Etched đã đặt cược lớn vào kiến trúc Transformer. Nếu Transformer không còn phổ biến, công ty này sẽ gặp khó khăn, nhưng nếu tiếp tục phát triển, Etched có tiềm năng trở thành một trong những công ty hàng đầu trong ngành.
Giá của Sohu chưa được tiết lộ, trong khi Nvidia H100 hiện có giá 40.000 USD. Theo Tom’s Hardware, nếu Sohu đáp ứng được kỳ vọng, nó sẽ giúp các trung tâm dữ liệu tiết kiệm hàng tỷ USD cả về chi phí ban đầu và chi phí vận hành. Sản phẩm này thậm chí có thể đe dọa vị thế dẫn đầu của Nvidia, nhưng chỉ khi chip của Etched được triển khai thành công.
Với sự ra mắt của chip Sohu, Etched đang tạo ra một bước đột phá trong ngành công nghệ AI, hứa hẹn mang lại hiệu suất vượt trội và tiết kiệm chi phí cho các trung tâm dữ liệu. Nếu Sohu thực sự đạt được kỳ vọng, nó có khả năng thay đổi cuộc chơi và cạnh tranh mạnh mẽ với Nvidia trong lĩnh vực chip AI. Đây là một thời điểm thú vị cho sự phát triển của công nghệ, và nếu bạn đang tìm kiếm sự hỗ trợ trong việc tối ưu hóa hệ thống của mình, đừng ngần ngại liên hệ với các dich vu may tinh Da Nang để được tư vấn và hỗ trợ kịp thời.
