Google vừa công bố hai hệ thống xử lý AI mới mang tên TPU 8tx và TPU 8i Max, mở rộng thế hệ chip chuyên dụng thứ tám của hãng. Động thái cho thấy Google không chỉ muốn tự chủ năng lực tính toán cho các mô hình Gemini, mà còn đẩy mạnh cạnh tranh trên thị trường hạ tầng AI dành cho doanh nghiệp và các nhà phát triển.

Không chỉ là cuộc đua sản xuất chip

Trong nhiều năm, Nvidia giữ vị trí nổi bật trên thị trường bộ xử lý phục vụ trí tuệ nhân tạo nhờ hệ sinh thái phần cứng và phần mềm được nhiều doanh nghiệp sử dụng. Tuy nhiên, những tập đoàn công nghệ lớn như Google đang tìm cách phát triển bộ xử lý riêng nhằm giảm phụ thuộc vào nguồn cung bên ngoài, tối ưu chi phí và kiểm soát tốt hơn toàn bộ hệ thống AI.

Ngày 9/11, Google công bố hai hệ thống mới thuộc dòng Tensor Processing Unit (TPU) thế hệ thứ tám: TPU 8tx và TPU 8i Max. Đây là hai cấu hình được thiết kế cho những nhu cầu khác nhau trong quá trình huấn luyện và vận hành các tác nhân AI.

Google cho biết hãng đã mở rộng danh mục TPU thế hệ thứ tám với tổng cộng bốn hệ thống chuyên dụng trong năm nay. Hai hệ thống trước đó gồm TPU 8t phục vụ huấn luyện quy mô lớn và TPU 8i hướng đến khả năng suy luận thời gian thực.

Điểm đáng chú ý trong thông báo mới là Google không chỉ giới thiệu một bộ xử lý mới, mà tập trung vào cách kết hợp chip, bộ nhớ, kết nối mạng và lưu trữ để tạo thành hệ thống tính toán phù hợp với từng loại công việc.

TPU 8tx hướng đến dữ liệu riêng và bảo mật

Theo Google, TPU 8tx được thiết kế để hỗ trợ các doanh nghiệp tinh chỉnh mô hình AI bằng dữ liệu nội bộ, chuyển đổi mô hình lớn thành các phiên bản nhỏ hơn và huấn luyện tác nhân AI thông qua học tăng cường.

Một trong những vấn đề lớn của doanh nghiệp khi triển khai AI là dữ liệu nhạy cảm. Các tổ chức tài chính, doanh nghiệp thương mại hoặc cơ quan nghiên cứu có thể muốn sử dụng mô hình AI tiên tiến nhưng không muốn chuyển dữ liệu riêng sang những cụm máy chủ khác nhau.

Google cho biết TPU 8tx tích hợp cơ chế tính toán bảo mật ở cấp phần cứng, nhằm hỗ trợ xử lý dữ liệu riêng tư trong quá trình tinh chỉnh và thực thi tác nhân AI. Cấu hình này được thiết kế để giảm nhu cầu di chuyển dữ liệu nhạy cảm giữa các cụm tính toán độc lập.

Đây là hướng tiếp cận quan trọng khi tác nhân AI ngày càng được giao những nhiệm vụ phức tạp hơn, từ truy xuất dữ liệu, thao tác phần mềm đến thực hiện quy trình công việc nhiều bước.

TPU 8i Max giải quyết nút thắt bộ nhớ

Trong khi đó, TPU 8i Max tập trung xử lý một hạn chế khác: băng thông bộ nhớ.

Khi nhiều tác nhân AI cùng làm việc trên một cơ sở mã phần mềm lớn hoặc phân tích lượng video kéo dài, khả năng tính toán của chip không phải lúc nào cũng là yếu tố quyết định tốc độ. Bộ xử lý có thể phải chờ dữ liệu được chuyển từ bộ nhớ, khiến hiệu năng toàn hệ thống bị hạn chế.

Google cho biết TPU 8i Max kết hợp hai chip TPU 8i có độ trễ thấp vào cùng một gói xử lý. Theo công bố của hãng, cấu hình này cung cấp gấp đôi năng lực tính toán, dung lượng bộ nhớ SRAM và băng thông HBM so với TPU 8i.

Việc tăng năng lực bộ nhớ và tính toán đồng thời nhằm hạn chế tình trạng bộ xử lý phải chờ dữ liệu, đặc biệt trong các tác vụ cần duy trì ngữ cảnh lớn hoặc điều phối nhiều tác nhân AI. Google cũng cho biết thiết kế này cho phép bố trí mật độ tính toán cao hơn trong cùng không gian tủ máy chủ.

Nếu những thông số này được duy trì trong vận hành thực tế, TPU 8i Max có thể giúp các trung tâm dữ liệu xử lý nhiều tác vụ AI hơn trên mỗi đơn vị diện tích và năng lượng. Tuy nhiên, hiệu quả kinh tế còn phụ thuộc vào chi phí triển khai, hệ thống làm mát, phần mềm và mức độ tương thích với các ứng dụng hiện có.

Google muốn đưa TPU ra ngoài hệ sinh thái của mình

Một thay đổi đáng chú ý trong chiến lược TPU là Google ngày càng mở rộng khả năng tiếp cận cho khách hàng bên ngoài. Theo Amin Vahdat, Phó chủ tịch cấp cao kiêm Giám đốc công nghệ AI và hạ tầng của Google, dòng TPU hiện có gần 100 khách hàng, bao gồm các phòng thí nghiệm AI, công ty giao dịch tài chính, nhà bán lẻ và trường đại học.

Google cũng muốn giúp nhà phát triển tiếp cận TPU dễ dàng hơn thông qua việc mở rộng hỗ trợ phần mềm, trong đó có những công bố liên quan đến PyTorch. Điều này có ý nghĩa bởi hiệu năng phần cứng chỉ là một phần của bài toán. Các nhà phát triển còn cần công cụ, thư viện và quy trình triển khai thuận tiện để chuyển ứng dụng từ nền tảng này sang nền tảng khác.

Cuộc cạnh tranh vì thế không đơn thuần là ai sản xuất chip nhanh hơn, mà còn là ai cung cấp được hệ sinh thái tính toán hoàn chỉnh với chi phí và hiệu quả phù hợp.

Nvidia vẫn có lợi thế lớn nhờ hệ sinh thái CUDA và mạng lưới khách hàng rộng. Trong khi đó, Google có lợi thế từ việc tự phát triển mô hình Gemini, vận hành trung tâm dữ liệu quy mô lớn và thiết kế chip phù hợp với nhu cầu nội bộ.

Hai hệ thống TPU mới cho thấy Google đang muốn biến kinh nghiệm xây dựng hạ tầng AI của mình thành một sản phẩm thương mại rộng hơn. Tuy nhiên, mức độ cạnh tranh thực tế sẽ chỉ rõ hơn khi có các đánh giá độc lập về hiệu năng, chi phí vận hành và khả năng tương thích với những mô hình AI phổ biến.