Google Cloud heeft zijn achtste generatie tensor processing units (tpu’s) uitgebreid met twee nieuwe modellen voor ai-taken. Het gaat om de TPU 8i Max en TPU 8tx.
Een tpu is een door Google ontwikkelde chip die speciaal is ontworpen voor het trainen en draaien van ai-modellen. In tegenstelling tot algemene processors of gpu’s zijn tpu’s geoptimaliseerd voor de enorme hoeveelheid matrixberekeningen die generatieve ai vereist.
Met de introductie van de nieuwe chips telt de TPU v8-familie nu vier varianten. De TPU 8tx richt zich op vertrouwelijke ai-workloads. Beveiligingsfuncties zijn direct in de hardware geïntegreerd, zodat gevoelige data en modelgewichten afgeschermd blijven. Volgens Google is dit de eerste tpu met ondersteuning voor confidentiële computing.
De TPU 8i Max is bedoeld voor zware ai-toepassingen met grote contextvensters. Door twee TPU 8i-chips te combineren verdubbelen onder meer de rekenkracht, het geheugen en de bandbreedte. Dat moet organisaties helpen om grotere ai-agents en complexe workloads efficiënter te verwerken.
