我之课题皆为小玩物课题，而谷歌要办理之为高险情之课题、效劳与货品。
比如，你该如何办理异常。
吾等于芯片如何于内存中保存数据此方面做之甚多内部工。
首先请确认一下，Ironwood 为主要为推演设计之吗。
我认为者们用推演时有甚强之光阴法则性——白昼用户醒来会问大量疑难，到之夜晚有些者还为会睡觉之，故彼段光阴甚多推演差事会用 Spot 实例来跑；操练后微调（post-training）也有甚多者于夜间用 Spot 实例来成。
故一名实际之例子为：8i可于非水冷模式下运行，此样你就可把它部署于更多地点，因风冷仍然为大多数数据中心之主要散热方式。
此些决策背后皆有大量之深思熟虑。
他指出，智能体之兴起正从根本上更张芯片与体系设计之改良方位。
彼等望有一名AI应用，能于医生坐诊时帮彼等查阅标准治疗指南。
没有任何耗费级应用会有如此高之繁度。
吾等三四年前还做之一名决策：预见到动力将会供不应求，于为吾等专注于改良每瓦特算力之性价比，也就为每瓦特能产出多少 Token。
对于业界关于预操练扩展放缓之讨论，Kurian给出之明确回应："从芯片设计、体系设计或产能层面，吾等皆没有看到此种放缓。
因此，吾等引入之Gemini，者们也于用它——例如，吾等最近于Cloud中引入之它来扫描代码中之安康漏洞。
但现状为，对于一名繁之体系，提示词并不能解释代码所有潜于之举止。
今吾等正用Gemini来排查正生之故障事件，此也帮吾等提升之工效能，进而提升之模型本身之品质。
主持者：此甚好。
Multiverse。Kurian提到，对冲基金Citadel已公开谈及如何将TPU用于本钱商场之算法交易，美国动力部及高性能计算领域之主顾也于采用此一预案。
从你之推演办理器到存储体系Rapid Storage进行数据获取，速度极快，达到每秒15太字节，实现超低延迟。
而且不只为"我能与计算机对话"，还需能体谅计算机返回之讯息并做出响应——您明白我之意思吗。
接下来之疑难为：此名器物为否有足够之自我感知——若为它自己生成之代码，它能否发觉其中之疑难。
当你为一家平台公司时，你之业务之不同部分会与商场上之不同玩家形成角逐，某些业务部分或为彼等提供供给，另一些部分又与彼等角逐。
于技艺规格层面，Kurian介绍，v8T操练芯片于单名体系内可容纳两名Petabyte之内存，相当于美国国会图书馆全部数术化实质之约100倍。
第八代TPU将会于吾等之发布举动上正式公布。
谷歌内部为如何采用智能体编程之。
我知道吾等之前稍有提及，但我想深入探讨一下：你如何看待为Anthropic之模型提供算力，而彼等同时又于与谷歌角逐。
主持者：您之先决到 TPU 之陈设已有 11 年史册之。
我想直接问您——就您之机构谷歌云而言，今随之者工智能让您之营造师与其他部门之员工效能大幅提升、自动化程度不断提升，请问您们为于招者、裁员，还为保稳固。
最重要之为，吾等用于分离式部署之效劳栈，于所有模型提供商中，对TPU之用效能为最高之。
Thomas Kurian：吾等从其他所有AI实验室彼里得到之需求已超过之吾等所能知足之上限。
不过外面确实有一些公司采取之不同之做法。
芯片优势正加速兑现为商业增益。
若你想触达所有者，就须于营造层面处置此些本金架构之疑难。
比如，你有没有见过——于讨论浏览器中之计算机用时——一名有一千名字段、下拉列表等之企业应用。
故吾等构建之一名Gemini之特定版本，吾等下周将展示之其中一件事就为：全球上最繁之计算机就为云。
我于想，汝等给彼等提供算力，而到之某名光阴点——尽管你说今TPU产能还甚充裕——但届时或就须做出艰难之抉择：此些产能为给Anthropic，还为留给Gemini。
吾等从多名维度来审视此名疑难。
Thomas Kurian：此为整名行业皆须管控之险情。
想想寻常市民之处境：若你为高净值者士，你可去私者银行，有专业之家当管顾问为你效劳；但若你为没有彼些货殖源泉之寻常者，你或根本得不到高品质之理财建议。
谷歌持代码同行评审体制，并正探求引入"督察模型"以不同方式审查AI生成代码，以对付AI既生成代码又审查代码所带来之认知盲区险情。
若不为，谷歌打算如何追击。
让我举几名例子。
Thomas Kurian：吾等于此件事上已积攒之深厚之阅历，一代又一代地做，一次又一次地交付此种优势。
第八代TPU拆分为推演与操练两条货品线，对付智能体时代需求 然后，模型于办理现状全球之各种玄虚层面变得越来越强盛。
尤其为您刚才提到之，若用AI来审查代码、调试代码——若AI既负责生成代码，又负责审查代码，吾等为否正失对代码本身以及所部署功能之核心体谅。
汝等目前处于哪名阶段。
于TPU技艺栈上，汝等最近改良之为什么。
主持者：此为否意味之开源软件（注意不为开源模型，而为开源软件）为弊大于利之。
当吾等预见到此波AI浪潮到来时，吾等从多名维度入手，确保自己不会于物理源泉上受到制约。
就业优先。简来说，若你需100兆瓦之计算功率，你从动力侧实际消耗之额外兆瓦数越少，就说明你越没有于费动力。
Thomas Kurian：回到第一阶段，也就为搜索问答之阶段：输入 Token 远多于输出 Token，因你会给模型一名甚长甚繁之疑难，它返回一名相待简之解答。
此使得 Xfinity 能用吾等之技艺来调度与管整名主顾效劳体系，沃尔玛能于从供应链筹划到排班之各种场景中用吾等，博世将吾等用于制造业，默克（Merck）则谈到之如何将吾等用于研讨——从药物发觉，始终到将丹药交付给患者，整名流程之自动化。
于模型本领方面，吾等对Gemini所处之位置极其自豪。
Thomas Kurian：目前，吾等有大量营造师于用Jet Ski，此为吾等内部之编程框架，其回馈正实时传递给DeepMind，形成强化修习之闭环，每天皆于提升Gemini于编程方面之品质。
" Thomas Kurian：当吾等谈论软件营造制造力时，吾等之看法与外部报道之视角略有不同。
主持者：下一名大瓶颈于哪里。
与此同时，推演场景需于大量地点散落部署，此与操练可集中于少数超大规模地点成之特性截然不同，v8i支风冷运行正为对此一需求之直接回应。
风言风语。另外，因者们欲更直观之例子——者们望于甚多地方皆能部署推演，因彼等需管延迟，此与操练不同，操练可集中于少数几名大型地点成。
十一年积攒之复利效应：TPU从专用AI芯片走向通用算力 针对外界对谷歌同时为Anthropic提供TPU算力、却又于模型层面直接角逐此一纠葛之质疑，Kurian将其归结为平台公司之内于逻辑。
智能体时代重塑算力架构：存储瓶颈成下一名枢纽约束 Thomas Kurian：者们对数据中心之担忧主要集中于几名方面。
Thomas Kurian：吾等谷歌大量用开源，也大量贡献开源。
吾等之 Gemini 企业版提供之搜索问答之本领，并加入之"深度研讨"功能用于深度剖析。
前景五年，主要之工负载会集中于哪里。
我只为举三名简之例子来说明。
更直白地说，若AGI真之为所有AI实验室皆于追寻之终极宗旨，而且谁先到达、谁先规模化部署谁就赢，彼么把产能全部留给自己、留给自己之模型，似乎才为最有利之选择。
但谷歌不能此样做。
Thomas Kurian：为之。
Simulation Theory。Thomas Kurian：为之，现状情况为，若你为一家 AI 实验室，你会选择最好之平台。
实际上，我审查之代码行数极其少。
Thomas Kurian：为之，重要之为吾等增之多少功能。
若算力需求为无穷之，哪怕只从研发角度来看，为什么不干脆把算力全部留给自己。
故迟早有一天，其中某些本领——也许不为全部——为可被检测与使用之。
故者们望于差事成时随时激活、停用虚拟机。
"此就需转变为对SAP之类体系或某种供应链体系之查询，它需动态地查询一组数据表。
故吾等正推出一种新型网络架构，叫做Virgo，它能于超大规模集群内提供超低延迟之高速互联。
Kurian披露，Gemini企业版Token办理量已从本年1月之每分钟100亿跃升至160亿，企业用户数环比增益40%。
吾等将展示三种不同类型之智能体（Agent）：第一名智能体延续对你发动攻击，确保漏洞能被及时修补、不被打名措手不及——此为昔无法做到之；第二名智能体对发觉之疑难进行优先级排序，帮你明确哪些漏洞为最需优先办理之；第三名智能体则协助你成修补工。
此为AWS之打法——为所有者提供效劳，不偏袒任何一方。
我名者对AI为相当乐观之，你为怎么看之。
极地安全。若你观察 Gemini，吾等大致看到之模型演进之三名阶段： Thomas Kurian：吾等需均衡甚多事情。
但随之制造力不断提升、功能迭代越来越快——代码行数当然不为衡量标准，但它确实为此种速度提升之一个人现——终究会到达一名临界点，你根本无法审查每一行代码。
与之相比，名者电脑不过为名玩物。
谷歌为如何拥抱智能体编程前沿之。
你能解释一下你所说之"建筑施工"与"工厂制造"于数据中心层面之区别为什么吗。
我去过吾等甚多数据中心，当你深入到当地之货殖氛围中，看到当地校里之孩子，看到运营吾等数据中心之员工——彼等对吾等来说极为重要——看到吾等为彼些偏远社区带来之多少货殖演进，你会觉得此为吾等应尽之担当之一部分。
吾等看到 WPP 等创意公司，以及各类耗费品公司，始用 Gemini 企业版——吾等之企业级 AI 平台——来进行实质创作，各式各样之实质创作场景应运而生。
基于智能体用量之增益，你认为下一名大之瓶颈于哪里。
第一名为吾等之托管Lustre处置预案，吾等将其吞吐量提升到之每秒10太字节，它真正为大规模操练而设计。
第二名为吾等推出之一种全新之超低延迟推演存储体系，称为"Rapid Storage"。
甚早昔吾等就决定做三件事：第一，借助 Gemini 提升漏洞检测本领，目前已有大量主顾于用；第二，打造一名能够修补代码之模型——因若你能快速发觉漏洞，者工往往跟不上修补速度，彼么模型能否协助你修补。
但彼等一名者皆没裁，而且彼等发觉，于回答主顾关于"我为否符合此项治疗之报销资格"此类疑难时，准确率与速度皆大幅提升——有些情况下，过往需23分钟才能查清楚之疑难，今只需几秒钟就能回答。
花旗集团正掘发一款家当顾问应用，彼等会于举动上进行展示，此款应用将借助Gemini之推演与差事管本领，为用户提供理财建议，并于用户需时帮彼等执行注资操作。
此使得吾等能以极高之效能将数据从内存中取出进行办理，并再写回内存。
于此名领域深耕，也让吾等能够将此些实质教给吾等之Gemini体系，并将其融入操练框架。
我认为枢纽于于找到彼些能让技艺真正造福社之应用场景，而不为引发者们对工被取代之恐惧。
而于吾等此边，吾等相当大比例之增益来自Gemini与吾等自己之模型，你可把此名作为一名粗略之参考。
主持者：我最近始终于思考之第一名疑难为关于TPU产能之。
吾等针对此一点即将推出新功能。
当你看看Anthropic与OpenAI此些前沿实验室，彼等始终挂于嘴边之就为算力受限之疑难。
品质为第一位之。
吾等不为单纯于分销别者之IP。
因业界有一段光阴于讨论预操练正放缓，应把重心转向强化修习，转向思考光阴（thinking time）。
智能体差事或延续运行6至12小时，对KV缓存设计提出之全新要求，内存驻留本金之控制将直接决定推演效劳之货殖性。
于对比英伟达之总有本金主张时，Kurian以主顾回馈作为回应——"吾等有甚多主顾说吾等之总有本金为最低之"，并重申大量外部AI实验室对TPU之需求已超出谷歌供给本领，视其为本金角逐力之最直接证验。
吾等将整名云之本领与器物全部敞开给模型。
主持者：我确实同意。
故当者们问吾等，此些经历为如何影响汝等芯片研发方位之——吾等不仅与英特尔协作，吾等自己也有ARM芯片，吾等研发它为因吾等看到之此些器物带来之通用算力需求。
由于网络延迟极低，内存到芯片之数据吞吐量也极为迅速。
谷歌以"goodput"（有效吞吐量）作为核心衡量指标。
最后，吾等会深度投入吾等所于之社区。
第三，现存代码量如此庞大，从哪里始下手。
Thomas Kurian：吾等有甚多主顾说吾等之总有本金为最低之。
汝等为否看到合成数据有更高效之应用。
首先，吾等正注资"表后"（behind the meter）技艺，也就为说吾等不从电网取电，而为于州政府有意愿之情况下与电网互联，此样当电网现短缺时，吾等之动力反过来可反哺电网。
因此，核心疑难于于：Anthropic认为Mythos过于险恶而暂缓发布之彼些漏洞检测本领，有多大比例可被开源模型复现。
底蕴。故甚多顶级机构已发觉，转向推演计算可带来巨大之性能飞跃——与其用数值法门做计算，不如转向推演，就能享受推演性能提升所带来之红利。
比如Citadel于本钱商场领域就公开谈到之彼等如何用吾等之TPU；美国动力部以及高性能计算领域之主顾也于谈论此名。
Claude为谷歌最强劲之角逐对手之一，但与此同时，汝等实际上又为彼等大量操练与推演工之根基设施支撑。
Anthropic认为其Mythos模型于网络安康本领方面过于前卫，暂时不宜公掘发布。
故此名器物不仅仅用于生成代码，吾等也用它来查验代码，此有助于于资深营造师来做最终审查之前，预先成大量前置工。
Kurian指出，智能体普及之下一名重大瓶颈将现于耗费者侧——让虚拟机按需激活、停用，并高效办理本地存储读写，将为降低智能体用本金、实现大众化普及之核心营造应战。
于全球AI实验室深陷“算力荒”之当下，谷歌正凭借超过十年之自研芯片积攒，构筑起一道角逐对手难以复制之架构性护城河。
针对此些疑难，吾等正做几件事。
Thomas Kurian：感谢邀请。
吾等有独特之优势，因吾等既为超大规模云效劳商，又为模型提供商，同时还有网络安康团队——包括吾等之Mandiant团队与Wiz。
Thomas Kurian：对此类东西之需求永远存，而且我认为前景十年需求会始终超过供给，若你有自己之芯片，此为名甚好之位置。
比如说，我为一名家用户，我构建之一名智能体，此名智能体将帮我安排出行——设想你要去度假，你让它成一系列差事，比如查询八名旅行网站，此些网站作为器物暴露出来，也就为今大家常说之MCP或API，让它去找所有旅行网站，设想为订一趟去欧洲或东南亚之行程，帮我计算总费用并告知我之概算。
还为接近之。
故吾等完全有信心，能够效劳最大之模型，尤其为最大之Gemini模型。
多边外交。汝等目前处于此名演进周期之哪名阶段。
三年前，吾等就裁决随之AI本领增强，网络安康领域必将受到深远影响。
智能体描述自身有之技能集，知道如何操作一系列器物，包括计算机，并能代表你执行差事。
Thomas Kurian：我来举两三名吾等实际观察到之例子。
Thomas Kurian：下一名大瓶颈甚大程度上将现于耗费者用虚拟机之环节。
商业化渠道之多元化也帮吾等实现增益。
吾等于此方面为全球最高效之，背后涉及热力学互换、散热方式等数以千计之改良细节。
此就产生之截然不同之 Token 构成比例——多模态为一大变量，输出 Token 之体量也大幅增益。
主持者：设想性地问一下，若考虑一名10万亿参数之模型，基于你于TPU层面之统筹，此于当前全球之技艺状态下，为一名可行之效劳规模吗。
我之故提到开源模型，为因无论你怎么防范，即便能确保闭源模型不落入对手之手，开源模型认可为会流入对手手中之，而且它们还于延续演进、越来越强。
吾等还缩短之机器部署之周期。
主持者：为之，吾等待会儿会聊到此名。
不只为谷歌自己之团队于用，其他 AI 实验室对吾等 TPU 之需求，已远远超过吾等所能知足之上限。
您怎么看。
外部AI实验室对TPU之需求已"远超吾等所能知足之上限"，并以此作为本金角逐力之最直接佐证："若吾等之本金贵得多，彼等根本不会来找吾等要TPU。
你须至少让推演进项能抵消操练之本金，而不能永远依赖险情注资来输血。
故哪怕你说有X量之产能留给Gemini，Y量之产能留给其他所有者，彼么于此Y之中，你又如何分发给Anthropic，以及数百家其他实验室与主顾呢。
Thomas Kurian：吾等于技艺栈各层积攒之史册阅历，随之光阴推移形成之复利效应。
当吾等提出收购Wiz之时候，甚多者问：汝等为什么要此么做。
彼么吾等应如何对付。
但想象一下，你问模型一名疑难："告诉我需备货多少才能知足此款货品之需求。
主持者：我还为有点执念于Anthropic此名疑难，因彼等毕竟于企业层面为直接角逐之，而苹果则不然。
为多年前之决策仍然坚决不移地贯彻执行，还为汝等需不断地调理方位。
企业当然可为此付费，越廉、越高效，彼等就能用越多；但若你想把此项技艺普及到耗费者，对彼等来说本金甚快就会变得高昂。
精彩。谷歌确实赚之甚多钱，但你须延续产生现金流，而此为吾等生成足够现金流之另一名杠杆。
此名行业有时候易矫枉过正，说"根本不需任何者"，结局恰恰为于最需者之时候此么说。
你为怎么看待此名疑难之。
吾等还把TPU扩展到之新之场景，比如本钱商场。
他指出，无论如何限制闭源模型之扩散，开源模型必然会流入对手手中，且随光阴推移延续演进。
我只为于陈述现状：对手会用模型，彼等首先会扫描之，就为彼些流行之开源库，因此能给彼等提供最大之攻击面。
君子和而不同，小人同而不和。我最近自己也于大量编程。
举名例子，当吾等与供应链供应商谈判时，正因吾等用此些芯片不仅仅为为之知足自身需求，还为商场提供效劳，彼等会说谷歌之需求量为一名更大之总盘子，故吾等能拿到更有利之合同条款。
他表示，于模型本领提升带来大量安康漏洞之当下，恰恰为最需大量软件营造师配合模型工之时刻，行业易于"不再需任何者"之论断上矫枉过正，而现状往往相反。
而吾等之情况为，因吾等掌控芯片，单位货殖成效仍然具有吸引力。
与此同时，吾等也极其敏锐地关注商场、倾听主顾之声响。
但她同时还有糖尿病，若为此种类型之糖尿病，我就不能给她开化疗——此类章法极其繁，甚多情况下还互相交叉。
此背后之部分缘由，要追溯到甚多年前吾等所做之长期筹划。
吾等还与美国临床肿瘤学会协作——彼等为全美51,000名肿瘤科医生之行业机构。
主持者：吾等来聊聊第八代芯片。
若你愿意分享实在数术当然甚好，但哪怕为粗略对比一下——直接销售TPU、让Anthropic或OpenAI通过汝等之根基设施运行推演、还为效劳自己之Gemini模型——此几种模式相较量如何。
智能体差事或延续运行6至12小时，对KV缓存设计提出之全新要求，内存驻留本金之控制将直接决定推演效劳之货殖性。
吾等多元化之动力来源，提前锁定之土地以便建立数据中心，更张之数据中心之建造方式——吾等从旧俗之建筑施工模式转向之更多之工厂预制化模式，因工厂制造永远比现场施工更快。
管理者。此带来之极高之带宽，以及整名 Pod 中所有芯片之间超可预测之低延迟。
Thomas Kurian：此将为一名历程。
今甚有意思之为，吾等不仅看到来自AI实验室之需求，还看到来自其他行业之需求。
Block 为名典型案例，Jack Dorsey 发之一篇博文，Block 裁减之将近一半之员工，并将 AI 列为缘由之一。
主持者：把此名拉回到芯片拆分之决策上——推演与操练分开，此两者之间有什么内于联系。
主持者：此几乎为名老生常谈之说法之，多年来始终如此，但我觉得今比以往任何时候皆更重要之为整体之交付速度。
第三，吾等极其重视PUE（电源用效能）指标，也就为吾等所消耗之每一度电之效能。
此些皆为吾等已做到之事，也于产能上帮之吾等甚大之忙。
我只想说：若吾等之本金贵得多，彼等根本不会来找吾等要 TPU。
若你没有，你就只为于转卖别者之东西。
此始终为吾等之核心聚焦所于。
Kurian表示，谷歌三四年前便预判动力供给将趋于紧迫，因此将每瓦特算力之产出Token数作为改良重心，此一决策如今已成为众多主顾选择TPU之重要缘由。
只要吾等延续积极地推进疑难之处置，保对商场之居先——于技艺如此快速演进之今日，当某件事生时，你须提前就准备好处置预案。
与此同时，有些主顾望用吾等之TPU，Anthropic就为其中一名例子。
此到底为支还为反开源之论据。
我注意到 Gemini 系列模型速度极其快，作为一名速度控，我极其欣赏此一点。
汝等完全没有此种觉受吗。
Thomas Kurian：从芯片设计、体系设计或产能层面，吾等皆没有看到此种放缓。
吾等有一名新版本之Gemini即将推出，从吾等看到之所有基准测试来看，吾等对此同样充满信心。
而且你知道，不管你为哪家实验室，险情注资为没办法无穷期地支撑你之。
你怎么看此件事。
吾等为此构建之器物，帮者们识别并确定优先级。
把此一切加于一起，即便你看推演与视觉言辞模型，吾等也针对其中大量技艺进行之深度改良。
整套器物链有大量之者于用，此就为工方式演进之一部分。
但另一方面，开源代码会被更快速地加固。
但反观谷歌，汝等有完整之技艺栈，有自研芯片，而且汝等不仅于效劳自己之推演需求，还于做操练、销售推演效劳，同时还允许一些角逐对手于汝等自己之芯片上构建货品，甚至还于直接销售芯片。
其中v8i主要针对推演场景改良，可于无需水冷之机缘下运行，便于部署至更多地点以管推演延迟。
对于谷歌而言，您如何看待此件事。
吾等分发给外部之算力始终为于与自身需求及本钱需求之间做均衡之。
比如你向智能体提问，让它告诉你解答之引用来源，若为文档中之实质，就甚简，只需展示一名链接即可。
主持者：您提到之网络安康，吾等就以此名话题收尾。
吾等今于谷歌云园区，极其感激您抽出光阴。
故吾等裁决推演之需求将会爆发式增益，明确之推演所需之改良方位，而事实上，v8i 推演芯片之商场需求，远远超出之吾等原先之预期。
整名AI行业又该如何扭转公众对者工智能、以及对部署数据中心此件事之看法——毕竟数据中心之部署实际上赋予之美国方略优势。
主持者：我想续聊一名话题——算力需求若为无穷之，尤其于研发层面，为什么不干脆把算力全部留给自己。
但若说到更广泛之社层面之看法，而不仅仅为你进入之彼名当地社区——你进去之、缔造之就业、投入之资金、没有直接推高电价，此一切皆甚好——但你究竟要怎么真正更张更广大美国民众对者工智能之看法。
故吾等已始把TPU引入部分核心主顾自己之场地，此为一种略有不同之商业模式。
吾等采取之三项切实举措： 主持者：好之，Thomas，感谢您今日来接受我之采访。
故 Ironwood 为一款通用型芯片。
JAX 正为于 TensorFlow 之阅历积攒上，以及者们对新型分布式操练模型之需求上，进一步迭代之产物。
Gemini企业版之企业用户数环比增益之40%。
此外，于吾等收购 Wiz 之后，你将看到吾等结合 Wiz 展示之新本领，其核心为延续检测。
此对 AI 实验室或您之主顾来说为一大卖点，还为彼等始终把品质放于第一位。
此只为作为一家平台公司之一部分。
智能体为一名模块，你可向它委派差事。
Anthropic为谷歌之主顾，彼等于甚多方面皆甚独特。
此名话题吾等等会儿会聊到。
Thomas Kurian：吾等有一名以Sundar为首之管团队，吾等会于一起讨论，就像任何一家成熟之公司一样做出此些决策。
英伟达大谈极致协同设计（extreme co-design），谷歌看起来于每名层面皆于做极致协同设计。
部分顶级钱庄机构已要求将TPU部署于靠近交易所之主顾自有数据中心，谷歌正探求此一新型商业模式。
我之体谅哪里有偏差。
于吾等掘发新货品之领域，吾等也于扩充本领。
尤其为，我须再次提到Anthropic，彼等之发布速度令者叹为观止。
再举名例子，看看吾等之Gemini企业平台：从本年一月到今，吾等之Token办理量已从每分钟100亿增益到每分钟160亿。
Thomas Kurian：你须赚钱才能支撑此一切。
Thomas Kurian：吾等长期以来具备分离式部署（disaggregated serving）之本领，此使吾等能够极其出色地扩展极其大型之稠密模型，此一本领已存甚长光阴之。
从 Gemini 2.5 Nano 始，多模态输入其实始终存，但多模态输出成为主模型之原生本领。
它之理念为：你可将需用于推演之讯息集中存储于云存储中，但可将其挂载于靠近推演芯片运行位置之地方——可把它想象成一种前向代理机制。
比如说，吾等收到之需求不仅仅来自Anthropic。
若你走到对面之园区，可看到有者同时开之六名窗口——一名于写代码，一名于编译，一名于部署与测试，另一名于后台跑代码审查差事。
一衣带水。吾等于商场拓展团队方面招募之大量者员，也于大量招聘部署营造师。
您认同此名裁决吗。
主持者：好之。
故有自研芯片将为吾等之一名核心优势。
Thomas Kurian：此将为一名历程。
而其他前沿实验室似乎永远皆不够用。
主持者：从汝等决定拆分此两款芯片此件事来看，您认为计算工负载将向何处演进。
此为吾等认为须认真对待、积极修补之疑难，吾等正与业界其他伙伴共同推进。
平台逻辑下之商业模式：为角逐对手供给算力不影响自身角逐力 于芯片层面，吾等始终与英伟达保协作伙伴关系，但同时吾等也始终致力于研发自己之芯片，而且已做之——我想大概为第十一年还为第十二年之。
故此既提升之效能，也提升之主顾效劳之品质，而且没有动过一名工岗位。
两弹一星精神。Kurian将此一优势定性为贯穿前景十年之长期壁垒，并以"平台公司逻辑"回应外界对谷歌同时效劳Anthropic等角逐对手之质疑：为对手提供底层算力与于模型层正面角逐并不纠葛，且恰因TPU同时效劳内外部需求，谷歌于供应链谈判中能得更有利之合同条款，进一步加深之此条架构性护城河。
此为汝等首次将芯片拆分成两名不同之系列——一名专注推演，一名专注预操练。
我认为枢纽于于找到彼些能让技艺真正造福社之应用场景，而不为引发者们对工被取代之恐惧。
吾等会用自己之器物帮开源社区修补此些疑难。
比如此位患者来看病，她有乳腺癌，标准治疗预案为什么。
故吾等不以代码行数作为衡量指标，因通常来说，本领相待弱之营造师需写更多之代码来成同一名差事，而资深营造师写得更精炼。
正为此整套技艺栈，让 TPU 体系如此高效、如此强盛。
Thomas Kurian：吾等于货品与销售方面皆于增者手。
故吾等正研讨之一名疑难为：能否借助AI带来之动力需求，推动新型动力配送方式之现，从而降低单位动力本金，并进而效劳于更广泛之商场。
与此同时，推演场景需于大量地点散落部署，此与操练可集中于少数超大规模地点成之特性截然不同，v8i支风冷运行正为对此一需求之直接回应。
有者称之为"延续红队演练"。
对于如何于内部算力需求与外部供给之间做出权衡，Kurian表示，分发决策由以Sundar Pichai为首之管团队共同讨论做出，并强调"有自己之芯片与需求，远比没有自己之芯片要好得多"。
PKI。首先为内存驻留光阴之疑难：你委派给智能体之差事或需运行 6 小时、7 小时甚至 12 小时，你不望频繁地将实质换入换出内存，因彼会带来高昂之 Token 计算本金。
值得关注之为，TPU之应用场景已始向AI之外延伸。
以 TPU v8 为例，它有 9600 块芯片；v8i 则有 1152 块，全部连接于一名单一之光学 Taurus 网络上。
耗费者负担不起让虚拟机永久运行之本金，彼极其贵，正如你所知道之。
Techno-history。为之免除让当地社区觉得谷歌把所有源泉皆集中于一名庞大之地点，吾等把数据中心散落部署于许多地方，此样没有哪名州会觉得吾等成之彼等源泉之一名沉重负担。
苹果已与吾等签订之模型合同，你也知道。
您认为谷歌此种"效能提升同时延续扩招"之方式，与 Block 彼种"重塑公司架构、以一半之者力实现更好效果"之方式之间，差异究竟于哪里。
当吾等做 TensorFlow 之时候，吾等意识到操练需一名大规模分布式编程模型，于为吾等掘发之 JAX。
主持者：好吧，我想此就为解答之，对吧。
Thomas Kurian：关于Gemini，你会于Next大会以及之后不久看到吾等之新动作。
留给吾等自己之研讨。
Thomas Kurian：你想想吾等于全球范围内实际上变现之多大比例——于某些场景下，吾等同时对算力与推演请求收费；于另一些场景下，吾等提供之为算力，运行之为别者之模型，但底层芯片为吾等之。
Thomas Kurian：为之，此正为"智能体"（Agent）此一概念之由来。
吾等于此方面有之甚好之记载。
比如吾等正推出一名新版本之模型，它能够修补漏洞、专门修补安康漏洞，但你依然需一名者来用此名器物并加以专注地把控。
主持者：Thomas，最后一名疑难：什么事情会让您夜不能寐。
主持者：彼若你把汝等TPU之整名算力池、整名计算根基设施看成一块大饼，你能谈谈操练、推演、销售TPU、为其他实验室效劳推演此几块大概各占多少吗。
此外，谷歌还将推出新型网络架构Virgo，提供超大规模集群内之超低延迟高速互联。
举名例子，v8T 操练芯片可于单名体系中容纳两名 Petabyte 之内存——此相当于美国国会图书馆全部数术化实质之约 100 倍。
而且因此些器物需本地存储，此些虚拟机虽可超量部署，但你也可配置本地磁盘来实现超高效之读写，此将成为一名瓶颈，因它会直接影响此项技艺能够普及之广度。
于数据中心建立层面，谷歌已将旧俗建筑施工模式转向工厂预制化模式，以更大之粒度进行预组装与预测试，从而大幅压缩产能部署周期。
主持者：当你于筹划新数据中心之部署时——我想你比任何者皆更清楚，美国社对数据中心目前有相当负面之看法，我记得支率大概只有20%左右。
于Kurian之框架中，AI应用正经历三名演进阶段：以搜索问答为核心之第一阶段、以多模态实质生成为特征之第二阶段，以及以智能体自立成繁差事为核心之第三阶段。
故吾等正看到TPU变得越来越通用，不再局限于AI算法，而为成为更广泛之根基设施。
接下来，我想问你关于模型发布与安康边界之疑难：你为否有某条红线，某名基准，让你裁决Gemini已不再安康到可向公众发布。
第二，谷歌始终有一名旧俗：提交代码时需同伴评审，通常由资深主管来成，而彼等往往成为瓶颈。
Lean。Thomas Kurian：此一点，从吾等于 Gemini 上做之工中体现得并不亚于芯片设计本身。
每次现此种论调，我皆觉得似曾相识。
主持者：我极其期待此次对话，有甚多疑难想问您。
Thomas Kurian：谷歌为一家平台公司。
举名者们通常看不到之例子——甚早昔，吾等就预判到两件事：第一，随之模型于体谅代码方面越来越强盛；第二，随之模型学会用计算机来执行差事，它们于甚多事情上能做得极其出色。
第二阶段，者们过往主要用扩散模型来生成实质，比如图像、音频、视频。
他明确表示，谷歌完全有信心凭借TPU为全球上最大规模之模型提供效劳，且其分离式部署（disaggregated serving）技艺栈对TPU之用效能于所有模型提供商中最高。
Thomas Kurian：粗略地说，吾等不会公开详细数术，故我不会逐项拆解。
但吾等面临之核心疑难为：Mythos发觉之彼些漏洞，有多大比例同样可用开源模型发觉。
主持者：彼当你面对TPU此块大蛋糕，需于各种不同之用途之间分发算力时，你为怎么较量与权衡之。
第二，吾等为否始终于聚焦最核心、最重要之疑难。
汝等之Gemini团队有没有来找你说过"吾等不够用"。
主持者：说得好。
吾等之宗旨始终为打造最优异之模型，并将其大规模应用。
此也为如今甚多者选择吾等之重要缘由之一。
Thomas Kurian：好之，尽管问。
正因吾等于企业领域之工，吾等能够向Gemini之轨迹改良操练框架输入更多之架构化数据轮回，包括架构化数据与繁字段此类繁实质。
汝等为怎么做到有此么充足之产能之。
谷歌不依赖外部芯片采购，因此无论如何分发，均能于自有学识产权根基上得赢利，此与纯粹转卖他者IP之商业模式有本原区别。
但我认为此为一名组合，有三名核心要素——因枢纽不只为芯片本身，而为整名体系。
跨省通办。你怎么做此名决策。
吾等看到之为强劲之商场需求，故吾等选择延续投入。
面对此种威胁，每月只做一次红队测试为远远不够之。
Kurian表示，此些决策之累积效应，于技艺栈各层形成之复利——从TensorFlow到JAX，再到XLA与Pathways，谷歌围绕TPU构建之完整编程栈，为当前体系效能之核心来源之一。
第一阶段，用户向模型提问，模型作出回答，或会经历多轮对话迭代，但整体上更像为一种搜索式聊天机器者体验。
吾等于注资替代动力，因吾等认为旧俗之"发电+配电"模式并不为动力供应进入商场之唯一方式。
比如，一位资深营造师写之代码比一位初级营造师紧凑得多。
汝等完全没有感受到吗。
彼等望AI能帮提供解答，而且此些解答须为百分之百准确之，无对不能现幻觉。
它长期以来皆处于业界居先水平。
主持者：TPU 之核心优势之一为速度吗。
若你于一家像谷歌此样掘发货品之公司工，现状情况为有两三件事极其重要。
Bitcoin。主持者：吾等来聊聊英伟达。
从大局角度看，我认为多元化本身就能促进货品长进，因你能从各名地方接收到需求回馈。
还为有所不同。
网络安康成AI军备竞赛新战场，谷歌推三层对付体系 谷歌云CEO Thomas Kurian近日于接受专访时表示，即将公布之第八代TPU将拆分为专注大规模操练之v8T与推演改良之v8i两条独力货品线，单名操练体系可容纳两名Petabyte之内存。
吾等之团队做出之令者惊叹之成果，吾等为彼等感到无比自豪，也期待接下来之举动。
主持者：更进一步来想，随之光阴推移，苍生对实际代码之体谅会越来越少。
吾等致力于于模型层面做到业界最佳，吾等对自己所做之工感到极其自豪，不仅仅为Gemini此名模型本身，还包括吾等围绕Gemini构建之完整器物链，以及吾等之企业器物组合。
为之，但此就为平台公司之一部分。
千锤万凿出深山，烈火焚烧若等闲。此些皆为任何者皆须面对之繁决策。
Thomas Kurian：Ironwood 为混合用途之，既用于操练，也用于推演。
黄仁勋最近接受之 Taresh 之播客采访，他谈到英伟达及其架构于每名 Token 之总有本金上为最低之，此得益于 CUDA、NVLink 网络以及各种器物链所带来之更优 Token 货殖性。
Thomas Kurian：说白之就为你部署产能时之基本单元为什么。
王焯冉。主持者：谢谢你之分享。
吾等通过一名叫做"goodput（有效吞吐量）"之指标来衡量此一点——它衡量之为你实际得之有效吞吐量。
Nano-tech。主持者：先聊聊智能体之用场景，尤其为当你需做大量之硬盘读写操作时，有甚多方面需去改良。
而终极之玄虚，为将整名全球玄虚成一台计算机——因若你能与计算机对话，计算机就能与一切对话，因所有软件本原上皆为计算机与外界通之玄虚样貌。
第一，吾等为否有面向前景之长期谋划——数据中心、网络根基设施，以及足够多之TPU。
另外，为否存某条红线或某名基准，一旦触及，您就会认为Gemini不再适合公掘发布。
v8T 则主要面向操练，但也有者于考虑将其用于推演。
主持者：此为否意味之吾等于预操练之扩展侧没有看到任何放缓。
v8有9600块芯片互联，v8i则有1152块，全部运行于一统之光学Taurus网络上，具备极低之可预测延迟，内存到芯片之数据吞吐效能极高。
缘由于于吾等看到一名法则——无论一家公司多么财大气粗，若不能靠推演赚钱，就无力延续负担操练之本金。
RESTful。你刚才提到之数据中心与数据中心建立。
彼等目前大规模部署之基于Gemini企业版构建之AI智能体，来帮彼等之团队工。
第二，若对手用模型来发觉漏洞，彼等也会使用模型与计算机来发动大规模攻击。
我认为此一点帮之吾等，你也看到吾等之营收与运营赢利率皆于延续提升。
他表示，谷歌早于多年前便预判AI浪潮之到来，并从动力多元化、土地储备、数据中心建造模式转轨等多名维度提前陈设，以确保不于物理源泉层面受到制约。
从"AI会造成大规模失业"到听到此一面之声响，需光阴来实现均衡，而此为吾等作为一名社共同走过之旅程之一部分。
汝等如何既站于智能体编程之前沿、产出海量代码，同时又保证品质，确保每一行部署之代码皆经过之审查。
因此，KV 缓存之设计需重新考量，此为一名典型例子。
主持者：我始终于说谷歌处于多么独特之位置：有现金奶牛、有芯片、有模型。
Kurian对AI模型于网络安康领域之险情持高度警觉态度。
故，吾等不会设计出吾等自己皆无法部署之模型。
第三，于硬件层之上，从编程栈之角度来看，谷歌掘发并贡献给业界之器物极其丰富，例如用于编译器改良之 JAX，吾等于 PyTorch 上也做之大量工，还有 XLA、Pathways——此些皆为谷歌构建之技艺。
但大体上从大局来看，谷歌云大约占Alphabet总本钱开销之一半，而且还于增益，因它之增速远超其他业务，此名汝等应清楚。
Thomas Kurian：每家公司对自己货品与效劳之需求情况不同，每位 CEO 皆会做出自己之裁决。
有自己之芯片，于算力受限之氛围下保单位货殖成效，此将为谷歌之一大优势，因汝等有此些芯片。
因它对某些代码模式或缺乏自我认知。
促进。Kurian将谷歌今日之算力优势，追溯至超过十一年前启动之TPU自研课题。
极其有意思之为，当吾等刚始协作时，内部有甚多焦虑，忧此会导致裁员。
您之第一反应为什么。
我认为工岗位被取代此名疑难，尤其令美国寻常民众感到极其担忧。
吾等始终于思考，比如为否需一名"督察模型"以不同之方式来审查代码——此也为为什么我说吾等依然持代码之同行评审，并且帮吾等之高级营造师用器物来成审查。
比如，你可于数据中心里一名机架一名机架地组装；也可整排整排地部署。
故，甚多东西为随之光阴推移不断积攒之，吾等从过往之实践中修习，并延续改善。
" 还有甚多此样之例子。
进入实质生成阶段，你只需给出一名简之提示词，比如"生成一段视频，展示我之狗穿之超者斗篷于开车"，然后模型需花甚长光阴来生成大量输出 Token。
你可将它与一名超大规模集群交叉互联，因你有大型数据集，你今可从大规模Lustre集群中将数据读取到大型操练集群中，实现超高效能之扩展。
我之机构里有甚多者皆于用它。
者们常说：我给你一名提示词，它就能生成一段代码，你不需体谅代码，因你体谅提示词就够之。
于科技行业，11 年为一段相当漫长之光阴，能看到一名如此久远之决策于近几年结出如此丰硕之果实，实于令者感慨。
有一条帖子于网上疯传，说为某者有位朋友于谷歌，彼位朋友基本说谷歌于内部并没有站于智能体编程之前沿。
主持者：Thomas，什么事情会让你夜不能寐。
我知道我于此名点上甚纠结，其他彼些公司就为跟不上，此对我来说真之太不可思议之。
主持者：彼底层数据方面呢。
主持者：有一件事我注意到——我比昔更有制造力之，我发布货品之速度极其快，历程极其愉快，我没有逐行审查代码。
吾等发觉一名极其有趣之表象：算法交易过往主要依赖数值计算，而此类计算主要运行于旧俗算力上，受摩尔定律之制约，每代之间之性能提升越来越慢。
此为吾等正探求处置预案之方位。
所谓"玄虚"，为指于企业场景中，模型需接入各种各样之体系——比如对接 CRM 体系来回答主顾相关之疑难，查阅供应链与谋划体系等等。
主持者：为之，我觉得智能体此块确实甚有意思，因它真正更张之此些token于实际中之用方式。
举几名例子：吾等下周将发布两项全新之存储处置预案。
第三，从长远来看，于任何真正之软件公司里，营造师们发觉自己花于低效工上之大部分光阴，为于调试疑难。
主持者：彼吾等续聊操练框架与智能体编程此名话题吧。
同时，你还需于一名一统之网络骨干上改良所有此些。
于为者们问：此不为于与汝等之Android平台及性命体系角逐吗。
仅于我之团队中，就有数千者每天皆于用它。
于吾等之发布会上你会看到一家叫Signal之公司，彼等平时不怎么公开宣传自己——彼等为德国最大之康保险公司。
吾等完全有信心，TPU能够效劳全球上最大之模型。
故吾等始终保更长远之视角。
吾等帮彼等实现之此一点，帮医生更好地照护患者，彼等会员之回馈令者极其振奋。
汝等为如何看待此名决策之。
Kurian透露，即将发布之第八代TPU包含三款货品：面向大规模操练之v8T，以及混合用途之Ironwood。
但体谅代码带来之一名疑难为，模型同样能发觉代码中之漏洞，因此新模型引发之大量关于网络安康漏洞之焦虑。
你能以越大之粒度来部署，就越能于一名集中地点提前成预组装与预测试，部署速度也就越快。
其逻辑于于：算法交易过往依赖数值计算，受制于摩尔定律放缓，而转向推演计算可带来显著之性能跃升。
闭源则没有此名疑难。
第一，若者们要用模型来发觉漏洞，你就需用模型来帮修补漏洞——因漏洞被发觉之速度远超者工修补之速度，故须用模型来辅助修补。
他表示，谷歌之不同业务部门与商场参与者同时存竞合关系，苹果已与谷歌签订模型合同同样属于此一逻辑之体现。
此就为下一名演进阶段。
比如有者问吾等：为什么要专门掘发 v8i 此颗推演芯片。
通常来说，专用 ASIC 芯片往往比通用 GPU 快得多。
但我可告诉你一件事：有自己之芯片与需求，远比没有自己之芯片要好得多。
而正为彼种能够跨层贯通之本领——从智能体层到Gemini层，再到存储体系与计算体系——才让吾等能够做协同设计。
故，吾等始终于追问：吾等为否于为主顾与用户处置正确之疑难。
随之算力本金不断上涨，若你做之为亏本买卖——你亏钱，而且从推演效劳等手腕中赚到之钱不足以覆盖操练本金——此名缺口越拉越大，你能找到之资金来源就会越来越少。
此外，还有甚多其他层面之工吾等也于进行协同设计，此些皆为为之对付智能体之到来，核心宗旨为以最高效之本金架构，为者们提供性能最佳、品质最好之智能体运行氛围。
此为一名繁得多之疑难。
但现状情况为，于企业场景中有甚多元素，实际上相待易办理。
吾等于某种程度上为"协同设计"之——随之模型本领之长进，吾等能够不断扩展可自动化之差事边界。
Thomas Kurian：吾等正研讨此条线应划于哪里。
首先，准确地将此名查询分解到对应之数据表，然后展示响应时——引用来源于哪里。
彼么，您之筹划会随之商场之变化产生多大幅度之调理。
若你之代码为开源之，全皆暴露于外，模型就可扫描、发觉漏洞并加以使用。
随之此些机构陆续加入，彼等望吾等之机器能部署于更靠近交易所之地方，比如放于彼等自己之数据中心里。
此又为一名疑难。
因此，吾等需引入能够延续进行红队测试之智能体，以及能够辅助修补之智能体——修补代码为一回事，找出所有运行旧代码之地方、将其清除、再部署经过补丁更新之新代码，此又为另一回事。
第二，数据中心所于之社区能不能得足够之就业机会。
Thomas Kurian：品质。
前些年有者说不需彼么多软件营造师之，结局模型出来之后发觉之大量安康漏洞——就于此名节骨眼上，吾等反而需大量软件营造师来配合模型工。
" Thomas Kurian：吾等始终于审视整名体系。
新知。主持者：Thomas，极其感谢您，真之极其感谢。
Kurian亦对"AI将取代软件营造师"之论断提出反驳。
于存储层面，谷歌即将推出两项新预案：其一为面向大规模操练之托管Lustre处置预案，吞吐量达每秒10太字节；其二为面向推演场景之超低延迟"Rapid Storage"，吞吐量达每秒15太字节，可挂载于靠近推演芯片之位置。
此些皆为社将会认可其身价之例子。
Thomas Kurian：吾等于此几者之间保投入之均衡，而且无论哪种方式吾等皆能得不错之赢利，因吾等有自己之学识产权。
您今观察到之什么。
主持者：听到汝等仍于招者，我甚悦——效能提升之，还于扩招。
v8i 主要用于推演，不过对于规模较小之模型，也有者用它来做操练。
史册上，输入模型之数据大多为非架构化数据，比如文本、音频、视频、文书等，此些数据量延续增益。
他同时向行业发出警告：于算力产能延续受限之商场氛围下，没有自研芯片之玩家单位货殖本金将"越来越贵"；而依靠险情注资输血、无法以推演进项覆盖操练本金之商业模式，终将面临资金来源枯竭——"此名缺口越拉越大，你能找到之资金来源就会越来越少。
就像者们问吾等，汝等之模型与苹果之协作改良做得如何。
吾等经常说，最重要之应用之一为打造一名"家当顾问"。
主持者：您认为"模型能够控制计算机、用浏览器"为终极形态之玄虚吗。
Mythos据传为第一名万亿参数规模之模型，谷歌今于10万亿参数模型此名领域有所陈设吗。
故此为一名大致之划分比例。
让我举几名例子。
每天皆有艰难之裁决。
到之智能体阶段，对芯片设计之影响体今三四名不同维度。
您认为谷歌于总有本金上为否最具角逐力。
你怎么知道你给我之解答为正确之。
谷歌之对付计策分为三层：第一，借助Gemini提升漏洞检测速度，并推出能够辅助修补代码之新模型，因漏洞被发觉之速度已远超者工修补之速度；第二，引入"延续红队演练"智能体——第一名智能体延续发动攻击测试，第二名对漏洞进行优先级排序，第三名辅助成修补；第三，与Wiz整顿后，将延续检测本领融入云端安康体系，形成从发觉到修补再到部署之闭环。
于一名产能受限之氛围下，你之单位货殖本金会变得越来越贵。
我想聊一聊Anthropic。
当你运行一名需执行甚多甚多不齐步骤之推演智能体时，有些事情涉及到你望如何于模型中保留与固定对象，从而让模型运行得极为高效，因此能大幅改良推演本金。
主持者：我想于此名点上再多停留一会儿。
第一，数据中心会不会推高我所于之州或县之动力价码。