cerebrassystems宣布推出全球最快ai推理解决方案
2024-10-09 【 字体:大 中 小 】

品玩8月28日讯,据siliconangle 报道,Cerebras Systems 宣布 推出全球最快的 AI 推理解决方案 Cerebras Inference。
据悉,该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token,为 Llama 3.1 70B 提供每秒 450 个 token,速度是微软 Azure 等超大规模云中提供的基于英伟达 GPU 的 AI 推理解决方案的 20 倍。
除了令人难以置信的性能之外,这款新型推理解决方案的定价也比流行的 GPU 云低得多,起价仅为每百万个 token 10 美分,从而为 AI 工作负载提供 100 倍更高的性价比。

猜你喜欢

瑞松科技:1月5日高管郑德伦、陈雅依、罗渊增持股份合计241万股


张尕怂:驴就是西北,就是故乡


正规配资哪家好?避坑指南与深度解析


淡水河谷认为2024年铁矿石市场将非常紧张


国际油价重回80美元


“中伏煲一汤,秋天也不慌”!央视都点名喝的汤,营养美味又解暑


科华控股(603161SH):上半年净利润70366万元 同比增长64%


外交部驻港公署发言人:维护国安天经地义 正当立法不容置喙


指南针第五代智能炒股软件:引领投资新时代


口碑相传,股票配资值得信赖


股票垫资贷款:撬动财富杠杆,步步为营的投资策略


最大最正规的配资公司:避开陷阱,稳健投资


A股配资App:风险与机遇并存的投资江湖


个股有融资行为是好是坏?


中国股票配资:撬动财富的杠杆,亦是风险的深渊


配资网站首选平台:避坑指南与安全投资策略


正规配资平台线上:避坑指南,助你稳健投资


2023十大正规配资平台:稳健投资,成就财富梦想


正规配资哪家好?避坑指南与深度解析


股指期货配资:撬动财富的杠杆,还是通往深渊的捷径?
