cerebrassystems宣布推出全球最快ai推理解决方案
2024-10-09 【 字体：大 中 小 】
品玩8月28日讯，据siliconangle 报道，Cerebras Systems 宣布 推出全球最快的 AI 推理解决方案 Cerebras Inference。
据悉，该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token，为 Llama 3.1 70B 提供每秒 450 个 token，速度是微软 Azure 等超大规模云中提供的基于英伟达 GPU 的 AI 推理解决方案的 20 倍。
除了令人难以置信的性能之外，这款新型推理解决方案的定价也比流行的 GPU 云低得多，起价仅为每百万个 token 10 美分，从而为 AI 工作负载提供 100 倍更高的性价比。
猜你喜欢
南华基金：中国经济长期向好的基本趋势没变
2163 一汽丰田全系推限时购车优惠 直补至高5999元
8922 宝安区检察院行政检察监督案例荣获全省十佳
3367 小米成长安汽车“劲敌”？朱华荣公开赞扬雷军，能干、谦虚，太可怕了！#
2850 一图看懂历年春节前后两周大宗商品涨跌规律
2572 北京肿瘤科李李专家：乳腺结节3级，会发生癌变吗？李李教授
8410 全国人大代表、骆驼股份董事长刘长来：化解产能过剩矛盾，再生铅行业急需供给侧改革
1867 国泰君安：五一档符合预期 暑期档渐进电影旺季来临
6873 机构 市场承压, 这些股票是最好的做空对象
5856 应对南方暴雨灾害，保险业已接报案估损619亿元
526 
淳中转债上涨804%，转股溢价率806%
溯联股份(301397SZ)拟斥469亿元投建新能源汽车及储能零部件智能制造基地
川润股份(002272SZ)：暂未有人形机器人业务
天准科技(688003SH)：边缘计算域控制器可以覆盖robotaxi、robobus、robotruck等场景
#星纪魅族有望操刀红旗首款手机# 领克手机、极星手机、红旗手机
军信股份(301109SZ)：拟在吉尔吉斯共和国首都比什凯克市设立全资子公司
2月29日基金净值：富国龙头优势混合A最新净值10306，涨263%
长江投资(600119SH)聘任陈建霖为总经理
中国生物制药南方总部在广州国际生物岛开业运营
“自动驾驶”出车祸，谁来担责？这能刑吗？
八一钢铁（600581）8月29日主力资金净卖出46407万元
【企业动态】ST美置新增1件判决结果，涉及委托合同纠纷
百度推出仿真人AI社交APP 机构建议关注多模态技术进展
扩招商“朋友圈”，南沙龙穴探寻香港机遇
溯联股份(301397SZ)拟斥469亿元投建新能源汽车及储能零部件智能制造基地
#星纪魅族有望操刀红旗首款手机# 领克手机、极星手机、红旗手机
小米成长安汽车“劲敌”？朱华荣公开赞扬雷军，能干、谦虚，太可怕了！#
天准科技(688003SH)：边缘计算域控制器可以覆盖robotaxi、robobus、robotruck等场景
滚动 全省16个县（市、区）发布暴雨红色预警
迈富时一度涨超23% 较招股价累涨近九成
八一钢铁（600581）8月29日主力资金净卖出46407万元
【企业动态】ST美置新增1件判决结果，涉及委托合同纠纷
百度推出仿真人AI社交APP 机构建议关注多模态技术进展
扩招商“朋友圈”，南沙龙穴探寻香港机遇
溯联股份(301397SZ)拟斥469亿元投建新能源汽车及储能零部件智能制造基地
#星纪魅族有望操刀红旗首款手机# 领克手机、极星手机、红旗手机
小米成长安汽车“劲敌”？朱华荣公开赞扬雷军，能干、谦虚，太可怕了！#
天准科技(688003SH)：边缘计算域控制器可以覆盖robotaxi、robobus、robotruck等场景
滚动 全省16个县（市、区）发布暴雨红色预警
迈富时一度涨超23% 较招股价累涨近九成
