cerebrassystems宣布推出全球最快ai推理解决方案
2024-10-09 【 字体：大 中 小 】
品玩8月28日讯，据siliconangle 报道，Cerebras Systems 宣布 推出全球最快的 AI 推理解决方案 Cerebras Inference。
据悉，该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token，为 Llama 3.1 70B 提供每秒 450 个 token，速度是微软 Azure 等超大规模云中提供的基于英伟达 GPU 的 AI 推理解决方案的 20 倍。
除了令人难以置信的性能之外，这款新型推理解决方案的定价也比流行的 GPU 云低得多，起价仅为每百万个 token 10 美分，从而为 AI 工作负载提供 100 倍更高的性价比。
猜你喜欢
浙建转债上涨205%，转股溢价率3246%
5629 港股异动 餐饮股全线走低 4月餐饮收入增速有所放缓 餐饮出海前景广阔
805 孚能科技：期初高额库存导致毛利润率挤压 2023年净亏损1774亿元
1905 速滑短距离全能世锦赛宁忠岩完美绝杀首次荣膺总冠军 中国男选手历史性夺冠！
1058 收评：沪指V型反弹收复2800点，大金融股午后全线爆发
764 吃鱼生！至强寻味CP出道！
2342 国资委重要部署！国有企业2024年七大重点工作出炉
2320 全国各地共开工7970个项目 环比增长18721%
6232 新疆交建新注册《路面病害AI识别软件V10》项目的软件著作权
4888 深夜突发！美联储大消息！鲍威尔最新发声！利好数据传来
3074 
淳中转债上涨804%，转股溢价率806%
各省最受欢迎的家常菜，哪款是你的最爱？
溯联股份(301397SZ)拟斥469亿元投建新能源汽车及储能零部件智能制造基地
川润股份(002272SZ)：暂未有人形机器人业务
前7月，我国进出口规模创历史同期新高
天准科技(688003SH)：边缘计算域控制器可以覆盖robotaxi、robobus、robotruck等场景
二郎神究竟是不是玉帝手下最厉害的神将？
#星纪魅族有望操刀红旗首款手机# 领克手机、极星手机、红旗手机
军信股份(301109SZ)：拟在吉尔吉斯共和国首都比什凯克市设立全资子公司
2月29日基金净值：富国龙头优势混合A最新净值10306，涨263%
港股异动 京东集团-SW(09618)涨超4% 隔夜美股收涨近7% 富瑞予以“买入”评级
备战大雨，北京多趟火车停运，部分公交调整！地铁将发一次性雨衣
在华外企、外国商会提问三中全会：最关心公平、供应链安全
中科三环2024年配股完成时间预测
新浪期货行情：实时动态，把握市场先机
杂七杂八的古代画论
科华控股(603161SH)：上半年净利润70366万元 同比增长64%
体育“饭圈化”乱象再被点名！一批账号被查处，典型案例公布
银河证券融资融券：助力投资者把握市场机遇
外汇界新一：黄金不愿意见顶
