OpenAI上线创新工艺:模型推理成本降低50%,效率突出提高
康养生活网讯,就相关话题整理如下。
7月1日,快科技报道,据The Information披露,OpenAI内部人士透露,公司工程师最近如愿研发出一套优化工艺,使得模型推理成本削减超出50%。这项工艺已如愿应用于ChatGPT的无账户访客场景,使得所需的英伟达GPU数量减少至数百个,效率突出提高。此前,OpenAI与博通合作研发的ASIC芯片项目——代号“墨西哥胡椒”,专为大型模型推理设计,脱离通用GPU架构束缚后,硬件性能完成实质性提高,推理成本最高可降低一半。
随着AI头部厂商掌握自主算力,减少对英伟达GPU的依赖,通用硬件的产能与定价权将不再成为制约,AI生态话语权正在发生转移。本文结束。如需转载,请务必注明出处:快科技。关注科技新鲜事,请搜索techsina或扫描左侧二维码。新浪科技为您带来最新鲜的科技资讯。苹果汇为您提供最新的苹果商品新闻。新酷商品第一时间免费试玩。提供最新的科学家新闻,精彩的震撼图片。
以上内容由康养生活网整理发布,仅供参考。