一分钟了解!微扑克辅助（原来真的是有挂的）-知乎

据Tech星球了解，现在AI外呼行业的平均水平，一台机器人一天可以拨打800-1200个电话。这相当于3-5个人的工作量。如果按照费用来算，以一个电话一分钟计算，1200个电话，最多花费180元。显然，比人要便宜得多。,2024年1-4月，国内大模型的中标数量，已经超越了2023全年总数，中标披露金额已经达到了2023年全年的77%。,大部分AI外呼系统都需要接通才能扣费，但他们并不能保证接通率，为了保证效果，很多企业会承诺客户，他们会多次拨打意向名单中的电话。一位AI外呼公司销售称，接通率更多的和企业提供的数据精准度有关，现在AI的接通率和人工差不多。

LC信息，究竟是怎么做到的?,根据性能分析结果，可以清晰地看到模型中不同部分的计算时间分布——,然而，大语言模型的开放性并非简单的二元特性。基于Transformer的系统架构及其训练过程极为复杂，难以简单归类为开放或封闭。开源大模型并非一个简单的标签，更像一个光谱，从完全开源到部分开源，程度各异。

在大部分AI应用苦于获客成本高昂、技术投入巨大，变现场景困难的当下，有大模型加持的AI外呼，几乎已经入侵到每个人的日常生活，尤其在618、双11这样的大促节点普。,大鱼吃小鱼，小公司面临淘汰,最终，这种协同并行工作，直接让计算效率提升了4倍!

但现实并没有想象中美好。,不仅如此，对于基于擅长大规模并行计算的加速卡设计的AI大模型，通用服务器的处理器与之并不适配。,对于一个千亿参数的LLM，若以每64个参数作为一个量化块（block size=64）来计算，仅存储scale参数就需要额外的6GB内存:(100B ÷64) ×4=6GB。,不过，张量并行对模型参数的切分粒度较细，要求CPU在每次张量计算后都要进行数据同步。,OpenAI的发言人对此表示，两家公司之间的关系并未发生变化，双方在建立合作伙伴关系时已经考虑到可能的竞争，并强调微软仍是OpenAI的良好合作伙伴。