【AI日报】国产AI芯片再突破：通义千问大模型成功部署黑芝麻智能车规级芯片；微软推新模型LAM：让AI实现真实操作

算力豹AI日报

NEWSPAPER

近日AI算力看点一览

►国产AI芯片再突破：通义千问大模型成功部署黑芝麻智能车规级芯片

►微软推新模型LAM：让AI实现真实操作 在Word中独立执行任务

►OpenAI联手吴恩达推出o1系列模型免费课程，聚焦深度推理能力开发

►报道称英伟达GB300 AI服务器或将于今年Q2发布，水冷散热需求显著提升

01

国产AI芯片再突破：通义千问大模型成功部署黑芝麻智能车规级芯片

阿里云与黑芝麻智能的最新合作在国内智能汽车领域掀起新浪潮。阿里云宣布，其通义千问15亿和30亿参数大模型已成功移植到黑芝麻智能的武当C1200系列车规级芯片上，标志着国产大模型在车载场景的重要突破。

在实际应用中，该集成方案可支持离线环境下的多轮自然对话，为用户提供流畅的人机交互体验。这一技术突破不仅展现了国产AI芯片的研发实力，更为智能汽车的发展注入新动力。

值得关注的是，在2024年9月，黑芝麻智能已与斑马智行展开跨域合作。双方致力于将智能座舱与智能驾驶系统整合到单一芯片上，打造"舱驾一体"解决方案。这一创新举措有望显著提升整车智能化水平，为用户带来更优质的驾乘体验。

展望未来，阿里云表示将继续推进通义大模型与黑芝麻智能新一代华山A2000系列芯片的适配工作。这一计划的实现将为智能出行领域带来更强大的算力支持，进一步提升车载智能化体验。

此次合作是中国科技企业在车载AI领域的重要里程碑，体现了国产科技在智能汽车赛道上的创新决心。随着技术持续演进，车载智能化解决方案将为用户带来更智能、更安全的出行体验。

02

微软推新模型LAM：让AI实现真实操作 在Word中独立执行任务

微软的研究团队近日推出了一种被称为 “大型行动模型”（Large Action Model，简称 LAM）的人工智能技术，标志着AI的发展迎来了新的阶段。与传统的语言模型如 GPT-4o 不同，LAM能够自主操作Windows程序，这意味着AI不仅仅能对话或提供建议，而是能真实地执行任务。

LAM的优势在于其能够理解用户的各种输入，包括文字、语音和图像，然后将这些请求转化为详细的步骤计划。LAM不仅能制定计划，还能根据实时情况调整其行动策略。构建LAM的过程主要分为四个步骤:首先，模型学习将任务分解为逻辑步骤;接着，通过更先进的 AI 系统（如 GPT-4o）学习如何将这些计划转化为具体行动;然后，LAM会独立探索新的解决方案，甚至解决其他AI系统无法应对的问题;最后，通过奖励机制进行微调训练。

在实验中，研究团队以Mistral-7B为基础构建了一个LAM模型，并在Word测试环境中进行测试。结果显示，该模型成功完成任务的概率为71%，相比之下，GPT-4o在无视觉信息的情况下的成功率为63%。

此外，LAM在任务执行速度上也表现优异，每个任务仅需30秒，而GPT-4o则需要86秒。虽然在处理视觉信息时，GPT-4o的成功率提高至75.5%，但总体来看，LAM在速度和效果上均有显著优势。

为了构建训练数据，研究团队最初收集了29，000对任务和计划的示例，这些数据来自微软文档、wikiHow 文章和必应搜索。之后，他们利用 GPT-4o 将简单任务转化为复杂任务，从而将数据集扩展到76，000对，增加了150%。最终，约2，000个成功的行动序列被纳入到最终的训练集中。

03

OpenAI联手吴恩达推出o1系列模型免费课程，聚焦深度推理能力开发

OpenAI与人工智能领域泰斗、斯坦福大学教授吴恩达携手推出了一门重磅免费课程"Reasoning with o1"。这门由OpenAI战略解决方案架构主管Colin Jarvis执教的课程，旨在帮助开发者深入掌握o系列模型的高级推理能力。

o系列模型是OpenAI在2024年推出的新一代AI模型。与传统大语言模型相比，该系列最显著的特点是通过更深入的"思考"过程来处理复杂问题。通过在推理时执行思维链分析，o系列模型在多步骤规划、图像推理和长期编码等新兴应用场景中展现出卓越表现。

课程内容全面系统，涵盖了o1即时工程的基础知识、多步骤任务的规划与执行、代码创建与编辑、图像推理，以及能提升模型性能的Metaprompting技术。学员不仅能深入了解o1的工作原理和性能特点，还能掌握如何在实际应用中权衡使用不同模型以实现最优成本效益。

特别值得一提的是，课程将详细讲解OpenAI如何运用强化学习来构建具备"测试时计算"能力的模型，以及"思维链"提示如何帮助o1自主将复杂问题分解为可管理的小步骤。在实践环节，学员将学习如何让o1作为协调器与4o-mini模型协同工作，平衡智能表现与成本开销。

此外，课程还包含了编码竞赛环节，通过在o1-mini和GPT4o之间的对比测试，帮助学员更直观地理解不同模型的性能差异。在图像理解方面，课程将介绍o1如何通过层次推理实现更优的性能表现。

这门免费课程的推出，不仅体现了OpenAI对AI教育的重视，也为开发者提供了一个深入了解和掌握新一代AI模型的绝佳机会。对于希望在AI应用开发领域保持竞争力的开发者来说，这无疑是一个不容错过的学习良机。

04

报道称英伟达GB300 AI服务器或将于今年Q2发布，水冷散热需求显著提升

近日，有媒体报道了英伟达新一代GB300AI服务器的研发进展。根据来自 Digitimes的消息，GB300服务器的设计工作正在进行，预计将在2023年第二季度正式发布，第三季度进入试产阶段。这款服务器的推出将标志着英伟达在AI计算领域的又一次重大突破。

GB300服务器最大的亮点之一在于其散热设计。与前代产品相比，GB300服务器的散热需求显著提升，主板上使用的风扇数量将减少。这意味着，新一代服务器将更多依赖水冷散热系统，以更好地应对高性能计算所带来的热量挑战。散热系统的改进将直接影响到服务器的性能和稳定性，使其在高负载情况下依然能够保持良好的工作状态。

根据报道，英伟达预计于2025年中推出的GB300服务器将进行全面的设计升级，涵盖从芯片到外围设备的各个方面，以此释放更强大的AI算力。在芯片方面，GB300服务器将搭载基于最新B300GPU的超级芯片，其FP4性能将大幅提升，功耗也将从B200的1000W提升至1400W，达到初代B100的两倍。这一变化意味着 GB300服务器在处理复杂计算任务时将具备更强的能力。

在内存方面，GB300的HBM内存规格也将进行升级，配置达到288GB，采用8堆栈的12Hi HBM3E技术。这将进一步提高数据处理速度，提升整体性能。此外，B300GPU可能采用插槽设计，有望提高生产良率，简化售后维护，而Grace CPU 将使用LPCAMM内存条，取代现有的LPDDR5内存，从而提升性能。

在互联技术上，GB300服务器将配备新一代ConnectX-8SuperNIC和高达1.6Tbps的光模块，这将使得数据传输速度显著提升，确保服务器在处理海量数据时的高效性。然而，全水冷散热方案的引入也将增加服务器的成本。根据 WccfTech的消息，GB300服务器的顶配价格预计将远超当前约300万美元的 GB200NVL72服务器，进一步巩固其高端市场的定位。

END

我们以算力为线，持续跟进算力基础设施的报道，输出洞察，伴随算力行业实现算力自由。敬请关注！