在泰国、马来西亚、新加坡、印尼和台湾通过全球跨区域推理在 Amazon Bedrock 上访问 OpenAI GPT 模型
Amazon Bedrock 现可通过全球跨区域推理,在泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域调用 OpenAI 的 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra。
Amazon Bedrock 现可通过全球跨区域推理,在泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域调用 OpenAI 的 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra。
微软研究院提出 StudentSim,一种从公开去标识化学习记录训练个性化学生模拟器的研究系统,用于在真实学习者测试前评估和改进 AI 导师。该系统沿行为保真度和指导响应性两个维度评估,覆盖国际象棋、第二语言英语写作和数学三个领域,并配套 StudentSimEval 基准。
AWS 发布面向 llama.cpp 的 Deep Learning Container,可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点,分别承担 prefill 与 decode 阶段,并统一暴露一个 OpenAI 兼容端点。
NVIDIA 在 OCP Global Summit 上宣布将 Vera Rubin 机架和计算托盘设计通过开放的 NVIDIA MGX 架构贡献给 OCP,为系统厂商提供下一代 AI 工厂基础设施的共同基础。
推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架与计算托盘设计开放给 MGX 架构,读者可据此了解 AI 工厂基础设施的开放标准进展。