在泰国、马来西亚、新加坡、印尼和台湾通过全球跨区域推理在 Amazon Bedrock 上访问 OpenAI GPT 模型
Amazon Bedrock 现可通过全球跨区域推理，在泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域调用 OpenAI 的 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra。
全部 AI 动态
AWS Machine Learning BlogAI 评分4040
AWS Machine Learning BlogAI 评分3232 在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布面向 llama.cpp 的 Deep Learning Container，可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型，并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS Machine Learning BlogAI 评分3434 用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers，可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点，分别承担 prefill 与 decode 阶段，并统一暴露一个 OpenAI 兼容端点。
The Verge · AIAI 评分2424 在本地跑 AI 有多折腾：用 M5 Ultra Mac Studio 和 Hermes Agent 实测本地 LLM
一名非 AI 专家在 256GB 统一内存的 M5 Ultra Mac Studio 上安装开源桌面智能体 Hermes Agent，并选用 125B 参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型，尝试用 Telegram bot 远程操控。