Batch

感谢AI在线网友 刺客 的线索投递！ChatGPT 早已成为世界耗能大户：一天用掉超 50 万度电，相当于 1.7 万个美国家庭的用电量！然而，大模型对能源的吞噬，远不仅如此。国际能源署（IEA）预测，从 2022 年到 2026 年，数据中心的用电量将翻一番。随着 AI 计算需求的膨胀，还需要用水来冷却计算系统。研究称，微软用水量从 2021 年到 22 年飙升了 34%，ChatGPT 每处理…

感谢OpenAI 今天凌晨面向开发者推出 Batch 批解决 API，可在 24 小时内给出结果，并供应 API 半价折扣。新的 Batch API 适用于异步任务解决，如当开发者需要解决大量文本、图片、摘要时，就可以应用该 API，OpenAI 会在 24 小时内给出解决结果。这样 OpenAI 可以在非高峰期解决，节约服务器资源，并为开发者供应半价优惠，解锁更高的速率限制。新的 Batch A…