马斯克第二款AI产品PromptIDE公布,Grok的开发离不开它

网友:xAI 团队的开发速度简直是疯了!距离马斯克的 xAI 公布 Grok 才过去一天,刚刚,xAI 又公布了另一款 AI 产品,一个可用于 prompt 工程和可解释性研究的集成开发环境:PromptIDE。接连不断的新品发布,也让网友纷纷感叹:「xAI 团队的开发速度简直是疯了!」xAI 在官方博客中这样介绍:PromptIDE 是一个用于 prompt 工程和可解释性研究的集成开发环境。它通过 SDK 加速 prompt 工程,并且该 SDK 可以完成复杂的 prompt 技术,还能进行结果分析,可视化网络

网友:xAI 团队的开发速度简直是疯了!

距离马斯克的 xAI 公布 Grok 才过去一天,刚刚,xAI 又公布了另一款 AI 产品,一个可用于 prompt 工程和可解释性研究的集成开发环境:PromptIDE。

接连不断的新品发布,也让网友纷纷感叹:「xAI 团队的开发速度简直是疯了!」

图片

xAI 在官方博客中这样介绍:PromptIDE 是一个用于 prompt 工程和可解释性研究的集成开发环境。它通过 SDK 加速 prompt 工程,并且该 SDK 可以完成复杂的 prompt 技术,还能进行结果分析,可视化网络输出等。

值得注意的是,xAI 在 Grok 的开发中大量的使用了该技术。

借助 PromptIDE,工程师和研究人员可以透明的访问 Grok-1 模型(为 Grok 提供支持的模型)。该 IDE 可以帮助用户快速探索我们大模型 (LLM) 的功能。IDE 的核心是一个 Python 代码编辑器,它与新的 SDK 相结合,可以实现复杂的 prompt 技术。在 IDE 中执行 prompt 时,用户会看到一些比较有用的分析,例如采样概率、聚合注意力掩码等。

该 IDE 会自动保存所有的 prompt 并具有内置版本控制,还允许用户比较不同 prompt 技术的输出。最后,用户可以上传 CSV 文件等小文件,并使用 SDK 中的单个 Python 函数读取它们。结合 SDK 的并发特性,即使是稍大的文件也能快速处理。

下面是 IDE 主要功能演示。

代码编辑器 & SDK

图片

PromptIDE 的核心是代码编辑器 + Python SDK,其中 SDK 提供了一种新的编程范式,可以实现复杂的 prompting 技术。 

如上图所示,用户可以使用 prompt () 函数手动将 token 添加到上下文中,也可以使用 sample () 函数根据上下文生成 token。 

图片

此外,多个 web worker 可以同时运行,这意味着用户可以并行执行多个 prompt。

图片

用户也可以使用同一程序中的多个上下文来实现复杂的 prompting 技术。如果函数使用 @prompt_fn 装饰器进行注释,则它将在自己的新上下文中执行,该函数可以独立于其父上下文执行一些操作。这种编程范式支持具有任意嵌套子上下文的递归和迭代 prompts。

并发性:SDK 使用 Python 协程来并发处理多个带 @prompt_fn 注释的 Python 函数,从而加快时间进程,尤其是在处理 CSV 文件时。

图片

用户输入:Prompt 可以通过 user_input () 函数进行交互。user_input () 函数返回用户输入的字符串,然后可以通过 prompt () 函数将其添加到上下文中。使用这些 API,只需四行代码即可实现聊天机器人:

图片

文件:开发人员可以将较小的文件上传到 PromptIDE(每个文件最多 5 MiB,总共最多 50 MiB),并在 prompt 中使用他们上传的文件。read_file () 函数以字节数组形式返回任何上传的文件。这些与上面提到的并发特性结合起来,可以实现对 prompt 进行批处理。

图片

分析:在执行 prompt 时,用户会看到详细的 token 分析,以帮助他们更好地理解模型的输出。

图片

图片

当用户使用 user_input () 函数时,窗口中会显示一个文本框,用户可以在其中输入响应。下面的屏幕截图显示了执行上面列出的聊天机器人代码片段的结果。

图片

最后,当不需要对 token 进行可视化时,还可以以 markdown 方式呈现上下文,以提高易读性。

图片

参考链接:https://x.ai/prompt-ide/

相关资讯

马斯克宣布 Grok 聊天机器人将在本周晚些时候向所有 X Premium 订阅用户开放

感谢埃隆・马斯克今日宣布,xAI 公司的 Grok 聊天机器人将在本周晚些时候向所有 X(原推特)Premium 订阅用户开放,而不仅限于 Premium 订阅用户使用。Grok 聊天机器人由 xAI 公司开发,去年 11 月起开始向 X Premium 订阅用户开放。IT之家此前报道,官方在本月早些时候宣布 3140 亿参数的 Grok-1 以 Apache 2.0 协议开源。随着 Grok 向全部 X Premium 用户开放,X Premium 用户将获得新的 Super Grok 模式。马斯克解释道,

消息称马斯克的 XAI 人工智能公司寻求 30 亿美元融资,估值达 180 亿美元

感谢据华尔街日报援引知情人士消息,埃隆・马斯克 (Elon Musk) 旗下的人工智能创业公司 xAI 正与投资者洽谈融资事宜。此次融资规模达到 30 亿美元(IT之家备注:当前约 217.2 亿元人民币),这将使 XAI 的估值达到 180 亿美元(当前约 1303.2 亿元人民币)。报道称,考虑参与 xAI 融资的投资方包括风投公司 Gigafund 和投资人 Steve Jurvetson。Gigafund 由曾联合创办 PayPal 的 Stephen Oskoui 和 Luke Nosek 于 2017

仅次于 Meta,马斯克透露特斯拉囤积的英伟达 H100 芯片数量

埃隆・马斯克麾下的特斯拉和其神秘的以人工智能为核心的公司 xAI,储备了大量的英伟达 H100 系列芯片。特斯拉意欲借此攻克自动驾驶的终极难题 ——L5 级自动驾驶,而 xAI 则肩负着实现马斯克的“终极真相人工智能”愿景。X 平台用户“The Technology Brother”最近发布消息称,Meta 公司已经囤积了全球最多的 H100 GPU,数量达到惊人的 35 万块。然而,马斯克对该排行榜将特斯拉和 xAI 的排名边缘化表示不满(1 万颗),并指出“如果计算正确,特斯拉应该是第二名,xAI 将是第三名”