大模型AI运用——AgentScope

随着人工智能(AI)技术的飞速发展,其在各行各业的应用越来越广泛,尤其是在IT运维领域,AI的应用正逐渐改变着传统的工作模式。 本文将讲述如何在我们本地来部署一个我们自己的ai小助手。     文中所运用的工具AgentScope:一款全新的Multi-Agent框架,专为应用开发者打造,提供高易用、高可靠的编程体验,支持纯Python编程,内置丰富的API。

大模型AI运用——AgentScope

随着人工智能(AI)技术的飞速发展,其在各行各业的应用越来越广泛,尤其是在IT运维领域,AI的应用正逐渐改变着传统的工作模式。本文将讲述如何在我们本地来部署一个我们自己的ai小助手。    

文中所运用的工具

  • AgentScope:一款全新的Multi-Agent框架,专为应用开发者打造,提供高易用、高可靠的编程体验,支持纯Python编程,内置丰富的API。
  • LLM:模型选择的是开源模型Llama3。
  • conda:用于创建Python环境,便于管理。

conda安装

复制
conda安装
    URL:  https://repo.anaconda.com/archive/Anaconda3-2024.06-1-Linux-x86_64.sh
    bash Anaconda3-2024.06-1-Linux-x86_64.sh   #下载好后回车yes即可
    ln -s /root/anaconda3/bin/conda  /usr/bin/conda
    conda create --name python-3.12  python=3.12.7   #创建python环境
    conda activate python-3.12  #切换环境

Llama3本地部署启动

通过ollama进行本地部署和启动

  • RAM:Llama 3 8B至少16GB
  • 执行以下命令,默认下载的是8B版本
复制
ollama下载地址:https://ollama.com/
ollama run llama3:latest

注意:如果没有ollama命令,需要配置环境变量。

Agentscope安装

需要安装Python 3.9或更高版本。

源码安装:

复制
# 从GitHub上拉取AgentScope的源代码
git clone https://github.com/modelscope/agentscope.git
cd agentscope
# 安装需要的Python 包
pip install -e .
#创建供自己调整的目录
mkdir AI

图片

准备模型配置和初始化注册Agentscope-test.py

复制
### cd AI
### vim Agentscope-test.py
# -*- coding: utf-8 -*-
import agentscope
from agentscope.agents import DialogAgent, UserAgent
from agentscope.message import Msg
# 模型配置
model_configs_name = "test-llama3"
model_configs = [
    {
        "config_name": "test-llama3",
        "model_type": "ollama_chat",
        "model_name": "llama3:latest",
        "host": "192.168.100.134:11434"   # ollama所在服务器的IP和端口,端口默认11434
    }
]
#初始化agentscope
agentscope.init(model_configs = model_configs, project = "test-1", studio_url="http://0.0.0.0:5000")

#初始化agent
dialogAgent = DialogAgent(name="小助手", model_config_name=model_configs_name, sys_prompt="你是一个AI小助手")

user = UserAgent(name="User")
x = None
while True:
    if x is not None and x.content == "exit":
        break
    x = user(x)
    x = dialogAgent(x)

启动Agentscope Studio

AgentScope Studio是一个开源的Web UI工具包,用于构建和监控多智能体应用程序。可以通过运行以下Python代码启动。

复制
### vim start_studio.py
import agentscope


agentscope.studio.init(
  host="0.0.0.0",
  port=5000
)

不设置host和port,studio默认访问路径为127.0.0.1。

启动Agent

复制
#启动Agentscope Studio
nohup python start_studio.py &

#启动Agent
python Agentscope.py

访问Studio,进入dashboard就可以看到启动的agent了。

图片

图片

图片

以上使用的是Agentscope中的DialogAgent,可以完成类似客服机器人的需求,除此之外,他还有ReActAgent 这种能够调用工具方法,可以根据我们的需求自行开发的agent,可以处理较为复杂的任务。

图片

总结

随着人工智能技术的不断进步,AI在运维领域的应用已经成为提升效率和降低成本的关键因素。通过复杂工具调用,AI也能够处理大量的日志数据,快速定位问题根源,为运维团队提供决策支持。它不仅能够提高运维工作的效率和准确性,还能够释放运维人员的时间,让他们能够专注于更复杂和战略性的任务。随着技术的不断发展,我们可以预见AI将在未来的运维工作中扮演越来越重要的角色。

相关资讯

「机器学习之父」Mitchell 撰文:AI 如何加速科学发展,美国如何抓住机遇

编辑 | ScienceAI近日,卡内基梅隆大学(Carnegie Mellon University)教授,有着「机器学习之父」之称的 Tom M. Mitchell 撰写了新的 AI for Science 白皮书,重点讨论了「人工智能如何加速科学发展?美国政府如何帮助实现这一目标?」这一主题。ScienceAI 对白皮书原文进行了不改变原意的全文编译,内容如下。人工智能领域最近取得了显著进展,包括 GPT、Claude 和 Gemini 等大型语言模型,因此提出了这样一种可能性:人工智能的一个非常积极的影响,

.ai 域名卖爆,小岛安圭拉 2023 年意外躺赚 3200 万美元

感谢随着人工智能产业的火热,AI 域名也成为了新的热门,包括 .ai 后缀等自然是交易重点。据美联社 10 月 16 日报道,.ai 域名卖爆也为加勒比海的一个小岛 —— 安圭拉带来了一笔横财。AI在线查询公开资料获悉,安圭拉(英语:Anguilla)是英国 14 个海外领土之一,位于加勒比海小安的列斯群岛北部,面积 91 平方公里,在 1650 年成为英国殖民地,后续经历一系列波折,于 1980 年成为单独的英国属地。

只谈「技术」,不谈「安全」?今晚,我们聊聊人工智能的AB面

聚焦隐私计算、Deepfake、对抗学习等AI安全领域,精彩全分享。