一、SiliconCloud 概述
SiliconCloud 是一款强大的大模型云服务平台,为开发者和企业提供丰富的模型资源与便捷的接入方式,助力生成式 AI 相关任务与业务创新。它集成了多种主流开源大模型,涵盖大语言模型、图片生成模型与代码生成模型等,部分模型 API 免费使用,有效降低开发成本与算力门槛 。同时,SiliconCloud 支持用户根据不同应用场景自由切换模型,并提供推理加速服务,以提升用户体验。
二、前期准备
(一)注册账号
- 打开浏览器,访问 SiliconCloud 官网:硅基流动统一登录硅基流动统一登录 硅基流动用户系统,统一登录 SSO
https://cloud.siliconflow.cn/i/EJZ0AhEl 。
- 点击页面右上角的 “登录” 按钮,在弹出的登录框中选择 “注册” 选项。
- 按照系统提示,填写手机号码、设置密码、输入验证码等基本信息,完成注册流程。
(二)登录平台
- 注册成功后,返回登录页面,输入注册时使用的手机号码和设置的密码。
- 点击 “登录” 按钮,即可进入 SiliconCloud 平台。
三、实战操作
(一)体验中心使用
- 登录后,进入 “体验中心” 页面。在页面右侧,你可以看到 “模型(Model)” 的下拉菜单。
- 点击下拉菜单,可自由切换平台目前支持的任一模型,如 deepseek-v2-chat、qwen2(7b)、glm4(9b)等。
- 基于平台默认参数或根据自身需求修改提示词,点击 “运行” 按钮,即可实时看到模型生成的结果以及输出速度,亲身感受不同模型的效果。
(二)查看模型列表
- 点击页面上方的 “模型” 选项卡,进入模型列表页面。
- 模型列表分为语言模型、文生图模型和图生图模型三大类。列表中,“32k” 标识代表该大语言模型的上下文长度为 32k 词元;“new” 表示是最新上架的模型;“free” 则表示该模型的 API 可免费使用。
- 点击模型对应的 “体验中心” 按钮,同样可以进入体验界面,对感兴趣的模型进行试用。
(三)获取 API 密钥
- 点击页面右上角的 “api 密钥” 选项。
- 在打开的页面中,点击 “创建新 api 密钥” 按钮。
- 系统将生成一串 API 密钥,复制该密钥并妥善保存,后续在接入 SiliconCloud API 时会用到。
(四)接入 API
- 点击页面右上角的 “文档”,跳转至 “文档中心” 页面。
- 在文档中心,选择你想接入的模型与对应的编程语言。
- 填入之前获取的 API 密钥,系统会生成对应语言的代码示例。
- 将生成的代码复制到自己的应用场景中,进行相应的开发与调试,即可在自己的项目中使用 SiliconCloud 的 API 服务 。
(五)在特定项目中集成(以 MindSearch 为例)
- 注册登录与获取密钥:访问硅基流动云平台进行注册或登录已有账号,完成后前往 API 密钥管理页面,创建新的 API 密钥并复制。
- 克隆与安装依赖:将 MindSearch 克隆到本地,参考 MindSearch 的 GitHub 仓库安装所需的依赖项。
- 修改配置文件:打开 <代码开始>/path/to/MindSearch/mindsearch/models.py < 代码结束 > 文件,添加如下配置:
internlm_silicon = dict(type=GPTAPI,
model_type='internlm/internlm2_5-7b-chat',
key=os.environ.get('SILICON_API_KEY', 'YOUR SILICON API KEY'),
openai_api_base='https://api.siliconflow.cn/v1/chat/completions',
meta_template=(
dict(role='system', api_role='system'),
dict(role='user', api_role='user'),
dict(role='assistant', api_role='assistant'),
dict(role='environment', api_role='system')
),
top_p=0.8,
top_k=1,
temperature=0,
max_new_tokens=8192,
repetition_penalty=1.02,
stop_words=('<|im_end|>'))
- 启动 MindSearch:设置硅基流动的 API Key,并启动 MindSearch 后端服务:
# 设置API Key
export SILICON_API_KEY=您复制的密钥
# 启动服务
python -m mindsearch.app --lang en --model_format internlm_silicon --search_engine DuckDuckGoSearch
- 启动前端:使用 Gradio 前端启动 MindSearch ,若使用其他前端,参考 MindSearch 的 README 文档。
-
python frontend/mindsearch_gradio.py