SiliconCloud 实战教程

一、SiliconCloud 概述

SiliconCloud 是一款强大的大模型云服务平台,为开发者和企业提供丰富的模型资源与便捷的接入方式,助力生成式 AI 相关任务与业务创新。它集成了多种主流开源大模型,涵盖大语言模型、图片生成模型与代码生成模型等,部分模型 API 免费使用,有效降低开发成本与算力门槛 。同时,SiliconCloud 支持用户根据不同应用场景自由切换模型,并提供推理加速服务,以提升用户体验。

二、前期准备

(一)注册账号

  1. 打开浏览器,访问 SiliconCloud 官网:硅基流动统一登录硅基流动统一登录 硅基流动用户系统,统一登录 SSOhttps://cloud.siliconflow.cn/i/EJZ0AhEl
  1. 点击页面右上角的 “登录” 按钮,在弹出的登录框中选择 “注册” 选项。
  1. 按照系统提示,填写手机号码、设置密码、输入验证码等基本信息,完成注册流程。

(二)登录平台

  1. 注册成功后,返回登录页面,输入注册时使用的手机号码和设置的密码。
  1. 点击 “登录” 按钮,即可进入 SiliconCloud 平台。

三、实战操作

(一)体验中心使用

  1. 登录后,进入 “体验中心” 页面。在页面右侧,你可以看到 “模型(Model)” 的下拉菜单。
  1. 点击下拉菜单,可自由切换平台目前支持的任一模型,如 deepseek-v2-chat、qwen2(7b)、glm4(9b)等。
  1. 基于平台默认参数或根据自身需求修改提示词,点击 “运行” 按钮,即可实时看到模型生成的结果以及输出速度,亲身感受不同模型的效果。

(二)查看模型列表

  1. 点击页面上方的 “模型” 选项卡,进入模型列表页面。
  1. 模型列表分为语言模型、文生图模型和图生图模型三大类。列表中,“32k” 标识代表该大语言模型的上下文长度为 32k 词元;“new” 表示是最新上架的模型;“free” 则表示该模型的 API 可免费使用。
  1. 点击模型对应的 “体验中心” 按钮,同样可以进入体验界面,对感兴趣的模型进行试用。

(三)获取 API 密钥

  1. 点击页面右上角的 “api 密钥” 选项。
  1. 在打开的页面中,点击 “创建新 api 密钥” 按钮。
  1. 系统将生成一串 API 密钥,复制该密钥并妥善保存,后续在接入 SiliconCloud API 时会用到。

(四)接入 API

  1. 点击页面右上角的 “文档”,跳转至 “文档中心” 页面。
  1. 在文档中心,选择你想接入的模型与对应的编程语言。
  1. 填入之前获取的 API 密钥,系统会生成对应语言的代码示例。
  1. 将生成的代码复制到自己的应用场景中,进行相应的开发与调试,即可在自己的项目中使用 SiliconCloud 的 API 服务 。

(五)在特定项目中集成(以 MindSearch 为例)

  1. 注册登录与获取密钥:访问硅基流动云平台进行注册或登录已有账号,完成后前往 API 密钥管理页面,创建新的 API 密钥并复制。
  1. 克隆与安装依赖:将 MindSearch 克隆到本地,参考 MindSearch 的 GitHub 仓库安装所需的依赖项。
  1. 修改配置文件:打开 <代码开始>/path/to/MindSearch/mindsearch/models.py < 代码结束 > 文件,添加如下配置:
 

internlm_silicon = dict(type=GPTAPI,

model_type='internlm/internlm2_5-7b-chat',

key=os.environ.get('SILICON_API_KEY', 'YOUR SILICON API KEY'),

openai_api_base='https://api.siliconflow.cn/v1/chat/completions',

meta_template=(

dict(role='system', api_role='system'),

dict(role='user', api_role='user'),

dict(role='assistant', api_role='assistant'),

dict(role='environment', api_role='system')

),

top_p=0.8,

top_k=1,

temperature=0,

max_new_tokens=8192,

repetition_penalty=1.02,

stop_words=('<|im_end|>'))

  1. 启动 MindSearch:设置硅基流动的 API Key,并启动 MindSearch 后端服务:
 

# 设置API Key

export SILICON_API_KEY=您复制的密钥

# 启动服务

python -m mindsearch.app --lang en --model_format internlm_silicon --search_engine DuckDuckGoSearch

  1. 启动前端:使用 Gradio 前端启动 MindSearch ,若使用其他前端,参考 MindSearch 的 README 文档。
  2. python frontend/mindsearch_gradio.py

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值