最近新入手了一台 arm 开发板,内置安装了 Android 13 系统。
昨天把网络问题给解决了:安卓连接 WIFI 但无法上网?盘点踩过的那些坑
今日分享,继续带大家实操:如何把大模型(LLM)部署到移动端(arm 架构)。
有小伙伴问:手头没有 arm 开发板怎么办?
准备一台 Android 手机就行。
为了得到一个丝滑的 Linux 开发环境,我们先来了解下 AidLux。
1. AidLux 简介
AidLux 是啥?
一个智能物联网(AIoT)应用开发和部署平台,它运行在 arm 架构的 CPU 上,通过 Linux 内核共享,将 Android 与 Linux 完美融合,面向物联网支持90%以上接口和外设。
Android 也是基于 Linux 内核,从上图可以发现,Android 开发需要 C++ java python 全栈,而安装 AidLux 后,你就拥有了一个丝滑的 Linux 环境,因此只会 python 也 OK。
AidLux 怎么安装?
任意品牌手机,应用商店搜索 AidLux
,一键安装!
安装完成后,打开 APP,你会看到如下界面,找到 Cloud IP 图标,确保浏览器和手机/开发板在同一个局域网内,浏览器输入下面的 URL 打开 Web 界面,登录密码为 aidlux。
至此,你的一台 Linux 服务器已经准备就绪!
2. 开发准备
2.1 远程登录
如果要进行开发,最好能实现 VS Code 远程登录,不了解如何操作的小伙伴,可参考这篇教程:【保姆级教程】Windows 远程登陆 Linux 服务器的两种方式:SSH + VS Code
ssh config 配置示例如下,开发板直接用 22 端口,手机需要改用 9022 端口:
Host aibox
HostName 192.168.10.2
Port 22