docs(devlog): DevLog @ 2025.04.28 (#147)

This commit is contained in:
LemonNeko
2025-04-29 15:01:50 +08:00
committed by GitHub
parent 098b9f37e3
commit 2a1bfabad1
4 changed files with 188 additions and 0 deletions
Binary file not shown.

After

Width:  |  Height:  |  Size: 48 KiB

@@ -0,0 +1,188 @@
---
title: DevLog @ 2025.04.28
---
import { Image } from 'astro:assets';
import airiMcpArch from '../../../assets/images/blog/DevLog-2025.04.28/airi-mcp-arch.jpg';
大家好,这里是 [@LemonNeko](https://github.com/LemonNekoGH),今天由我来和大家一起分享开发故事。
## Day time 日常
一周前,我为 Airi 写了用于连接到手机的 MCP 服务器 [Airi-android](https://github.com/LemonNekoGH/Airi-android),但这只是 Airi 操作安卓手机的前半部分,Airi 还需要能与 MCP 服务器交互才行。
这两天我完成了后半部分,给 Tauri 写了一个插件 [#144](https://github.com/moeru-ai/Airi/pull/144),现在 Airi 可以与 MCP 服务器交互了,可以和现有的所有 MCP 服务器交互。
如果有兴趣,可以看看这两个视频,先演示了 Airi 的 MCP 服务器设置,然后演示了 Airi 与安卓手机交互。
<details>
<summary>Airi 的 MCP 服务器设置</summary>
<video controls muted style={{ height: '640px' }}>
<source src="../../static/blog/DevLog-2025.04.28/airi-mcp-settings.mp4"/>
</video>
</details>
<details>
<summary>Airi 在手机上输入 `Hello World`</summary>
<video controls muted>
<source src="../../static/blog/DevLog-2025.04.28/airi-mcp-input-text.mp4"/>
</video>
</details>
开发时,为了理清思路,我画了一张图,从 LLM 调用安卓手机:
<Image src={airiMcpArch} alt="Airi 操作手机" style={{ height: '640px', objectFit: 'contain' }} />
接下来和大家分享一下我的开发过程。
## Tauri 插件开发
其实一开始我并没有想写一个完整的 Tauri 插件,我只是想给 JavaScript 侧暴露一些命令:
```rust
#[Tauri::command]
fn list_tools() -> Vec<String> {
// 之后再实现
}
```
然后写一些工具函数来调用它们:
```javascript
import { invoke } from '@Tauri-apps/api/core'
export mcp = [
{
name: "list_tools",
description: "List all tools",
execute: async () => {
return await invoke("list_tools")
}
}
]
```
但很快,我注意到,如果我想在命令中使用 MCP 客户端,就需要让 MCP 客户端作为状态的一部分让 Tauri 来管理:
```rust
// main.rs
fn main() {
Tauri::Builder::default()
.setup(|app| {
app.manage(State::new(Mutex::new::<Option<McpClient>>(None))); // 管理状态
})
.run(Tauri::generate_context!())
}
// mcp.rs
#[Tauri::command]
async fn list_tools(state: State<'_, Mutex<Option<McpClient>>>) -> Result<Vec<Tool>, String> { // 可以在参数中拿到状态
// ...rest code
}
```
我们有了命令,有了状态,那离一个完整的插件也不远了,于是我决定让它成为一个插件,这样我们还能公开发出去,~~并且成为可能的全网第一个 Tauri MCP 插件~~。
然而它成为一个插件后,命令的调用方式就变了,需要通过插件来调用:
```diff
import { invoke } from '@Tauri-apps/api/core'
export mcp = [
{
name: "list_tools",
description: "List all tools",
execute: async () => {
- return await invoke("list_tools")
+ return await invoke("plugin:mcp|list_tools")
}
}
]
```
这还好,只是改了一行,但是,Tauri 2 有了权限机制,我需要在 `build.rs` 中定义插件的命令,以便自动生成权限列表:
```rust
const COMMANDS: &[&str] = &[
"list_tools",
];
fn main() {
Tauri_plugin::Builder::new(COMMANDS).build();
}
```
这样在构建时,项目根目录下会生成 `permissions` 文件夹,包含了权限声明、描述等。
> 在这时出现了一点小插曲,因为我第二次构建的时候,升级了 `Tauri-plugin` 的版本,同时新版本中生成模板发生了变化,有一些空格删掉了,所以它看上去像是被格式化了,于是我到处寻找是什么东西在「格式化」它,花了一个小时才发现是文件被重新生成了,以此 🤡 纪念我被吃掉的一个小时。
根据上面的图,当 LLM 调用 MCP 工具时,参数最后会被传递给 Python 侧的 MCP 服务器,以 `input_swipe` 为例:
```python
# mcp_server.py
from mcp.server.fastmcp import FastMCP
from ppadb.client import Client
mcp = FastMCP("airi-android")
adb_client = Client()
@mcp.tool()
def input_swipe(x1: int, y1: int, x2: int, y2: int, duration: int = 500):
return adb_client.input_swipe(x1, y1, x2, y2, duration)
```
我要怎样传递这些参数呢?在 Rust SDK 文档中有这样的 [定义](https://docs.rs/rmcp/0.1.5/rmcp/model/struct.CallToolRequestParam.html)
```rust
pub struct CallToolRequestParam {
pub name: Cow<'static, str>,
pub arguments: Option<JsonObject>,
}
```
~~袜,是 JsonObject,我们有救了!~~ 因为 Tauri 命令的参数可以是任何能被序列化成 JSON 的对象,那我们不如,直接给它传一个 `Map<String, Value>` 好了:
```rust
#[Tauri::command]
async fn call_tool(state: State<'_, Mutex<Option<McpClient>>>, name: String, args: Option<Map<String, Value>>) -> Result<(), ()> {
let client = state.lock().await.unwrap();
client.call_tool(CallToolRequestParam { name: name.into(), arguments: args }).await.unwrap();
Ok(())
}
```
那在 JavaScript 侧,我们就简单给一个对象就好了:
```javascript
import { invoke } from '@Tauri-apps/api/core'
invoke("call_tool", { name: "input_swipe", args: { x1: 100, y1: 100, x2: 200, y2: 200, duration: 500 } })
```
超方便!
把参数传递给 MCP 工具后,我们还需要接收 MCP 工具的返回值,因为 Tauri 命令的返回值也可以是任何能被序列化成 JSON 的对象,所以我摆烂了,我把工具的返回整个丢给了 LLM,相信 LLM 会处理好的。
好!现在我们已经有 Tauri 插件了!(啊?示例代码这么点,甚至是伪代码就算完成了?)
剩下的内容还想和大家讨论一些问题。
## 一些问题
1. 从演示视频可以看到,在对话中,我首先是让 Airi 获取了一下工具列表,再让它输入文本的,那我们能不能在初始化的时候就去获取工具列表,然后直接追加到系统提示词中呢?
- Cursor 就是这样做的,在我开发 MCP 服务器时,每次我改动了工具列表,都需要重启 Cursor 才能生效。
- 这样做也许会牺牲灵活性,但普通用户会频繁改动工具列表吗?
2. 要允许 Airi 同时连接到多个手机吗?Airi 可能会想使用多台手机吗?~~她会不会想拿去做电信诈骗?~~
3. 可以看到现在的 Airi 仓库中已经有了 Tauri 应用和 Tauri 插件,要怎么管理比较好?CI 要怎么配置?如何同步 Tauri 插件的 Rust 侧和 JavaScript 侧的版本号?
## 未来想要做的事情
- 支持图片返回值,这样 Airi 就可以像 [上一篇 DevLog](./DevLog-2025.04.22.md) 中展示的 Cursor 那样,直接通过视觉能力看到手机上的内容,然后再决定用什么方式来交互。
- 让 Airi 自己学习设备的使用方法?如果每种设备我们都要单独写提示词,那工作量是巨大的。
- 多 MCP 服务器支持,毕竟 MCP 提供了一种通用的接口,可以允许 Airi 做各种各样的事,Airi 应该不会满足于只操作手机吧。
- SSE 支持,这样浏览器中的 Airi 也可以使用 MCP 服务器了。
到这里就结束啦!希望这篇 DevLog 没有那么干巴巴的!之后也希望给大家带来更多好玩的内容!