Agent 创收指南免费公开资源
中文 EN العربية

返回目录 / Agent 工作流

构建受限计算器工具的安全流程

让agent请求算术计算,并由确定性的本地函数解析和执行表达式。

目标

让agent请求算术计算,并由确定性的本地函数解析和执行表达式。

步骤

  1. 定义只接受明确数值操作数和运算符的计算器schema,不接收任意代码。 [source03]
  2. 将client.messages.create返回的tool_use交给解析器;拒绝名称、导入、属性访问和超长表达式。 [source03]
  3. 以tool_result返回数值或结构化错误;测试除零和恶意输入,禁止执行Python eval。 [source03]

验证方式

确认支持的运算返回预期数值、除零返回结构化错误,含导入、属性或名称的输入不会进入Python eval。

故障处理

若不支持的表达式被接受,收紧解析器到明确的运算符白名单并加入回归用例;不得回退到eval。

权限边界

前置条件

权限边界

限制

模型输出可能不完整或错误;API/beta能力会随版本变化,需按固定来源及当前服务状态复核。

固定上游来源

https://github.com/anthropics/anthropic-cookbook/blob/9c1e493ddd2b82df399d2a61b9c806c539e18be6/tool_use/calculator_tool.ipynb

仓库
anthropics/anthropic-cookbook
文件路径
tool_use/calculator_tool.ipynb
固定提交
9c1e493ddd2b82df399d2a61b9c806c539e18be6
来源检查
2026-10-14 · 已按固定上游来源核对

仓库指标

以下数字属于上游仓库整体,不代表单个 Skill 或指南的点赞/热度。

Stars
未取得
Forks
未取得
观测时间
未取得

尚未取得指标快照。

许可证: MIT

主主题

让编码 Agent 从理解上下文走到验证修改

相关资源