返回目录 / Agent 工作流
构建受限计算器工具的安全流程
让agent请求算术计算,并由确定性的本地函数解析和执行表达式。
目标
让agent请求算术计算,并由确定性的本地函数解析和执行表达式。
步骤
- 定义只接受明确数值操作数和运算符的计算器schema,不接收任意代码。 [source03]
- 将
client.messages.create返回的tool_use交给解析器;拒绝名称、导入、属性访问和超长表达式。 [source03] - 以
tool_result返回数值或结构化错误;测试除零和恶意输入,禁止执行Pythoneval。 [source03]
验证方式
确认支持的运算返回预期数值、除零返回结构化错误,含导入、属性或名称的输入不会进入Python eval。
故障处理
若不支持的表达式被接受,收紧解析器到明确的运算符白名单并加入回归用例;不得回退到eval。
权限边界
前置条件
- Python和Anthropic API key;使用经过审查的算术解析器或狭窄手写语法。
权限边界
- 只使用获准的测试或脱敏数据;按每条流程的作用域配置最小凭据,外部写入必须经过显式审批。
限制
模型输出可能不完整或错误;API/beta能力会随版本变化,需按固定来源及当前服务状态复核。
固定上游来源
- 仓库
- anthropics/anthropic-cookbook
- 文件路径
- tool_use/calculator_tool.ipynb
- 固定提交
9c1e493ddd2b82df399d2a61b9c806c539e18be6- 来源检查
- 2026-10-14 · 已按固定上游来源核对
仓库指标
以下数字属于上游仓库整体,不代表单个 Skill 或指南的点赞/热度。
- Stars
- 未取得
- Forks
- 未取得
- 观测时间
- 未取得
尚未取得指标快照。
许可证: MIT