您的 AI 同样是一个攻击面。

AI 功能不仅仅是一个提示词。它可以检索文档、访问内部数据、向其他服务发送信息，或通过工具触发操作。安全影响正是产生于这一整体系统。因此，我们会共同审视数据来源、角色和允许执行的操作。来自文档或工具响应的内容，会被视为潜在不可信的输入。由此可能产生的影响，取决于权限设置以及该功能在您应用中的集成方式。

此项分析将传统软件问题与 AI 特有风险结合起来考量。即使界面是聊天形式，身份认证、租户隔离和服务端授权仍然至关重要。模型不应单独决定某个用户可以访问哪些数据。我们会评估架构和控制点，确保关键决策在自由生成的回答之外、以可核查的方式做出。具体的实施方式取决于系统本身，并与您的开发负责人共同商定。

为了让检测得出可靠的结论，我们会准备具有代表性的测试角色和数据集。以 RAG 应用为例，需要关注的是搜索结果和上下文组织是否遵守既定的访问边界。对于智能体（Agent），还需要重点关注哪些工具可被调用，以及任务是如何获得授权的。整个调查始终保持在授权范围之内。验证不应依赖其他客户的数据；合适的测试数据集可以有针对性地、可控地展现相应影响。

模型的输出可能会有所不同。因此，单次成功或失败的尝试不会被不加甄别地当作普遍结论。前提条件、配置和观察到的行为都会被记录下来。如果某个问题仅在特定条件下出现，这一限制也会作为发现的一部分予以说明。反之，未观察到问题也并不能保证所有可能的输入都是安全的。报告会将已证实的影响、尚存的假设，以及需要进一步核查的领域分别列出。

“Build fast”和“ship fast”并不意味着风险只能等到生产环境中才被发现。我们会与您的团队一起，将分析结果转化为有优先级的改进措施，其中可能包括收紧权限、分离数据访问、对工具调用进行校验，以及为高风险操作增加额外的审批环节。哪种措施合适，取决于实际应用本身。一份通用的提示词规则清单，并不能替代在架构、身份和允许的数据路径上所做的工作。

相关的测试用例可以纳入发布流程。这样一来，模型、文档来源或工具的每次变更，都会对照已知要求进行审视。OTOKO® 为此投入 15 年的软件分析经验，并依托一支由 95 人组成的全球团队协同工作。我们会为您的项目确定合适的联系人和具体的服务范围。通过与您的开发团队共同工作，我们将有据可查的发现与可落地的修正措施结合起来，并为后续发布奠定基础。