北京
有人反复问你在哪，有人在你和朋友聚会时发火，有人换着账号给你发消息，还有人出现在你常去的地方，让你觉得被盯着。单看一件事，很难判断这意味着什么。可当这些行为变成模式，人可能会开始感到不适、被控制、不安全。
这是SAATHI AI想探索的问题：AI能不能帮人更早识别令人担忧的行为，理解可能的警示信号，并在不替人做决定的前提下，找到更安全的下一步。
SAATHI AI是一个女性安全与早期干预原型，名字SAATHI代表"同伴"——一个不评判、不替人做决定的工具。它的目标不是让AI扮演警察、法官或心理治疗师，而是让安全意识的建立变得更容易接近。
核心功能：AI安全自查
用户可以描述一个让自己不安的场景，系统给出对潜在警示信号的分析和实用建议。
比如有人说：一个人反复问我的位置，我和朋友在一起时他会生气，还要求我立刻回复。AI可能会识别出其中涉及数字监控、孤立或边界侵犯的可能模式。
另一个场景里，有人反复出现在用户去的地方，通过不同账号联系，并说出恐吓性的话。AI可以指出反复的非自愿接触、监视和恐吓等可能问题。
作者用这类示例场景测试了AI安全自查。它的目的不是给某个人定罪，也不是宣称犯罪已经发生，而是帮用户重新审视所描述的行为，考虑可能的下一步。
建议、求助与人工复核
识别出警示信号只是一部分。SAATHI AI还能给出实用选项，比如检查账号隐私设置、在安全的前提下保留非自愿接触的记录、联系信任的人，或寻求专业支持。这些建议是参考性的——什么合适取决于个人处境，AI生成的建议不一定总是安全或适用。
原型里还有一个求助请求界面，演示一个人可以如何寻求额外支持，让求助这件事显得更可接近、更有尊严。但当前界面并不保证请求能到达真实的支持团队，安全的提交系统和真实的支持流程仍待开发。
敏感处境不该只靠自动化决定。SAATHI AI包含一个人工复核仪表盘的演示，探索以人为中心的复核流程如何与AI配合——AI协助整理信息，人负责敏感决定。目前这个仪表盘只是演示，没有连接到经过验证的支持团队。
网站还设有安全资源区和快速离开功能，让安全信息更容易获取，也方便用户需要时快速离开当前页面。快速离开不能保证浏览器历史或其他活动痕迹被抹除，安全资源的准确性和地区覆盖也需要进一步核实。
怎么做的，以及还差什么
作者用Google AI Studio开发了这个网页应用，项目仓库涉及React、TypeScript、Vite、Node.js等技术，并探索使用开放权重AI，包括谷歌的Gemma模型系列，来做安全相关分析。具体的模型配置和集成方式需要从源码确认。
作者用涉及控制行为和跟踪的示例场景测试了AI安全自查，其他组件仍处于原型或演示阶段，需要更多实现和测试。
后续计划包括：增加马拉地语和印地语支持、改进不同场景下的AI评估、开发安全的求助流程、探索带适当保障的真实人工复核流程、核实紧急联系方式和地区支持资源、改善跨设备可访问性、加强隐私与安全，并在任何真实使用前做更充分的测试。
作者特别想探索的是：一个以安全为重点的AI工具，如何在不收集不必要个人信息、也不制造虚假安全感的前提下保持有用。
SAATHI AI是教育性原型。AI生成的分析可能不准确，不能替代紧急服务、受训专业人士或个性化支持。项目不判定罪责，也不保证安全。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
