Singulr AI公司是一家专注于企业人工智能安全和治理的平台初创公司,今天宣布推出其统一AI控制平台。该平台使信息技术、安全和合规领导者能够在不牺牲信任的前提下,扩大AI的应用。
Singulr的统一AI控制平台旨在通过将发现、入职和部署前后的安全措施整合到一个平台中,重新定义AI治理。它用自动化、协作和持续管理取代了现有的碎片化解决方案,适用于所有形式的AI。
该解决方案与现有企业系统和工作流程无缝协作,加速实现价值,同时支持可扩展且负责任的AI应用。
统一控制平台为企业提供了对整个AI生命周期的集中视图,包括应用程序、员工使用情况和嵌入式AI系统。该平台通过自动化的审查、入职、持续风险评估和实时执行,简化了流程。
该平台还帮助安全、IT、隐私和合规团队消除手动审查,减少审批积压。此外,Singulr提供动态治理控制,减少冗余,降低扩散,确保AI的使用符合业务优先级和监管要求。
该产品提供三个模块,旨在实现全面的端到端AI治理。第一个模块,Singulr Pulse,是一个持续更新的AI风险情报系统,实时分析数百万个模型、代理、服务和数据集。它实时分类和评分AI系统,推荐更安全的替代方案,并支持自动化审查、入职和安全评估,以支持监管和运营合规。
第二个模块是应用感知AI红队演练,基于Singulr Pulse的情报模拟现实世界的威胁和误用场景。它在AI应用生命周期的整个过程中提供持续测试,帮助组织在部署前后识别生成式AI工具使用中的漏洞、政策风险和伦理问题。
平台的最后一个模块是动态运行时保护,提供实时防护,防止提示注入攻击、涉及个人身份信息或私人健康信息的敏感数据泄露以及内容政策违规。这些防御措施确保企业在生产环境中安全使用AI,使组织能够在不影响数据完整性或信任的情况下采用AI。
“企业团队不再需要在速度和安全之间做出选择,”首席执行官Shiv Agarwal表示。“没有统一的自动化流程,AI要么发展缓慢,要么成为影子AI。我们的平台从部署前到部署后提供实时风险情报和控制,确保组织能够快速、自信地行动,并在所有利益相关者之间实现完全对齐。”
Singulr是一家由风险投资支持的初创公司,通过一轮融资筹集了1000万美元在二月。公司的投资者包括Nexus Venture Partners和戴尔科技资本公司。