Center for AI Safety (CAIS)
绿盟科技集团股份有限公司（以下简称绿盟科技），成立于2000年4月，总部位于北京。公司于2014年1月29日在深圳证券交易所创业板上市，证券代码：300369。绿盟科技在国内设有50余个分支机构，为政府、金融、运营商、能源、交通、科教文卫等各大行业用户与各类型企业用户，提供全线网络安全产品、全方位安全解决方案和体系化安全运营服务。
智源研究院是人工智能领域的新型研发机构，汇集国际顶尖人工智能学者，聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。
深信服科技股份有限公司是一家专注于企业级网络安全、云计算与物联网的创新产品和服务供应商，致力于承载各行业用户数字化、智能化转型过程中的基石性工作，从而让每个用户的数智化更简单、更安全。
Choose the leader in AI security for a robust defense. Preserve brand reputation with AIShield AI security solutions. Defend against AI threats, and prevent financial losses.
安恒信息是一家AI引领的数字安全和数据要素领军企业，入选科创板创新力30强，以DAS（数据保护和利用、AI、安全服务）为核心战略，以安全AI智能体恒脑3.0驱动，为逾10万家政企单位客户提供安全产品及服务。
Mindgard - Automated AI Red Teaming & Security Testing
360集团是全球领先的网络安全与数字化服务提供商，公司以“守护数字世界”为使命，构建了从个人安全（360安全卫士、杀毒软件等，服务超10亿用户）、企业安全（服务90%以上中央部委及大型国企）到国家级网络防御（主导破解多起APT攻击）的全场景安全生态。依托“免费+增值服务”及政企定制化解决方案双轮驱动，360打造了智能硬件、AI安全大脑、大数据分析等前沿技术护城河，累计用户超15亿，拥有200...
The Python Risk Identification Tool for generative AI (PyRIT) is an open source framework built to empower security professionals and engineers to proactively identify risks in generative AI system...
the LLM vulnerability scanner. Contribute to NVIDIA/garak development by creating an account on GitHub.
NodeZero AI安全渗透测试平台，自动化网络攻击模拟与安全评估
OpenAI’s approach to AI safety, security, and responsible deployment. Learn how we research, test, and build safer AI systems for everyone.
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.
清华大学AI安全研究中心，从事AI安全与可信AI前沿研究
Google DeepMind
中国科学院自动化研究所（简称自动化所）成立于1956年，以智能科学与技术为主要定位，是中国科学院率先布局成立的“人工智能创新研究院”的总体牵头单位，是我国最早开展智能科学与技术基础理论、关键技术和创新性应用研究的科研机构，也是国内首个“人工智能学院”牵头承办单位。
METR is a research nonprofit that evaluates frontier AI models to help companies and wider society understand AI capabilities and what risks they pose.
奇安信是中国企业级网络安全市场的领军者，是专注于为政府和企业提供新一代网络安全产品和服务的综合型集团公司。公司以“数据驱动安全”为技术思想，创新建立了新一代协同防御体系，全面涵盖大数据安全分析、网关安全、终端安全、网站安全、移动安全、云安全、无线安全、数据安全、代码安全等全领域安全产品及解决方案。
Interpretability and explainability of data and machine learning models - Trusted-AI/AIX360
Petri 2.0: New Scenarios, New Model Comparisons, and Improved Eval-Awareness Mitigations
The AI Security Platform that catches vulnerabilities in development. Trusted by 156 of the Fortune 500 and 300,000+ developers worldwide.
The Security Toolkit for LLM Interactions. Contribute to protectai/llm-guard development by creating an account on GitHub.
37020202001687