Patronus AI揭示顶级AI系统存在“严重”安全风险

Patronus AI推出了SimpleSafetyTests测试工具，发现ChatGPT等AI系统存在关键安全漏洞。测试揭示了11个LLMs中的严重弱点，强调安全提示可以减少不安全反应。结果显示在处理真实世界应用之前，LLMs需要严格而有效的安全解决方案。