中国科大等机构发布首个「科学风险」基准和SciGuard大模型，GPT-4转变成为化学家的身份！

这篇文章介绍了从中科大等机构发布的一项名为SciGuard的新方法，旨在保护面向科学领域的AI模型，防止其被滥用。同时，团队还建立了针对化学科学领域安全的第一个基准测试——SciMT-Safety。文章指出全球对AI潜在威胁的担忧日益增加，特别是在如何监管那些快速发展的科学大模型方面更是如此。研究团队深入分析了各种AI模型在生物、化学、药物等领域的风险，并通过实例说明了化学科学中AI滥用所带来的危害。他们还发现现有一些开源AI模型存在滥用风险，可能会绕过法律法规。如果想了解更多信息，请阅读原文：GPT-4化身化学家！中国科大等发布首个「科学风险」基准和SciGuard大模型。