360大模型内容安全护栏

部分开源大模型境外训练语料过多，容易存在 歧视偏见、色情低俗、违禁暴恐等言论，并透过互联网算法服务输出给社会，危害公共安全。

不法分子通过在提问中注入攻击指令，绕过大模型服务的防御机制，诱导大模型生成违法违禁等不良行为实施细则，容易导致信息泄露、危害公共安全等严重后果。

大模型在垂直行业应用过程中也存在特定的安全隐患，例如金融领域的理财建议可能有误导性，医疗领域提供的治疗方法可能是未经验证的，教育领域可能用于提供作弊的工具。