蚂蚁开源大模型安全护栏SingProbe,已适配29个开源模型(蚂蚁集团大模型平台) ypxx.net

(来源:界面新闻)

9月17日,界面新闻获悉,蚂蚁AI安全实验室开源大模型安全护栏SingProbe,并开放代码、模型和评测基准。目前,该工具已适配29个主流开源模型,可在生成阶段同步识别不安全内容和可能编造信息的风险。